梁浩-大模型加速走向真運營.pdf

《梁浩-大模型加速走向真運營.pdf》由會員分享，可在線閱讀，更多相關《梁浩-大模型加速走向真運營.pdf（26頁珍藏版）》請在三個皮匠報告上搜索。

1、大模型加速走向真運營安恒信息/梁浩目錄目錄Content安全運營的現狀分析0101大模型如何改變安全運營現狀0202大模型應用效果總結0303安全運營的現狀分析01安全運營普遍需求落實網絡安全監測預警和通報制度，建立健全網絡安全風險評估和應急機制，有效識別和消除安全隱患，落實管理和技術舉措，保障安全策略動態有效性、滿足安全合規需求。識別、評估和管理所面臨的安全風險，并采取必要的措施并采取必要的措施來降低風險。通過網絡安全運維，防范各種網絡安全威脅，確保網絡的安全性和可用性，使網絡系統的安全性得到持續維護和提升。在一些重大節日或重要活動等時間節點，能夠724小時全天候安全值守，事前查漏補缺，補齊

2、安全短板，事中實時監測，快速研判分析，事后啟動應急消除事件影響，實戰化要求越來越高。針對行業應用系統或數據資源開展常態化安全監測，感知網絡安全態勢，結合最新情報快速通報預警，形成行業聯防聯控網絡安全風險能力，整體提升行業網絡安全保障水平。安全合規建設安全合規建設日常運營支撐日常運營支撐重大活動保障重大活動保障安全工作協同安全工作協同傳統SIEM平臺的困境隨著企業信息化程度的提升，日志、告警等安全數據呈指數級增長，傳統SIEM系統的數據處理能力已難以應對。數據量激增傳統SIEM系統在整合外部威脅情報方面能力有限，導致無法及時識別新型威脅。威脅情報集成不足除了結構化數據，非結構化數據（如文本、圖片

3、、視頻等）在安全分析中的價值日益凸顯，而傳統SIEM系統對此類數據的處理能力有限。數據類型多樣化基于預設規則的檢測方式無法應對不斷變化的威脅手法，導致漏報和誤報率居高不下。檢測規則僵化面對高級威脅和零日漏洞，實時數據處理能力至關重要，傳統SIEM系統在這方面存在明顯不足。實時處理需求由于缺乏自動化響應機制，傳統SIEM系統在發現威脅后往往需要人工介入，延誤了最佳響應時機。響應速度慢面臨的挑戰面臨的挑戰與局限性與局限性數據處理能力有瓶頸威脅檢測與響應有滯后性運營現狀：精準檢測，犧牲全面性分析準檢測全威脅檢測覆蓋度與依賴人工的分析能力難兩全關注和響應高質量、高風險和高確定性告警！現實情況：高級威脅

4、（或針對性攻擊）所采用的技術，如攻擊特征隱藏/特征消除、無代碼攻擊、白利用、加密通信等，具有隱蔽性增強、潛伏周期長的特點，想要實現精準檢測很困難，通常會產生大量異常/可疑類的行為特征、統計特征告警（如ueba、時間序列異常檢測、加密通信算法檢測等告警），在精準檢測以求降噪和降低告警分析工作量的場景下，不得不降低或關閉此類泛化的弱信號檢測，造成高級威脅漏報?，F實情況：有經驗的分析師1天能分析多少告警？有經驗的分析師是否整天都在分析告警？有經驗的分析師是否一直愿意分析告警？一個典型的中型企業每日告警量：針對已知威脅1k-10k告警，針對未知威脅10k-100k告警。在這海量告警中，有明顯特征的告警

5、：至少需要分析師“看一眼”-核查誤報，打標結果，提交處置；無明顯特征的告警：更需要借助工具（如splunk）做多步詳細調查（統計、聚合、趨勢分析、上下文挖掘、情報分析和驗證等）-規避漏報，識別風險，遠程取證。運營現狀：全面檢測，犧牲準確性關注覆蓋更多的攻擊技戰術！威脅檢測覆蓋度與依賴人工的分析能力難兩全分析準檢測全真運營目標：全面檢測，精準檢測數據源數據源日志日志原始告警原始告警高置信告警高置信告警原始安全事件原始安全事件需響應需響應事件事件真運營之坡觀測檢測研判聚合調查安全大數據-事件小數據的逐層精煉工程大模型如何改變安全運營現狀02AI最終目的是釋放人真運營的希望：大模型生成式生成式AIA

6、I應用級別應用級別描述描述示例示例L1 Tool人類完成所有工作，沒有任何明顯的AI輔助絕大部分應用L2 Chatbot人類直接完成絕大部分工作。人類向AI詢問意見，了解信息。AI提供信息和建議但不直接處理工作初代ChatGPTL3 Copilot人類和AI進行寫作，工作量相當。AI根據人類要求完成工作初稿，人類進行目標設定，修改調整，最后確認Github CopilotMidjourneyChatGPT with PluginL4 AgentAI完成絕大部分工作，人類負責設定目標、提供資源和監督結果。AI完成任務拆分，工具選擇，進度控制，實現目標后自助結束工作AutoGPTL5 Intell

7、igence完全無需人類監督，AI自主拆解目標，尋找資源，選擇并使用工具，完成全部工作，人類只需給出初始目標類 馮諾依曼機器人或者.人？技術目標：AI原生應用AI原生安全運營平臺產品設計-思考AI 從簡單使用AI到AI原生數據利用-知識驅動 數據與知識生態驅動規則到思考-客戶環境自適應智能化-自動化現有平臺業務整合，對外一個平臺圍繞運營體系集成基礎產品能力模塊化控制業務，提供方案靈活性與MSS統一，沉淀全公司運營體系工程目標AI目標技術架構：大模型作為核心引擎大模型擅長做什么內容安全（天然匹配，識別惡意/有害/敏感內容）-面相公眾的信息發布審核、內容風險治理數據安全（非結構化數據的分析和處理）

8、-數據分級分類（數據安全的基礎）、API風險監測、DLP告警分析攻擊特征/代碼識別（語義理解能力）-基礎安全方向的核心需求（威脅檢測+告警研判）世界知識賦能（安全基礎培訓）大模型目前可以做什么告警分析和解釋：攻擊特征分析、攻擊代碼解釋、攻擊過程還原誤報判斷：DLP、社工釣魚、業務風險等類型告警輔助判斷報告生成：安全事件分析報告，Summary能力輔助規則生成與調優：輔助生成和優化各類規則和配置文件類比自動駕駛L3，人機協作0103050204特定問題處理的實操經驗例如，在處理失陷賬號告警時，大模型可能無法準確判斷告警的真實性，需要通過電話、釘釘、郵件等強身份聯系方式進行二次確認。自我知識強化和

9、持續學習大模型本身的訓練成本極高，無法根據用戶的反饋和不同的環境條件進行輸出，導致無法在客戶現場快速適應達到最佳效果。大量結構化數據分析在自然語言處理、推薦系統等領域，大模型需要處理大量結構化數據。然而，由于性能和成本的限制，大模型在這些場景下的應用可能受到一定程度的制約。海量數據處理大模型在處理處理長上下文、海量數據時，受到token限制，性能和開銷較高。在海量數據的處理模式下對大模型提出了更高的要求。復雜任務大模型在處理復雜任務時，需要進行慢思考，即“lets think step by step”。這是因為大模型在處理復雜任務時，需要充分考慮各種因素，以確保得出正確的結論。大模型不擅長做

10、什么工程實踐：小參數、多智能體協作工程實踐：小參數、多智能體協作工程實踐：小參數、多智能體協作安全運營團隊的組織架構變化-Agent員工化任務分工與協作管理 安全運營主管/架構師-人類任務認領與分解執行安全運營團隊-AI Agents+人類自動化調查安全分析師-AI Agent自動化響應安全運維-AI Agent+人類自動化預警和匯報安全管家-AI Agent自動化藍軍安全藍軍-AI Agent工程實踐：優化安全大數據-事件小數據的逐層精煉工程大模型應用效果總結03產品升級：智能化升級分析+響應+管理真運營：智能輔助，持續降低運營成本有人味：數字人互動講解產品名稱產品名稱AIAI加持，能力提升

11、加持，能力提升智能分析平臺恒腦自動研判調用恒腦研判分析能力，快速獲取惡意、誤報、未知等研判結果，并可以發起自動聯動處置恒腦輔助研判半自動化研判手段，降低分析的門檻，提高研判分析的效率與準確性。智能運營助手提供智能巡檢分析、日志智能解析、日志標準校驗、告警類型映射、事件場景建設等能力。智能響應平臺智能檢索通過自然語言即可實現告警數據的檢索。智能聯動用戶無需了解安全設備的技術細節和命令語法，通過自然語言即可完成相關操作，簡化操作流程，提高效率。智能沙箱分析快速分析得出報告安全結論智能管理平臺對話式問答通過對話溝通和思維鏈提示，提供免費安全私人助手。智能報告低代碼開發，自動生成DIY安全報告。數字人人機協同，提供網絡安全運營新穎形式。智能教育培訓強化網絡安全意識，提供免費網絡安全助教?？偨Y：大模型不是魔法，但有望實現真運營