《中國通信標準化協會：安全行業大模型技術應用態勢發展報告（2024）（48頁）.pdf》由會員分享，可在線閱讀，更多相關《中國通信標準化協會：安全行業大模型技術應用態勢發展報告（2024）（48頁）.pdf（48頁珍藏版）》請在三個皮匠報告上搜索。

1、版權聲明本報告版權屬于云計算標準和開源推進委員會，并受法律保護。轉載、摘編或利用其它方式使用本報告文字或者觀點的，應注明“來源：云計算標準和開源推進委員會”。違反上述聲明者，本聯盟將追究其相關法律責任。本報告版權屬于云計算標準和開源推進委員會，并受法律保護。轉載、摘編或利用其它方式使用本報告文字或者觀點的，應注明“來源：云計算標準和開源推進委員會”。違反上述聲明者，本聯盟將追究其相關法律責任。報告愿景及目標讀者報告愿景及目標讀者從國家宏觀層面來看，數字經濟已經成為我國經濟發展的重要戰略支柱。隨著人工智能技術的迅速發展，大模型在各行各業的應用日益廣泛，安全行業也積極使用大模型技術來推動行業的數字

2、化轉型和智能化升級，提升整體安全防護能力。在此背景下，深入剖析和梳理大模型在安全領域的應用態勢，對于推動安全行業創新、提升安全行業整體防護水平以及促進數字經濟健康發展具有重要意義。本報告從大模型技術與應用概述、安全行業大模型技術應用現狀、安全行業大模型技術落地關鍵點、安全行業大模型技術應用發展趨勢與展望幾個方面進行洞察和分析，為安全行業從業者、技術開發者以及企業決策者提供參照，促進大模型技術在安全行業的深度應用，推動行業創新，提升整體安全防護能力，為數字經濟的健康發展保駕護航。主要撰稿人主要撰稿人馬銘洋、衛斌、李忠權、郭雪、左鵬、高志民、黃超、朱季峰、王肖斌、劉斌、劉剛、王永霞、馮大剛、楊劍、

3、王龑、卞超軼、李棟、馬琳、劉春鳴、姚鴻富、李雨含、梁偉、唐佳偉、應縝哲、張運鵬、包沉浮、高磊、李智杰、章玉龍、梁棟、陳正剛。（排名不分先后）目錄目錄一、大模型技術與應用概述.1（一）大模型技術發展不斷演進，引領人工智能迅速發展.1（二）政策促進大模型應用落地，助力行業提升服務能力.3二、大模型技術安全行業應用現狀.5（一）大模型賦能威脅檢測，全面提升場景效能.5（二）大模型改寫傳統運營方式，推動全局智能化.10（三）大模型推動行業信息互通，強化安全知識互聯.16三、安全行業大模型技術應用落地關鍵點.19（一）發揮大模型技術優勢，深入應用創新.19（二）防范大模型應用風險，加強規范建設.22四、

4、安全行業大模型技術應用發展趨勢與展望.26（一）技術日益成熟，持續賦能安全行業.26（二）產業逐漸完善，推動生態優化升級.27（三）標準體系愈發清晰，行業應用更趨規范.28附錄 大模型技術在安全行業的創新應用案例.30圖 目 錄圖 目 錄圖 12020-2024 全球人工智能市場規模.1圖 2大模型發展歷程.2圖 3大模型行業應用.4圖 4傳統威脅檢測方式弊端.5圖 5大模型關聯分析示意圖.8圖 6典型安全知識圖譜構建過程.9圖 7傳統安全運營風險.12圖 8日志低維語義空間分析示意圖.13圖 9大模型安全編排自動化響應示意圖.15圖 10大模型技術應用安全行業優勢.19圖 11大模型應用需深

5、入一線需求.21圖 12安全運營智能體平臺技術架構.32圖 13安全運營平臺技術架構.34圖 14“小微”基本架構圖.37圖 15智能安全運營技術架構圖.40安全行業大模型技術應用態勢發展報告（2024）1一、大模型技術與應用概述（一）大模型技術發展不斷演進，引領人工智能迅速發展（一）大模型技術發展不斷演進，引領人工智能迅速發展數字化時代快速發展，人工智能成為影響經濟發展的關鍵力量。人工智能技術作為科技創新的核心驅動力，成為加快培育發展新質生產力的重要引擎，引領新一輪的科技革命和產業變革。根據公開數據，截至 2023 年 7 月份，我國人工智能核心產業規模已達 5000億元，企業數量超過 43

6、00 家。根據2024 年我國人工智能產業發展形勢展望報告顯示，預計 2024 年全球人工智能市場規模將達6158 億美元，我國將突破 7993 億元。數據來源：2024 年我國人工智能產業發展形勢展望圖 1 2020-2024 全球人工智能市場規模大模型作為當今人工智能領域的核心技術之一，技術架構不斷安全行業大模型技術應用態勢發展報告（2024）2演進。大模型的核心特征在于其龐大的參數規模和高度復雜的網絡結構，通過深度學習原理，對大量的數據和計算資源進行訓練，學習數據中的深層次特征與規律，實現較高的性能和泛化能力。一是在 2017 年之前，深度學習已經在圖像識別、語音識別等領域取得了成果。二

7、是在 2017 年，Google 研究人員提出了 Transformer 架構，奠定了當前主流大模型預訓練算法架構的基礎。三是在 2018 年，OpenAI 發布了大模型產品，展示了自回歸語言模型潛力，能夠生成連貫的文本，極大地提高了性能，預訓練大模型時代逐漸來臨。四是在 2022 年，OpenAI 發布的 ChatGPT 具備極強的對話交互能力，展現了大模型在自然語言理解和生成方面的巨大潛力，促進了 AI應用的普及和公眾認知。同時國內大模型迎來爆發期，多家企業和研究機構推出大規模預訓練模型。五是在近年來，國內外更多大模型產品紛紛發布，更新迭代，大模型開始邁向多模態領域，不僅處理文本，還能理解

8、圖像、視頻等，進一步拓寬了 AI 的應用場景。圖 2 大模型發展歷程安全行業大模型技術應用態勢發展報告（2024）3（二）政策促進大模型應用落地，助力行業提升服務能力（二）政策促進大模型應用落地，助力行業提升服務能力我國對人工智能領域的重視程度不斷提升，促進人工智能大模型技術快速發展。從頂層設計到具體實施全面布局，將人工智能轉化為實際生產力，助力國家數字化戰略的推進。一是國務院于 2017年發布我國在人工智能領域進行的第一個系統部署的文件新一代人工智能發展規劃。重點對我國新人工智能發展的總體思路、戰略目標和主要任務、保障措施進行系統的規劃和部署。二是科技部等六部門于 2022 年印發 關于加快

9、場景創新以人工智能高水平應用促進經濟高質量發展的指導意見。旨在貫徹落實黨中央、國務院關于推動人工智能發展的決策部署，統籌推進人工智能場景創新，著力解決人工智能重大應用和產業化問題，全面提升人工智能發展質量和水平。三是 2024 年政府工作報告中提出開展“人工智能+”行動。政府工作報告第一次提出“人工智能+”，為人工智能新技術新應用創造更好的發展機遇，加速推動了數字技術和實體經濟深度融合，促進了社會生產力實現新的躍升。大模型助力千行百業提升服務效率。雖然通用大模型在人工智能領域扮演著重要角色，但它們在企業級場景中的應用常常存在缺乏行業深度、與業務結合不足等局限性。相比之下，行業大模型通過針對性地

10、訓練特定行業數據，深刻理解該領域的內在邏輯與細微安全行業大模型技術應用態勢發展報告（2024）4差別，能夠提供更為精確、貼合實際業務場景的解決方案，展現出與行業深度融合的巨大潛力。如今，大模型已經滲透到各行各業，如金融、教育、醫療、網絡安全、政務、互聯網等領域，被用于智能客服、智能寫作、自動摘要、文本生成、知識問答、個性化推薦等多個應用場景，改變傳統生產方式，有效提升行業服務效率和服務質量，創造更高經濟價值。圖 3 大模型行業應用安全大模型賦能網絡安全的創新變革。網絡安全作為互聯網發展的基石，是保障現代社會基礎設施政策運作的基礎。安全大模型通過整合網絡安全領域的知識、技術和數據，形成統一、具有

11、高度智能化和自適應能力的安全管理與防護系統。安全大模型憑借其龐大的參數量與深度學習能力，在深度理解行業特性和業務流程的基礎上，實現對復雜攻擊模式的精準判斷和預警，促進安全資源的精準配置與合規性管理的自動化，為網絡安全防護體系帶來創新變革的智能化水平提升，構建更加智能、高效、全面的安全防護生態系統，以適應數字化時代復雜多變的安全挑戰。安全行業大模型技術應用態勢發展報告（2024）5二、大模型技術安全行業應用現狀大模型技術的迅速發展給安全行業的核心業務場景帶來深遠的影響?；趯Υ笠幠祿纳疃葘W習和復雜模式識別能力，大模型在多個關鍵領域展現出顯著的潛力。隨著技術的持續演進，大模型正逐漸成為驅動安全

12、行業創新和轉型的關鍵力量，推動著安全防御從被動響應向主動預防的范式轉變。（一）大模型賦能威脅檢測，全面提升場景效能（一）大模型賦能威脅檢測，全面提升場景效能1.傳統檢測方法在面對新型威脅時效率不足在當前復雜多變的威脅環境下，如圖 4 所示，傳統檢測方法的效率和精度已無法滿足不斷更迭的安全需求，難以應對新型威脅。圖 4 傳統威脅檢測方式弊端一是傳統方法高度依賴人力投入，傳統的威脅檢測方法主要依靠安全專家手工定義規則，通過特征匹配的方式來識別已知威脅。這種方法對安全專家的經驗和技能要求較高，且規則制定的周期較安全行業大模型技術應用態勢發展報告（2024）6長。一旦出現新型威脅，現有規則難以及時更新

13、，導致檢測存在盲區。攻擊者可利用這一缺陷，通過變換攻擊策略，規避檢測。二是傳統方法難以應對未知威脅，當前網絡環境日益復雜、新型攻擊手段層出不窮，零日漏洞、APT 等新型威脅不斷涌現，而傳統方法只能檢測已知威脅，對未知威脅難以奏效。攻擊者不斷變換策略，采用多種隱蔽技術，使攻擊行為更加難以捕捉和識別。傳統威脅檢測因其規則更新滯后，導致檢測效率低下，無法及時發現潛在威脅。三是傳統威脅檢測數據處理量級受限，難以處理海量安全數據。隨著網絡規模的不斷擴大，安全設備、終端用戶數量激增，每天產生的安全日志、網絡流量等數據呈爆炸式增長，達到了 PB 級別。傳統方法采用關系型數據庫進行存儲和查詢，其性能難以滿足大

14、數據處理的需求。此外，安全數據來源多樣，格式各異，傳統方法難以實現多源異構數據的融合分析，無法全面挖掘數據價值。四是傳統方法缺乏多維度關聯分析能力，很難精準識別威脅的行為特征。攻擊者往往采用多種手段，利用不同層面的漏洞，形成攻擊鏈。但傳統方法主要關注單一維度，如 IP、域名等，忽視了威脅在網絡環境、時間序列上的關聯性。缺乏立體化的分析視角，難以準確把握威脅全貌。傳統方法分析也多采用規則和閾值的方式，泛化能力不足，難以應對威脅的多樣性和變化性。綜上所述，面對日益嚴峻的網絡安全形勢，傳統威脅檢測方法暴露出效率低、精度安全行業大模型技術應用態勢發展報告（2024）7差、分析能力弱等諸多不足，亟需創新

15、的智能化手段來彌補短板，增強威脅檢測的針對性和有效性。2.大模型提升傳統威脅檢測準確性和全面性一方面，大模型能夠快速處理量級較大的安全數據，利用并行計算架構實現數據的高效存儲和查詢，為威脅檢測提供了堅實的數據基礎。傳統方法受制于數據處理能力，往往只能對采樣數據進行分析，而大模型可以處理大量安全數據，最大限度地挖掘數據價值。通過對流量、日志、文件等數據的深入分析，大模型能夠發現更多隱藏在數據中的威脅蛛絲馬跡。IBM 的一項研究表明，使用人工智能和機器學習的組織在檢測和響應網絡安全事件方面的效率提高了3 倍1。另一方面，大模型可以從多個維度挖掘威脅的關聯特征，采用深度學習、圖神經網絡等先進算法，從

16、網絡流量、日志、文件、行為中自動生成檢測模型，顯著提升檢測有效性。如圖 5 所示，從全局視角關聯分析多源異構信息，可有效加強關鍵節點和類團外節點的挖掘，通過關聯分析減少威脅情報的漏報和誤報，顯著提升檢測準確率，且檢測的威脅類型更加全面。麥肯錫的一份報告表明，采用人工智能和機器學習技術的網絡安全解決方案可以將威脅檢測的準確率提高 3 倍，同時將誤報率降低 5 倍2。相比傳統的特征工程，1IBMThe What Why and How ofAI and Threat Detection（2024）2The Four Types of Threat Detection（2018）安全行業大模型技術應

17、用態勢發展報告（2024）8大模型能夠自動學習提取威脅的本質特征，捕捉威脅在不同環節、不同時間的活動規律。通過端到端的特征表示學習，可最小化人工設計的局限性，全面刻畫威脅行為的異常模式。數據來源：基于關聯數據的類簇語義揭示模型研究圖 5 大模型關聯分析示意圖3.大模型為威脅檢測提供新技術和新范式首先，傳統的威脅預測主要依賴專家經驗和統計模型，難以全面把握威脅的復雜演變規律。大模型則可以從海量的歷史攻擊事件數據中自動學習提取威脅的關鍵特征和演變模式，建立起威脅知識圖譜3，從數據來源、本體設計、圖譜構建等環節，為威脅檢測提供技術支撐，如圖 6 所示。3綠盟科技2022 年中國威脅情報市場報告安全行

18、業大模型技術應用態勢發展報告（2024）9數據來源：公開數據整理圖 6 典型安全知識圖譜構建過程其次，基于圖神經網絡等技術，大模型能夠深入理解攻擊事件之間的內在聯系和時序規律，從而對未來一段時間內可能出現的攻擊類型、攻擊目標、攻擊手法等進行預判。例如，一些研究機構利用門控循環單元(GRU)等深度學習模型，對 APT 攻擊的生命周期進行建模，通過對攻擊事件的時間序列分析，預測 APT 組織未來的攻擊活動，準確率可達 80%以上4。最后，大模型生成的威脅預測情報可以幫助安全團隊更加主動、精準地制定防御策略，提前采取針對性的防護措施，最小化安全風險。一方面，模型預警的高危攻擊事件可以作為輸入，觸發應

19、急響應流程，調整安全策略配置，對潛在目標進行加固。另一方面，研判攻擊者的意圖、偏好、未來行動，有助于圍繞攻擊者展開態勢感知，進行威懾、誘捕、溯源等主動防御行動。4IEEELong Short Term Memory Recurrent Neural Network Classifier for Intrusion Detection（2023）安全行業大模型技術應用態勢發展報告（2024）104.大模型強化威脅檢測自適應性一方面，大模型可通過無監督和自監督學習等技術，挖掘安全數據內在的統計規律和行為模式，構建正?；€。大模型通過學習歷史未知威脅的演化規律，利用 Few-shot Learnin

20、g 等算法，有望在少量樣本的情況下及時識別出新型威脅，提高未知威脅的檢出率。另一方面，依托預訓練模型強大的語義理解和泛化能力，可利用少量樣本快速進行自適應學習，生成面向新型威脅的檢測模型?；谏疃冗w移學習的惡意軟件檢測系統研究與實現（2023）5中提到，預訓練語言模型強大的語義理解和表示能力可以遷移到惡意軟件檢測領域，并且在面對新的惡意軟件時，只需少量特定領域數據進行微調，就可以適應不斷變化的惡意軟件。通過遷移學習技術，還能實現跨場景、跨領域的威脅知識復用，有效應對“未知未見”的安全威脅。（二）大模型改寫傳統運營方式，推動全局智能化（二）大模型改寫傳統運營方式，推動全局智能化1.傳統安全運營缺

21、乏全局性、效率低下一是安全運營數據割裂，缺乏統一管理和關聯分析能力。企業內部不同安全設備和系統各自為政，數據散落在網絡、主機、應用等不同層面，難以形成全局視圖。手工梳理、關聯海量異構數據，5江蘇大學基于深度遷移學習的惡意軟件檢測系統研究與實現（2023）安全行業大模型技術應用態勢發展報告（2024）11效率低下且容易遺漏關鍵線索6。二是規則知識庫更新滯后，對未知威脅檢測識別能力不足。傳統安全產品主要依靠特征庫、規則庫等進行威脅檢測，但面對快速迭代的攻擊手法，知識庫更新往往滯后，導致檢測時效性和覆蓋率不高。對零日漏洞、變種木馬等未知威脅缺乏有效的發現手段7。三是缺乏威脅情報的自動化生成和共享機制

22、，企業內外部情報獲取渠道有限，通常依賴人工收集整理，且情報質量參差不齊，缺乏可信度評估。情報的加工、分析、呈現流程尚未實現自動化，難以做到實時共享和快速響應5。四是安全專家經驗難以沉淀積累和復用，資深安全專家憑借多年經驗，可快速分析事件上下文，判斷威脅影響范圍，給出緩解方案。但專家經驗通常以隱性知識形式存在，缺乏有效的提煉方法，導致經驗難以在團隊內傳承復用，專家離職易造成知識流失。五是缺乏全局安全視圖和威脅演化模型，企業難以精準刻畫自身的安全狀態，缺乏可量化、可溯源的風險評估指標。安全部門常被動應對已發生的攻擊，難以未雨綢繆，對未來一段時間內的安全態勢缺乏預判。六是運營高度依賴人力，自動化、智

23、能化水平不高，從海量告6資產測繪與攻擊面管理助力構建數字化安全運營體系（2022）7IEEEA Survey on Deep Learning Techniques for Malware Detection and Classification（2022）安全行業大模型技術應用態勢發展報告（2024）12警中甄別失陷主機、分析攻擊路徑、處置安全事件，需要大量安全運營人員投入，且不同層次人員職責界定不清，工作流程缺乏統一協作平臺支撐，整體人效不高。綜上所述，傳統的安全運營方法在愈發隱秘的安全風險場景中變得不夠全面，存在諸如內部數據散落、經驗共享機制弱等風險，如圖 7 所示。圖 7 傳統安全運營

24、風險2.大模型實現智能關聯分析，幫助挖掘安全隱患傳統的關聯分析規則大多依賴人工配置，規則數量有限且容易產生誤報、漏報。大模型可從海量異構數據中自動學習安全要素之間的關聯模式，挖掘出難以被人力發現的隱性聯系，揭示安全事件的來龍去脈。一是大模型可對網絡流量、主機日志、用戶行為等多源異構數據進行融合建模，刻畫各類數據之間的時間、空間、因果等多維關系?；趫D神經網絡等技術，大模型能夠在復雜的異構圖中學習頂點語義信息和邊關聯模式，揭示不同安全事件的內在聯系，如識別出同一攻擊者利用不同 IP 對多個目標發起的攻擊行為8。8 2023 年中國 AI 大模型應用研究報告安全行業大模型技術應用態勢發展報告（20

25、24）13二是大模型可將原始日志數據映射到低維語義空間，實現精細化、結構化的特征提取。相比傳統的規則匹配方法，大模型可以將將高維、稀疏的詞向量空間映射到一個低維、稠密的語義空間，數據的維度大大降低，從通常成千上萬的詞匯量大小降到預設的如256 或 512 的低維度。這樣更容易進行可視化、聚類、異常檢測等下游任務，如圖 8 所示。圖 8 日志低維語義空間分析示意圖3.大模型技術強化人機協同，改寫傳統運營分析方式傳統的安全分析主要依賴人力，專家需要花大量時間處理數據、提取特征、驗證假設，分析效率難以滿足日益增長的安全需求。大模型可作為安全專家的得力助手，在人機交互中發揮各自所長，形成互補協作9。一

26、是精細化運營專家風險關注點，在人機協同分析模式下，安全專家主要負責提出分析思路和假設，提供安全知識和經驗見解。大模型則承擔數據工程、特征工程等繁瑣的任務，快速驗證專家的9自然語言交互：大語言模型帶來的交互方式變革（2023）安全行業大模型技術應用態勢發展報告（2024）14假設。例如，專家基于經驗判斷某 IP 可疑，大模型就可以快速搜索該 IP 的相關數據，提取關鍵特征，評估其異常程度。專家再對模型結果進行解釋和優化，形成迭代優化的閉環。二是幫助完成運營數據預處理，有效減輕人力負擔。海量數據的收集、清洗、融合等前置工作都可交由大模型完成，讓專家可以直接分析結構化的信息。深度學習模型可自動學習抽

27、象出高維語義特征，揭示被數據所掩蓋的關鍵模式，為專家的分析提供更豐富的信息。在人機協同分析中，大模型承擔了類似“助理”的角色，為專家提供數據支持和分析幫助。專家則更多地充當“智囊”角色，負責結果解釋、知識積累、分析決策等專業性工作。二者優勢互補、協同作戰，既發揮了人的探索創新能力，又利用了機器的海量計算優勢10。4.大模型技術強化安全運營自動編排，構建全局防護體系傳統的自動化局限于既定場景下的處置動作，缺乏全局視野和策略思維。大模型則可通過持續學習，掌握安全策略制定、防護體系構建、響應流程優化等領域知識，具備頂層設計和縱深防御的能力。一是，大模型可深度理解業務場景和安全目標，周期性評估組織面臨

28、的安全風險，結合外部威脅態勢和內部資產狀況，持續優化102023-2029 年中國人機交互行業現狀分析與前景趨勢報告安全行業大模型技術應用態勢發展報告（2024）15整體安全策略。同時，大模型可實時感知網絡安全態勢變化，預測攻擊事件的發生概率和可能路徑，針對性地動態調整各領域的防護策略和響應預案11。二是，大模型可自主編排端到端的安全響應流程。傳統的響應流程通常是事先定義的，缺乏靈活性和適應性。大模型可結合安全事件的嚴重性、影響范圍、攻擊階段等多種因素，實時生成最優的響應流程。例如，對于高危事件，模型會自動觸發流量隔離、加固防護、通知下線等一系列聯動措施；對于低風險事件，模型則會執行威脅監視、

29、調查取證、記錄跟蹤等常規流程12。三是，大模型可以通過平衡封堵成本和防護收益，動態調整策略閾值和流程參數，使安全編排越來越智能。大模型強化學習等技術，從海量的響應日志和效果反饋中自主學習和優化，可持續評估不同防護動作的時效性和有效性，實現告警、分析、響應、處置的全流程自動化，從而極大提升運營效率，如圖 9 所示。圖 9 大模型安全編排自動化響應示意圖11基于安全態勢感知的智能決策與聯動防護方案研究（2022）12基于安全編排自動化與響應技術在網絡安全應急響應中的應用探索（2022）安全行業大模型技術應用態勢發展報告（2024）16（三）大模型推動行業信息互通，強化安全知識互聯（三）大模型推動行

30、業信息互通，強化安全知識互聯1.傳統安全行業信息關聯程度弱傳統安全行業的知識鏈接存在時效性差、覆蓋不全、智能化程度低等問題，難以適應網絡安全形勢的快速演變，也很難滿足從業者日益增長的需求。一方面，傳統方法通過查閱安全知識庫或文檔來獲取信息，知識更新速度慢，難以跟上技術迭代節奏，許多安全廠商和研究機構會建立自己的知識庫，囊括常見的攻防技術、漏洞分析、應對方案等，安全從業者通過關鍵詞檢索、目錄瀏覽等方式查找所需知識，但知識庫通常覆蓋有限，更新滯后，檢索體驗欠佳13。另一方面，傳統搜索引擎對于安全行業知識檢索效率低下，安全從業者會利用搜索引擎嘗試檢索互聯網上的海量安全資訊，但搜索結果良莠不齊，需要人

31、工甄別和整理，效率低下，同時搜索引擎很難無法理解專業語義，無法給出針對性的解答。2.大模型革新安全行業知識應用一是大模型知識庫的構建幫助夯實安全行業知識儲備，一些安全企業利用大模型技術，從安全資訊、技術文檔、漏洞情報等海量非結構化數據中自動提煉知識要素，構建起規?；?、常更新的安全知識庫。13安全知識圖譜技術白皮書（2021）安全行業大模型技術應用態勢發展報告（2024）17二是大模型技術帶來智能問答交互新方式，大模型智能問答機器人為安全行業帶來了全新的交互方式，傳統的安全社區論壇通常依賴用戶之間的互動來解決問題和分享知識，但這種交互方式受到時間和人員的限制，而基于大模型的智能客服系統可以提供全

32、時段的安全知識問答服務，用戶可以隨時提出問題并獲得即時響應。智能客服系統利用自然語言處理和機器學習技術，理解用戶的問題意圖，并從海量的安全知識庫中檢索出最相關的答案。它們可以解答常見的逆向分析、漏洞挖掘、安全工具使用等方面的問題，為安全從業者提供便捷、高效的知識獲取渠道。同時，智能客服系統還可以通過與用戶的持續互動，不斷學習和優化知識庫，提升問答的準確性和覆蓋面。這種智能化的交互方式極大地提高了安全社區的服務質量，使得安全從業者能夠更加便捷地獲取所需的專業知識，提升技能水平。三是大模型技術強化安全行業的知識檢索與挖掘。傳統的知識檢索方式通常依賴關鍵詞匹配，難以處理復雜的語義關系和領域特征，導致

33、檢索結果的相關性和準確性不高。一方面，大模型技術利用深度學習算法，通過對海量安全文獻、代碼庫、社區討論等數據進行訓練，學習到了豐富的語義表示和領域知識。這使得基于大模型的知識檢索系統能夠真正“理解”用戶的查詢意圖，即使查詢中包含行業專業詞匯、縮寫、上下文依賴等復雜因素，也能準確地推安全行業大模型技術應用態勢發展報告（2024）18斷出用戶的真實需求，返回最相關的結果14。另一方面，大模型技術還為安全知識挖掘開辟了新的途徑。通過對安全領域的非結構化數據如博客文章、研究報告、論壇等進行深入分析，大模型可以自動提取其中蘊含的安全概念、漏洞特征、攻擊手法等關鍵信息，發現隱藏的關聯關系和新穎的威脅模式。

34、這些自動化的知識挖掘功能可以幫助安全從業者及時洞察最新的攻防技術動向，掌握行業內的熱點話題和前沿進展，從海量數據中汲取有價值的安全情報，提升威脅發現和響應的時效性。14大模型在威脅情報中應用可行性研究報告（2024）安全行業大模型技術應用態勢發展報告（2024）19三、安全行業大模型技術應用落地關鍵點（一）發揮大模型技術優勢，深入應用創新（一）發揮大模型技術優勢，深入應用創新1.充分發揮大模型技術優勢，促進安全行業智能化升級大模型技術的持續發展正在為網絡安全領域帶來革命性的變革，推動整個行業邁向一個全新的防護時代。如圖 10 所示，充分發揮大模型的技術優勢，不僅可以顯著提升威脅檢測的響應效率、

35、加強對復雜威脅的適應能力，還能夠實現更加主動和智能的安全防御策略，為構建更加安全、可靠的網絡環境奠定堅實基礎。圖 10 大模型技術應用安全行業優勢一是，大模型技術可以幫助安全行業應對更加復雜多變的威脅環境，隨著網絡空間的不斷擴張和信息技術的快速發展，網絡安全威脅呈現出多元化、隱蔽化和智能化的特點。傳統的基于規則的安全解決方案在處理海量數據、識別新型攻擊模式方面顯得力不從心。大模型技術憑借其強大的數據處理能力和模式識別能力，能夠自動學習和適應不斷演變的攻擊策略，為應對復雜多變的威脅環境提供了新的技術通路。諸如在對大數據的高效處理和分析上，通過整合安全行業大模型技術應用態勢發展報告（2024）20

36、和分析來自不同來源的數據，如網絡流量、系統日志、社交媒體信息等，大模型能夠自動挖掘潛在的威脅信號，形成實時的威脅情報。Gartner 在 2022 年的網絡安全預測報告中指出，到 2025 年，將有40%的組織采用基于 AI 和機器學習的網絡安全產品，以應對不斷演變的威脅形勢15。報告強調，大模型技術將在智能威脅檢測、自動化響應和安全決策優化方面發揮關鍵作用。二是，大模型技術持續提升安全行業威脅檢測與響應速度，在高速發展的網絡環境中，安全事件的響應速度至關重要。大模型以其大數據實時處理能力，將能夠快速識別異常行為和潛在威脅，顯著縮短從發現到響應的時間間隔，為組織贏得寶貴的時間窗口，有效遏制攻擊

37、擴散。大模型被集成到 SOC 中，實現自動化安全事件處理。一旦模型識別出可疑活動，能夠立即觸發預設的響應動作，如隔離受感染設備、封鎖惡意 IP 地址等，無需人工干預，顯著縮短響應時間。三是，大模型技術強化安全行業自動化與智能化水平，隨著網絡攻擊的頻次和復雜度增加，手動分析和響應變得越來越不可行。大模型技術通過自動化分析、預測和決策，大大減輕了安全運維人員的工作負擔，提高了效率和準確性，使得安全防護更加智能和自主。諸如大模型常被用于構建安全智能決策支持系統，使得這類系統能夠基于歷史數據和當前網絡狀態，預測安全風險趨勢，為安全15Gartner網絡安全預測報告（2022）安全行業大模型技術應用態勢

38、發展報告（2024）21策略的制定和調整提供科學依據。2.堅持安全行業應用創新，持續推動大模型技術落地一是堅持基于業務場景進行創新，安全行業涉及網絡安全、數據安全、終端安全等多個領域，每個領域都有其特定的技術挑戰和業務痛點。如圖 11 所示，大模型應用須深入一線，洞察行業需求，針對具體問題設計解決方案，只有緊貼實際，才能研發出契合行業特點，滿足用戶需要的應用產品，唯有以需求為牽引，以問題為導向，在跨界融通中探索突破，大模型才能在安全行業內深入應用。圖 11 大模型應用須深入一線需求二是勇于探索新的應用模式，傳統安全解決方案往往基于規則和特征碼，而大模型則可通過強大的數據挖掘和關聯分析能力，實現

39、更智能、全面的安全防護。例如基于大模型構建智能安全運營中心，通過多源異構數據關聯分析，實時洞察全網安全態勢；也可以利用大模型實現自適應安全策略，根據環境變化動態調整防護措施。這些創新的應用模式，有望極大提升安全防護的智能化水平。三是建立有效的評估機制，由于安全領域的特殊性，對大模型安全行業大模型技術應用態勢發展報告（2024）22應用的有效性、可靠性、安全性等提出了極高要求，須建立科學的應用評估體系，全方位評估大模型的實際應用效果，包括準確率、響應時間、資源消耗等多項指標，通過客觀評估，識別短板不足，持續優化迭代，以確保應用產品真正滿足行業需求。四是堅持應用創新與技術創新齊頭并進，面對日新月異

40、的網絡威脅，需要在底層技術上不斷精進，針對安全領域的特定問題，如對抗樣本、小樣本學習等，展開有效攻關，通過技術創新，不斷增強模型性能，提升行業任務處理的精準度和效率，讓大模型在安全領域發揮更大價值。（二）防范大模型應用風險，加強規范建設（二）防范大模型應用風險，加強規范建設1.加強數據安全與隱私保護安全行業大模型在訓練和應用過程中涉及大量高度敏感的安全數據，包括網絡流量日志、威脅情報、漏洞信息、事件響應記錄等。這些數據不僅包含個人身份信息、IP 地址，還可能涉及組織的核心安全策略和防御機制。一是在大模型的整個生命周期中，必須實施嚴格的數據安全措施。首先，需要建立數據脫敏機制，確保在不損害模型性

41、能的前提下，有效去除或模糊化敏感信息?？赡馨ㄊ褂孟冗M的匿名化技術，如差分隱私或同態加密，以保護個人身份信息和其他敏感數據。其次，需要采用高強度的加密算法進行數據傳輸和存儲，防止數據在安全行業大模型技術應用態勢發展報告（2024）23傳輸或存儲過程中被截獲或竊取。再次，還應建立全面的數據生命周期管理策略，從數據收集、處理、使用到最終的銷毀，每個環節都要有相應的安全控制措施。最后，定期進行安全評估和滲透測試，及時發現和修復潛在的安全漏洞。通過這些全方位、多層次的安全措施，可以最大限度地保護敏感數據的安全，確保大模型能夠有效利用這些數據進行訓練和優化。二是需實施細粒度的訪問控制策略，嚴格限制對原始

42、安全數據的訪問權限，只有經過授權的安全專業人員才能接觸這些敏感信息。這要求建立一個多層次、嚴密的權限管理體系。一是，應該實施強大的身份認證機制，如多因素認證，確保只有合法用戶能夠登錄系統。二是，采用基于角色的訪問控制模型，根據人員的職責和需求分配最小必要權限。三是，對安全數據進行精細化分類和標記，并為不同級別的數據制定相應的訪問和處理規則。四是，應該實行數據訪問審計，記錄所有對敏感數據的訪問操作，以便追蹤和回溯。五是，定期進行權限審核和更新，確保離職員工或角色變更人員的權限及時撤銷。通過這些措施，可以在保證數據安全的同時，也為合法的安全分析和模型訓練提供必要的數據支持。三是須嚴格遵循相關的網絡

43、安全法規和數據保護條例，需要建立完善的合規框架，確保大模型的訓練和使用符合法律要求，并能夠應對潛在的審計和監管檢查，包括實施數據主體權利管理機制，如允許用戶訪問、更正、刪除其個人數據的權利；建立數據處理活安全行業大模型技術應用態勢發展報告（2024）24動的詳細記錄，包括數據的來源、使用目的、處理方式；進行定期的數據保護影響評估，識別和降低數據處理活動中的風險、制定和實施數據泄露響應計劃，確保在發生數據泄露時能夠及時通知相關方并采取必要措施。2.保障安全大模型應用可信在網絡安全、數據安全和終端安全等關鍵領域，大模型的判斷直接影響到組織的安全態勢，因此安全行業的大模型應用必須具備極高的可靠性和準

44、確性，能夠經受住最嚴格的安全測試和全面驗證。一是安全行業大模型不僅要保證高準確率，還必須具備極低的誤報率以及抗干擾性，在威脅檢測、漏洞分析和事件響應等核心安全任務中，模型的每一個決策都可能影響到防御體系的整體效能，模型還需要具備強大的抗干擾能力，能夠應對可能的對抗性攻擊，保持在復雜多變的網絡環境中的穩定性。二是安全行業大模型的決策過程須保持高度透明和可解釋性，這意味著模型不能成為“黑盒”，而是要能夠清晰地展示其推理過程和依據。這對于安全分析師理解和驗證模型的判斷至關重要，也是滿足合規要求和接受外部審計的必要條件。例如，在遭遇 APT 攻擊時，模型應能夠詳細說明其判斷依據，包括觀察到的可疑行為、

45、匹配的威脅特征等，以便安全團隊能夠迅速驗證和采取相應措施。三是安全行業大模型需具備完善的監控和反饋機制，一旦模型安全行業大模型技術應用態勢發展報告（2024）25出現異?；蜃龀鲥e誤判斷，系統應能迅速發現并報告，允許安全專家快速介入，查明原因并及時糾正。需要建立一套全面的模型性能監測系統，持續跟蹤模型在實際環境中的表現，并能夠快速響應和調整。安全行業大模型技術應用態勢發展報告（2024）26四、安全行業大模型技術應用發展趨勢與展望（一）技術日益成熟，持續賦能安全行業（一）技術日益成熟，持續賦能安全行業當前，安全行業大模型技術正處于快速發展階段，需要各界協同努力，共同推動這一前沿技術在安全領域的長

46、足發展。一是在技術創新方面，安全行業大模型將朝著更專業化和垂直化的方向發展。未來可能會出現針對網絡攻擊檢測、惡意軟件分析、威脅情報分析等特定安全領域的垂直大模型，這些模型將具備更強的領域專業知識和更高的處理效率。同時，實時響應能力和自適應學習能力也將大幅提升，使得模型能夠更快速地處理海量安全數據，并從新出現的威脅模式中不斷學習和進化。二是在數據融合和分析方面，多模態融合將成為重要趨勢。安全大模型將更多地整合文本、圖像、網絡流量、系統日志等多種數據模態，實現更全面的安全分析。這種多模態融合不僅能提高威脅檢測的準確性和全面性，還能為安全分析師提供更豐富的決策依據。此外，可解釋性也將得到增強，幫助用

47、戶更好地理解模型的決策過程，提高對 AI 輔助決策的信任度。三是在隱私保護與產業協同方面，未來的安全大模型將更多地整合隱私保護技術，如聯邦學習、同態加密等，基于隱私保護技術，安全大模型將突破傳統的數據孤島限制，實現云端、終端設備、物安全行業大模型技術應用態勢發展報告（2024）27聯網等多元平臺的無縫協作。這種協同不僅提高了模型的適應性和普適性，還實現了不同技術、不同產業間的有機融合，為安全應用開辟了更為廣闊的發展空間。四是在國際合作與標準化方面，面對日益全球化的網絡安全威脅，未來可能會出現更多的國際合作，共同開發和使用安全大模型，并推動相關標準的制定。這將有助于應對跨國網絡犯罪和高級持續性威

48、脅，同時也為全球安全行業的發展提供統一的參考框架。（二）產業逐漸完善，推動生態優化升級（二）產業逐漸完善，推動生態優化升級隨著人工智能技術的深入發展，安全大模型生態日益成熟，為安全產業的優化升級提供了強大動力。1.供給側：技術與產品持續創新，推動安全大模型應用普及一是安全大模型技術投入持續增加，研究機構和企業有望加大對安全大模型的研發投入，在模型架構、訓練方法、推理效率等技術領域不斷深入，開發出更具有針對性和實用性的行業大模型，提升大模型在安全領域的適用性和性能。二是安全大模型產品體系逐步完善，安全企業積極將大模型技術融入現有產品，推出智能化程度、業務場景貼合度更高的安全解決方案。從態勢感知、

49、威脅檢測到風險評估、應急響應等，大模型有望賦能安全治理的各個環節，為用戶提供更全面、更智能的安全安全行業大模型技術應用態勢發展報告（2024）28保障。三是安全大模型基礎設施建設加快，云服務商有望和專業安全廠商合作，推出針對安全場景優化的大模型云服務，使中小企業也能便捷地接入和使用安全大模型能力。同時，開源社區的蓬勃發展也為安全大模型的廣泛應用奠定了基礎。2.需求側：用戶需求增長，驅動安全大模型市場擴張一是用戶對大模型價值認知提升，隨著大模型在安全領域的成功案例不斷涌現，越來越多的企業和機構將意識到大模型對提升安全管理效率、增強威脅應對能力的重要作用。安全決策者將更傾向于在預算中增加對大模型相

50、關產品和服務的投入，從而帶動安全大模型市場的持續發展。二是安全智能化需求推動大模型技術深入應用，面對日益復雜的網絡安全威脅，傳統的人工分析方法難以應對，安全團隊需要借助大模型的智能分析能力，通過海量數據的快速處理、復雜威脅的精準識別和高效的決策支持等能力，實現“檢測、響應、處置”的智能化運營閉環，通過深入應用大模型技術提高安全運營整體自動化水平，強化整體安全運營效率。（三）標準體系愈發清晰，行業應用更趨規范（三）標準體系愈發清晰，行業應用更趨規范隨著大模型技術在安全領域的深入應用，標準化體系的建立和完善將成為推動行業規范化發展的關鍵因素。安全行業大模型技術應用態勢發展報告（2024）29一是在

51、技術標準制定方面，安全大模型的相關核心技術標準有望加快制定周期，業內產、學、研各組織將積極參與制定模型架構、訓練方法、數據處理等核心技術環節的標準化規范。這些標準的落地將為安全行業廠商的產品提供良好的基礎，推動整個安全行業大模型技術的進步和產品成熟度的提升。二是在安全準則落地方面，安全行業的場景應用對安全準則提出更高的落地要求，隨著實踐探索的日益深入，安全大模型應用將更加規范。行業領軍企業和研究機構將聯合制定詳細的安全準則實施指南，為業內開發者提供可操作的安全措施。同時，用于評價安全大模型應用的自動化測試工具將被更為廣泛的應用，以提高業內應用的整體合規水平，通過覆蓋開發、測試的實施指南實現產品

52、持續迭代和質量提升的閉環，進一步推動安全準則與具體安全行業場景的深度融合。安全行業大模型技術應用態勢發展報告（2024）30附錄 大模型技術在安全行業的創新應用案例案例案例 1 基于基于 AI 大語言模型的大語言模型的 SAST 安全治理安全治理一、需求背景某安全廠商在進行軟件供應鏈安全治理過程中，使用靜態應用程序安全測試(SAST)工具通過分析源代碼、字節碼或二進制代碼來發現安全漏洞。但是，傳統的 SAST 工具可能產生大量的誤報，需要人工確認，并且針對漏洞的修復，安全人員與開發人員存在較大的溝通成本，從而帶來更高的運營成本。二、案例介紹為了應對傳統靜態應用程序安全測試（SAST）工具在誤報

53、率和運營成本上的挑戰，采用了大模型（LLM）與 SAST 工具相結合的解決方案。1.技術架構技術架構 代碼掃描模塊：SAST 工具負責初步的源代碼、字節碼或二進制代碼掃描，生成初步的漏洞檢測報告。大模型（LLM）驗證模塊：利用訓練有素的大型語言模型對初步檢測結果進行二次驗證。大模型可以對靜態分析結果進行語義理解，精準判斷漏洞的真實性。修復建議生成模塊：基于大模型對每個實際存在的漏洞生成安全行業大模型技術應用態勢發展報告（2024）31具體的修復建議代碼片段，供開發人員直接使用。2.主要能力主要能力 誤報率降低：通過使用垂直領域大模型對數據流污點傳播過程構建檢測工作流進行二次驗證，發現檢測的誤報

54、率顯著降低至 20%以下，相較于傳統方法減少了 20 個百分點。高效溝通與協同：解決方案能自動生成修復建議，減少安全人員與開發人員之間的溝通成本，從而提高整體運營效率。高修復成功率：針對代碼中的漏洞部分，生成的修復代碼可以直接修復漏洞的成功率超過 80%，開發人員能夠高效地將其應用于實際項目中。三、用戶價值項目通過創新性地將大模型（LLM）與靜態應用程序安全測試（SAST）工具相結合，解決了傳統 SAST 工具的高誤報率和高運營成本問題。采用先進的污點分析技術和大模型集成，提高了漏洞檢測的準確性，將誤報率降低到 20%以下。同時，通過大模型生成自動修復建議，提升了開發人員的修復效率，修復成功率

55、超過 80%。實現了從檢測到修復的高效閉環，推動了安全監測技術的智能化發展。安全行業大模型技術應用態勢發展報告（2024）32案例案例 2 某企業安全運營智能體平臺某企業安全運營智能體平臺一、需求背景某企業在日常運維中面臨著海量的安全日志分析帶來大量誤報和漏報的問題，安全運維人員每天都要處理大量的監控日志和警報，如何從中篩選出真正的威脅信息成為一大挑戰。誤報和漏報的問題也可能導致團隊浪費大量時間在無關緊要的警報上，進而錯過實際威脅。二、案例介紹安全運營智能體平臺提供了全流程的安全運營智能化解決方案，采用分層的技術架構來不斷優化智能運營場景的業務效果。自底向上分成模型層、框架層和應用層。圖 12

56、 安全運營智能體平臺技術架構模型層采用 Post-Pretrain、SFT、Dagger 等機制，通過安全專業領域語料提升基礎模型安全知識水平；利用安全專家經驗提取的思安全行業大模型技術應用態勢發展報告（2024）33維鏈、任務規劃、工具使用等運營數據，構建 TTP 框架映射，形成數據飛輪，助力安全大模型在安全攻防方面推理能力不斷提升?？蚣軐釉O計實現滿足專家與智能體協作的機制，使得基于大模型的智能體落地到實際安全運營場景更可控、更可被觀測。通過動靜態結合的工作流編排，在運營流程的可控性和發揮大模型的腦洞思維方面取得平衡。構建安全領域知識管理能力，沉淀私有的專家運營經驗，結合外部安全情報和內部資

57、產數據，通過檢索增強技術（RAG）等方式提供給智能體使用，使得大模型更了解企業內部的運營偏好及當前的安全態勢，使模型決策和推理更有依據。搭建安全領域的工具集，減少安全產品孤島效應、充分解放工具的效率。應用層采用 LUI、GUI 相結合的設計使得安全專家更方便的控制整個安全運營流程及跟 Agent 交互。靜態編排的工作流和動態生成的工作流，滿足智能化安全運營全場景需求。構建了安全運營關鍵環節 Agent，結合到安全運營平臺線上化、自動化、智能化的處置安全告警和安全事件。三、用戶價值有效提升了入侵檢測、告警研判、事件分診、溯源、報告等環節的效率和效果。特別是在告警運營、事件處置等關鍵環節，大幅提升

58、了安全運營的效率。在關鍵場景的指標達到 90%或以上的準確率。安全行業大模型技術應用態勢發展報告（2024）34案例案例 3 基于基于 AI 大模型的新一代安全運營平臺大模型的新一代安全運營平臺一、需求背景某集團在信息安全運營中引入“安全垂直領域 AI 大模型”，逐步實現從“人工運營”為主到“機器運營”為主的智能轉變，用安全大模型理解利用 AI 生成的新型攻擊，協助集團信息安全運營人員進行主動安全運營，構建“AI+人工”共治的新一代安全運營平臺。幫助某集團保護核心資產，建立完善的信息安全運營體系，提升信息安全運營效率，提高安全威脅防御能力，緩解專業運營人員不足的難點問題。二、案例介紹基于 AI

59、 大模型的新一代安全運營平臺從下至上分為四層：模型設施層、模型訓練層、業務應用層、產品聯動層。圖 13 安全運營平臺技術架構安全 GPT 利用海量語料和安全領域高質量安全知識，經預訓練安全行業大模型技術應用態勢發展報告（2024）35和指令精調等階段，學習大量安全語言范式和思考邏輯，實現網絡安全領域高質量內容的生成、推理、摘要、總結等核心能力。通過與集團現網的終端側安全組件、網絡層安全組件、運營平臺、以及相關的資產數據對接，上傳 100 多臺安全設備日志輔助訓練和微調，讓安全 GPT 運營大模型更懂集團的實際業務。并通過安全分析人員與大模型進行自然語言交互的方式，輔助分析師快速看懂問題、調用工

60、具和流程，完成數據的分析統計等工作，提高安全運營的效率。打造出基于安全 GPT 為內核的“虛擬安全專家”，實現全天 24 小時主動值守。三、用戶價值從最開始的人工運維階段成功邁向了智能運營時代，實現了企業互聯網安全的實戰化、體系化、常態化和智能化運營。全集團范圍內日均產生安全告警從之前的 40 多萬條降低至 2000 多條，日均自動化封禁掃描惡意超過 200 個 IP，封禁時間從之前的 30 分鐘降低至 10 秒以內，阻斷外網掃描次數超過 10 萬次。在 GPT 的運營輔助下，集團信息安全運營效率直線提升。安全行業大模型技術應用態勢發展報告（2024）36案例案例 4 智慧家庭“小微”安全運維

61、體系智慧家庭“小微”安全運維體系一、需求背景隨著家庭業務數據規模的不斷提升，安全場景的專業性復雜性指數級增加，智慧家庭運營中心的安全管控能力要求也越來越高。在安全管理過程中，用戶往往面臨著各種問題和挑戰，需要快速獲取相關的知識和解決方案，傳統的安全管理方式已經難以滿足高效、精準的需求。二、案例介紹該項目基于檢索增強生成技術（RAG）注入多維公域、私域安全知識，是安全領域的專業私人助理。能夠精準解答安全領域的各類專業問題，迅速協助發起流程、搜尋所需的文件材料。通過將公域和私域的安全知識收集整理后，切割為文字片段。經向量化后存入向量數據庫。在安全工作者進行提問時，將歷史對話和問題組合起來，進行向量

62、化后，在向量數據庫中進行檢索。將檢索到的知識內容，通過 prompt 模板渲染后，整體輸入大模型中，利用大模型的文本能力進行個性化回答。安全行業大模型技術應用態勢發展報告（2024）37圖 14“小微”基本架構圖三、用戶價值案例服務全網 2 億高清用戶、4000 萬安防用戶及 2000 萬戶智慧社區、數字鄉村等新場景解決方案后臺安全服務場景，快速復用安全知識實現安全能力快速響應。安全行業大模型技術應用態勢發展報告（2024）38案例案例 5 微調大模型智能修復漏洞微調大模型智能修復漏洞一、需求背景在傳統的代碼漏洞修復流程中，首先通過配置 DevOps 流水線來識別代碼庫中的漏洞，隨后發出修復工

63、單指派給原開發工程師。工程師根據提供的漏洞修復建議進行問題解決，修復完成后的代碼被提交回代碼庫，并再次進入 DevOps 流水線進行復測。整體流程中存在漏洞檢出和修復的時間延遲、修復質量不一致、漏洞復測的效率難把控、漏洞修復反饋循環長等問題。二、案例介紹該解決方案采用了基于開源的CodeLlama構建的漏洞修復大模型技術架構，通過對歷史修復代碼樣本進行訓練，從而繼承并發揚過往的優秀修復實踐打造出在漏洞修復任務上表現卓越的新模型。此外，利用這一新模型，開發了一個集成開發環境（IDE）插件，該插件自動產生修復后的代碼，并將其推送至 IDE 界面。使得開發工程師能夠在代碼開發階段便完成代碼的合并，從

64、而高效完成漏洞修復工作。三、用戶價值在某企業開發團隊中應用，平均每周生成修復代碼超過 1w 行，修復通用漏洞超過 300 個，提高了修復過程的效率和一致性，加速了開發流程，推動了安全開發理念的進步。安全行業大模型技術應用態勢發展報告（2024）39案例案例 6 某集團安全某集團安全 GPT 應用實踐應用實踐一、需求背景在外部層面，某集團業務廣泛，涉及對消費者的 IoT 業務，ToB的樓宇、機器人自動化等業務，還涉及到跨國海外業務合規等問題，需要滿足監管合規要求。在內部層面，數字化程度較高，數智化業務系統涵蓋廣，員工安全意識參差不齊，使得企業面臨整體安全情況更加復雜。二、案例介紹智能化化安全運營

65、體系分為三層：安全大腦（安全 GPT），聯動層（XDR-SOAR），執行層（安全組件）。通過安全 XDR 整合原有安全組件和業務系統集成的基礎上，將海量安全日志清洗后，上傳至云端安全 GPT 大模型；采用 SaaS化方式部署安全運營大模型，將 XDR 清洗后的數據加密脫敏上傳至云端安全大模型，通過云端強大算力支持，實現安全運營智能化。通過大模型的預先訓練和基于場景化的工作實踐經驗，將資產梳理、加固預防、監測研判、調查處置、聯動處置、情報查詢及溯源總結等方面的工作能力流程化，使安全運營人員可以通過自然語言與安全大模型進行交互，以快速問答的方式，調動對應的工具、人員和流程，提升安全運營效率。安全行

66、業大模型技術應用態勢發展報告（2024）40圖 15 智能安全運營技術架構圖三、用戶價值安全 GPT 落地后讓運營人員在廣度和深度上都能做全局把控。在廣度上，少量運營人員即可守護數十萬資產，每天只需關注安全GPT 逐一研判后的 100 余條高危告警，準確度超過 95%。在深度上，安全 GPT 對任意一條告警都可解讀，直觀呈現完整分析過程，幫助運營人員更好理解攻擊意圖，快速完成研判決策。事件研判平均用時從 30 分鐘以上減少到 5 分鐘以內，從依賴“個別安全專家”模式轉換成“安全 GPT 輔助+專業安全服務團隊”模式，補齊了人才短板。通過安全 GPT 落地，增強了安全威脅檢測及響應能力，綜合提升

67、了安全運營整體效率，實現安全運營的提質增效。安全行業大模型技術應用態勢發展報告（2024）41致謝致謝本報告在撰寫過程中得到了以下單位的支持和幫助，在此表示感謝。由于撰稿時間有限，行業態勢變化快，如有疏忽和紕漏，歡迎批評指正。中國信息通信研究院、天翼云科技有限公司、浪潮云信息技術股份公司、華為云計算技術有限公司、騰訊云計算（北京）責任有限公司、三六零安全科技股份有限公司、中移（杭州）信息技術有限公司、北京百度網訊科技有限公司、螞蟻科技集團股份有限公司、天翼安全科技有限公司、北京火山引擎科技有限公司、奇安信科技集團股份有限公司、天融信科技集團股份有限公司、深信服股份有限公司、啟明星辰信息技術集團股份有限公司、中移動信息技術有限公司、杭州默安科技有限公司、五色石（杭州）數據技術有限公司。（排名不分先后）安全行業大模型技術應用態勢發展報告（2024）42