賽迪顧問：2023年中國安全大模型技術與應用研究報告2023（25頁）.pdf

《賽迪顧問：2023年中國安全大模型技術與應用研究報告2023（25頁）.pdf》由會員分享，可在線閱讀，更多相關《賽迪顧問：2023年中國安全大模型技術與應用研究報告2023（25頁）.pdf（25頁珍藏版）》請在三個皮匠報告上搜索。

1、中國安全大模型技術與應用研究報告?2023?賽迪顧問股份有限公司2023 年 12 月2目錄一安全大模型概述4?一?安全大模型定義41?什么是大型語言模型?42?什么是安全行業大模型?4?二?AI 安全發展歷程51?網絡安全與人工智能初步融合52?ChatGPT 技術引發行業變革53?安全行業大模型形成應用6二安全大模型框架8?一?技術層8?二?能力層10?三?應用層12三中國安全大模型廠商產品分析13?一?重點企業及產品介紹131?360 數字安全132?安恒信息143?奇安信集團154?綠盟科技165?深信服176?天融信集團177?啟明星辰集團18?二?指標體系181?技術層指標192?

2、能力層指標203?應用層指標20四中國安全大模型發展趨勢研判221?加速賦能現有安全產品232?持續推動智能化安全運營243?逐步向智能體角色轉變244?安全培訓逐漸受到市場關注253前言近年來?隨著數字化轉型的深入推進?云計算?5G?物聯網等先進科技得到了廣泛應用?在享受數字化轉型帶來紅利的同時?海量數據?復雜信息?高度的互聯化其背后的數據安全?信息安全?網絡安全等一些列安全問題彰顯?近年來利用 AI 技術實施網絡攻擊的事件快速增長?攻擊者通過運用 AI 技術繞過現有的防御?發起高度隱蔽?復雜?自動化攻擊?突破企業的安全防御體系?這一趨勢不僅改變了攻擊者的策略?也對網絡安全領域帶來了前所未有

3、的挑戰?傳統的安全防御手段已無法滿足快速應對和應急響應的需求?同時?網絡安全專家人才的巨大缺口對企業安全運營造成重大阻礙?隨著安全大模型的嶄露頭角?安全行業正迎來前所未有的機遇與挑戰?這一創新技術?憑借其卓越的自然語言交互?廣泛的適應性和精準的推理能力?將為安全防護領域帶來顯著的智能化升級?未來?網絡安全行業需持續深化創新探索?積極應對各種挑戰?并加大技術研發和應用實踐的力度?通過不斷提升大模型技術在網絡安全防護中的實際應用價值和效益?增強網絡環境的安全性和穩定性?同時?也需要加強與政府?企業以及社會各界的緊密合作?共同推動網絡安全技術的穩步發展和廣泛應用?4一安全大模型概述?一?安全大模型定

4、義1?什么是大型語言模型?大型語言模型?Large Language Model?是一種利用深度學習技術開發的自然語言處理模型?通過預訓練?微調等步驟?逐步實現對自然語言的深入理解?為機器賦予了與人類相似的語言智能?具有模型結構容量大?參數多的特點?通常為超過 10 億個參數的深度神經網絡模型?大型語言模型在理解和生成自然語言文本方面具有顯著優勢?因此?這類模型在依賴語言體系和流程性工作的行業中能夠產生廣泛影響?通過準確理解語言的意圖并根據這些意圖合理分配任務?在翻譯?智能客服?情感分析?問答系統等多個領域提供了強大的技術支持和賦能?2?什么是安全行業大模型?安全大模型是針對安全垂直領域的大型

5、語言模型?通過大量的專業的安全知識進行設計和訓練?使其具備處理海量數據和執行安全行業特定任務的能力?對于保護企業和個人的信息安全?提高網絡安全防護效率具有重要意義?鑒于網絡安全產品所采用的語言體系相對統一?安全大模型在網絡安全行業的應用前景極為廣闊?憑借其卓越的學習和理解能力?它能夠為企業和個人提供更為高效實時的網絡安全保障?5?二?AI 賦能網絡安全發展歷程1?網絡安全與人工智能初步融合傳統的網絡安全模型往往基于簡單的機器學習算法?對復雜的網絡安全問題進行了簡化的處理?早在 2010 年?安全公司已經開始利用 AI 技術來解決實際的安全問題?例如 360 開發了具有自學習?自進化能力的反病毒

6、引擎?并運用到樣本靜態查殺場景?然而?盡管傳統安全模型在某種程度上得到了應用?但它們的發展并不能滿足日益增長的網絡安全需求?隨著網絡攻擊手段的不斷升級和變化?這種簡化的處理方式已經無法應對日益復雜的網絡安全威脅?例如?在模型訓練和更新過程中由于數據規模和質量的限制?這些模型往往無法充分學習和理解復雜的網絡安全環境?從而在面對動態威脅時無法做出迅速有效的響應?因此?傳統安全模型需要大量人工參與分析?對于安全工作的效率提升有限?安全行業仍然面臨專業人才短缺的問題?2?ChatGPT 技術引發行業變革生成式人工智能技術的發展顯著地推動了模型的改進?提高了安全防御的效率和準確性?自 ChatGPT 推

7、出以來?其在網絡安全領域的應用前景備受關注?大模型技術具有出色的交互能力?主動性和創造性?對網絡安全攻防兩端均帶來影響?為應對這一挑戰?安全行業的研究者和工作者們正在積極探索將大模型技術應用于情報分析?運營輔助?攻擊預測?網絡釣魚內容生成?惡意代碼編寫等攻防場景?大模型的預訓練加微調方法?使其能夠通過無監督學習預訓練模型的6基座?從而捕捉到各種語言和句式的模式?在微調階段?利用不同任務樣本和大規模的強化學習方法進行優化?實現與特定安全任務適配?這種訓練方法在提升模型泛化能力的同時?也提高了模型在完成特定安全任務時的精確度?相較于傳統的單向生成模型?ChatGPT 具備更出色的上下文相關性理解能

8、力?并能夠基于上下文提供連貫的回復?通過采用迭代對話的方式?大模型可實現智能交互?有助于安全團隊更好地應對復雜的網絡攻擊和威脅?提升整體防御能力?同時?大模型的主動性和創造性可以在安全領域的工作中發揮重要作用?模型能夠主動搜索信息?提供信息?提出問題并引導對話的方向?例如發現威脅情報并分析可采取的安全措施等?這種能力支撐大模型成為安全團隊的有力助手?協助安全團隊開展安全運營等工作?3?安全行業大模型形成應用國內外安全廠商均已深刻認識到大模型在安全領域的應用價值?并持續投入研發安全行業大模型產品?海外安全廠商如 Palo AltoNetworks 推出了一款基于大模型的網絡安全防御系統?該系統能

9、夠自動化地檢測和防御各種網絡攻擊,包括惡意軟件?病毒?釣魚網站等?CrowdStrike 公司推出基于大模型的開源安全平臺?該平臺利用大模型技術對網絡流量進行實時分析?發現潛在的安全威脅并及時響應?有效提高了企業的網絡安全防護能力?在國內?安全廠商也積極探索大語言模型在安全領域的應用?例如 360 數字安全發布了 360安全大模型且已在 360 內部和自有產品完成落地應用?安恒信息推出了恒腦安全垂域大模型?奇安信集團推出 Q-GPT 和大模型衛士?7綠盟科技?天融信集團等廠商也推出相關產品?目前?各大廠商的安全大模型落地應用均以安全運維為核心?通過安全大模型結合已有產品?為企業提供更加全面?高

10、效的安全管理和運營服務?這些服務可以幫助企業及時發現和處理安全問題?減少安全風險和損失?提高企業的網絡安全防護能力?隨著技術的不斷進步和應用場景的不斷拓展?大模型在安全領域的應用將會更加廣泛和深入?8二安全大模型框架圖 1中國安全大模型框架數據來源?賽迪顧問2023?12?一?技術層 數據大模型的訓練中通常需要處理數十億甚至百億級別的數據量?且數據質量對于模型的質量和性能具有決定性的影響?網絡安全產業是知識密集型產業?涉及計算機科學?數學?通信技術?法律等領域?需要深厚的技術背景和廣泛的知識體系?由于安全領域涉及的問題復雜多變?通用大模型缺乏對于專業知識的深入理解?在安全任務上表現不佳?因此?

11、作為垂直領域的大模型?安全大模型不能僅僅依托于公開的通用型數據?而是需要基于安全領域的高質量數據?包括安全術語?日志?應急措施解決方案?漏洞及利用代碼?攻擊特征等安全知識儲備?再結合豐富的實戰攻防和重保經驗等進行訓練?只有足夠多的個性場景和基于這些場景的實踐經驗持續的投喂?才能持續為大9模型提供深入分析理解行業具體任務的能力?算力算力是基于芯片的人工智能發展的硬件基礎和平臺?安全大模型因其龐大的參數量和復雜的計算任務?需要強大的算力支撐?高算力能夠加快安全大模型的學習和收斂?提高模型的準確度等各項性能?增強模型的泛化能力?適應能力以及響應速度?直接影響到模型威脅檢測和防御效果?同時?龐大的計算

12、資源也能保障模型的穩定性?減少數據噪聲等情況對于模型性能的影響?算法預訓練加微調的方式能夠增強模型的泛化能力并實現與安全任務的適配?當模型參數數量龐大時?傳統的全參數調整方法會產生數量龐大的梯度?導致計算資源消耗巨大?甚至使得訓練過程變得不可行?因此?目前大多數安全大模型采用預訓練加微調的訓練方法?利用大規模的行業無標注數據?通過無監督學習預訓練模型的基座以提高模型的泛化能力?也可以通過增加監督精調的數據使行業大模型在預訓練過程中就學習到更多的知識?從而構建一個更全面?語義理解更準確的基礎模型?在基座模型構建完成后?再利用下游不同安全任務的有標注數據進行監督學習微調?實現下游任務的適配?微調的

13、過程是大模型能力生成的關鍵環節?需要通過對大量安全設備間數萬個API 接口任務進行不同領域的調用?這種預訓練加微調的訓練方式解決了傳統方法中參數數量龐大的問題?減少了訓練過程中的計算資源10消耗?提高訓練效率和模型性能?此外?分布式訓練能夠實現多節點并行?充分利用資源?提升推理速度?模型規模的擴大帶來了更高的精度和更深入的理解能力?然而也給硬件資源帶來了巨大的挑戰?單一的 GPU 或 CPU 設備在訓練效率上顯得捉襟見肘?無法滿足大型語言模型的訓練需求?通過分布式訓練?一個大模型可以拆分到多個計算節點上進行訓練?每個節點只需處理模型的一部分?從而充分利用多個計算節點的計算資源?避免單個計算節點

14、的計算資源過載?并減少了網絡傳輸的負擔?更多的硬件環境得以參與到模型的訓練中?使得參數量巨大的大型語言模型的訓練速度進一步提升?訓練過程更加流暢通順?為未來的大語言模型的研究應用奠定堅實的基礎?二?能力層 告警分析研判告警分析研判技術使模型能夠精準識別威脅?從而減少誤報和漏報的情況?大模型通過采集大規模?多渠道的碎片式攻擊或異常數據?包括惡意軟件?IP 地址?域名?URL 以及攻擊者的行為和手段等?集中進行深度融合?歸并和分析?形成與網絡安全防護有關的威脅信息線索?進而幫助安全專家了解網絡安全威脅的性質?來源和目的?同時?在此基礎上進行主動?協同式的網絡安全威脅預警?檢測和響應?有效降低平均威

15、脅檢測時間?MTTD?平均威脅響應時間?MTTR?縮短自由攻擊時間?降低網絡安全威脅的防護成本?提升整體的網絡安全防護效率?大模型還能夠根據歷史數據和實時數據進行分析?提11供更加全面和深入的告警分析研判?提高安全系統的效率和準確性?幫助企業和組織更好地應對各種安全挑戰?安全日志智能解析安全大模型的安全日志智能解析技術?是一種基于人工智能技術的日志分析解決方案?它利用先進的機器學習算法?對安全日志數據進行自動分類?聚類和異常檢測?從而能夠快速地識別出潛在的安全事件和攻擊行為?大模型基于更強大的自然語言理解能力?具有更高的效率和準確性?能夠大大減輕安全人員的工作負擔?提高企業的安全防護能力?同時

16、?還能夠提供詳細的日志解析和可視化報告?幫助安全人員更好地理解日志數據?還能夠為企業的安全決策提供有力的支持?對抗樣本生成安全大模型可以基于大模型的生成能力結合安全知識圖譜?來構造海量多樣化樣本?并利用這些模擬樣本進行模型的訓練?持續迭代優化檢測模型?從而更快地應對新的威脅方式?智能策略下發安全大模型的智能策略下發技術能夠實現高效?精準的策略部署?同時?還可以根據系統運行情況和安全威脅的變化?自動調整和優化安全策略?進一步提高系統的安全性和穩定性?降低了人為錯誤的風險?攻擊事件溯源結合以上成果所產出的關聯威脅情報?安全大模型的攻擊事件溯12源技術能夠有效地追蹤和識別網絡攻擊的來源?對攻擊方進行

17、組織畫像和溯源?同時?能夠提供詳細的攻擊路徑和動機分析?幫助企業及時發現和應對網絡攻擊?不僅可以對攻擊方進行組織畫像和溯源?利用威脅情報構建的攻擊知識庫?還能實現對 APT 攻擊的智能化攻擊意圖推理及樣本變種自動化跟蹤等?三?應用層 安全運營安全大模型在安全運營工作中能夠大幅提升高頻?重點場景的工作效率?實現自動化智能運維?傳統的安全運營方式通常依賴人工監控一系列日志和告警?通過綜合判斷和分析風險情況?使用對應的安全工具進行威脅處置和追溯分析?這種方式存在很多局限性?如運營效果不清晰?安全能力不直觀?威脅識別不準確等?而傳統的 AI 技術也一直在安全運維里持續投入?比如 XDR 希望實現自動化

18、檢測和響應?安全大模型則能夠扮演?安全運營專家?的角色?結合安全知識庫?首先可以形成 Copilot 助手類產品?通過快速理解和分析大量的日志和告警信息?提供中級安全分析師的能力來輔助研判?減輕告警疲勞?大模型也能和 XDR?SOC 等結合?形成自動化日志?告警?事件的處理能力?大幅提升運維效率?同時?它還能夠進行高級溯源分析以幫助企業了解攻擊的來源和路徑?安全態勢分析以及時發現潛在的風險點并進行安全事件預警?降低人工分析的門檻和成本?安全檢測及防御安全大模型在安全檢測及防御工作中能夠進一步提升速度和精13確度?提供業務大模型在實際場景中應用安全問題的解決方案?涵蓋入侵檢測?惡意軟件檢測?漏洞

19、掃描?暴露面監測等安全任務?在傳統病毒引擎基礎上?大模型基于行為分析?結合海量威脅情報后能實現未知威脅的檢測?大幅提升了傳統產品的檢測能力?主要應用在EDR?防火墻?APT 等產品?通過實時監控網絡流量和用戶行為?分析惡意軟件的特征?掃描系統和應用程序中的漏洞等?模型能夠及時發現并阻止惡意攻擊?提高系統的安全性?例如?安全大模型具備增強感知加密流量檢測?隱蔽通道檢測等能力?使防火墻及時發現并阻斷各類挖礦木馬?僵尸網絡?動態變種的 DGA 域名等活動?安全決策安全大模型的另一類應用場景是通過分析大量的安全數據?為團隊提供決策支持?例如在等保測試方面?安全大模型可以基于大模型的生成能力結合安全知識

20、圖譜?模擬黑客的攻擊行為?對系統進行全面的安全測試?使其企業能夠對網絡安全?應用安全?數據安全等方面的薄弱環節和潛在的安全隱患及時采取措施進行修復和改進?此外?在資產管理?上云準入檢測?知識問答等場景下?幫助團隊更好的應對安全挑戰?完成風險評估?三中國安全大模型廠商產品分析?一?重點企業及產品介紹1?360 數字安全360 安全大模型是基于 360 智腦?結合 360 近二十年的安全數據?通過蒸餾?繼續預訓練?有監督精調等一系列技術手段訓練的安14全行業大模型?360 智腦是 360 自主研發的千億參數中英文通用大模型?支持語義理解?摘要?總結?翻譯?寫作?代碼等多種技能?多項能力位列國產大模

21、型前列?在實際安全業務中?360 建立基于 360 安全大模型的智能體(Agent)系統?能提供目標理解?邏輯推理?效果評估和知識記憶等能力?支持連接?配置?驅動?協同各類安全工具產品?360 安全智能體由?1+6?組成?即一個核心大模型?360 安全大模型?六個關鍵組件?分別是任務編排引擎?任務生成引擎?監督評測引擎?指令調度引擎?記憶存儲?執行反饋等?360 安全大模型相當于?大腦?其他 6 個組件配合安全大模型提供規劃分解?任務執行?記憶增強等功能?360 安全智能體綜合利用 360 安全大模型的生成能力?以及專家的經驗?靈活自適應地編排任務方案?實現對安全工具的準確調用?從而形成自動化

22、安全運營的能力?目前?360 安全智能體已經突破了自動化威脅狩獵?自動化安全運營等場景的各難點步驟?如告警研判?攻擊鏈路繪制?威脅情報比對?受害者資產分析?攻擊者歸屬分析?溯源?安全報告生成等等?實現了場景自動化?即在威脅狩獵?安全運營等高價值場景?人類負責設定目標?提供資源和監督結果?安全智能體完成任務拆分?工具選擇和進度控制等?然后把執行結果返回給人類?可以顯著提升單個產品和系統整體的安全能力?并使安全運營效率最大化?2?安恒信息15安恒的?恒腦安全垂域大模型?是基于通義千問?Llama2?Ziya等開源通用大模型?結合多領域多場景的專業知識與經驗訓練出的安全領域通用大模型?該模型具備意圖

23、識別?指令轉譯?報告整編?檢索增強等能力?并在通用能力的基礎上進一步訓練了垂直領域的專有能力?在實際的安全業務中?安恒將具備海量告警降噪?威脅深度檢測?攻擊事件溯源?威脅精準告警等能力的安全運營模型接入了安恒首款大模型安全應用?安全運營平臺?該平臺在態勢感知及應急處置?安全檢測及分析防護?安全風險評估等場景下應用?有助于降低安全運營門檻?提升金融?能源?政府等領域客戶的運營效率?解決告警負擔大?安全專家短缺問題?通過使用傳統安全模型?需要處理的告警數量從 400 萬個降低至 8000 至 9000 個?而融入恒腦的安全運營平臺能夠將需要處理的告警數量降低至 18 個左右?在成都大運會和杭州亞運

24、會上?該平臺成功完成了安全運營任務?此外?安恒還推出了與安全大模型相關的數據安全產品?A 大夫數字安全醫院?旨在針對中小型企業建設的數字安全基礎設施?推進企業數字化轉型?降低數字安全建設成本?安恒對于安全大模型的設想主要關注以大模型為核心的多智能體發展?大模型產品不僅需要具備分析能力?還需要具備記憶?規劃以及使用工具的能力?例如?某一個智能體專門負責安全運營?完成安全運營專家的責任?更符合實際安全業務場景的需求?3?奇安信集團奇安信推出 Q-GPT?奇安信大模型?安全機器人和大模型衛士16兩款安全大模型相關產品?在訓練階段?Q-GPT 采用了 QPiece 算法等多項自主研發技術?支持中英文和

25、各種編程語言?同時?使用分組注意力機制來提高訓練和解碼速度?以適應安全運營場景的需求?在實際安全業務中?Q-GPT?奇安信大模型?安全機器人是一個基于大模型的?虛擬安全運營專家?具備智能研判?智能溯源?智能處置?智能報告?智能問答五大能力?可以顯著提升告警分析?研判等工作的效率?能夠實時?自動為客戶研判?全部告警?進行精準告警過濾?從而解決日常安全工程師面臨的告警疲勞?研判疲勞問題?并避免漏報和誤報?適用于安全運營?安全事件響應和攻防演習等實戰安全場景?為避免在大模型使用過程中可能出現的企業敏感數據泄露問題?奇安信同步推出了大模型衛士?針對大模型使用中的安全風險進行管控?奇安信對于安全大模型的

26、設想在于 GPT 產品如同一個高級安全專家隊伍?能夠成為企業自身的力量?替代安全專家執行復雜任務?4?綠盟科技綠盟風云衛大模型?NSFGPT?是基于海量安全專業知識構建的一套網絡安全運營輔助決策系統?涵蓋了安全運營?檢測響應?攻防對抗?知識問答等多種場景?目前應用最多的是作為安全運營助手copilot?在 2021 年?綠盟發布了智慧安全 3.0 理念體系?積累了千億級高質量打標簽數據的安全知識圖譜?向安全智能化邁進?風云衛大模型在威脅檢測?分析研判處置自動化以及滲透/評估自動化工作中顯著提升安全運營人員工作效率?例如?通過實時監控網絡流量?風云衛大模型能夠準確識別各種類型的網絡攻擊并立即采取

27、相應的17防御措施?對于潛在威脅和攻擊自動分析研判?使得高級威脅和復雜事件的分析研判響應時間從數天縮短至數小時?綠盟科技認為人工智能技術的應用將實現安全行業工業范式重塑?將重點關注通過風云衛大模型解決實戰態勢指揮調度?紅藍對抗輔助決策以及安全運營三大落地場景?5?深信服深信服自主研發的安全大模型?采用?大模型算法+威脅情報+安全知識?訓練而成?不依賴開源模型服務?通過深入學習海量的安全知識和深信服在威脅情報以及攻防技術領域的豐富經驗?由深信服自主訓練?在實際安全業務中?深信服安全 GPT 與可擴展檢測響應平臺 XDR 相結合?實現了安全檢測?告警分析?處置建議?自動研判以及漏洞排查等多項功能?

28、例如?能夠實時監測安全趨勢?精準識別出利用 AI 大模型生成的攻擊告警?并形成高度一致的攻擊 Payload?通過對話方式協助運營人員進行告警分析?解讀背后含義以及攻擊者意圖分析等安全事件調查工作?提升安全運營工作效率?深信服致力于將 GPT 能力更廣泛地應用到現有安全產品和服務中?推動 GPT 技術的實際應用?6?天融信集團天融信的天問大模型是基于前綴解碼器架構?結合天融信在網絡安全領域深厚的知識和技術積累所構建的一款安全垂直領域大模型?該模型基于開源通用大模型?采用預訓練加微調的訓練方式?并結合向量庫技術?以實現對網絡安全領域數據的高效處理?在實際安全業18務應用中?天融信利用大模型所提供

29、的強大語義理解能力?推出了智能客服問答系統?威脅情報查詢解讀等功能?提供快速?便捷的解決方案?天融信致力于提升天問大模型的檢測能力?分類分級?漏洞挖掘以及模型自身的安全性?將進一步推動大模型技術融入公司現有產品?如入侵防御?數據防泄漏?大數據分析?態勢感知等運營類?數據庫審計類?漏洞掃描類產品?以提升產品性能?7?啟明星辰集團啟明星辰安全大模型基于其在網絡安全領域的深厚積累?成功將大模型的豐富世界知識和強大的思維鏈能力融入網絡安全業務?該模型基于開源通用大模型?采用 LoRA 方法進行微調?并設計了大量優化后的 Prompt 模板以提高生成內容的質量?同時?啟明能夠借助移動云的算網優勢?將大模

30、型的訓練和推理部署在云端?既解決了自身的計算資源需求問題?也為未來借助移動云為云上租戶提供基于大模型的安全服務奠定了基礎?在實際安全業務中?安全大模型作為啟明面向安全運營業務的?PanguBot(盤小古)?升級版大腦?可充當安全運營人員的智能助手?同時通過安全運營人員在使用過程中的反饋結果?持續對大模型進行優化升級?確保其能力與安全人員的預期對齊?8?知道創宇知道創宇 AIGC 內容安全治理方案?以內容安全為抓手?建立完整的?科學的?工程化的 AIGC 有害內容偵測手段?防御手段以及反制手段?為各大內容廠商提供內容風控體系三大服務方案?AI 內容安全測評服務?從語言大模型的基礎能力?到專業領域

31、知識能力評估?19以確保其具備正確理解及分析各領域的能力和內容風控能力?AI 大數據標注服務?通過智能化平臺?人機協作?快速實現各類場景的精準細化的任務標注?AI 內容審核定制服務?可定制審核策略和審核機制?通過 API 調用引擎進行實時的違規內容攔截?知道創宇走在AI 時代的前沿?擁有豐富的 AIGC 風控經驗?清晰理解監管機構的要求?為各大互聯網內容平臺提供高效的解決方案?以確保平臺內容的合法性和合規性?二?廠商對比分析指標1?技術層指標 數據數據指標綜合考慮數據量?多樣性?準確性?完整性?實時性等方面?模型需要海量的高質量語料進行訓練微調以達到對各項安全任務的適配?與各大安全廠商業務數據

32、體量?樣本庫大小以及預處理數據量有直接關系?包括廠商是否建立了每一條數據的標簽?特征?關聯關系等?能否真正發揮已有數據的價值?算力算力指標從算力資源?存儲方案?網絡性能等維度進行考量?安全大模型作為參數量龐大的深度神經網絡模型?在訓練和推理的階段需要強大的計算能力作為支撐?與模型的參數量級?數據集大小?精調方式等相關?同時?模型的訓練需要大規模的存儲空間以及高性能的網絡支持?對象存儲?文件存儲等存儲方式的不同以及模型訓練所采用的網絡技術的不同將影響計算效率?20 算法算法指標從模型架構?訓練策略等維度進行考量?具體包括各大廠商選擇了哪些模型作為基礎模型?模型選擇策略?是否為自主研發?模型微調策

33、略?采用了哪些算法以及廠商是否具有傳統安全模型的經驗等?2?能力層指標 功能覆蓋度能力層指標的評估需考慮模型功能覆蓋度是否廣泛?包括模型自身的邏輯推理?多輪對話?意圖理解等基礎能力?以及安全日志智能解析?告警分析研判等專業領域能力?同時需考慮模型的復用性以及插件生態?判斷大模型平臺未來是否需要大量的重復勞動才能完善大模型平臺產品能力等?性能優越度性能的評估將圍繞模型自身的邏輯推理?多輪對話?意圖理解等基礎能力?以及安全日志智能解析?告警分析研判等專業領域能力?基于模型表現?評估模型的準確度?泛化能力?響應時間等?服務成熟度服務成熟度的評估需要考慮大模型服務的易用性?可擴展性?穩定性以及可解釋性

34、?這些維度決定服務能否滿足用戶的需求?以及能否在競爭激烈的市場中保持領先地位?3?應用層指標 安全運營場景21安全運營場景的評估包括從原始日志中提取到的有效告警?模型的研判能力?處置能力?溯源能力?運營效益以及整體運營效率的提升等?評估模型應用在 XDR 等平臺中作為安全運營人員的助手?在運營領域的應用效果?安全檢測及防御安全檢測及防御的評估包括與大模型主流應用的適配性?對流量和日志的檢測能力?數據加密及脫敏能力以及溯源能力等?評估模型在安全檢測及防御領域的應用效果是否優越?安全決策評估安全大模型在資產管理?等保測試?上云準入檢測?知識問答等安全風險評估場景的表現?可以從情報挖掘能力?響應時間

35、?易用性以及決策效果等方面進行考慮?圖 2中國安全大模型廠商對比分析22數據來源?賽迪顧問2023?12綜合來看?360 數字安全?安恒信息等廠商的安全大模型在行業內處于領先地位?從技術角度來講?360 數字安全在通用大模型等關鍵業務領域的布局?使其在數據和算力方面具有明顯優勢?此外?深信服等傳統網絡安全廠商憑借其豐富的產品線?為安全大模型的落地提供了更為多樣化的應用場景?在大模型領域?奇安信集團?安恒信息?啟明星辰等廠商積累了更多經驗?形成了相對完善的能力體系?此外?綠盟科技?天融信集團等企業也在逐步發力?加速安全大模型與現有安全產品的深度對接和融合?而在業務大模型的安全解決方案領域?知道創

36、宇?奇安信等廠商已經積累了豐富的經驗?掌握了一系列 AIGC 有害內容的偵測?防御和反制手段?保障業務大模型的安全性和穩定性?四中國安全大模型發展趨勢研判23安全大模型的能力不斷提升將為行業帶來的革命性的變化?并推動新的市場空間發展?作為具有較為標準的語言體系且涉及大量流程性工作的行業?網絡安全領域的企業應該抓住這次新技術的機遇?加快探索安全行業大模型的落地場景和應用方向?通過將自身網絡安全知識和技能以及網絡安全實戰場景和實踐經驗深度融合?推動大模型真正落地?解決網絡安全領域生產力短缺的問題?為企業的發展和行業的進步做出積極的貢獻?此外?大模型自身的安全問題逐漸受到更多關注?例如?惡意攻擊者可

37、能會利用大模型的漏洞?篡改模型參數或注入惡意代碼?導致大模型的輸出結果失真或被操控?這種?對抗性攻擊?使模型在未經授權的情況下被操控?可能導致嚴重的后果?給企業帶來重大損失?在進行大模型相關產品的創新與推廣過程中?安全廠商需要正視模型自身安全問題?加強對大模型的審查和測試?及時發現和修復模型中的漏洞?提高模型的安全性和可靠性?同時?安全廠商應關注模型的數據安全和隱私保護?防范大模型應用中數據投喂造成的敏感數據泄露?通過建立身份識別與溯源機制?數據加密?數據訪問權限限制?定期刪除或匿名化處理數據等手段對企業的大模型應用進行安全管控?以大模型應用安全作為生產力輸出的前提和基礎?加強模型的安全審查和

38、測試?及時發現并修復模型中的漏洞?才能真正幫助用戶實現企業安全防護的目標?增強用戶對安全大模型的信任度?解決廣大企業客戶對于大模型?想用不敢用?的顧慮?安全大模型的發展呈現以下趨勢?241?加速賦能現有安全產品目前?多數安全大模型的落地場景以基于公司現有產品的迭代升級為主?大語言模型最大的優勢在于自然語言的處理能力?通過引入大語言模型?產品的理解能力和交互能力得到了大幅提升?大語言模型的應用為涉及網絡安全語言體系的閱讀?理解以及生成的安全產品應用場景實現賦能?例如針對 Web 應用層的防護就涉及到對于語義的理解?當前?新技術迅速迭代并且攻擊者手法不斷創新?往往已有的攻擊行為尚未得到充分的分析和

39、判斷時就出現新的告警?由于安全人員的數量有限?海量告警無法得到有效的處理?導致告警疲勞且安全事件頻發?在安全大模型的支撐下?產品能夠快速地分析出來和人相同結論的告警?溯源出同樣結論的溯源結果?并能調用不同的工具去獲取結果并進行處置?有望解決安全告警疲勞難題?實現告警清零?同時?安全大模型通過學習大量的安全數據和攻擊模使產品更加智能化?實現自動化威脅檢測?攻擊快速隔離?惡意軟件清除以及系統恢復等功能?這些功能的提升有助于企業更好地應對網絡安全挑戰?提高自身的競爭力和市場地位?2?持續推動智能化安全運營當前?各大廠商的安全大模型主要應用于安全運營領域?傳統的安全運營模式需要大量的人工參與?進行分析

40、和處理安全事件?安全大模型在語義理解能力上的大幅提升使其在網絡安全日志的理解上具有天然優勢?通過 7*24h 持續有效的開展網絡安全保障工作?能夠高質高效的處理和分析大量的安全數據?及時發現和處理潛在的安25全威脅?減少安全事故的發生?在安全運營的某些階段性工作中?部分企業的安全大模型已經展現出可以媲美甚至超越安全運營人員的工作效率?未來?隨著技術的不斷進步和應用場景的不斷擴展?預計在安全運營領域對于人工干預的需求會有所下降?安全大模型將能夠自動化地完成更多的工作?為企業帶來降本增效的顯著優勢?3?逐步向智能體角色轉變與 ChatGPT 的問答對話形式不同?安全行業對于大模型的需求更加復雜多元

41、,同時網絡安全領域面臨著不斷變化和進化的威脅?需要有高度專業化的知識和技能來應對?未來?安全大模型的發展方向將更加趨近于?虛擬專家?能夠獨立思考并依靠中樞發布指令進行調度?與公司各個安全產品和工具進行互動?并通過指令指揮各類工具和系統來完成一項完整的任務?例如當檢測到惡意軟件攻擊時?虛擬專家?可以自動調度入侵檢測系統?終端安全管理系統等多個安全組件來協同作戰?共同抵御攻擊?同時?虛擬專家?還可以通過持續的學習和優化來提高自身能力?基于大量收集分析的網絡安全數據?不斷完善應對策略?4?安全培訓逐漸受到市場關注大語言模型的優勢在于自然語言處理方面的強大能力?非常適合應用于安全培訓?安全問答等場景?因此?預計未來更多安全廠商會將安全大模型結合網絡安全靶場?推出與安全教育?安全智能問答相關的產品?這些產品將能夠更好地幫助用戶學習和掌握網絡安全知識技能?同時通過智能問答系統輔助決策?快速解決用戶在網絡安全方