1、全球AI網絡安全產品洞察報告2 0 2 4 G l o b a l A I C y b e r s e c u r i t y P r o d u c t I n s i g h t s R e p o r tAI對于傳統網絡安全產品領域也產生了重大影響，對于未來安全產品的形態和發展趨勢有著不可替代的作用，以“AI”為核心的安全產品時代正在到來。全球網絡安全廠商正在持續發力AI安全產品的研究與落地，以及將AI的能力深度融合于安全產品體系之中，推動網絡安全行業智能化發展。FreeBuf咨詢的全球AI網絡安全產品洞察報告重點研究網安行業AI安全產品的市場規模、商業模式、發展挑戰等，對國內外AI安全

2、產品的競爭力進行全面評估，展望當前國內外AI安全產品的發展階段。本報告中的AI安全產品，主要有三種呈現形式，分別是AI安全助手產品、AI驅動的安全平臺、AI賦能安全產品，其中包括針對AI大模型自身的安全產品和解決方案。本報告將為市場提供網安行業AI安全產品格局的全面、客觀的見解。FreeBuf咨詢集結安全行業經驗豐富的安全專家和分析師，常年對網絡安全技術、行業動態保持追蹤，洞悉安全行業現狀和趨勢，呈現最專業的研究與咨詢服務，主要輸出四個種類的咨詢報告：行業研究報告、能力評估報告、產品研究報告以及甲方定制化報告。FreeBuf咨詢自成立以來，已積累了1500+甲方安全智庫資源，為行業研究報告、企

3、業咨詢服務提供指導。訪談上百位行業大咖，為業界輸出真實、豐富的安全管理價值與實踐經驗，具備超過80萬+精準用戶，直接觸達CSO、企業安全專家、投資人等專業人群。FreeBuf咨詢：楊雨翔 龔子程 宋丹丹 趙家鈺 天融信團隊：雷曉鋒 余小軍 于國強螞蟻集團團隊：翁海琴 劉焱 仲震宇 王宇 韋韜 王珉然 朱澤韜瑞數信息團隊：吳劍剛 鄧巧華 俞加鳴關于報告編者陣容關于FreeBuf咨詢人工智能（以下簡稱“AI”）是未來發展的重要技術。隨著機器算法、算力地不斷突破，AI技術進入飛速發展階段。同時，云、管、端、邊等基礎設施持續深入融合，在以5G、物聯網、數字化等新興技術為核心的“新基建”的加持下，萬物互

4、聯和數據積累持續加速，全面推動AI技術廣泛應用于千行百業，并且產生了具有革命性的深遠影響。網絡安全正是其中之一，且天然適合AI技術應用的行業。目前AI技術在網絡安全行業應用廣泛，包括網絡行為與威脅分析、安全事件管理、入侵檢測、安全漏洞治理、端點保護、安全知識問答、數據與文件分類等多個方面。更重要的是，AI對于傳統網絡安全產品領域也產生了重大影響，對于未來安全產品的形態和發展趨勢有著不可替代的作用，以“AI”為核心的安全產品時代正在到來。目前，全球網絡安全廠商正在持續發力AI安全產品的研究與落地，將AI的能力深度融合于安全產品體系之中，推動網絡安全行業智能化發展。2024年3月，Microsof

5、t Security Copilot正式發布，是全球首款真正意義上的AI安全產品，借助微軟龐大的全球威脅情報和每天數十萬億個信源提供的信息，以快速檢測、響應來幫助企業更好地應對當下日益嚴峻的網絡安全形勢。例如用戶可以向 Security Copilot 詢問特定時間段內的可疑用戶登錄情況；甚至可以使用它來創建概述事件及其攻擊鏈的 PowerPoint 演示文稿；還可以接受文件、URL 和代碼片段進行分析。同時，Security Copilot還提供了可視化的工具，安全人員能夠讓機器人一鍵生成演示文件，展示安全威脅的路徑。Microsoft Security Copilot的發布正式拉開了全球A

6、I安全產品的浪潮。國外知名網絡安全公司CrowdStrike、Palo Alto Networks、Fortinet等紛紛跟進，國內網絡安全廠商也不斷發布對應的AI大模型，時至今日，我們已經看到不少安全產品已經具有“AI”的能力。FreeBuf咨詢的全球AI網絡安全產品洞察報告重點研究網安行業AI安全產品的市場規模、商業模式、發展挑戰等，對國內外AI安全產品的競爭力進行全面評估，展望當前國內外AI安全產品的發展階段。本報告中的AI安全產品，主要有三種呈現形式，分別是AI安全助手產品、AI驅動的安全平臺、AI賦能安全產品，其中包括針對AI大模型自身的安全產品和解決方案。本報告將為市場提供網安行業

7、AI安全產品格局的全面、客觀的見解。AI安全任重道遠。作為網絡安全行業發展的觀察者，FreeBuf咨詢對于AI安全的發展將保持常態化觀察，也歡迎業界同仁共同參與進來，發現AI安全的價值。前 言001 PAGE002PAGE全球AI網絡安全產品洞察報告全球AI網絡安全產品洞察報告AI大模型存在安全風險AI大模型成為攻擊者的利器訓練數據的安全風險AI大模型自身的脆弱性外部網絡攻擊與風險CONTENTS目錄第一章AI推動網絡安全產業變革第二章AI安全發展的風險與威脅0102第三章全球AI安全市場概況與宏觀環境分析030203030204060606101011120507全球市場總體規模分析北美市場

8、規模領先歐洲AI安全產品市場需求旺盛中國AI安全產品市場發展迅速AI安全市場融資情況融資金額高融資活動全球化細分市場多樣化AI安全企業并購14161718191417國外AI安全產品分析安全助手產品AI驅動的安全平臺國內AI安全產品分析AI安全助手產品AI驅動的安全平臺AI賦能安全產品天融信AI大模型在金融行業安全運營場景 的應用實踐螞蟻集團切面融合智能在威脅檢測的應用案例背景問題與需求實施內容及效果關鍵成功因素實施收益與反響案例總結與推廣價值第四章全球AI安全產品主要產品形態第五章國內AI安全產品典型應用案例0405第六章全球AI安全發展趨勢與挑戰06212121222223案例簡介代表性成

9、果介紹應用背景及實施效果應用實施難度與復雜性市場影響力與推廣性23232425252123瑞數信息LLM平臺濫用下的AI應用安全防御案例背景應用場景與防護策略核心技術能力產品優勢實施收益與推廣價值2525262727252828282929AI對于安全產品具有革命性意義AI將成為網絡安全市場的新增長引擎以AI對抗AI的場景將愈發普遍AI自身的安全性將成為行業關注焦點AI存在合規挑戰01 PAGE02PAGE伴隨著AI及相關大模型產品的增多以及AI在攻擊方的快速運用，主打AI的網絡安全產品及服務將成為行業的主要競爭領域，能夠深度整合AI技術，不斷創新和優化安全解決方案的企業，將在未來的網絡安全市

10、場中占據領先地位。網絡安全領域的頭部廠商正在快速推出AI安全產品，以應對日益增長的網絡安全挑戰。尤其是在數據安全、入侵檢測、智能防護等方面，網安巨頭企業通過AI技術提高了安全防護的效率和智能化水平。隨著AI技術的不斷進步與成熟，AI在網絡安全中的應用場景越來越廣泛，涵蓋了從異常檢測到身份認證，再到自動化響應等多個方面，在網安領域的應用實例越來越普遍。AI對于網絡安全的發展產生了重大影響，不僅是指AI推動了技術創新和產業升級，被用于構建惡意檢測、攻擊識別系統，提升安全防御的智能化水平，降低響應時間，提高整體的安全防御效果。更是因為AI在與網絡安全深度結合的過程中，引入了大量全新、復雜的風險與威脅

11、，極大地降低了黑灰產與網絡犯罪的門檻，例如攻擊者可一鍵自動化生成高質量釣魚郵件。因此AI安全產品研究不能只關注AI和安全產品本身，也需要關注在不同業務場景下AI帶來的新威脅。具體來說，AI安全風險主要分為AI大模型自身安全風險和黑客利用AI大模型提升入侵效率和成功率兩部分。AI大模型存在的安全風險主要可以分為三類，分別是訓練數據的安全風險、大模型本身的安全風險和外部攻擊風險。AI推動網絡安全產業變革AI安全發展的風險與威脅以下列舉部分典型場景（一）AI大模型存在安全風險AI大模型可以模擬各種復雜的攻擊場景，快速發現系統中的漏洞和弱點，能夠幫助安全團隊優先處理高危漏洞，提供修復建議，并持續跟蹤漏

12、洞的修復進度，確保系統的安全性得到及時提升。在自動化滲透測試與漏洞管理方面相較于傳統安全防御難以應對快速變化的威脅環境，過度依賴規則匹配和簽名檢測，AI通過自主學習往往可以實現精準、實時的威脅檢測。這不僅提高了檢測效率，還顯著降低了誤報率和漏報率，為構建更加穩固的安全防線提供了有力支持。在實時安全預警方面AI大模型能夠自動化地整合來自不同源頭的異構數據，并進行必要的預處理，為后續分析奠定統一的數據基礎。通過關聯分析和特征提取，AI能夠識別出不同數據源間的相關性和潛在模式，從而有助于識別異常網絡行為和潛在的安全威脅。在關聯分析方面AI大模型能夠學習并理解用戶和設備的正常行為模式，一旦檢測到登錄失

13、敗次數過多、訪問敏感數據等異常行為，便會立即觸發警報，并可能自動采取隔離措施，防止潛在的安全威脅擴散。這種能力對于防范內部威脅和外部攻擊都至關重要。在用戶行為分析方面AI大模型訓練數據的質量直接決定了其實際能力，因此訓練數據在提升AI大模型的性能和應用效果中扮演著重要角色。訓練數據的形式通常包括文本、圖像、語音、視頻等結構化與非結構化數據。在實際訓練過程中，AI大模型訓練數據中往往包含敏感信息，且屢屢發生數據泄露事件，涉及的數據安全問題也隨之凸顯，包括個人隱私泄露、商業機密泄露等。訓練數據的安全風險AI大模型通過高效的算法和強大的計算力，能夠在海量安全數據中快速挖掘出有價值的情報信息，篩選、分

14、析和解讀數據，從中識別出潛在的安全威脅和異常行為，極大地提升了數據處理的速度和準確性，為安全分析和響應提供堅實的支撐。在數據處理方面AI大模型能夠整合來自多個數據源的信息，進行綜合分析，為安全團隊提供全面的安全態勢感知和決策支持。通過預測潛在的安全風險、評估不同安全策略的效果，AI大模型能夠輔助安全團隊做出更加明智的決策，提高整體的安全防護水平。在智能安全決策方面AI大模型可以構建和維護一個全面的安全知識庫，包括最新的漏洞信息、攻擊手法和防御策略等。這不僅可以為安全分析人員提供及時、準確的參考信息，還可以作為智能培訓系統的數據源，通過模擬實戰場景、提供個性化學習路徑等方式，幫助安全人員不斷提升

15、技能水平。在知識庫與培訓體系優化方面通過不斷引入新的技術和方法，AI大模型為網安行業帶來了更多的可能性和解決方案，促進整個行業的快速發展和進步。AI大模型在網安行業的應用推動技術創新和產業升級全球AI網絡安全產品洞察報告03 PAGE04PAGE以下是AI大模型訓練數據泄露的安全風險：1）數據泄露AI大模型在訓練過程中可能會泄露訓練數據中的敏感信息。攻擊者可以通過模型的輸出推斷出訓練數據的內容，或者利用模型的漏洞獲取未經授權的數據訪問。例如，模型可能會在輸出中無意間泄露訓練數據中的個人信息或其他敏感數據。其次，攻擊者可以在不接觸隱私數據的情況下，利用模型輸出結果等信息來反向推導出用戶的隱私數據

16、。這種攻擊可以通過模型的輸出向量來恢復訓練數據或者預測數據中的圖像，導致用戶的肖像信息或其他敏感信息被泄露。2）數據投毒數據投毒是AI大模型面臨的一種嚴重的安全威脅，它涉及在訓練數據集中故意引入錯誤或虛假的數據，以誤導模型并產生錯誤的預測結果，從而影響模型的訓練效果和最終輸出，會對AI系統的可靠性、穩定性和安全性造成嚴重影響。典型數據投毒的形式如下：惡意數據注入：攻擊者故意向訓練數據集中注入錯誤或虛假的數據，以誤導模型。這些數據可能包括具有誤導性標簽或特征的數據，導致模型學習到錯誤的知識。惡意數據注入是一種直接且有效的攻擊手段，能夠顯著提高模型的錯誤率，影響其在實際應用中的表現。數據篡改：攻擊

17、者篡改現有數據集中的某些數據，例如修改圖像、文本或音頻文件。這種攻擊通常針對標簽數據，通過更改標簽來誤導模型。數據篡改能夠直接影響模型的輸出結果，導致模型在各種應用場景中表現不佳。數據污染：攻擊者通過控制數據源或數據傳輸過程，使數據集受到污染。這種污染可能包括注入惡意數據、數據損壞等。數據污染是一種隱蔽的攻擊手段，能夠在模型訓練過程中不被察覺，但其影響可能在模型部署和運行時顯現。3）數據版權根據生成式人工智能服務安全基本要求，人工智能的訓練數據主要來源于開源語料、自采語料、商業語料、使用者輸入信息語料，其可能存在大量安全風險。開源語料：雖然開源語料的數據集公開可用，但可能包含受版權、商標、專利

18、或其他知識產權法律保護的元素，該語料無法保證知識產權清潔性。商業語料：是指開發者與數據提供商簽訂協議后獲得的內容，但這部分內容通常難以追根溯源，確保每項內容都有準確授權。自采語料：是指開發者利用爬蟲技術獲取的網絡信息，其爬取的內容受相關網絡平臺政策的影響，若出于商業產品開發使用目的，則依然可能存在不正當競爭的風險。用戶輸入信息語料：是指用戶在使用AI大模型過程中輸入的信息，其中包括個人敏感信息和公司敏感數據，被AI大模型調用后可引發嚴重的安全風險。通過AI大模型，攻擊工具能夠自動學習、適應和進化，攻擊者無需手動編寫復雜的代碼或策略，即可發起高效、精準的攻擊，這使得網絡攻擊相較于以往更加容易實施

19、且難以防范。以下列舉部分使用場景：高效生成惡意內容：AI大模型能夠快速地生成看似合理且難以區分的欺詐性文本、電子郵件和網站。例如，FraudGPT就是黑客借助開源模式模仿ChatGPT等合法模型，基于有害語料庫訓練而生的、專門用于網絡犯罪、詐騙等非法行為的一類非法大模型。據國際安全研究團隊Perception Point與Osterman Research此前聯合發布的人工智能在電子郵件安全中的作用報告顯示，網絡罪犯正在迅速采用AI工具以推動其利益，而有91.1%的組織稱他們已遭受到了被AI增強的電子郵件攻擊。自動化漏洞利用：大模型對編程語言和軟件漏洞的深入理解，使得攻擊者能夠更快速地識別并利

20、用這些漏洞。通過自動化掃描和測試，攻擊者可以更加高效地發動攻擊，對目標系統造成破壞。此外，基于大模型的攻擊手段還可能更加隱蔽和難以檢測，增加了防御難度。深度偽造與身份冒充：AI大模型在圖像和聲音處理方面的能力也為攻擊者提供了新的偽造手段。利用這些技術，攻擊者可以創建逼真的虛假圖像、視頻和音頻文件，進行深度偽造，冒充他人身份進行詐騙或傳播虛假信息。根據德勤的最新報告，與深度偽造相關的網絡攻擊損失預計將從2023年的123億美元飆升至2027年的400億美元，復合年增長率達到驚人的32%，其中，銀行和金融服務業將成為主要目標。報告顯示，作為對抗性AI攻擊的典型代表，深度偽造攻擊僅去年一年就暴增了3

21、000%。復雜攻擊策略的制定：大模型所具備的邏輯推理和策略規劃能力，使得攻擊者能夠設計出更加復雜和難以預測的攻擊策略。這些策略可能涉及多個步驟、多個目標和多種攻擊手段的組合，增加了防御的復雜性和難度。攻擊者借助AI大模型的泛化能力，還可以將針對特定目標的攻擊策略迅速擴展到更廣泛的范圍。通過自動化工具和腳本，攻擊者可以同時對多個目標發起攻擊，迅速擴大攻擊范圍，增強攻擊的影響力。定制化攻擊：定制化攻擊策略，也是AI大模型為攻擊者提供的“超能力”，攻擊者能夠借此利用目標網絡的特點、用戶習慣等信息，動態生成定制化的攻擊策略，使得攻擊更加難以被檢測和防御。這種個性化的攻擊方式極大地提高了攻擊的成功率。資

22、源的程度，并導致系統崩潰。類似的攻擊形式還有tokens攻擊。武器化模型：是指將人工智能模型或機器學習模型應用于惡意目的或攻擊性行為的過程。通常情況下，這種行為是非法且具有破壞性的，旨在侵犯隱私、破壞系統、欺騙用戶或其他惡意活動。武器化模型可以被用于各種攻擊場景，例如在釣魚攻擊中，可使用自然語言處理模型生成欺騙性的電子郵件或社交媒體消息，以誘騙用戶提供個人信息或執行惡意操作。倫理與歧視風險：基于商業秘密保護等原因，人工智能存在“算法黑箱”，使得算法可解釋性不強，輸出結果的公正性難以被證成，這有違基本的程序正義要求。同時訓練過程中也會吸收并放大訓練數據中的偏見導致在處理特定問題時對某些群體產生不

23、公平對待，并且隨著時間的推移，歧視風險可能會不斷升級、疊加。安全合規風險：全球各國政府陸續出臺相關法規，對AI大模型提出新的合規要求。例如中國發布生成式人工智能服務管理暫行辦法，旨在促進生成式人工智能健康發展和規范應用。新的法規要求AI大模型在開發、部署和使用過程中必須遵守更嚴格的安全和隱私標準，增加了AI大模型的合規風險。同時，AI技術的快速發展可能使得現有的法規難以跟上技術變革的步伐，導致合規風險的不確定性增加。（二）AI大模型成為攻擊者的利器全球AI網絡安全產品洞察報告與AI大模型快速發展、應用不同的是，AI如今仍然面臨著大量的外部攻擊風險。由于大模型自身存在脆弱性，對安全風險的防范能力

24、不足，容易受到指令攻擊、提示注入和后門攻擊等惡意攻擊。尤其是在政治、軍事、金融、醫療等關鍵的涉密應用領域，任何形式的惡意攻擊都可能造成嚴重的后果。外部網絡攻擊與風險以下列舉幾種較為典型的外部攻擊和安全風險：海綿攻擊：是指攻擊者通過針對海綿結構的弱點來破壞其安全性。攻擊的目標是從給定的輸入中生成具有特定性質的輸出。攻擊者通過選擇恰當的輸入數據和進行特定的修改來實現這一目標，以及通過觀察輸出數據的反饋信息來指導修改進程。CalypsoAI的首席執行官Neil Serebryany稱，該攻擊試圖讓神經網絡使用更多的計算，以達到可能超過系統可用計算05 PAGE06PAGE惡意AI大模型：AI大模型由

25、于存在安全控制措施，并不能直接被用于惡意活動，但在2023年卻誕生了專門被用戶黑客攻擊/入侵的惡意AI大模型，包括WormGPT和FraudGPT在內的最受歡迎的黑暗聊天機器人的銷售在黑暗的網絡上激增。據ThreatLabz研究團隊發布報告，這些惡意AI大模型使用門檻低，功能十分齊全，可以用于創建，測試一下或優化任何種類的惡意代碼，包括惡意軟件和勒索軟件等。隨著人工智能相關技術的快速發展，AI已經逐漸成為網絡安全領域的重要驅動力。AI技術在網絡安全產品中的應用，不僅提升了產品的防護能力，還為網絡安全帶來了全新的視角和解決方案。例如賦能傳統威脅檢測，使其能夠自動分析網絡流量，識別異常行為；強化自

26、動化響應與處置，AI技術可以實現對事件的自動分類和分級，并根據預設的策略自動采取相應的處置措施等。IDC最新發布的全球未來信任十大預測中國啟示報告也指出，到2025年中國40%的2000強企業將在其安全運營中心中基于第一方數據部署GenAI，以便輔助高級分析師進行檢測和響應工作，并同時解決幻覺、偏見、隱私和強化學習等問題。2024年全國兩會期間，“人工智能+”首次被寫入政府工作報告。報告提出，深化大數據、人工智能等研發應用，開展“人工智能+”行動，打造具有國際競爭力的數字產業集群。此次“人工智能+”行動的提出，預計也將為人工智能技術在各行業的廣泛應用開啟新篇章，人工智能的重要性正在逐步提升。A

27、I技術在網絡安全領域的應用為行業帶來了新的商業機會。許多企業和機構開始尋求基于AI的安全解決方案，以提升自身的網絡安全防護能力。未來隨著技術的不斷進步和應用需求的持續增長，全球AI安全產品市場將迎來更加廣闊的發展前景。目前全球AI安全產品市場還處于初級階段，相關安全大模型的應用主要聚焦在安全檢測、安全運營、數據安全等領域，在金融、大型制造業、互聯網等多個行業落地，其發展勢頭較為迅猛，市場規模不斷擴大，競爭格局日趨激烈。而隨著網絡攻擊手段日益復雜和頻繁，企業對網絡安全的需求不斷增長，推動了對AI驅動的安全解決方案的需求增加。根據Marketsandmarkets報告，全球網絡安全人工智能市場規模

28、在2023年達到224億美元，并預計到2028年將達到606億美元，復合年增長率達到21.9%。根據ResearchAndMarkets報告預測，2030年全球網絡安全中AI產值將突破千億美元，年復合增長率達到25.7%。這表明AI網絡安全產品正受到越來越多企業和組織的青睞，市場需求強勁。2025年之前，AI自動執行日常事件響應任務將成為主流，縮短響應時間，最大限度地減少手動錯誤，同時整合可解釋的Al，以提高透明度，促進更好地了解威脅檢測機制。2028年之前，網絡安全企業將能夠更多地使用聯合機器學習模型進行協作威脅情報。2030年之前，AI將與數據安全能力緊密結合，以確保敏感數據的保護和數據交

29、易的安全。（一）全球市場總體規模分析全球AI網絡安全產品洞察報告全球AI安全市場概況與宏觀環境分析從行業應用來看，目前AI安全已經在通信、能源、金融、教育、醫療、關鍵基礎設施等行業具有落地方案，并在某些方面開始發揮出人工無法替代的重要作用，例如自動處理告警信息、自動化識別網絡威脅、自動化威脅響應、敏感信息保護等。從地域分布來看，北美地區占據全球AI安全產品市場的最大份額，其次是歐洲和亞太地區。中國、日本和印度等國家的AI安全產品市場需求增長迅速，成為推動亞太市場增長的主要動力。北美地區預計將繼續保持全球最大的AI安全產品市場地位，北美AI安全產品市場規模巨大，這主要得益于其在技術創新、資金投入

30、和政策支持方面的優勢。隨著全球對AI安全需求的不斷增長，北美市場預計將繼續保持領先地位。北美AI安全產品市場的主要參與者包括微軟、思科、博通、Palo Alto Networks、Fortinet、CrowdStrike、Cloud-flare、Zscaler、Netskope等。主要參與者通過收購、合作和技術創新等手段，不斷提升自身的市場競爭力和市場份額。例如，思科收購Splunk，微軟與IBM達成廣泛合作，CrowdStrike收購數據安全態勢管理公司Flow Security等。競爭格局的激烈使得市場中的主要參與者不斷尋求新的增長點和競爭優勢，有助于推動整個行業的發展和創新。北美市場規模

31、領先近年來，歐洲AI安全產品市場需求旺盛，主要驅動因素包括歐盟人工智能法案的實施、企業對網絡安全投資的增加、生成式AI技術的應用，以及數據安全和隱私保護的需求提升。網安法規驅動市場需求：2024年5月1日，歐盟人工智能法案正式生效，對AI系統的安全性提出了嚴格要求，從而推動了AI安全產品市場的發展。數據安全和隱私保護的需求提升：隨著企業和個人對數據安全和隱私保護意識的增強，對AI安全產品的需求也隨之增加。2023年12月，“數字歐洲計劃”正式被提出，歐盟委員會為包括網絡安全和人工智能在內的數字解決方案提供了 7.627 億歐元的資金。隨著數字歐洲計劃加速實施，對于AI安全產品的需求也將更加旺盛

32、，例如包括部署數字化安全運營中心網絡，將使用AI安全技術或以提升對網絡威脅的監測和響應能力；進一步完善人工智能實驗及測試設施，支持人工智能技術的研發等，將進一步刺激AI安全市場的需求。歐洲AI安全產品市場需求旺盛Check Point 與 Vanson Bourne聯合發布的市場調研報告顯示，AI在網絡安全領域應用效果明顯，其中接近50%的亞太地區網安管理層表示，AI 可簡化安全運維和資源分配，這一比例在全球三大地區中位居首位。雖然AI大模型在國內網絡安全領域的應用還處于初階，但是已經展現巨大發展潛力，眾多廠商推出了集成AI技術的網絡安全產品，已經在各行各業中落地，AI安全產品市場發展迅速，呈

33、現出“多強競爭”的格局。眾多老牌廠商包括天融信、360、奇安信、安恒信息、迪普科技、綠盟科技、深信服科技、微步在線、火山引擎、華為等都已發布了相應的網絡安全AI大模型或AI安全產品。例如將AI大模型能力深度融合于防火墻、入侵檢測與防御、Web應用防火墻、DDoS緩解、零信任網絡訪問等此前已經成熟的網絡安全產品之中，進一步提升相關產品在自動化、準確度、效率等方面的效果。國內知名安全廠商天融信是國內AI安全產品的主要玩家之一，一直積極探索“AI+安全”的融合創新發展，基于“平臺、產品、場景”構建企業級AI安全能力體系，將大模型、小模型、機器學習等AI技術能力與網絡安全產品深度融合，實現 AI 對威

34、脅檢測、安全運營、知識問答和算力管理等應用場景的全面賦能。中國AI安全產品市場發展迅速07 PAGE08PAGE通用AI大模型在網絡安全行業也有廣泛的應用。例如螞蟻集團AI大模型可應用于威脅識別、態勢感知、風險評分、惡意檢測等方向，提升網絡網絡空間智能安全整體防護水平。政策法規層面，目前各國政府對AI安全的重視程度不斷提高，出臺了一系列法規和標準，促進了AI在網絡安全領域的應用。中國2023年10月發布生成式人工智能服務管理暫行辦法，這也是中國針對生成式AI服務的首個法規，要求生成式人工智能提供商在提供面向公眾的服務時必須獲得許可。該辦法旨在規范生成式AI服務，保護用戶隱私和數據安全。美國在2

35、023年1月發布了人工智能風險管理框架，旨在對人工智能系統全生命周期實行有效的風險管理。該框架將可信度考量納入設計、開發、使用和評估AI產品、服務和系統中，并基于其他機構的AI風險管理工作，確保制定過程的公開、透明。2024年8月，歐盟人工智能法案將正式生效。這是全球首個全面監管人工智能的法案，旨在實現與通用數據保護條例（GDPR）相同的“布魯塞爾效應”。該法案對人工智能系統進行了分類，并根據風險等級制定了相應的監管要求。2023年，全球網絡安全行業投融資情況不容樂觀。根據網絡招聘公司Pinpoint Search Group的報告，2023年全球網絡安全行業共進行了346輪融資和91筆并購（

36、M&A）交易，投資總額為87億美元，比2022年的145億美元減少了40%，下降幅度較大。2023年第四季度的跌幅尤為明顯，初創公司僅籌得16億美元，創下自2018年第三季度以來的最低水平，當時網絡安全公司僅籌得13億美元。2023年第四季度只有三家網絡安全初創公司的單輪融資超過1億美元。這里面既有市場在經歷了2021年融資激增后回調的原因，也反映出投資者開始趨于謹慎，對項目的選擇和評估更加嚴格。其中，人工智能、零信任、數據安全、智能汽車等方向受到市場青睞，隨著數字化轉型的推進，網絡安全需求在不斷擴展，特別是在人工智能等新興技術中的應用。這意味著AI是網絡安全領域中最熱門且最有想象空間的投資方

37、向，并在2023年獲得了新的增長。FreeBuf咨詢根據公開數據統計發現，2022年，全球AI安全的融資額約為2000萬美元左右；2023年，AI安全融資迎來了爆發期，融資總額約為2億美元，同比增幅高達1000%。2023年人工智能安全的融資額顯著增長，主要得益于AI技術的突破性發展，在促進網絡安全產品聯動、自動化方面有著巨大的優勢，可實現安全威脅實時檢測和自動化處理，有效提升了網絡安全產品的能力。其次是出于對AI大模型自身安全性的擔憂，隨著ChatGPT等AI工具的廣泛流行，以及AI大模型數據泄露事件、AI大模型越獄事件等屢屢出現，導致市場對大模型自身的安全性的需求激增。Gartner的研究

38、預測指出，由于生成式人工智能（GenAI）引入了新的攻擊面，為提供相關防護，企業機構必須對應用和數據安全實踐以及用戶監控進行變革。到2025年，GenAI的采用將導致企業機構所需的網絡安全資源激增，從而使應用和數據安全支出增加15%以上，進一步拉動了網絡安全相關需求。2024年，AI+網絡安全（AI安全）依舊是行業融資最熱門的領域。FreeBuf對公開數據進行整理分析后發現，截止7月31日，全球AI安全共進行了102輪融資交易，投資總額為超過10億美元，同比2023年增幅達到500%，預計在2024年下半年還有大量AI安全企業將活動融資，2024年總融資金額或接近20億美元。全球AI網絡安全產

39、品洞察報告（二）AI安全市場融資情況AI網絡安全企業融資表國家地區企業名稱中科睿鑒云起無垠瑞萊智慧路為科技木衛四中科睿鑒深可信云掌數科技锘崴科技AI反欺詐安全智能體AI安全云原生車聯網安全AI偽造檢測安全解決方案金融行業大數據平臺隱私計算未披露天使+輪戰略融資股權融資Pre-A輪股權融資未披露未披露未披露近億元數千萬元未披露未披露數千萬元未披露未披露未披露未披露CyeraCorelightHuntressBugcrowdCyberhavenCowbellProtect AITranscendSeven AISafeBaseWitnessAISOCRadarCyberSaint Security

40、Credo AIKindoAletheaXBOWLakeraAim SecurityLightBeam.aiAxion RayPatronus AIDropzone AIAndesite AIApptegaBolster AIAurascape AlStrikeReadyProphet SecurityRekenBedrock SecurityAllure Security Technology數據安全NDR安全運營安全服務數據安全網絡保險AI安全隱私安全安全運營AI GRC自動化AI安全XTI&DRP網絡風險管理AI安全AI SSPM輿情監測AI滲透測試LLM漏洞防護AI安全零信任AI可觀測

41、LLM安全AI安全運營安全分析平臺安全合規平臺反釣魚AI安全AI+SOCAI安全運營AI安全數據安全DRPC輪E輪D輪C輪C輪B輪B輪種子輪B輪A輪B輪種子輪B輪股權融資B輪種子輪A輪A輪A輪A輪A輪A輪A輪未披露B輪種子輪A輪種子輪種子輪種子輪A輪3億美元1.5億美元1.5億美元1.02億美元8800萬美元6000萬美元6000萬美元4000萬美元3600萬美元3300萬美元2750萬美元2520萬美元2100萬美元2100萬美元2060萬美元2000萬美元2000萬美元2000萬美元1800萬美元1780萬美元1750萬美元1700萬美元1685萬美元1520萬美元1500萬美元1400萬

42、美元1280萬美元1200萬美元1100萬美元1000萬美元1000萬美元1000萬美元中國美國業務方向輪次融資金額09 PAGE10PAGE全球AI網絡安全產品洞察報告國家地區企業名稱TrojAIArmilla AIAllHeart WebPindrop SecurityClarityAim SecurityAI治理AI安全數字風險防護DRPAI鑒偽AI安全AI安全種子輪未披露種子輪債務融資未披露A輪580萬美元450萬美元10萬美元1億美元1600萬美元1000萬美元SimbianNova MicrosystemsCultureAIAbstract SecurityAverlonDymiu

43、mGoodfireP0LiminalPrompt SecurityAirMDRZEST SecurityPromptfooRagaAIRedcoat AITrustwise AIHydroX AICorisKnosticAmplifier SecurityHoundDog.aiSydeLabsBricklayer AIEnkryptResonance SecurityGuard Dog SolutionsPromptArmorHolistic AITraceableHarmonic SecurityVelotixVidoc Security LabAlmanaxBlackbird.AIHaiz

44、e LabsVorlonAI安全數據安全風險管理平臺AI驅動SIEMAI安全數據訪問控制AI可觀測性開發安全AI治理AI安全MDRAI驅動云安全AI應用漏洞修復AI安全AI安全AI安全AI安全風險評估AI訪問控制AI安全自動化數據安全AI安全安全運營AI治理Web2/Web3安全評估安全運營AI安全AI治理API 安全AI安全DSPsAI代碼安全區塊鏈安全虛假信息對抗AI安全API安全種子輪未披露A輪種子輪種子輪種子輪種子輪種子輪種子輪C輪種子輪種子輪種子輪未披露種子輪種子輪天使輪種子輪前種子輪Pre種子輪種子輪種子輪預孵化資金種子輪Pre種子輪未披露Pre種子輪風險輪未披露種子輪未披露種子輪

45、前種子輪戰略投資未披露A輪1000萬美元1000萬美元1000萬美元850萬美元800萬美元700萬美元700萬美元650萬美元過500萬美元500萬美元500萬美元500萬美元500萬美元470萬美元424萬美元400萬美元400萬美元370萬美元330萬美元330萬美元310萬美元250萬美元250萬美元235萬美元150萬美元100萬美元50萬美元未披露未披露未披露未披露未披露未披露未披露未披露未披露美國加拿大以色列業務方向輪次融資金額國家地區企業名稱DeepKeepPVMLSeal SecurityApexUpstream SecurityAI安全數據訪問平臺軟件供應鏈安全AI安全車聯

46、網安全種子輪種子輪未披露種子輪戰略融資1000萬美元800萬美元740萬美元700萬美元未披露XensamCyber UpgradeBotGuard OMindflowRedactive AINullifyStealthMoleOnumNymizCynomiqomodoTinesTreacle TechnologiesDANAYA安全運營安全運營Anti-BotSOARAI DLP開發安全暗網情報可觀測性隱私數據安全運營工控安全安全流程自動化欺騙防御LLM身份驗證未披露未披露A 輪種子輪種子輪種子輪A 輪A 輪種子輪A輪Pre種子輪B輪種子輪Pre種子輪4000萬美元65萬歐元1200萬歐元5

47、00萬歐元750萬美元520萬澳元700萬美元2800萬美元280萬歐元2000萬美元130萬英鎊5000萬美元4億盧比75萬歐元表：2024年全球AI安全企業融資情況以色列澳大利亞新加坡西班牙英國愛爾蘭印度科特迪瓦瑞典立陶宛愛沙尼亞法國業務方向輪次融資金額從2024年全球AI安全企業融資情況表可以發現，AI安全創業公司十分活躍，資本市場對該領域未來的發展持續看好，并呈現出以下特點：從融資金額來看，大額融資金額高，小額融資數量分散。從上表中可以看到，Cyera以3億美元的C輪融資金額位居首位，其次是Corelight和Huntress，均獲得了1.5億美元的融資。這三家企業均來自美國，且業務方

48、向主要集中在AI+數據安全和AI+安全運營領域。中國中科睿鑒融資金額接近1億美元關口，融資輪次未披露，其主營業務是AI反欺詐。除了大額融資外，還有大量企業獲得了數百萬至數千萬美元的融資。這些企業涵蓋了AI+隱私計算、AI+車聯網安全等多個領域，顯示出AI安全領域的投融資活躍度。這些初創企業在早期階段就能獲得相對較高的融資金額，顯示出投資者對其未來發展的信心。從投融資輪次分析，種子輪和天使輪融資事件占比較高。這表明AI網絡安全領域仍處于快速發展階段，大量初創企業涌入該領域尋求發展機會。但隨著AI網絡安全市場的不斷成熟，部分企業開始進入A輪、B輪等中后期融資階段，這些企業通常已經在市場中取得了一定

49、的份額和影響力，正在尋求更多的資金支持以加速發展。這反映出市場對企業發展速度和規模的要求逐漸提高。除了傳統的股權融資外，部分企業還通過債務融資等方式籌集資金，顯示出AI網絡安全企業在融資方式上的多樣性和靈活性。融資金額高從地區分布來看，硅谷、北京、上海等國際大都市已經成為AI網絡安全領域的重要集聚地，這些地區匯聚了大量的創新資源和人才優勢，為企業的發展提供了良好的環境和條件。融資活動全球化11 PAGE12PAGE全球AI網絡安全產品洞察報告風險預測與策略優化：AI技術通過分析歷史攻擊數據和網絡安全日志，預測未來可能面臨的安全風險，幫助安全運營團隊提前做好準備，調整防御策略智能化的安全保障：A

50、I技術使得安全保障系統能夠動態地學習和適應不斷變化的威脅環境，通過深度分析網絡流量和用戶行為，更準確地識別出潛在的威脅數據安全是AI安全投融資熱度第三的細分方向，占總投融資事件比例達到8%。一方面，AI的發展帶來數據安全問題，包括大規模數據采集與個人隱私風險，AI對數據的依賴性及其衍生問題；網絡攻擊與數據泄露，數據篡改與AI模型的安全性等。另一方面，AI可進一步賦能數據安全，包括提升數據分類分級的效率，對結構化和非結構化數據進行處理；通過對進出口流量的識別來強化數據安全管控；借助數據匿名化與差分隱私技術，強化網絡安全措施與加密技術等。AI正在滲透至安全各個細分領域，包括反欺詐、車聯網安全、云原

51、生、漏洞檢測、NDR等，獲得資本市場的認可。從2022年2024年7月，AI安全投融資總金額持續攀升，表明市場與資本對AI安全強烈看好，在當下全球網絡安全行業投融資不足的背景下，AI安全的火熱融資情形更加凸顯出未來市場具有龐大的想象空間。AI技術持續推動網絡安全領域的技術創新。作為全球網絡安全行業新興技術的風向標，RSA Conference創新沙盒大賽一直備受關注。2023年和2024年RSA Conference的創新沙盒大賽冠軍都是AI安全初創企業，分別是HiddenLayer和Reality Defender，表面網絡安全行業對于AI安全技術發展趨勢的認可。HiddenLayer 是機

52、器學習算法和模型安全解決方案的提供商，成立于 2022 年。該公司基于輕量化的軟件平臺方案和AI大模型的能力，提供針對機器學習系統的威脅建模、機器學習的風險評估、人工智能/機器學習的模型掃描等服務，實現定制化的攻擊面識別、攻擊防護、攻擊模擬等功能。Reality Defender是一家專注于利用人工智能技術檢測深度偽造和AI生成的媒體內容的初創企業。該公司的創新技術主要是深度偽造檢測工具和多模型方法，前者可實時識別AI合成與深度偽造的欺詐、虛假信息和有害內容，包括文本、圖像和音視頻等；后者對深度偽造檢測平臺和API對人工智能生成媒體的平臺具有強大的抵御能力，使團隊能夠實時識別欺詐、虛假信息和有

53、害內容。從國家分布來看，AI網絡安全融資呈現出一超多強格局。美國以絕對的企業融資數量成為AI網絡安全領域投融資最為活躍的國家。這主要得益于美國科技創新體系、金融市場成熟度、研發資源豐富度及開放創新文化。頂級高校與研究機構提供人才儲備與知識產出，硅谷等創新高地匯集全球活躍風投，形成良好投融資生態。因此，強大的科技創新能力、完善的市場環境和配套的政策支持是美國AI網絡安全投融資活躍的主要原因。中國在AI網絡安全領域的發展勢頭強勁，包括中科睿鑒、云起無垠、木衛四等多家公司獲得了大額融資，顯示出資本市場對于AI網絡安全的看好。其中中科睿鑒融資金額近億元，達晨財智資本領投。中科睿鑒致力于運用AI技術賦能

54、數字內容安全。圍繞全類型偽造檢測、多模態數據生成、內容合規審核等核心技術，布局了“模型-數據-算力”的AI基礎設施，面向國家、行業、個人安全場景，提供音視圖文全棧全類型鑒偽技術和產品服務。資本市場的活躍與中國對科技創新的大力支持和龐大的市場需求密不可分。政策方面，中國陸續出臺了新一代人工智能發展規劃促進新一代人工智能產業發展三年行動計劃（2018-2020年）關于加快推進人工智能創新應用的指導意見等多部重要意見，設立科技創新2030“新一代人工智能”重大項目，各地方政府設立相關產業投資基金，引導社會資本投入人工智能領域。需求方面，隨著中國經濟的快速發展，各行各業都在尋求通過技術創新來提升效率和

55、競爭力。人工智能作為一項顛覆性技術，能夠幫助企業實現自動化、智能化，推動產業升級和經濟增長。從智能制造、智慧城市到醫療健康、教育、金融等領域，人工智能技術都有著巨大的應用潛力。以色列緊隨其后。作為網絡安全老牌強國之一，在AI網絡安全領域也有著不俗的表現。多家以色列企業憑借其獨特的技術優勢和創新思維獲得了國際資本市場的青睞，融資金額自700萬美元至1億美元不等。其中，Pindrop Security債務融資1億美元，Hercules Capital領投。Pindrop Security使用基于神經網絡的生物識別引擎優化語音安全，確保無縫被動身份驗證和高效的欺詐檢測，還結合了網絡級數據、用戶設備和

56、行為分析以及風險情報，以在IVR和座席級別對呼叫者進行全面身份驗證。隨著全球化的深入發展，AI網絡安全領域的投融資活動呈現出全球化趨勢，加拿大、法國、澳大利亞、英國、新加坡、西班牙、瑞典、立陶宛、愛沙尼亞、愛爾蘭、印度、科特迪瓦等國家皆有相應的企業獲得投資，這意味著AI網絡安全正在被全球大多數資本看好。從細分市場來看，AI網絡安全的方向呈現出多樣化的特點。其中，AI安全（AI自身的安全性）占比高達23%，是最受資本和創業者青睞的細分方向。隨著深度學習、計算機視覺、自然語言處理等技術的不斷發展和成熟，AI的應用領域和能力得到了極大的拓展。各行各業都在尋求通過AI技術提升運營效率、創新服務模式，滿

57、足市場和消費者的新需求。大量的AI應用需求帶來了全新的安全風險，數據顯示，AI既放大現有網絡安全威脅，又引入了新型威脅，引發網絡安全事件指數級增長。例如2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件數量增長了1000%。由于企業現有的安全體系難以有效應對此類威脅，AI安全存在巨大的想象空間，從而吸引大量初創公司和資本投身于該領域。安全運營是AI安全投融資熱度第二的細分方向，占總投融資事件比例達到10%。AI在安全運營中的應用主要體現在以下幾個方面：智能防御與實時監測：AI技術通過機器學習和深度學習算法，能夠自動識別網絡流量和用戶行為的異常模式，實現實時監測和預警。自動化響應

58、與處置：AI系統可以自動對檢測到的威脅進行響應，如自動加入黑名單或通知管理員。這種自動化的響應機制提高了安全事件的處置速度，并減輕了安全團隊的工作壓力細分市場多樣化在并購方面，過去一年內已發生多起AI網絡安全公司收購事件，其中具有代表性的并購事件如下：2023年9月，思科宣布以280億美元收購Splunk，以實現在AI安全方面的強強聯合，推動實現 AI 驅動的下一代安全性和可觀測性。此次被收購方Splunk是近年來安全創業公司領域的明星公司，主要幫助企業監控和分析數據，以最大限度地降低被黑客攻擊的風險，并更快速地解決技術問題。2024年3月，CrowdStrike宣布斥資收購Flow Secu

59、rity，購完成后，CrowdStrike計劃在Falcon Cloud Security中全面提供原生Flow Security DSPM功能，作為Falcon XDR平臺的一部分，使客戶能夠整合云端解決方案并保護整個云資產，以進一步加強其 AI 網絡安全解決方案。此外，CrowdStrike宣布將與戴爾（DELL.N）聯手，幫助企業利用人工智能抵御網絡攻擊，以防范GenAI、隱形社工攻擊和端點攻擊。2024年4月，私募股權巨頭 Thoma Bravo 宣布以 53.2 億美元的價格收購英國網絡安全AI公司DarktraceDarktrace。Darktrace公司成立于2013年，主要利用

60、人工智能檢測IT網絡內的攻擊和漏洞。2022年2月，Darktrace以 5370 萬美元的價格收購了攻擊面管理公司 Cybersprint，加速 Darktrace 進入主動 AI 網絡安全等新領域。2024年7月，谷歌母公司Alphabet擬以230億美元收購以色列知名AI安全初創公司Wiz，但被后者拒絕。值得注意的是，該公司2023年的收入約為3.5億美元，在最近的一輪私人融資中籌集了10億美元，估值達到120億美元。隨著網絡威脅的持續增長，投資者將積極投入AI防御性安全解決方案，預計未來將會有更多更多大型科技公司、網絡安全巨頭以及具有創新潛力的初創企業之間的戰略合作與并購交易。AI安全

61、企業并購13 PAGE14PAGE全球AI網絡安全產品洞察報告根據海外市場的表現，網安行業AI安全產品的商業化效果較好，目前已有廠商實現不錯的業績，包括Palo Alto Networks基于AI驅動的新產品XSIAM；CrowdStrike公司的AI安全平臺Falcon等。AI安全產品的成功進一步刺激了廠商對于其應用方向的探索，給傳統的網絡安全產品帶來了新的變革。AI在產品自動化與智能化響應、實時監控與預警、優化資源配置、增強用戶體驗、跨平臺整合、持續學習與進化、輔助決策等方面有著明顯的優勢。因此，AI安全產品的主要應用方向如下：網絡行為與威脅分析：AI在網絡行為與威脅分析中扮演著重要角色。

62、通過AI、深度學習或機器學習技術可以實現監測、理解和響應網絡中的各種活動和潛在威脅。其中包括用戶和實體行為分析（UEBA）、流量分析、協議分析、應用行為分析等，涉及沙箱、威脅情報、攻擊模擬與預測、異常檢測等技術的聯動。入侵檢測：基于AI的入侵檢測是一種利用AI技術對網絡或系統中的潛在威脅進行識別和檢測的方法。通過分析網絡流量、系統日志和其他數據源，利用機器學習、深度學習和自然語言處理等技術來識別異常行為，從而及時發現并應對網絡攻擊。AI可區分正常網絡流量和惡意入侵行為，有效發現網絡中的入侵行為，對惡意入侵行為進行有效的檢測和分類。安全策略管理：基于AI的安全策略管理是指利用AI技術來制定、實施

63、、監控和優化安全策略的過程。這種方法旨在提高安全防御的效率和準確性，以應對日益復雜的網絡威脅，具有高效性、實時性、智能性、可持續性等有點。例如自動化風險評估系統，對訪問請求進行實時的風險分析和評級，根據行為分析和風險評估的結果優化安全決策，或根據行為趨勢和風險預測自動采取防護措施。端點保護：基于AI的端點保護是一種利用AI技術來保護端點設備免受網絡攻擊的方法。通過在端點設備上部署AI模型，實時監控和分析設備行為，以識別和預防潛在的威脅。AI技術的加持可簡化數據收集和分析，提升系統可視性和檢測異?；顒?，并自動執行大部分分析、監視、檢測和響應活動，使信息安全團隊成員能夠專注于更高優先級的操作。漏洞

64、管理：基于AI技術的漏洞管理是指利用AI技術來識別、評估、優先排序和修復軟件或系統中的安全漏洞的過程。這種方法通過自動化和智能化的手段，對軟件代碼、系統配置、網絡流量等進行分析，可明顯提高了漏洞管理的效率、準確性和優先級。例如AI可生成基于場景的漏洞風險評分，確定優先級排序，幫助安全團隊優先處理最關鍵的漏洞。垃圾郵件處理與反釣魚：基于AI的垃圾郵件處理與反釣魚技術是一種利用AI的強大數據處理和智能分析能力，提高電子郵件安全性和反釣魚技術的一種方法。通過分析大量郵件數據，學習識別垃圾郵件的特征，AI可提取出更加復雜和抽象的特征，提高過濾的準確率。和傳統垃圾郵件處理方式相比，AI可更好地適應不斷變

65、化的垃圾郵件發送方式，具有更強的魯棒性。另外AI在反釣魚方面已經展現出新的潛力，其核心優勢包括釣魚郵件類型的覆蓋、意圖提取與分析能力以及多語言能力等，可有效應對和檢測各類復雜的釣魚郵件。數據與文件分類：基于AI技術的數據與文件分類是一種利用AI算法自動識別、分類和管理數據及文件的方法。這種方法根據文件內容、元數據或其他特征將文件分配到預定義的類別中，可以幫助組織更有效地保護信息資產，提高工作效率和安全性，具有自動化、準確性高、可拓展性強、實時更新等優勢。安全知識問答：基于AI技術的安全知識問答是一種利用人工智能技術來提供安全相關知識和信息的服務。這種方法通過自然語言處理（NLP）技術，理解用戶

66、的問題，并提供準確的安全建議或解決方案。AI安全知識問答具有自然語言理解的能力，根據對話管理判斷應該采取的策略，生成相應的回答，可有效提升服務效率，增強用戶體驗。全球AI安全產品主要產品形態目前國外的AI安全產品商業化推進較快，已經有不少成熟的AI安全產品進入市場，并得到了不分企業用戶的肯定。全球網絡安全的頭部廠商紛紛加快AI安全產品的動作，既是快速搶占尚未填滿的空白市場，也是在網絡安全智能化大戰略布局上的先手。AI安全產品的落地提高了安全防護的效率和智能化水平，通過智能分類分級、安全策略配置、數據脫敏等技術，為企業提供全方位的數據安全解決方案?？偟膩砜?，AI安全產品主要分為安全助手產品（AI

67、 Copilot）和AI驅動的安全平臺。（一）國外AI安全產品分析安全助手是AI與網絡安全相結合最早的產品形態，也是目前大部分生成式AI產品聚焦的方向。AI安全助手產品是基于AI技術，專門為網絡安全領域設計的智能助手，通過對話的方式為用戶解決安全相關的問題，可與安全工具、安全產品進行聯動，以便更有效應對網絡安全威脅。AI安全助手可以快速理解并挑選合適的插件來回答用戶的需求，支持文字交互，文件、圖片的方式，以及插件擴展，從而提高工作效率。這是其核心價值所在，不僅提高了安全專家的工作效率，也降低了非安全工程師完成安全相關任務的難度。隨著AI技術的不斷進步，AI安全助手有望在未來成為網絡安全領域的重

68、要輔助工具。AI安全助手應具備自然語言理解能力、上下文關聯能力、網安領域專業化能力、輸出能力、插件擴展等多種能力。自然語言理解能力：能夠理解用戶的自然語言輸入，無需特定格式的命令，支持多種語言類型。上下文關聯能力：能夠在對話中理解上下文，執行多個任務并綜合回答。網安領域專業化能力：能夠準確理解安全行業專業術語，并輸出相應的專業內容。輸出能力：可根據用戶的問題輸出各種內容，執行用戶下達的各項指令，以及其他預設安全策略等。插件擴展：支持靈活的插件擴展，以適應不同的安全需求。AI安全助手具備安全咨詢、自動化任務執行、安全事件響應、風險評估、知識庫和情報集成、可視化與報告生成等核心功能。安全咨詢：提供

69、有關網絡安全、數據保護、合規性等方面的建議和信息，快速回答網絡安全問題，輔助安全分析和運維工作。自動化任務執行：根據預設的安全策略自動化執行各項安全操作，例如自動化執行滲透測試、更新安全規則、修復已知漏洞等，輔助用戶完成網絡安全相關的任務。安全事件響應：在檢測到威脅后，能夠自動采取預定義的措施進行初步應對，例如隔離受感染的系統、阻斷惡意IP地址或執行緊急補丁安裝等。風險評估：監控和分析網絡流量，識別系統潛在的安全威脅，包括異常行為、惡意軟件等，評估組織的網絡安全風險狀況，并提供降低風險的建議。知識庫和情報集成：整合來自多個來源的安全知識庫和最新威脅情報，提供防護策略建議，幫助用戶了解當前威脅環

70、境和最佳實踐?？梢暬c報告生成：將復雜的安全數據和分析結果以直觀的圖表和報告形式展示，幫助安全分析師快速將安全狀況轉化成報告。個性化學習與適應能力：根據用戶的行為和組織的網絡環境進行自我學習和優化，逐漸了解特定組織的業務流程和安全需求，提供定制化的安全建議和服務。安全助手產品15 PAGE16PAGE全球AI網絡安全產品洞察報告安全策略管理：根據用戶需求制定、實時調整安全策略，例如動態管理用戶身份和訪問權限等，自動調整安全配置，以適應不斷變化的威脅環境。國外安全廠商已經陸續推出多款AI安全助手產品，例如Microsoft Copilot for Security/Fortinet Adviso

71、r/Crowdstrike Charlotte。1）Microsoft Copilot for SecurityMicrosoft Copilot for Security于2024年4月1日正式上線，是一款基于OpenAI LLM大模型的安全助手，可幫助安全人員以更快地速度，更高的準確度發現、識別并處理網絡威脅。借助生成式AI技術以及融合微軟情報體系，Microsoft Copilot for Security可快速處理大量數據，發現潛在的安全風險并進行深度威脅分析，確定風險處理優先級排序，為安全人員提供安全分析和決策支持，提升安全團隊響應速度，從而提升整體安全能力。Microsoft Co

72、pilot for Security扮演著“安全專家”的角色，安全人員只需以自然語言描述即可獲得專業化能力支撐，通過自動化執行安全任務可有效減少低級/高重復度工作，簡化了安全操作過程，提高安全部門的工作效率。Microsoft Copilot for Security能夠理解并回應8種語言，產品界面支持25 種不同語言，具有個人化提示手冊（Custom promptbooks）、知識庫整合（Knowledgebase integrations）的預覽版，可與Microsoft 的多個安全產品集成，可通過插件與第三方服務集成。Microsoft Copilot for Security主要應用場

73、景包括威脅檢測與響應、安全合規性管理、安全數據分析、安全培訓與模擬、安全自動化工作流以及安全咨詢等。2）Fortinet AdvisorFortinet Advisor 是 Fortinet 最新推出的生成式 AI 安全助手，旨在幫助安全運營（SecOps）團隊加速威脅調查和修復，提高安全團隊的技能和效率，從而增強企業整體的網絡安全防護能力。Fortinet Advisor 能夠幫助安全分析師構建復雜調查查詢，通過自然語言輸入提問即可生成問詢結果，能夠快速分析安全告警，生成易于理解的事件摘要，提供威脅修復計劃建議，幫助安全團隊快速響應威脅，并可根據分析師的實時反饋進一步完善所建議的響應計劃。安

74、全架構師可以通過咨詢 Fortinet Advisor 來生成 Playbook 模板，快速將流程轉化為可執行的計劃。目前Fortinet Advisor 已無縫集成至 Fortinet 安全信息和事件管理解決方案 FortiSIEM 以及 Fortinet 安全編排、自動化和響應解決方案 FortiSOAR 中，幫助用戶將威脅識別和遏制所需時間從 20 多天銳減至 1 小時內，并將威脅調查和修復時間從 18 小時以上縮減至 15 分鐘以內。3）CrowdStrike CharlotteCrowdStrike Charlotte是CrowdStrike重磅推出的生成式AI安全助手，通過自然語言

75、處理技術，理解并回答用戶的問題，提供快速、準確的信息，旨在提高網絡安全團隊的效率。CrowdStrike Charlotte可以自動執行數據收集、提取和基本威脅搜索等任務，簡化高級安全操作，也可以執行實時響應腳本，幫助用戶快速消除威脅，例如殺死進程、隔離可疑文件等。具有獨特的人類驗證內容數據集，包括來自 Falcon OverWatch 管理的威脅狩獵、Falcon Complete 管理的檢測和響應、CrowdStrike 服務和 CrowdStrike 情報的反饋。CrowdStrike Charlotte的核心優勢之一，通過提高安全操作的效率和自動化響應能力，將檢測到響應的時間從小時甚至

76、天數縮短到了幾秒鐘，顯著提升了客戶的安全防護能力，并減少了人工操作的需求，釋放了更多的人力資源用于戰略性任務。所提供的答案都可以追溯到原始數據，確保透明度和可審計性，用戶可以檢查底層源數據，確保AI提供的見解和推薦可信。（一）國外AI安全產品分析以AI驅動的安全平臺是AI安全另外一種重要的應用場景，集成了包括AI技術在內的安全解決方案，通過機器學習、深度學習、自動化處理、數據分析等技術來提升平臺的整體安全能力。和AI安全助手產品相比，AI安全平臺具有更加全面的功能和更加廣泛的范圍。AI安全平臺旨在提供一個更加智能和主動的安全防護機制，以應對日益復雜和隱蔽的網絡攻擊，通常具備高級威脅檢測、自動化

77、安全任務、智能安全運維、工具集成和拓展、高級分析和響應、統一管理控制臺等特點。高級威脅檢測：實時監控網絡、系統和設備，快速檢測威脅，包括未知威脅如零日攻擊，分析歷史數據預測潛在威脅，采取更主動防御措施。自動化安全任務：自動化執行重復性任務，如日志分析、漏洞掃描和補丁管理，減輕安全團隊負擔。智能安全運維：可實現從安全分析到響應處置全流程閉環，將AI融入事件分析研判、可視化編排等技術之中，通過與專家經驗進行有機整合。工具集成和拓展：AI安全平臺一般會集成多種安全工具和流程，實現自動化的威脅檢測、響應和修復，同時支持擴展，以適應不同規模的組織和不斷變化的安全需求。高級分析和響應：平臺可以執行高級的安

78、全分析，包括用戶和實體行為分析（UEBA）、安全信息和事件管理（SIEM）等，并能夠自動響應安全事件。統一管理控制臺：平臺提供統一的管理控制臺，使得安全團隊能夠從一個中心位置監控和管理整個安全態勢。目前海外已經有頭部安全廠商陸續推出多款AI安全平臺產品，例如Palo Alto Networks公司的Cortex XSIAM（擴展安全智能和自動化管理）、Vectra 公司的 Cognito平臺和CrowdStrike公司的 Falcon平臺。1）CortexXSIAM平臺Cortex XSIAM平臺是一個云交付的集成SOC平臺，將EDR、XDR、SOAR、ASM、UEBA、TIP和SIEM等多個

79、產品和功能整合到一個集成平臺中，底層完全由AI驅動，統一了一系列的安全能力。該平臺通過擴展型安全智能和自動化管理，將各種基礎架構遙測數據轉化成智能數據基礎，加快威脅響應速度。XSIAM利用機器學習模型來識別和響應安全威脅，提供快速準確的威脅檢測和響應能力，能夠整合來自不同來源的安全數據，并自動化處理大部分安全事件，減少人工干預的需求。它還提供了對云資產、事件、覆蓋范圍和漏洞的可見性，并通過與Prisma Cloud集成以增強事件分組與導航功能。XSIAM 2.0增加了全新的自定義機器學習（BYOML）框架，允許用戶集成定制的機器學習模型，實現第三方EDR數據的出色整合，并且還可以充分利用云檢測

80、和響應功能。2）Vectra Cognito平臺Vectra是AI驅動網絡安全的頭部企業，旗下Cognito平臺以AI為驅動，結合機器學習、深度學習等技術，可以自動執行威脅響應任務，減少人工干預的需求，提升檢測和響應網絡攻擊靈敏度的安全解決方案。通過自動化威脅檢測和響應，Cognito平臺有效提高了SOC（安全運營中心）的效率和響應速度，并且可以根據威脅的潛在影響和嚴重程度自動對檢測到的威脅進行優先排序，極大地降低了安全團隊的負擔，幫助安全團隊將精力集中在最關鍵的事件上。Cognito 平臺的 AI 引擎還可分析大量網絡元數據，包括流量模式、用戶行為和云交互，能夠檢測已知威脅以及可能逃避傳統安

81、全措施的潛在攻擊的細微指標。3）CrowdStrike Falcon平臺CrowdStrike Falcon平臺是一款基于云原生架構和集成的XDR解決方案提供全面的終端安全服務，是CrowdStrike公司的明顯產品，引入AI技術驅動增強了該平臺的能力，顯著提升了安全運營的效率和響應速度。AI驅動的安全平臺17 PAGE18PAGE全球AI網絡安全產品洞察報告通過AI和機器學習算法，Falcon平臺能夠實時監測和分析網絡流量，自動檢測可疑活動，幫助組織及時響應安全事件。此外它還能夠實時檢測高級威脅，提供比傳統微軟解決方案更高的檢測準確性和響應速度。AI技術的引入使得Falcon平臺可以更順暢地

82、自動執行威脅響應任務，減少人工干預的需求，提高安全運營的效率，進一步將從檢測到響應的時間從小時甚至天數縮短到了幾秒鐘。國內AI安全產品發展較歐美市場晚，盡管2023年為萌芽之年，當年也有十余家安全企業發布AI安全產品，2024年AI安全產品的競爭將全面鋪開。頭部網絡安全廠商的戰略部署中，AI安全產品是不可或缺的一環。在大模型落地方式上，以私有化本地化部署為主，同時考慮算力成本以及大模型本地實施需求，以及國內政府、金融等頭部客戶對數據安全要求較高，訓練/推理一體機的模式可能成為主流，但混合部署模式易帶來管理、維護、運營效率低下等問題，未來云安全一體化仍然是重要趨勢。目前來看，國內AI安全產品的模

83、式主要分為三類，分別是AI安全助手、AI驅動的安全平臺和AI賦能安全產品，后者是通過將AI技術與安全產品深度融合，全面提升安全產品的能力。例如以AI技術賦能威脅檢測與響應、身份認證和行為分析、反欺詐與風險控制、惡意行為檢測、安全托管服務（MSS）、SecOps、數據安全等。（一）國外AI安全產品分析作為AI安全典型安全產品形態，目前國內安全廠商已經陸續推出多款AI安全助手產品，例如天融信打造的AI安全助手小天、啟明星辰研發的AI安全助手盤小古等。1）天融信AI安全助手小天天融信AI安全助手小天基于天問大模型系統，具備自然語言理解、命名實體識別等能力，能夠智能分析客戶行為、快速響應客戶需求。同時

84、，小天具有良好的兼容性，能夠與不同廠商的AI系統和平臺無縫對接，降低了客戶的遷移成本。小天產品形態分為兩種：一是云上小天，提供天融信產品、技術、解決方案、行業知識等服務；二是產品小天，以組件的形式嵌入到各類網絡安全產品中，以智能問答的形式，提供告警分析、處置建議、報告生成等功能。小天的核心功能如下：安全Copilot：通過交互式對話提供各種安全問答與能力訂閱，覆蓋網絡安全解決方案、產品功能配置、故障排查等各類場景。產品小天與天融信脆弱性掃描與管理系統、數據庫審計與防護系統等產品深度融合，可通過對話的方式下發檢測任務、獲取評估結果、查看異常事件、了解事件類型分布，掌握網絡中的整體資產和風險情況，

85、簡化人工操作，提升運維管理效率。安全運營：與天問大數據分析系統融合后，可實現基于AI的海量數據分析和智能AI交互能力，自動輸出圖表或文本式結果，解讀告警信息等能力。知識管理：小天依托天問大模型能力，通過對網絡安全垂直領域專業知識的不斷學習和積累，持續提升問答質量。2）啟明星辰AI安全助手盤小古盤小古是一款基于AI的網絡安全運營智能助手，旨在通過自然語言處理、大數據分析等技術，提升網絡安全運營的效率和效果?；诎踩袠I的特點，盤小古發展了獨有的基于AI安全智能體的安全垂直領域“大小模型自主協同”技術體系，把啟明星辰深厚的安全產品能力和AI專項安全小模型積累，與大模型強大的意圖理解和推理能力進行融

86、合，構建了由安全大模型驅動的全場景安全智能自動化運營中心。AI安全助手產品（二）國內AI安全產品分析盤小古適用于以下場景：知識問答場景：提供網絡安全基礎知識、防護措施等問題的答案和建議；威脅分析場景：通過接收告警數據識別威脅，幫助用戶快速了解安全告警、風險資產等；安全生成場景：生成威脅態勢概覽、安全事件詳細分析報告等；處置響應場景，發現安全威脅時立即觸發預設的響應動作。AI驅動的安全平臺也是國內發力的重要方向，國內安全廠商中綠盟科技、云起無垠等已分別發布了風云衛AI安全能力平臺、無極 AI 安全智能體平臺。1）風云衛AI安全能力平臺綠盟科技“風云衛AI安全能力平臺”是一個集成了綠盟科技多年AI

87、與機器學習研究經驗、攻防知識與威脅情報積累、實戰化專家能力于一體的AI安全平臺。其內置了多種大小模型、知識庫、情報庫，支持本地安全知識應用以及基于AI Agent的模型能力拓展。平臺將AI能力原子化融入到安全運營體系，有效促進安全數據、分析能力與運營決策三者有機結合，能夠統一調度各類AI安全應用，執行實時監控網絡環境、自動分析日志數據及識別異常行為等功能，迅速定位潛在的安全威脅。此外平臺還可實現安全風險自動化識別、告警、研判、擬定處置建議、生成對應事件處置腳本等，并在事后進行復盤，深入挖掘安全事件的根源，揭示隱藏的攻擊路徑與關聯事件，為后續加固提供支持，并自動生成全面、專業的網絡安全事件研判報

88、告。平臺適用于以下場景：安全運營智能化場景：提升安全運營的響應時間和工作效率，適用于面對日益增長的安全威脅和數據的傳統安全運營方式。威脅情報智能化場景：整合、精煉高價值內容，并根據應用場景對情報進行深度的挖掘、演繹、推理和應用。攻防對抗智能化場景：輔助智能滲透測試，攻防對抗博弈，集成各類攻防工具，提升對抗效率。2）無極 AI 安全智能體平臺無極 AI 安全智能體平臺是云起無垠基于“云起 AI 安全大腦”自主研發與訓練的AI安全智能體平臺，涵蓋安全知識問答、智能模糊測試、代碼分析與生成、漏洞威脅情報等功能，以幫助企業自動化完成各類安全任務。平臺具備內容追溯和記憶庫功能，支持13種主流編程語言，具

89、有多模態分析能力，能夠處理文本、圖像、源代碼、二進制文件等多種數據格式，還能在函數級、文件級和倉庫級等不同層面進行安全分析。平臺提供安全知識問答、智能模糊測試、代碼分析與生成、漏洞威脅情報、智能攻擊面探測、攻防技戰法輔助、釣魚郵件生成、智能文檔分析、滲透測試等功能。平臺適用于以下場景：開發安全場景：平臺通過高效精準的智能閉環，實現多工具的統一接入與調度，提升檢測的準確度和效率，并支持缺陷的統一分析與智能修復，提供完整的修復方案。攻防滲透場景：平臺可以高效處理情報數據、進行精確分析，并輔助進行滲透測試，從而替代初級安服工程師，提高整體效率和檢測準確度。知識檢索場景：平臺通過自動化數據采集，覆蓋多

90、個漏洞披露源，利用Text-to-SQL技術進行自然語言分析，并對接業務資產庫，實現漏洞自主清查、驗證和通告。AI驅動的安全平臺19 PAGE20PAGE全球AI網絡安全產品洞察報告（一）國外AI安全產品分析AI賦能安全產品是指將AI技術深度融合于安全產品之中，再加上機器學習、深度學習等技術的使用，從而實現更高精度的安全風險識別，或者提高安全監測、分析與響應等工作的自動化程度，大大增強了原安全產品的能力，以應對日益復雜的網絡安全威脅。目前，國內大部分安全廠商都在發力AI賦能安全產品賽道，應用場景十分廣泛，涉及數據安全、內容安全、業務安全、終端安全等，包括威脅檢測與響應、惡意行為檢測、智能安全運

91、營等。例如天融信基于多年在AI領域的研發和積累，2024年，在下一代可信網絡安全架構（NGTNA2.0）下，將 AI 技術與網絡安全能力深度融合，發布天問系列產品，實現 AI 全面賦能,主要應用于威脅檢測、安全運營、知識問答等場景。1）AI和網絡安全融合框架天融信持續探索“AI+安全”融合發展之道，將AI技術與天融信下一代可信網絡安全架構（NGTNA2.0）深度融合，通過將加密流量檢測引擎、隱蔽隧道檢測引擎、關聯分析引擎、行為分析引擎等AI引擎應用到網絡安全及大數據產品中，大幅提升產品安全檢測與分析能力。同時，將自然語言理解、命名實體識別等技術應用到安全知識庫、威脅情報等業務中，結合云端知識庫

92、，全面提升安全防護能力。AI賦能安全產品天問大模型防護方案由大模型系統前端接入防護和大模型系統后端安全加固兩部分構成。前端接入防護主要實現大模型安全接入和數據泄露防護；后端安全加固實現對大模型系統核心軟硬件威脅檢測與分析、系統操作安全審計及容災備份功能。天融信API安全網關可以提供流量管控、身份認證、訪問控制、API檢測等功能，有效拒絕非法訪問用戶和流量。天融信數據防泄漏能夠提供prompt注入檢測、敏感詞過濾、隱私信息過濾、基于語義的內容檢測等功能，實現大模型輸入輸出內容的敏感數據識別、攔截。除上述安全防護措施外，天問大模型系統還引入人工審查機制，保障大模型輸入輸出的內容安全性，降低不良信息

93、輸入和輸出概率。3）AI應用安全防御產品：動態安全Botgate動態安全Botgate是由瑞數信息自主研發，以“AI智能威脅檢測+動態安全”為核心技術能力的AI應用安全防御解決方案。該方案涵蓋了機器學習、智能人機識別、智能威脅檢測、全息設備指紋、智能響應等多項AI技術，變革傳統安全依賴攻擊特征、行為規則特征及閾值的被動式防御技術，通過對服務器網頁底層代碼的持續動態變換，增加服務器行為的“不可預測性”，為企業提供提供面向應用和業務層面的全面高效防御能力。瑞數動態安全Botgate旨在保護企業免受惡意機器人和自動化攻擊的侵害，主要功能包括：網站漏洞隱藏：使漏洞掃描攻擊無法獲取漏洞信息，使漏洞利用工

94、具無法完成有效攻擊，在網站未打補丁和補丁空窗期提供有效安全保護；網站代碼隱藏：可以針對網站底層的代碼進行封裝，使攻擊者無法分析網站應用的源代碼；應用安全威脅防護：有效防止SQL注入、越權訪問、跨站攻擊、網頁后門等攻擊行為；自動化攻擊防護：有效防護攻擊者利用自動化攻擊腳本或工具對應用發起的漏洞探測與利用，以及針對新興LLM應用的提示詞注入、越獄及欺詐濫用等攻擊行為；模擬合法操作防護：可有效應對攻擊者利用工具、合法身份，模擬正常人工訪問的攻擊行為；數據防泄漏：可以有效防護惡意人員使用工具或腳本程序通過前臺應用批量獲取數據的攻擊行為。在威脅檢測方面，天融信具有九大TAI檢測智慧引擎，包括DGA惡意域

95、名檢測、隱蔽隧道檢測、惡意TLS流量檢測、移動惡意程序快速檢測、命令注入檢測、固網惡意程序檢測、WEBSHELL檢測、XSS攻擊檢測、SQL注入檢測等檢測引擎，可集成在天融信防火墻、入侵檢測、入侵防御、僵木蠕監測、APT監測等網絡安全產品中，增強未知威脅檢測能力。在安全運營方面，天融信天問大模型系統具備自動化研判能力，大幅提升安全日志研判效率，實現更加精準和便捷化的安全運營；內置產品小天，讓安全人員用自然語言方式獲取事件告警、資產、漏洞、日志等信息；面向天融信其他網絡安全產品提供知識問答服務，快速獲取威脅情報、漏洞解讀等安全知識；與天融信防火墻、入侵檢測、入侵防御、僵木蠕監測、WAF、漏掃等設

96、備聯動，可獲取系統所需的數據，提升全面感知、動態防護的安全能力。2）天問大模型安全防護方案天問大模型是天融信基于大模型技術及安全大數據語料構建的安全領域大模型，主要功能包括：安全知識問答、威脅情報查詢、威脅分析等。天問大模型作為軟件系統部署在云環境中，并以云服務方式提供訪問，通過云管理平臺實施運行維護。為了防止模型被濫用或惡意利用，天融信提出了前后端聯合的安全防護方案，整體防護架構如下：天問大模型安全防護架構21 PAGE22PAGE全球AI網絡安全產品洞察報告（一）國外AI安全產品分析某基金管理有限公司是國內業務資質全面、產品種類豐富、經營業績優秀、資產管理規模領先、業務發展均衡的基金管理公

97、司之一，為近1億境內外個人和機構投資者提供財富管理服務。截至2024年6月30日，該公司旗下管理數百只公募基金和多個年金、私募資產管理計劃，資產管理總規模近2萬億元。為滿足數字化、智能化時代的網絡安全運營工作需要，該基金管理公司規劃建設智能化安全運營中心。天融信基于客戶需求與業務邏輯，以依法合規為基本原則，以具備智能化分析引擎的運營平臺為底座，融合天問大模型幫助客戶實現高效、智能安全運營。案例背景當前，客戶面臨新業務不斷拓展與新型技術頻繁應用的雙重挑戰，導致傳統網絡邊界不斷泛化。在數字化轉型的浪潮中，數據資產與信息系統資產呈現出爆炸式增長，而與此同時，新型攻擊手段、僵尸木馬、勒索挖礦病毒等安全

98、風險也層出不窮，且愈發多變、隱蔽和仿真，給客戶的安全運營工作帶來了巨大沖擊。持續產生的海量運維日志和安全告警日志極大加重了網絡安全工作負擔，同時海量資產的檢查、監控、安全事件處置等管理工作也使運營團隊應接不暇。此外，智能化工具催生的新型攻擊武器和手法等難以發現和溯源，更是對安全運營團隊的能力和傳統工具構成了嚴峻挑戰。為了應對挑戰，客戶亟待建設一套可以全面掌控全網安全動態、智能化識別新型安全風險，并對風險、漏洞進行自動流程化閉環管理的智能化安全運營工具。因此，依托于大數據分析系統和天問大模型系統，天融信幫助客戶設計并建立了智能安全運營平臺，以實現對安全風險的高效智能化管理。問題與需求本案例基于安

99、全運營工具智能化的需求，對客戶的安全運營業務流程、IT架構和安全體系進行了全面的調研，采用天融信大數據分析系統+天問大模型系統搭建智能安全運營平臺的技術方案。該方案主要實現以下三個建設目標：1)打造智能化安全運營中心在傳統安全運營平臺的基礎上融合各類人工智能模型，實現了對資產安全管理、安全檢測和監測以及風險處置決策等功能的全面智能化改造。從不同維度對資產進行統一管理，依靠智能模型進行自動化分類，并與安全基礎設施、安全基線、數據分類分級庫等多維度實體關聯。將安全策略與業務流程緊密結合，使客戶更全面地了解自身的安全風險狀況，并能夠根據業務需求和風險變化動態調整安全策略，實現安全與資產的深度融合。通

100、過大模型+小模型的綜合應用，實時分析海量安全數據和運營數據，精準識別和預警潛在的安全威脅，并結合資產信息高效響應處置，有效降低了企業因安全事件導致的業務中斷和數據泄露風險，保障了業務的連續性和穩定性，將安全轉化為企業數字業務的重要組成部分?；诖竽Ｐ椭悄軟Q策模塊，綜合歷史經驗數據、威脅情報數據和實時信息，自動生成處置建議和應急預案，為安全專家提供科學決策依據。利用融合安全規范、安全最佳實踐、前沿技術等信息的安全知識庫，由大模型根據專家意圖進行信息抽取生成，為實施內容及效果在實踐智能安全運營平臺的過程中，金融行業的優質數據是保障AI模型高質量運作的基礎。同時業務中對業務目標和判斷風險標準也至關重

101、要。在實施過程中天融信與客戶安全部門緊密合作，梳理出一系列的風險分析模型、自動處置腳本等工具成果，并成功應用于日常安全業務實踐。在建設層面，因為金融行業涉及大量個人敏感信息，而AI技術應用存在黑箱、偏見、信息泄露等安全風險，大模型自身也存在運營成本過高、技術集成困難等風險。因此在項目建設過程中，詳細梳理各種AI應用風險并建立保障措施，從使用安全、成本控制、技術能力保障等多方面為客戶建立信心，將新型技術用于實踐。關鍵成功因素1）提升安全管理水平智能安全運營平臺提供了安全管理和防護能力，覆蓋了安全態勢感知、安全風險監測與安全運營管理等多個方面，同時也輔助安全專家對技術、流程等進行完善，提升了安全管

102、理水平。實施收益與反響國內AI安全產品典型應用案例（一）天融信-AI大模型在金融行業安全運營場景的應用實踐管理層提供基于安全現狀的運營分析，更加精準地把握安全風險，輔助制定更加有效的安全策略，實現安全運營與管理決策的高效同頻。整體上智能安全運營中心實現了對安全威脅的實時監測、預警、處置響應和運營管理，極大提升了安全運營的效率，有效緩解了數字業務飛速擴展與安全運營團隊資源有限之間的不平衡矛盾。2)可支撐海量數據管理和智能化分析智能化的數據管理與分析檢測是重塑安全運營模式的重要基石。將全網資產信息、安全威脅信息、業務運行日志和安全威脅情報、企業/行業輿情等數據匯聚到智能安全運營平臺，確保了數據的全

103、面性和時效性。在數據治理方面運用先進的數據分類分級技術和全生命周期管理策略，通過清洗、富化等處理，構建了高質量的元數據體系，為后續智能模型數據分析奠定了堅實基礎。依托天問大模型與多種安全專用智能分析引擎，顯著增強了威脅分析能力。大模型基于語義理解，能夠精準識別復雜攻擊手段，如釣魚郵件、流量威脅識別、惡意軟件等，無需驗證樣本即可實現高效檢測與定位。同時，多種專用模型，如安全知識圖譜、用戶異常行為分析等，為深度挖掘潛在威脅提供了有力支持。通過告警降噪技術自動識別和過濾大量重復、低效的告警信息，有效減少了安全運營人員的負擔，并提高了對真正安全事件的響應速度和準確性。智能引擎調度管理模塊根據任務風險等

104、級智能分配資源，實現對重點風險的優先分析與處置，在面對大規模攻擊時有效集中力量防御重點威脅。相較于傳統方式，人工智能技術大幅提升了海量數據的管理效率與威脅檢測能力，為企業安全運營提供了強有力的技術支撐和安全保障。3)自動化流程管理提高運營效率智能安全運營平臺具備松耦合接入模塊，支持多種協議和第三方系統接入，確保系統的高度靈活性和可擴展性。通過該模塊，平臺能夠無縫集成各類業務管理系統和安全設施，實現多種安全運營工作的自動化。例如：面向威脅事件處置，大模型+SOAR可以顯著增強響應能力，大模型基于廣泛的安全知識庫，迅速生成針對性的威脅處置預案，經過與安全專家交互調優后，驅動SOAR模塊能夠自動觸發

105、預設的響應流程，對事件進行快速、準確的處置，有效縮短安全響應時間，降低安全風險。面向安全巡檢，平臺能夠定期自動化執行資產檢查、漏洞掃描等任務，由大模型生成詳細的檢查報告，并自動推送漏洞信息至相關系統，觸發漏洞修復操作，同時跟蹤修復情況，形成自動化漏洞管理閉環等。與業務系統融合的自動化流程，使安全運營工作效率大幅提升，同時降低人力資源依賴和人為操作失誤損失。23 PAGE24PAGE全球AI網絡安全產品洞察報告（一）國外AI安全產品分析2）增強檢測防護能力智能安全運營平臺具備預測、分析、生成、推理等核心能力，可對惡意郵件、惡意網頁、惡意樣本、代碼邏輯漏洞等進行智能識別和預測，使企業可以更快速地發

106、現潛在的威脅，并采取措施進行防范。3）提升安全運營效率智能安全運營平臺具備安全分析、風險預測和決策行動等核心能力，以智能助手形式賦能于安全產品中，安全人員通過對話方式即可獲得更精準的預測、研判結果和決策執行指令，使得安全運營更加高效。2）基于安全大模型與融合智能的未知威脅發現能力利用安全大模型對安全原語義強大理解能力和問題處理能力，融合專家經驗和機器智能特征，更準確檢測出網絡風險。專家經驗一般屬于強特征，它可以快速檢測出網絡風險，但泛化能力弱；機器智能屬于弱特征，單個機器智能特征無法有效刻畫并精確檢測出風險，多個機器智能特征的組合可以檢測出風險并且相對專家有較高的泛化能力。將專家經驗與機器智能

107、結合屬于網絡安全領域的一項大膽的創新，兩者優勢互補后有望在網絡安全領域的威脅檢測取得突破性進展。3）基于業務自學習的告警降誤報能力該模塊將歷史網絡、流量、主機數據與應用數據進行關聯，得到各應用的行為數據。再通過行為基線生成算法，形成諸如命令基線、進程基線、搜索關鍵字基線等各類正常業務行為的基線。然后，在網絡威脅告警運營的過程中，依托大模型的能力將告警數據按照特定的模糊匹配算法同業務行為基線進行關聯匹配，能夠實現匹配的即為正常業務行為，可以直接過濾，達到告警降誤報能力。4）用于提升模型可解釋性的安全對抗知識圖譜將ATT&CK戰術技術、威脅情報信息融入知識圖譜的圖節點屬性中?；跇嫿ǖ闹R圖譜，利

108、用圖譜推理和關聯分析技術，檢測潛在的威脅模式和關聯。這使威脅檢測系統能夠發現不易察覺的威脅，有助于提前預防和干預威脅事件。這種技術路線技術路線在威脅檢測具備高度的先進性和可解釋性。1）探索新技術應用可起到良好的行業示范作用將網絡安全技術與人工智能技術相結合是安全創新的重要途徑，通過不斷地探索新技術、新產品和新模式，迭代網絡安全能力體系，推動科技創新的持續發展。新技術的成功應用，可以激發更多的創新靈感和動力，推動金融科技創新水平不斷提升。2）經過不斷實踐可使人工智能技術更好服務網絡安全技術的成熟和廣泛應用是相輔相成的。一方面，技術的成熟需要不斷的實踐和改進；另一方面，廣泛的應用又為技術的進一步成

109、熟提供了更多的數據和反饋。通過“拋磚引玉”的形式，讓更多企業在已有的方案和成果上實踐，可讓這項技術更加的成熟，從而推動技術的廣泛普及和深入應用。案例總結與推廣價值現有的安全威脅檢測技術普遍存在誤報多、未知威脅發現能力弱、可解釋性差等問題。究其原因一方面是由于安全內視能力不足，無法深入系統內部獲取足夠的數據，另一方面是由于智能化水平不足，傳統基于規則的檢測系統通常無法兼顧檢出率和誤報率。針對上述威脅檢測中的問題，螞蟻集團通過切面技術將系統、網絡、應用等多維度的數據引入到威脅檢測領域，通過安全大模型將專家智能和機器智能快速融合，并依托安全大模型自身的行業知識，高效檢測出網絡威脅并對之進行研判。具體

110、方式如下，首先通過切面技術獲得系統、網絡、應用等多維度數據，并提取多維度數據中網絡主客體憑證進行關聯分析構建出完整攻擊鏈路。然后，安全大模型融合專家智能與機器智能，取長補短，發揮算法和專家各自的優勢，提升未知威脅的發現能力；同時構建以應用為主體的安全基線，安全大模型基于基線和專家經驗識別正常的業務行為，降低告警誤報。最后，使用系統、網絡、應用及情報數據構建安全對抗知識圖譜，提升模型的可解釋性，實現攻擊模式的發現與溯源。案例簡介隨著全球數字化轉型的浪潮持續涌動并不斷加快步伐，網絡空間和數字化業務已經日益成為經濟發展的核心載體與驅動力，其承載的價值量級呈指數級增長。然而，伴隨著的是網絡威脅風險態勢

111、的日趨嚴峻復雜，惡意攻擊手段日新月異，網絡安全事件頻發，對國家的信息安全構成了前所未有的挑戰。螞蟻集團作為領先的金融科技企業，在其廣泛的業務范圍內，涉及的信息化系統數量龐大且結構復雜，涵蓋了生產環境網絡、研發測試環境網絡、內部辦公網絡等多個維度，連接著數以百萬計的各類IT資產，如服務器、終端設備等。每日產生的網絡安全數據異常龐大，僅入侵威脅檢測實時探針日志每秒鐘就高達千萬條之多，全天候累積的數據總量更是達到驚人的萬億級別。在如此龐大的數據洪流中，螞蟻集團面臨著極其艱巨的安全防護任務，既要確保能夠從海量數據中實時精準地發現潛在的安全威脅，滿足高效、敏捷的威脅對抗實時性要求；又要能夠在面臨突發安全

112、事件時快速響應、有效應變，構建起一套既能靈活應對又能穩固支撐業務連續性的安全體系。尤為關鍵的是，鑒于螞蟻集團所處的金融領域對安全性的極高要求，其網絡安全工作必須具備金融級別的穩定性和可靠性，以維護用戶信任和社會責任，從而在數字化轉型的大潮中扮演好保駕護航的角色。在此背景下，為了保護企業的核心業務和敏感數據，螞蟻集團建立了以“安全平行切面融合智能”為核心的多層次網絡安全縱深防護體系，該體系通過人工智能技術與安全平行切面技術的深度融合，利用基于攻擊鏈路的安全切面數據關聯分析能力，實時捕捉潛在的威脅信息。同時，借助于基于融合智能的未知威脅發現能力，該體系能夠有效應對新型、未知的安全挑戰，提升整體安全

113、防護的前瞻性和有效性。在此基礎上，該體系還具備業務自學習的告警降誤報功能，通過自我學習和降噪，大幅減少無效的安全告警，顯著提升風險運營的效率。在歷次演練和實踐中，該體系對異常行為自動化研判率達到95%以上，能夠有效應對新型、未知的安全挑戰，提升整體安全防護的前瞻性和有效性。相關成果曾獲評2024 WIC Find智能科技創新應用典型案例、2022年度上海市網絡安全產業創新攻關成果，入選2024人工智能先鋒案例集及大模型應用落地“樣板間工程”優秀案例等。應用背景及實施效果“切面融合智能與威脅檢測技術”方案分為4個模塊，功能如下：1）基于攻擊鏈路的安全切面數據關聯分析能力該模塊有2個主要功能，涉及

114、網絡主客體憑證關聯方式，將網絡安全領域中多種類型的數據有效關聯。主客體憑證關聯分析和鏈路構建，是將一次網絡訪問行為的主體、客體、憑證所關聯的數據串聯起來。例如，一次web服務的訪問，主客體鏈路關聯分析需要將網絡訪問的發起IP、入網憑證、網絡訪問web站點這三者關聯起來，形成一個有效鏈路。代表性成果介紹（二）螞蟻集團切面融合智能在威脅檢測的應用25 PAGE26PAGE全球AI網絡安全產品洞察報告（一）國外AI安全產品分析螞蟻集團切面融合智能系統經過多次迭代和演進。1）通過安全平行切面將安全能力系統化地融入技術基礎設施與應用服務內部；2）基于ATT&CK攻擊知識框架體系，對攻擊行為、攻擊階段等維

115、度提供統一刻畫，圍繞行為畫像、威脅情報等多源異常聯合風險研判分析定性；3）通過離線數據分析平臺/知識圖譜平臺/模型服務平臺以及大模型服務平臺，將智能威脅檢測和研判能力融入到入侵檢測體系。螞蟻切面融合智能系統需要對螞蟻集團內所有業務提供入侵檢測服務，因此系統處理螞蟻集團內部生產網、研發測試網、辦公網、終端等百萬級IT資產的日志數據，每秒處理千萬條入侵威脅檢測實時探針日志，每日高達萬億條。與此同時，還要滿足威脅對抗的實時性要求、快速應變要求，以及金融級別的穩定性和可靠性?？偨Y來說，螞蟻集團入侵檢測系統面對的挑戰主要包括萬億級超大規模數據的實時檢測與離線分析、安全攻防強對抗的快速應變、金融級別的穩定

116、性和可靠性、復雜安全環境的入侵檢測水位量化。應用實施難度與復雜性基于人工智能的智能安全切面技術在市場上的影響力體現在以下幾個方面：首先，有助于減少網絡犯罪和數據泄露事件的發生，企業可以更好地保護客戶數據和業務機密，從而降低潛在的經濟損失。其次，能夠促進安全技術和人工智能領域的產業發展。這將有助于減少安全事件的損害范圍，降低惡意攻擊造成的社會成本。此外，對于安全專業人士而言，智能安全切面技術的發展為他們提供了更強大的工具和資源。智能安全切面技術的推廣性在于其應對網絡威脅的全方位能力和跨行業的適用性?，F在各個行業都迫切需要強大且智能化的安全防護系統。智能安全切面不僅能夠為企業提供個性化、高效的安全

117、解決方案，還能夠適應各種規模和需求的變化，使其成為市場上的通用防護產品。其整合人工智能的特性，使得它能夠不斷學習和適應新的威脅模式，增強了其在市場上的競爭力和推廣潛力。隨著安全意識的提高和技術的不斷進步，智能安全切面的應用和需求預計將持續增長。市場影響力與推廣性隨著大型語言模型（LLM）在企業應用中的迅速普及，相關的安全威脅也日益增多，呈現出多樣化和復雜化的趨勢。這些威脅不僅對企業的經濟利益和技術基礎設施構成威脅，還可能導致用戶體驗受損和合規風險增加。瑞數動態安全Botgate作為國內最早以AI為核心能力的應用安全防御產品之一，旨在保護企業免受惡意機器人和自動化攻擊的侵害，并特別關注防御那些針

118、對大型語言模型（LLM）平臺的濫用行為，例如通過非法反向代理和未經授權的平臺副本進行的攻擊。幫助企業維護其服務的完整性和安全性，同時保護客戶數據不受侵害，確保業務的連續性和品牌聲譽。案例背景1）AI智能威脅檢測瑞數信息通過自主研發的AI智能威脅檢測技術，提升了應對復雜自動化攻擊的響應能力。傳統的安全檢測往往依賴于固定規則和特征庫，而此類方法面對不斷變化的新型威脅時卻變得力不從心。瑞數信息的AI智能檢測體系則打破了這一困境，采用機器學習和大數據分析技術，能夠從海量網絡流量行為和模式中快速識別異常。通過標記的威脅檢測模型，系統不僅能夠發現已知的威脅，還能捕捉到那些暫未出現過的未知威脅。AI智能威脅

119、檢測系統能夠在攻擊發生行為之前，通過對系統日志、用戶行為、網絡流量的多維度分析，識別潛在的安全隱患。其收斂性機器學習引擎能夠自我學習與進化，使得能夠檢測模型在面對變化多端的攻擊手段時，也能保持高度的姿態和準確性。此外，系統通過全息指紋設備技術，實現對用戶終端、網絡設備的深度識別，確保精準定位攻擊源，快速阻止惡意行為。核心技術能力瑞數動態安全Botgate適用于多種應用場景，并能提供針對性的AI防護策略。應用場景與防護策略（三）瑞數信息LLM平臺濫用下的AI應用安全防御1）LLM平臺濫用威脅攻擊者通過構建未經授權的平臺鏡像并利用反向代理技術繞過地域限制，實施匿名化攻擊。這種復雜的攻擊手法不僅涉及

120、知識產權侵犯，更可能演變為更具規模的網絡犯罪行為。具體而言，攻擊者通過部署平臺克隆站點、突破地理訪問限制并借助代理服務隱匿身份，以盜用平臺技術資源、構建仿冒服務并規避安全防護。此類非法行為顯著增加了LLM應用的算力消耗和運營成本，同時可能被濫用于自動化生成釣魚內容、制作深度偽造媒體等欺詐活動，不僅嚴重損害品牌聲譽，更將對企業和個人網絡安全構成重大威脅。瑞數動態安全Botgate防御策略：通過部署多層檢測機制和實時風險評估引擎，及時識別并攔截未授權的平臺接入行為，有效甄別和阻斷可疑代理服務器流量，全面保護客戶數據安全，切實維護平臺知識產權與品牌聲譽。2）提示詞注入攻擊威脅攻擊者通過部署惡意機器人

121、，實施系統化的提示詞注入和數據抓取，能夠大規模竊取機密信息、企業核心知識以及個人身份信息（PII）等敏感數據。此類攻擊行為不僅直接導致數據泄露風險，還可能衍生出難以預見的安全隱患，嚴重損害用戶對平臺的信任，并對企業和個人的安全防護體系造成重大沖擊。瑞數動態安全Botgate防御策略：通過部署先進的機器人行為識別技術，實時監測并攔截異常提示詞請求，結合多維度的數據防泄露機制，全方位保護企業與個人核心數據安全。3）短信欺詐攻擊攻擊者利用自動化機器人，批量發起大規模短信欺詐攻擊，耗費平臺短信資源、造成經濟損失的同時，也會增加運營成本，嚴重損害企業品牌聲譽。瑞數動態安全Botgate防御策略：通過部署

122、先進的機器人行為識別技術，實時監測并攔截異常提示詞請求，結合多維度的數據防泄露機制，全方位保護企業與個人核心數據安全。4）賬號盜用攻擊惡意機器人利用撞庫攻擊或系統漏洞實施賬號盜用，從而執行未經授權的非法操作并竊取敏感信息，不僅可能導致數據泄露，還可能引發財產損失，對企業構成重大安全威脅。瑞數動態安全Botgate防御策略：基于訪問行為異常檢測技術，構建實時賬號安全監測體系。5）新賬號欺詐攻擊者利用自動化工具批量注冊虛假賬號實施資源盜用，不僅大量消耗系統資源，還可能導致服務性能顯著下降。瑞數動態安全Botgate防御策略：基于智能風險評估模型和異?？蛻舳俗R別技術，構建嚴格的賬號注冊驗證機制，有效

123、防控批量虛假賬號注冊。27 PAGE28PAGE全球AI網絡安全產品洞察報告（一）國外AI安全產品分析2）動態安全引擎瑞數信息“動態安全”采用了創新的動態防護技術，包括動態封裝動態、動態交互、動態驗證和動態令牌。通過這些動態防護機制，系統能夠在應用層面增加不可預測性，從而有效阻止攻擊者對漏洞的利用。每次訪問請求和響應都會被重新包裝和加密，使得攻擊者無法輕松讀取或利用網頁底層代碼和數據。動態安全引擎能夠根據威脅態勢對各類網站應用及業務交易的全過程進行動態感知、分析與預測，精準識別并阻止自動化攻擊工具和調試行為，及時追溯與阻斷惡意攻擊來源，打擊偽裝正常交易的業務作弊、利用合法賬號竊取敏感數據，以及

124、假冒合法終端應用的各類網絡欺詐與攻擊行為，從而最大限度地主動透視風險，實現安全風險防護。通過持續學習和分析攻擊模式，動態安全引擎還可以根據實際威脅對防護措施進行優化調整。這種能力讓瑞數信息的動態安全防護系統能夠始終保持對新型威脅的有效抵御，特別是在AI自動化面對攻擊的持續進化時，動態安全引擎提供了持續升級的防護能力。3）全面的安全防護體系通過整合AI智能威脅檢測和安全動態引擎，瑞數信息構建了一套全面的安全防護體系。無論是Web、APP、H5、API接口以及各類混合業務，該體系都對應提供智能化的防護。瑞數信息的自動化攻擊防護體系通過結合AI智能技術，實現了從自動化攻擊的精準識別到處理的閉環防護。

125、AI驅動的智能威脅檢測和人機識別能力，能夠自動化地識別和阻斷各種自動化工具和群控行為，提供了針對性強、響應迅速的防護措施。在業務層面，瑞數信息的防護類型包括盜刷、虛假注冊、霸占庫存、驗證碼繞過等問題。動態應用保護系統和API動態安全防護系統的結合，能夠有效抵御大規模自動化工具的攻擊，包括Bots攻擊、爬蟲攻擊等。這個安全防護體系不僅能夠實時響應復雜的自動化攻擊，還能夠通過威脅情報與攻擊者畫像引擎對攻擊者進行追蹤溯源，幫助企業預防未來的潛在威脅。瑞數信息高效的全面防護體系還具備快速的恢復能力，在遭遇攻擊后，能夠快速恢復系統運行，確保企業業務的連續性。面對傳統應用安全威脅的持續演進以及LLM應用帶

126、來的新型安全挑戰，企業亟需構建全方位的安全防護體系。瑞數動態安全 Botgate通過先進的多層防護機制，為企業提供了強有力的安全保障：全方位的威脅檢測能力 實時的風險響應機制 精準的防護策略執行 持續的安全態勢感知產品優勢在數字化轉型加速的背景下，部署專業的安全解決方案已成為企業保護數字資產、維護業務持續性的關鍵舉措。瑞數動態安全Botgate定位于為企業提供一個全面高效的防護體系，有效應對傳統應用安全威脅的持續演進及LLM應用帶來的新型安全挑戰。它通過先進的多層次的AI智能威脅檢測和動態安全引擎，提供了全面的安全防護策略，適用于多種應用場景，為企業提供了強有力的安全保障，具有強大的核心能力和

127、市場競爭力。隨著AI技術的不斷發展和應用，瑞數動態安全 Botgate不僅能夠有效應對當前的安全挑戰，還能為企業未來的安全建設提供堅實基礎。未來Botgate將繼續升級和優化，以適應不斷變化的安全環境，保護企業的數字資產，維護業務的持續性和穩定性。實施收益與推廣價值AI在提高網絡安全產品能力方面具有革命性意義，當傳統安全產品找到與AI的契合點，將會迸發出1+1大于2的效果。以AI防火墻和AI零信任為例。1）下一代AI防火墻下一代AI防火墻作為市場中的剛需產品，預計將成為產品創新力最強的安全技術解決方案。融合了AI大模型能力的防火墻可在實際工作中自適應學習，根據實時流量數據持續訓練、優化模型，提

128、升威脅檢測能力。AI還將賦予防火墻自動化處置能力，可自動調測策略、分析威脅流量，監控設備狀態，結合先進的對話式AI技術，能夠通過自然語言與用戶進行交互，實現智能運維。因此，AI大模型可大幅提升防火墻功能，賦予其更強大的生命力，預計將成為網絡安全硬件產品中市場規模最大的產品品類。根據市場研究報告，下一代AI防火墻的市場規模正在快速增長，并且預計未來幾年將繼續保持高速增長。目前，下一代AI防火墻競爭日趨激烈，主要玩家包括華為、深信服、Palo Alto Networks等，未來將更加注重全流量分析與加密流量檢測，以及語音/自然語言處理應用，進一步提高網絡安全防護的效率和用戶體驗。2）AI零信任解決

129、方案零信任解決方案在實際落地中存在用戶體驗不高、手動定義和管理訪問策略、資產收集不全等問題，并導致該方案無法被甲方采納。而AI大模型的加持可有效解決零信任體系在落地時遇到的各類問題，實時分析網絡流量和用戶行為，自動識別潛在的安全威脅，動態調整安全策略，簡化混合云環境的集成，提高了零信任網絡的自適應性和智能性。微軟在去年11月舉辦的Microsoft Ignite 2023大會上提出全面推進零信任戰略，明確提出零信任全面滲透到微軟的安全策略中。在微軟的零信任戰略中，人工智能扮演者至關重要的作用，不但用于幫助客戶部署成熟的零信任框架，還將廣泛賦能零信任技術創新，覆蓋了從持續監控、自適應威脅響應到新

130、興威脅防御的幾乎所有零信任技術堆棧，強化信息源、決策引擎和策略執行三個關鍵組成部分，顯著提升了零信任戰略的實施效果。AI對于安全產品具有革命性意義目前，AI技術在網絡安全領域的應用已經逐漸展現出巨大價值和發展潛力，賦能網絡安全產品更強的功能和更高的效率。與此同時，越來越多的企業和機構對于AI的高接受度，并逐漸開始部署、使用AI安全相關的產品和解決方案，促使網絡安全廠商在AI安全領域投入更多資源開發、迭代AI安全產品，使其更具生命力。AI網絡安全市場的高速增長和AI安全相關企業融資額在網安產業的高額占比，凸顯出AI對于網安產業發展的重要性和推動力。未來，隨著數字化轉型和AI大模型技術的進一步發展

131、，AI安全的產品力將更加凸顯，包括幫助終端用戶降低安全運營成本；利用多模態模型和自動化操作增強網絡安全威脅檢測和響應，為企業減少暴露面和攻擊面等，這些都將為網絡安全市場發展提供新的引擎。AI將成為網絡安全市場的新增長引擎現階段，眾多企業已經或準備開始運用各類AI工具進行網絡安全維護或治理工作。Splunk在2024年安全現狀報告中指出，93%的受訪企業安全負責人表示已在企業或組織中使用生成式AI，但有34%的受訪者表示未制定相關的AI政策，以AI對抗AI的場景將愈發普遍全球AI安全發展趨勢29 PAGE（一）國外AI安全產品分析65%的受訪者還未充分認識到AI帶來的影響。值得注意的是，44%的

132、受訪者已將AI列為2024年的首要計劃，超過了云安全部署，成為企業安全的首要事務。在黑客及其他攻擊組織視角，AI憑借著分布式、智能化、自動化等特性，也被利用來強化攻擊手段，包括自動化攻擊流程、高效率發掘并利用漏洞、智能規避防御措施等。出于更加直接的經濟動機或政治因素，攻擊者往往會展現出更加迅速的AI攻擊利用策略，包括開發出多種惡意的AI大模型，進一步增加了傳統安全產品體系的壓力，并促使防守方利用AI進行反擊。由于在攻守雙方的運用，未來的網絡攻防將逐漸AI化，但當前仍處于AI賦能網絡攻防的發端之際。未來攻守雙方將會進一步在技術、數據、模型等層面的找到最佳的結合點，搶占網絡攻防領域的“技術差”“應

133、用差”，從而獲取對抗博弈優勢。AI的價值已經成為一種共識。隨著AI技術的快速發展及其在各個領域的廣泛應用，給大量的行業帶來了全新的變革。但安全是AI賦能千行百業的前提，AI想要大規模應用，首先要解決的問題就是如何保障安全。由于AI還在部分關鍵基礎設施領域部署、應用，因此AI系統的安全性不僅直接關系到個人隱私、企業機密，甚至還事關國家安全。目前AI在系統、算法、數據、應用等層面都還存在脆弱性，無法滿足機密性、完整性和可用性的需求?；诖?，AI自身安全的需求十分迫切。從2024年全球AI安全融資表中也可以發現，AI自身的安全性占比高達23%，是最受資本和創業者青睞的細分方向?？梢灶A測，在不久的未來

134、，AI安全將長期占據網安行業的焦點。AI自身的安全性將成為行業關注焦點在世界多國越發重視數據安全、確保數據合法合規處理與流通的背景下，對數據高度依賴的AI正面臨嚴苛的合規要求，AI網絡安全產品的商業化運用也越發以合規為首要應對場景。在全球市場，歐盟的GDPR（通用數據保護條例）對AI關于數據收集與處理、數據保護與安全、算法透明度與可解釋性以及責任與問責等多個方面做了多項規則，而最新的人工智能法案要求具有系統性風險的AI模型提供方履行進行風險評估、減輕風險、報告嚴重事件、進行尖端測試和模型評估、確保網絡安全等一系列合規義務。中國于2023年10月發布生成式人工智能服務安全基本要求（征求意見稿）對

135、于生成式人工智能服務的基本安全要求予以規定，包括語料（即訓練數據）安全、模型安全等方面的具體要求、人工智能服務提供者應遵循的相應安全措施以及安全評估的程序和內容，其中明確要求生成式人工智能服務提供者在進行算法備案申請前，應先行進行安全性評估，并在算法備案時提交內部評估結果以及證明材料。AI存在合規挑戰中國最具影響力的網絡安全行業門戶，創立于2010年，提供專業的安全咨詢與網安行業研究服務，匯集全球海量安全資訊和深度研究報告。FreeBuf起步于2004年誕生的支付寶，經過二十年的發展，已成為世界領先的互聯網開放平臺。聚焦發展，螞蟻集團形成五大業務增長曲線，即數字支付、數字互聯、數字金融、全球化

136、、數字科技。全國工商聯發布的2024年中國民營企業500強榜單，螞蟻集團約1785億營收位列全國第44位、服務業第12位，研發投入約212億全國第8位。中國企業聯合會發布的2024中國企業500強榜單（同時包含央國企和民營企業），螞蟻集團位列全國第147位。在安全可信、人工智能、隱私計算等領域獲相關科學技術獎6項，包括國家科學進步獎、吳文俊人工智能科技進步獎、浙江省科技進步獎等。螞蟻集團創始于1995年，是上市公司中成立最早的網絡安全企業，圍繞網絡安全、大數據與云服務三大業務持續創新，以安全護航各行業客戶數字化轉型。多年來，集團為政府、運營商、金融、能源、醫療衛生、教育、交通、制造等各行業客戶

137、提供網絡安全產品與服務。未來，天融信將始終以捍衛國家網絡空間安全為己任，創新超越，致力于成為民族安全產業的領導者、領先安全技術的創造者和數字時代安全的賦能者。天融信（002212.SZ）中國動態安全技術的創新者和Bots自動化攻擊防護領域的專業廠商。聚焦新一代應用安全與數據安全建設，提供全面覆蓋Web、APP、API的全渠道應用安全、業務安全、數據安全及云安全等領域的產品及服務，持續為用戶創造安全的價值，高效應對各種未知威脅和挑戰。目前業務覆蓋三大運營商、金融、政府、制造、能源、交通、醫療、教育、電商互聯網等眾多行業千余家頭部客戶。瑞數信息內容咨詢：FreeBuf咨詢 楊先生 15757171611 合作咨詢：FreeBuf咨詢 趙女士 13127723186 免責聲明本報告行業數據及相關市場預測為公司研究院采用桌面研究、行業訪談、市場調查及其他研究方法，部分數據文字采集于公開信息；FreeBuf咨詢對該信息準確性、完整性或可靠性做最大的努力追求，但不做任何保證。在任何情況下，本報告中的信息或所表達的觀點不構成任何建議。