《計算機行業深度報告：AI監管鑄就創新與安全平衡之道-230724（31頁）.pdf》由會員分享，可在線閱讀，更多相關《計算機行業深度報告：AI監管鑄就創新與安全平衡之道-230724（31頁）.pdf（31頁珍藏版）》請在三個皮匠報告上搜索。

1、證券研究報告行業深度報告計算機 東吳證券研究所東吳證券研究所 1/31 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 計算機行業深度報告 AI 監管：鑄就創新與安全平衡之道監管：鑄就創新與安全平衡之道 2023 年年 07 月月 24 日日 證券分析師證券分析師 王紫敬王紫敬 執業證書：S0600521080005 021-60199781 行業走勢行業走勢 相關研究相關研究 信創行業更新：招標可期，左側布局 2023-07-03 重視 AI+應用投資機會 2023-07-02 增持（維持）Table_Tag Table_Summary 投資要點投資要點 AI 發展引發新的

2、安全問題發展引發新的安全問題：以 ChatGPT 為代表的生成式人工智能正在重塑數字內容的生產方式和消費模式，顯著地影響各行各業變革。今年以來，大模型技術與 AIGC 快速融合發展，大模型生成的內容能夠達到“以假亂真”的效果。相應地，應用門檻的不斷降低，使得“換臉”、“變聲”等手段更容易實現，因 AIGC 濫用帶來的虛假信息、偏見歧視乃至意識滲透等問題無法避免，對個人、機構乃至國家安全都存在較大的風險。因此對生成式人工智能服務的新監管需求也隨著而來。目前。AI 多帶來的新安全問題主要包括 AIGC 內容安全和數據安全問題。AI 監管監管：政策與法規先行：政策與法規先行：考慮到 AI 可能對社會

3、帶來的安全問題，安全標準、法律法規和自我監管是對 AI 進行監管較為重要的基石。政府層面，亟需出臺監管政策對其加以規范，實現監管覆蓋全面化，分階段、全流程規范 AIGC 相關要素。企業層面，也需要通過被監管以消除社會對 AI 大模型的不信任。中國政府重視 AI 產業，國內網信辦等 7 個部委發布的生成式人工智能服務管理暫行辦法將于 2023 年 8 月 15 日起正式施行，同時 國務院 2023 年度立法工作計劃 顯示，人工智能法已列入立法計劃，AI 監管政策正加速推進。AI 監管監管：平衡創新與安全、監管手段多樣：平衡創新與安全、監管手段多樣：AI 監管主要是面向 AIGC技術的違規應用，應

4、對 AIGC 可能給社會、政治、金融、教育帶來的危害，這是國家安全、社會安全的關鍵，因此，對于 AI 監管來說，要從內容安全機制、技術內容安全機制、技術監管監管手段等手段等層面進行突圍。內容安全機制內容安全機制的原理是通過數據安全控制、算法備案和安全評估、內容安全合規等一系列流程確保生成內容符合法規和監管要求。技術監管手段技術監管手段的原理是利用 AI 對抗 AI，通過海量測試數據集，對 AIGC 生成式模型的數據、過程、生成內容進行全過程的測試、監管。AI 監管有望催生千億市場：監管有望催生千億市場：2030 年我國人工智能核心產業規模將超過1 萬億元人民幣。一般信息化投入中安全占比至少在

5、5%-10%以上，而由于 AI 大模型特殊性，AI 安全未來將成為所有參與方必須考慮的問題，貫穿從數據標注、模型訓練和開發、內容生成、應用開發的事前-事中-事后全過程，投入力度不亞于傳統安全投入，因此假設 AI 監管在整個產業鏈中的占比按照 5%-10%來測算的話，我們預計到 2030 年國內AI 大模型的監管市場規模將達到 500-1000 億元。相關標的：相關標的：中國 AI 監管現階段關注內容合規，生成內容需保證真實準確，體現核心價值觀，不得對國家安全、經濟發展和社會穩定構成威脅與挑戰。有圖像、視頻鑒真或內容監管能力的企業有望率先受益于 AI監管政策的出臺與落地。建議關注 AI 監管相關

6、公司：人民網、新華網、美亞柏科、博匯科技。風險提示：風險提示：政策落地不及預期，AI 監管推進不及預期，行業競爭加劇。-17%-11%-5%1%7%13%19%25%31%37%43%2022-7-252022-11-222023-3-222023-7-20計算機滬深300 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 2/31 內容目錄內容目錄 1.AI 發展引發新的安全問題發展引發新的安全問題.5 1.1.AIGC 內容安全問題.5 1.2.數據安全問題.6 2.AI 監管：政策與法規先行監管：政策與法規先行.7 2.1.政府

7、層面：借助法律法規保障 AI 行業有序繁榮.9 2.1.1.歐洲強監管，立法取得突破進展.9 2.1.2.美國弱監管鼓勵行業自律，近期監管加速推進.10 2.1.3.中國首個生成式 AI 服務監管文件出臺，關注 AIGC 內容安全.11 2.2.企業層面：加強自我監管，規范行業秩序.13 3.AI 監管：平衡創新與安全，監管手段多樣監管：平衡創新與安全，監管手段多樣.13 3.1.引入安全機制.13 3.2.技術監管手段豐富.14 3.1.AI 監管有望催生千億市場.17 3.2.AI 監管行業競爭要素：品牌、技術、市場.18 4.相關標的相關標的.18 4.1.人民網.18 4.2.新華網.

8、20 4.3.美亞柏科.22 4.4.博匯科技.24 4.5.東方通.26 4.6.拓爾思.28 5.風險提示風險提示.30 4XjYoUjXiXdUoMoMtQbR8QbRpNoOoMnOiNrRpQfQpNmR7NoPoOMYpOxOwMtOsO 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 3/31 圖表目錄圖表目錄 圖 1：大模型輸出內容容易存在較大風險.5 圖 2：通過提示詞繞過限制生成釣魚郵件.6 圖 3：AI 生成圖片顯示五角大樓附近地區發生爆炸.6 圖 4：潛在的數據泄露風險可能更高（2023 年 2 月和 202

9、3 年 4 月，單位：人/10 萬人）.7 圖 5：OpenAI 調整 ChatGPT 數據管理措施.8 圖 6：人工智能法案將 AI 應用分為不同風險級別進行監管，形成風險金字塔.9 圖 7：OpenAI 主動發布Governance of superintelligence.13 圖 8：AIGC 內容安全合規解決方案框架.14 圖 9：AIGC-X 測試案例.14 圖 10：AIGC 的生成瑕疵.15 圖 11：AIGC 的生成瑕疵.15 圖 12：事實核查機器人的亮點.15 圖 13：事實核查機器人識別暴恐內容.15 圖 14：行業基礎大模型框架.17 圖 15：螞蟻集團與清華大學聯合

10、推出的“蟻鑒 AI 安全檢測平臺 2.0”.17 圖 16：人民網產品體系及旗下網站平臺.19 圖 17：人民網 2020-2023Q1 營收及同比增速.19 圖 18：人民網 2020-2022 年營收結構（億元）.19 圖 19：新華網 2020-2023Q1 營收及同比增速.21 圖 20：新華網 2020-2022 年營收結構（億元）.21 圖 21：事實核查機器人識別暴恐及色情內容.21 圖 22：美亞柏科主營業務.22 圖 23：美亞柏科 2020-2023Q1 營收及同比增速.23 圖 24：美亞柏科 2022 年營收結構.23 圖 25：美亞柏科：AI-3300慧眼視頻圖像鑒真

11、工作站.23 圖 26：博匯科技：智能視聽全站解決方案.24 圖 27：博匯科技 2020-2023Q1 營收及同比增速.25 圖 28：博匯科技 2022 年營收結構.25 圖 29：系統運行界面.26 圖 30：系統運行界面.26 圖 31：東方通 2020-2023Q1 營收及同比增速.27 圖 32：東方通 2020-2022 年營收結構.27 圖 33：拓爾思 2020-2023Q1 營收及同比增速.29 圖 34：拓爾思 2020-2022 年營收結構.29 圖 35：TRS 自動校對云服務.30 表 1：數據泄露事件引發擔憂，ChatGPT 遭禁用.6 表 2：歐洲國家數據監管趨

12、嚴，OpenAI 調整數據管理措施積極配合政府監管.8 表 3：歐盟人工智能法案具有域外效力.10 表 4：美國人工智能治理的重要文件與事件.10 表 5：政策文件中與內容安全有關的表述.11 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 4/31 表 6：人民網主要業務及具體內容.19 表 7：新華網主要業務及具體內容.20 表 8：博匯科技主要業務及具體內容.24 表 9：東方通主要業務及具體內容.26 表 10：拓爾思不同技術領域及具體內容.28 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究

13、所東吳證券研究所 行業深度報告 5/31 1.AI 發展引發新的安全問題發展引發新的安全問題 新技術新技術發展同時會帶來新的安全問題發展同時會帶來新的安全問題。以 ChatGPT 為代表的生成式人工智能正在重塑甚至顛覆數字內容的生產方式和消費模式，越來越顯著地影響各行各業的變革。今年以來，大模型技術與 AIGC 快速融合發展，大模型生成的內容能夠達到“以假亂真”的效果，這使得應用門檻也在不斷降低，人人都能輕松實現“換臉”、“變聲”。因 AIGC濫用帶來的虛假信息、偏見歧視乃至意識滲透等問題無法避免，對個人、機構乃至國家安全都存在較大的風險。因此對生成式人工智能服務的監管已成為全球治理的重大課題

14、。目前，AI 帶來的新安全問題主要包括 AIGC 內容安全和數據安全問題。圖圖1：大模型輸出內容容易存在較大風險大模型輸出內容容易存在較大風險 數據來源：安恒信息公眾號，東吳證券研究所 1.1.AIGC 內容安全問題內容安全問題 生成式 AI 可能被引導生成包含有害內容的文本、照片、視頻，或用于非正當用途，可能引發網絡、社會安全及意識形態問題。1)網絡安全網絡安全：LLM 可以被用于生成釣魚郵件，并通過提示詞令 LLM 模仿特定個人或群體的語言風格，使得釣魚郵件可信度更高。安全機構 Check Point Research 在近期發表的報告中表示已經在暗網發現有黑客試圖繞過限制將 ChatGP

15、T 用于生成釣魚郵件等。此外 LLM 可以輔助生成惡意代碼，進而降低了網絡攻擊的門檻。2)虛假信息虛假信息：1.深度合成成為詐騙手段之一。騙子可通過 AI 換臉和擬聲技術，佯裝熟人實施詐騙。2.虛假內容對社會造成不利影響。生成式 AI 使得虛假信息變得更容易、更快速也更廉價，AI 生成的虛假內容可能對社會造成不利影響。美國時間 5 月 22日上午，一張由 AI 生成顯示五角大樓附近地區發生爆炸的圖片在社交網絡瘋傳。據環球網報道，圖片開始流傳的瞬間美國股市出現了明顯下跌。3)意識形態意識形態：為提高 AI 面對敏感復雜問題的表現，開發者通常將包含著開發者所認為正確觀念的答案加入訓練過程，并通過強

16、化學習等方式輸入到模型中。這可能會導 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 6/31 致 AI 在面對政治、倫理、道德等復雜問題生成具有偏見的回答。OpenAI 于 3 月發表文章GPT-4 System Card稱，GPT-4 模型有可能加強和再現特定的偏見和世界觀，模型行為也可能加劇刻板印象或貶低性的傷害。例如，模型在回答關于是否允許婦女投票的問題時，往往會采取規避態度。圖圖2：通過提示詞繞過限制生成釣魚郵件通過提示詞繞過限制生成釣魚郵件 圖圖3：AI 生成圖片顯示五角大樓附近地區發生爆炸生成圖片顯示五角大樓附近地區發

17、生爆炸 數據來源：Darkreading，東吳證券研究所 數據來源：紐約郵報，東吳證券研究所 1.2.數據安全問題數據安全問題 數據泄露事件引發擔憂，數據泄露事件引發擔憂，ChatGPT 遭禁用。遭禁用。ChatGPT 由于開源庫 bug 導致信息泄露，泄露數據分別為“設備信息”、“會議內容”與“訂閱者信息”。根據 Cyberhaven 的數據，潛在的數據泄露風險可能更高：每 10 萬名員工中就有 319 名員工在一周內將公司敏感數據輸入進 ChatGPT，且這一數據較 2 個月前有所增長。截至目前已有蘋果、摩根大通、三星等多家企業禁止其員工與 ChatGPT 等聊天機器人分享機密信息。表表1

18、：數據泄露事件引發擔憂，數據泄露事件引發擔憂，ChatGPT 遭禁用遭禁用 組織組織 事件類型事件類型 具體內容具體內容 三星電子 數據泄露、禁用 三星內部發生三起涉及 ChatGPT 誤用與濫用案例，包括兩起“設備信息泄露”和一起“會議內容泄露”。報道稱，半導體設備測量資料、產品良率等內容或已被存入 ChatGPT 學習資料庫中。OpenAI 數據泄露 Redis 開源庫 bug 造成 ChatGPT 數據泄露，導致部分用戶可以看見其他用戶的個人信息和聊天查詢內容。泄露的信息包括訂閱者的姓名、電子郵件地址、支付地址、信用卡號后四位數字和到期日期。中國支付清算協會 禁用 支付行業從業人員在使用

19、 ChatGPT 等工具時，要嚴格遵守國家及行業相關法律法規要求，不上傳國家及金融行業涉密文件及數據、本公司非公開的材料及數據、客戶資料、支付清算基礎設施或系統的核心代碼等。蘋果 禁用 據知情人士透露，蘋果內部禁止員工使用 ChatGPT 和其他外部 AI 工具，據稱是擔心員工可能會泄露機密數據。軟銀集團 禁用 出臺使用交互式人工智能等云服務的指導方針，警告員工使用 ChatGPT 和其他商業應用，“不要輸入公司身份信息或機密數據”。臺積電 禁用 發布內部公告，謹慎使用網絡工具如 ChatGPT 或 Bing AI Chat 等提醒員工應秉持“不揭露公司信息”、“不分享個人隱私”、“不完全相信

20、生成結果”原則。請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 7/31 表表1：數據泄露事件引發擔憂，數據泄露事件引發擔憂，ChatGPT 遭禁用遭禁用 組織組織 事件類型事件類型 具體內容具體內容 數據來源：OpenAI 官網、財聯社、億歐網、澎湃新聞，東吳證券研究所 圖圖4：潛在的數據泄露風險可能更高潛在的數據泄露風險可能更高（2023 年年 2 月和月和 2023 年年 4 月，單位：人月，單位：人/10 萬人）萬人）數據來源：Cyberhaven，東吳證券研究所 數據泄露問題難以通過傳統技術手段解決。數據泄露問題難以通過傳

21、統技術手段解決。數據安全的風險點在于，用戶在與 LLM交互的過程中輸入的提示詞可能被用于 LLM 迭代訓練，并通過交互被提供給其他使用者。大多數 DLP 解決方案旨在識別和阻止某些文件和某些可識別的 PII 的傳輸。而用戶輸入 LLM 的文字更具多樣性、不同企業對于機密數據定義的差異性較大、隨 LLM 向多模態發展輸入的文件格式將更加豐富，這都使得數據泄露問題難以通過傳統 DLP 手段解決。2.AI 監管監管：政策與法規先行：政策與法規先行 考慮到 AI 可能對社會帶來的安全問題，安全標準、法律法規和自我監管是對 AI 進行監管較為重要的基石。政府層面，亟需出臺監管政策對其加以規范，實現監管覆

22、蓋全面化，分階段、全流程規范 AIGC 相關要素。企業層面，也需要通過被監管以消除社會對 AI 大模型的不信任。以以 OpenAI 為例：為例：歐洲國家歐洲國家 AI 監管趨嚴，監管趨嚴，OpenAI 調整數據管理措施調整數據管理措施應對監管要應對監管要 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 8/31 求求。1.以意大利政府為代表，歐洲國家接連以數據安全為由，啟動對 ChatGPT 的調查。3月31日意大利數據保護局以違反 通用數據保護條例(GDPR)為由暫時禁用ChatGPT，并在此后提出了一系列整改要求。隨后陸續有德國

23、、法國、歐盟等發布數據監管措施。2.OpenAI 積極配合政府監管，并調整數據管理措施。4 月 5 日，OpenAI 與意大利個人數據保護局舉行會議，并表示合作愿意。OpenAI 隨后于 4 月 25 日調整 ChatGPT 數據管理措施，使用戶有權利不將數據分享給 OpenAI 用于模型訓練。表表2：歐洲國家數據監管趨嚴，歐洲國家數據監管趨嚴，OpenAI 調整數據管理措施積極配合政府監管調整數據管理措施積極配合政府監管 日期 國家/組織 事件 2023 年 3 月 31 日 意大利 意大利數據保護局（Garante）宣布暫時禁用 ChatGPT，并在此后提出了一系列整改要求，包括針對未成年

24、人增加年齡驗證，披露如何收集和使用個人數據訓練算法的信息等。目前 ChatGPT 已經解決了監管機構提出的問題，在該國恢復服務。2023 年 4 月 3 日 德國 德國聯邦數據保護專員表示，出于對數據安全問題的考量，該國存在暫時禁止使用 ChatGPT 的可能性。德國聯邦數據保護機構已要求意大利監管機構提供其禁止 ChatGPT 的進一步信息。2023 年 4 月 13 日 歐盟 歐盟中央數據監管機構歐洲數據保護委員會（EDPB）成立特別工作組，幫助歐盟各國應對廣受歡迎的人工智能聊天機器人 ChatGPT，促進歐盟各國之間的合作，并就數據保護機構可能采取的執法行動交換信息。2023 年 4 月

25、 13 日 西班牙 西班牙國家數據保護局發表聲明，稱該機構已經正式對 ChatGPT 可能的違反法律行為展開初步調查程序。2023 年 4 月 13 日 法國 法國國家信息與自由委員會(CNIL)目前已接到有關 ChatGPT 的數份投訴，目前已展開調查。投訴認為 ChatGPT 違反歐盟個人信息保護條例(RGPD)，涉嫌侵犯用戶隱私、捏造不實信息。2023 年 4 月 5 日 OpenAI OpenAI 與意大利個人數據保護局舉行會議，并表示愿意與該機構進行合作，以解決其對數據安全的擔憂。2023 年 4 月 25 日 OpenAI OpenAI 調整數據管理措施。此前 OpenAI 有權將

26、對話內容用于模型訓練微調，更新后用戶可禁用對話記錄功能，禁用后對話將會在 30 天內刪除且不會被用于模型訓練。數據來源：界面新聞，第一財經，光明網，人民網，澎湃新聞，OpenAI，東吳證券研究所 圖圖5：OpenAI 調整調整 ChatGPT 數據管理措施數據管理措施 數據來源：OpenAI，東吳證券研究所 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 9/31 2.1.政府層面：借助法律法規保障政府層面：借助法律法規保障 AI 行業有序繁榮行業有序繁榮 從世界范圍來看，為打造一個可信的人工智能生態系統，中國、美國和歐盟均在探索人

27、工智能治理之道，并通過出臺響應的法律法規來規范人工智能發展，這一過程中 AI監管勢在必行。2.1.1.歐洲強監管，立法取得突破進展歐洲強監管，立法取得突破進展 歐盟通過專門立法對人工智能進行整體監管。歐盟通過專門立法對人工智能進行整體監管。2021 年 4 月，歐盟委員會提出了人工智能法案提案。2023 年年 6 月月 14 日，歐洲議會通過人工智能法案日，歐洲議會通過人工智能法案草案草案，歐盟人，歐盟人工智能治理迎來最新突破進展。工智能治理迎來最新突破進展。按照立法程序，法案下一步將正式進入歐盟委員會、議會和成員國三方談判協商的程序，以確定最終版本的法案。該法案通過將 AI 應用分為不同風險

28、級別，并針對不同等級風險實施不同程度的限制措施。作為全世界第一部綜合性人工智能治理立法，該法案將成為全球人工智能法律監管的標準，被各國監管機構廣泛參考。圖圖6：人工智能法案將人工智能法案將 AI 應用分為不同風險級別進行監管，形成風險金字塔應用分為不同風險級別進行監管，形成風險金字塔 數據來源：Bloomberg，東吳證券研究所 歐盟成為歐盟成為 AI 立法先行者，布魯塞爾效應有望再現。立法先行者，布魯塞爾效應有望再現。布魯塞爾效應指歐盟通過市場機制將其單邊監管外化到全球，使得被監管的實體最終在歐盟外也要遵守歐盟的法律。其原因主要有兩點：1)歐盟擁有著比美國體量更大、比中國更富裕的消費市場。歐

29、盟擁有著比美國體量更大、比中國更富裕的消費市場。對許多公司而言，進入歐盟市場的好處大于其適應歐盟嚴格標準所付出的代價。同時歐盟還建立了全面的體制架構，并利用政治決心來貫徹其規定。2)歐盟擁有影響廣泛的制裁權以及禁止產品或服務進入歐盟市場的能力。歐盟擁有影響廣泛的制裁權以及禁止產品或服務進入歐盟市場的能力。這種取消市場準入的可能性有效地阻止了企業的違規行為，并促使其遵守歐盟的規定。導致企業自愿推廣歐盟標準以管理其全球業務。歐盟標準成為全球標準。請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 10/31 歐盟人工智能法案具有域外效力，目

30、前即將進入歐盟啟動監管前的最后階段，歐盟人工智能法案具有域外效力，目前即將進入歐盟啟動監管前的最后階段，正式施行后有望通過布魯塞爾效應進一步推動全球正式施行后有望通過布魯塞爾效應進一步推動全球 AI 監管。監管。表表3：歐盟人工智能法案具有域外效力歐盟人工智能法案具有域外效力 法案適用于法案適用于 法案第二條法案第二條 在歐盟市場上投放人工智能系統或將其應用于服務的供應商，無論供應商在歐盟或第三方國家設立 位于歐盟的人工智能系統的用戶 非歐盟的人工智能系統的供應商和用戶，只要人工智能系統產生的輸出在歐盟使用。數據來源：走出去智庫，東吳證券研究所 2.1.2.美國弱監管鼓勵行業自律，近期監管加速

31、推進美國弱監管鼓勵行業自律，近期監管加速推進 2022 年 10 月，美國白宮發布人工智能權利法案藍圖，2023 年 1 月美國商務部發布人工智能風險管理框架。藍圖是一套保護個人免受傷害和歧視的原則，并配有相關技術方案，確定了人工智能系統影響這些原則的具體方式，以及應對不利影響的一般步驟，而框架提供了在各種組織中實施藍圖原則的工具。與歐盟的人工與歐盟的人工智能法案不同，藍圖與框架是非強制的指導性文件，不具有法律效力，而是供智能法案不同，藍圖與框架是非強制的指導性文件，不具有法律效力，而是供設計、開發、部署、使用人工智能系統的機構組織自愿使用。設計、開發、部署、使用人工智能系統的機構組織自愿使用

32、。美國弱監管鼓勵行業自律。美國弱監管鼓勵行業自律。盡管白宮發布了關于人工智能危害的指導性聯邦文件，但尚未為人工智能風險制定統一的控制方法。美國此前立法及制度層面上對人工智能發展處于弱監管狀態，鼓勵企業依靠行業自律，自覺落實政府安全原則保障安全。近期政近期政府重視度提升，人工智能監管加速推進。府重視度提升，人工智能監管加速推進。根據白宮聲明，最近幾個月，白宮高級官員每周都會舉行兩到三次會議討論人工智能議題；美國參議院多數黨領袖查克舒默公布人工智能監管立法框架，并且表示要在幾個月內制定聯邦層面的人工智能法案；一個跨兩黨、兩院的立法者小組提交了國家人工智能委員會法案。表表4：美國人工智能治理的重要文

33、件與事件美國人工智能治理的重要文件與事件 日期日期 文件與事件文件與事件 具體內容具體內容 2020 年 1 月 人工智能應用監管指南 要求聯邦政府在針對 AI 技術和相關產業采取監管和非監管措施時，要以減少 AI 技術應用的障礙、促進技術創新為宗旨。指南提出了管理人工智能應用的十大原則，呼吁更多采取行業細分的政策指南或框架、試點項目和實驗（如為 AI 應用提供安全港）、自愿性的行業標準等非監管的措施。2022 年 10 月 人工智能權利法案藍圖 該文件旨通過“賦予美國各地的個人、公司和政策制定者權力，并滿足拜登總統的呼吁，讓大型科技公司承擔責任”，以“設計、使用和部署自動化系統的五項原則，從

34、而在人工智能時代保護美國公眾”。五項原則為：（1）安全有效的系統；（2）算法歧視保護；（3）數據隱私；（4）通知和解釋；（5）人工替代、考慮和回退。2023 年 1 月 人工智能風險管理框架 供相關組織設計和管理的可信賴和負責任的人工智能，旨在指導機構組織在開發和部署人工智能系統時降低安全風險，避免產生偏見和其他負面后果，提高人工智能可信度。請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 11/31 2023 年 4 月 人工智能問責政策征求意見稿 征求意見稿就是否需要對 ChatGPT 等人工智能工具實行審查、新的人工智能模型在發

35、布前是否應經過認證程序等問題征求意見。2023 年 5 月 白宮宣布旨在遏制人工智能風險的首個新舉措 美國國家科學基金會計劃撥款 1.4 億美元建立專門用于人工智能的新研究中心。政府還承諾發布政府機構的指導方針草案以確保對人工智能的使用保障“美國人民的權利和安全”。2023 年 6 月 眾議院提交國家人工智能委員會法案 該法案由兩位民主黨眾議員及一位共和黨眾議員共同提交。與此同時，民主黨參議員布萊恩夏茲將在參議院提出一項平行法案。該法案擬建立的“國家 AI 委員會”，將確保通過監管減輕人工智能帶來的風險和可能造成的危害，并在建立必要、長期的 AI法規過程中起到主導作用。2023 年 6 月 人

36、工智能安全創新框架 參議院民主黨領袖查克舒默發表演講，揭示他的“人工智能安全創新框架”鼓勵創新，同時推進安全、問責制、基礎和可解釋性，呼應了包括藍圖在內的宏觀規劃。他在此次演講中表示，要在短短“幾個月”內制定聯邦層面的人工智能法案。2023 年 6 月 對生成式人工智能成立工作小組 美商務部下屬的國家標準與技術研究院（NIST）將成立一個新的人工智能公共工作組，針對生成式 AI，例如生成代碼、文本、圖像、視頻和音樂的 AI，處理其機遇和挑戰，同時幫助 NIST 制定關鍵指南，指導應對生成式 AI 相關的風險。數據來源：全球技術地圖、安全內參，中國信息安全、每日經濟新聞、界面新聞、財聯社、中國新

37、聞周刊、財新網、東吳證券研究所 2.1.3.中國中國首個生成式首個生成式 AI 服務服務監管文件出臺監管文件出臺，關注，關注 AIGC 內容安全內容安全 國內首個生成式國內首個生成式 AI 服務監管文件出臺，服務監管文件出臺，關注關注 AIGC 內容安全。內容安全?；ヂ摼W信息服務深度合成管理規定于 2022 年 11 月發布，并自 2023 年 1 月 10 日起施行，對以“AI 換臉”為代表的深度合成技術進行了法律層面的約束。2023 年 4 月 11 日，國家網信辦發布生成式人工智能服務管理辦法（征求意見稿），并于 2023 年 7 月 13 日由國家網信辦聯合國家發展改革委、教育部、科技

38、部、工業和信息化部、公安部、廣電總局公布 生成式人工智能服務管理暫行辦法，自 2023 年 8 月 15 日起施行。辦法關注關注 AIGC 內內容安全，容安全，提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。AIGC 監管政策實施，人工智能法已提上日程。監管政策實施，人工智能法已提上日程。6 月 20 日，國家網信辦根據互聯網信息服務深度合成管理規定發布首批深度合成服務算法備案清單，百度阿里騰訊字節等在列。國務院 2023 年度立法工作計劃顯示，人工智能法已列入立法計劃，草案預備年內提請全國人大

39、常委會審議。表表5：政策文件中與內容安全有關的表述政策文件中與內容安全有關的表述 文件文件 條款條款 相關內容表述相關內容表述 互聯網信息服務深度合成管理規定 第六條 任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 12/31 益等法律、行政法規禁止的活動。深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息。轉載

40、基于深度合成服務制作發布的新聞信息的，應當依法轉載互聯網新聞信息稿源單位發布的新聞信息。第十條 深度合成服務提供者應當加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核。第十一條 深度合成服務提供者應當建立健全辟謠機制，發現利用深度合成服務制作、復制、發布、傳播虛假信息的，應當及時采取辟謠措施，保存有關記錄，并向網信部門和有關主管部門報告。第十七條 深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況 生成式人工智能服務管理暫行辦法 第三條 國家堅持發展和安全

41、并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。第四條 提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡

42、、職業、健康等歧視；（三）尊重知識產權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；（五）基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。第八條 在生成式人工智能技術研發過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則；開展數據標注質量評估，抽樣核驗標注內容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監督指導標注人員規范開展標注工作。第十條 提供者應當明確并公開其服務的

43、適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。第十四條 提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。第十五條 提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結果。第十六條 網信、發展改革、教育、科

44、技、工業和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。第十七條 提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，并按照互聯網信息服務算法推薦管理規 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 13/31 定履行算法備案和變更、注銷備案手續。數據來源：網信辦，東吳證券研究所 2.2.企業層面：企業層面：

45、加強自我監管，規范行業秩序加強自我監管，規范行業秩序 企業加強自我企業加強自我監管，規范行業秩序監管，規范行業秩序。AI 企業對監管態度主動積極，2023 年 4 月 25日，代表微軟、Adobe、IBM、甲骨文等多家 AI 巨頭的美國科技倡導組織“商業軟件聯盟”（BSA）公開發文呼吁在國家隱私立法基礎上制定管理人工智能使用的規則。并且向美國國會提出了四個明確的呼吁，試圖對其立法方向進行引導。2023 年 4 月 25 日知乎發布公告，打擊批量發布 AIGC 類內容的帳號。2023 年 5 月 9 日抖音發布關于人工智能生成內容的平臺規范暨行業倡議，平臺將提供統一的人工智能生成內容標識能力，幫

46、助創作者打標，方便用戶區分。2023 年 5 月 22 日，三位 OpenAI 聯合創始人署名發表文章，希望政府考慮按照核武器監管模式，組建人工智能行業的“國際原子能機構”，為該行業制定全球規則。圖圖7：OpenAI 主動發布主動發布Governance of superintelligence 數據來源：OpenAI，東吳證券研究所 3.AI 監管：平衡創新與安全，監管手段多樣監管：平衡創新與安全，監管手段多樣 AI 監管主要是面向 AIGC 技術的違規應用，以應對 AIGC 可能給社會、政治、金融、教育帶來的危害，這也是國家安全、社會安全的關鍵。因此，對于 AI 監管來說，要從安全機制、技

47、術手段等層面進行突圍。3.1.引入安全機制引入安全機制 現階段，國內現階段，國內 AIGC 類應用的內容安全機制主要包括：類應用的內容安全機制主要包括：請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 14/31 1)訓練數據清洗：訓練數據清洗：訓練 Al 能力的數據需要進行數據清洗，把訓練庫里面的有害內容清理掉；2)算法備案與安全評估：算法備案與安全評估：AI 算法需要按照 互聯網信息服務算法推薦管理規定進行算法備案，并提供安全評估；3)提示詞過濾：提示詞過濾：平臺需要對提示詞、提示內容等進行過濾攔截，避免用戶上傳違規內容；4)生成

48、內容攔截：生成內容攔截：平臺對 AI 算法生成的內容進行過濾攔截，避免生成有害內容；5)對對 AI 生成內容進行顯著標識：生成內容進行顯著標識：相關人工智能創作工具在生成多媒體內容時，可添加標識元數據到多媒體文件的元數據中，使得不同的平臺及工具能夠互認標識元數據。圖圖8：AIGC 內容安全合規內容安全合規解決方案框架解決方案框架 數據來源：AIGCLAB 官網，東吳證券研究所 3.2.技術技術監管監管手段手段豐富豐富 1）用用 AI 技術來識別內容是否為技術來識別內容是否為 AI 生成：生成：如人民網聯合傳播內容認知全國重點實驗室發布的“深度合成內容檢測平臺 AIGCX，采用算法融合與知識驅動

49、的人工智能框架，使用深度建模來捕捉困惑度、突現頻次等隱式特征，學習得到機器生成文本與人工生成文本的分布差異。該平臺可以服務于媒體和互聯網平臺的內容風控需求，提供 AI生成內容標識、虛假信息識別等服務。公測數據表明，AIGC-X 對各類人工智能生成內對各類人工智能生成內容平臺檢測的準確率均超過容平臺檢測的準確率均超過 90%。圖圖9：AIGC-X 測試案例測試案例 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 15/31 數據來源：AIGC-X 官網，東吳證券研究所 技術方面，以人臉識別這一場景具體來說，可以從三方面入手：技術方面，

50、以人臉識別這一場景具體來說，可以從三方面入手：生成瑕疵：生成瑕疵：由于相關訓練數據的缺失，deepfake 模型可能缺乏一些生理常識，導致無法正確渲染部分人類面部特征。固有屬性固有屬性：指的是生成工具、攝像頭光感元件固有的噪聲指紋。高層語義高層語義：檢測面部動作單元（肌肉群）協調性、面部各區域朝向一致性、視頻微觀連續性等方面的問題，由于這些細節建模困難、難以復制，很容易抓到把柄。圖圖10：AIGC 的生成瑕疵的生成瑕疵 圖圖11：AIGC 的生成瑕疵的生成瑕疵 數據來源：量子位，東吳證券研究所 數據來源：量子位，東吳證券研究所 2）用用 AI 技術來識別違規內容：技術來識別違規內容：如新華網的

51、事實核查機器人，基于新華智云自主研發的 AI 算法，具有文字檢測、圖像檢測、視頻檢測和音頻檢測等四大功能，能對文本、圖像、視頻、音頻等多種媒介進行安全核查，規范新聞報道書寫，搭建人機交互審核平臺，搭建智能高效的安全防護體系，助力企業降本增效。圖圖12：事實核查機器人的亮點事實核查機器人的亮點 圖圖13：事實核查機器人識別暴恐內容事實核查機器人識別暴恐內容 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 16/31 數據來源：新華網公眾號，東吳證券研究所 數據來源：新華網公眾號，東吳證券研究所 3）用用 AI 技術進行安全監管反欺詐技

52、術進行安全監管反欺詐：統計分析：統計分析：運用對比分析、趨勢分析、分布分析、漏斗分析等數據分析手段，挖掘數據一致性、集中性等特征發現欺詐規律，具體采用數據分析技術+客群分類+場景化先驗知識假設的技術手段，可以獲取具有很好指標的模型。規則規則+簡單統計模型：簡單統計模型：基于用戶注冊、登錄、消費、轉賬信息構建統計特征、擬合特征和分類特征等，對接指數移動平均算法、LOF、IForest、Holt-Winters、ARIMA 算法發現異常點?；谄墼p知識庫的有監督學習算法：基于欺詐知識庫的有監督學習算法：從已有沉淀知識庫中深度挖掘隱藏的欺詐模式，提供在線實時預測服務。常用的算有 XGBoost、De

53、epFFM、XDeepFM、Wide&Deep、DIN等。利用機器學習改良專家規則策略：利用機器學習改良專家規則策略：1）基于數據算法驅動，自動化調整的場景規則集中的閾值和權重，以保障規則持續有效性。利用機器學習對于規則的規則閾值、權重等進行修改，具體涉及特征離散化、特征選擇、特征降維、權重參數回歸等流程。2）發現新規則方面，主要是基于布爾關聯規則與量化關聯規則使用 Apriori、FpGrowth 算法對于數據集進行挖掘。深度學習深度學習+時間序列檢測算法：時間序列檢測算法：序列算法可以從較長時間窗口行為序列上識別異常。圖關聯數據的挖掘算法：圖關聯數據的挖掘算法：是一種更加廣泛的數據表示方式

54、，數據之間的關系通過圖的形式進行表達，圖挖掘算法可以在短的時間截面上通過關聯關系發現和識別風險。引入關聯圖譜關系定義，通過共用、共享、連接指向等關系定義，構建基于不同資源維度的復雜關系圖譜，如賬號圖譜、設備圖譜、電話號碼圖譜等。4）監管大模型的自動檢測工具：）監管大模型的自動檢測工具：偽造檢測行業基礎大模型：偽造檢測行業基礎大模型：如中科睿鑒歷經三年開發的偽造檢測行業基礎大模型。面向公共安全、金融安全、互聯網內容安全等重點行業，睿鑒逐步積累了分行業、分場景的偽造檢測能力，形成了核心技術AI 基礎設施行業基礎大模型的體系化能力底座，參數量級達到 60 億。新的偽造生成技術一經面世，通過微調，就可

55、在基座模型基礎上針對性地迅速分化出相應的檢測模型。請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 17/31 圖圖14：行業基礎大模型框架行業基礎大模型框架 數據來源：中科睿鑒公眾號，東吳證券研究所 研發研發 AI 安全檢測平臺，“用安全檢測平臺，“用 AI 檢測檢測 AI”?！?。螞蟻集團與清華大學聯合發布針對 AIGC大模型的全數據類型 AI 安全檢測平臺“蟻鑒 2.0”，其通過智能對抗技術，生成海量測試數據集，對AIGC生成式模型進行交互誘導，從而找到大模型存在的弱點和安全問題，能夠識別數據安全、內容安全、科技倫理的多種風險，覆

56、蓋表格、文本、圖像等多種數據和任務類型。蟻鑒 2.0 可對大模型生成內容進行個人隱私、意識形態、違法犯罪、偏見與歧視等數百個維度的風險對抗檢測，并生成檢測報告，幫助大模型更加有針對性地持續優化。此外，為解決模型黑盒問題，蟻鑒 2.0 融入可解釋性檢測工具。綜合 AI 技術和專家先驗知識，通過可視化、邏輯推理、因果推斷等技術，從完整性、準確性、穩定性等多個維度對 AI 系統的解釋質量量化分析，幫助用戶更清晰驗證與優化可解釋方案。圖圖15：螞蟻集團與清華大學聯合推出的“蟻鑒螞蟻集團與清華大學聯合推出的“蟻鑒 AI 安全檢測平臺安全檢測平臺 2.0”數據來源：中國信通院華東分院公眾號，東吳證券研究所

57、 3.1.AI 監管有望催生千億市場監管有望催生千億市場 2030 年人工智能核心產業規模有望超萬億。年人工智能核心產業規模有望超萬億。2023 搜狐科技峰會上，中國科學院原 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 18/31 院長、中國科學院院士白春禮在演講中表示，未來 5-10 年將是人工智能發展的關鍵期，據艾媒預測，2030 年我國人工智能核心產業規模將超過年我國人工智能核心產業規模將超過 1 萬億元人民幣，萬億元人民幣，2030 年全球年全球人工智能市場規模將達到人工智能市場規模將達到 16 萬億美元。萬億美元。AI

58、 監管有望催生千億市場。監管有望催生千億市場。一般信息化投入中安全占比至少在 5%-10%以上，而由于 AI 大模型的特殊性，AI 安全未來將成為所有參與方必須考慮的問題，貫穿從數據標注、模型訓練和開發、內容生成、應用開發的事前-事中-事后全過程，投入力度不亞于傳統安全投入，因此假設 AI 監管在整個產業鏈中的占比按照 5%-10%來測算的話，我們我們預計到預計到 2030 年年國內國內 AI 大模型的監管市場大模型的監管市場規模規模將達到將達到 500-1000 億億元元。3.2.AI 監管行業競爭要素：品牌、技術、市場監管行業競爭要素：品牌、技術、市場 AI 監管監管行業下游客戶需要一體化

59、的行業下游客戶需要一體化的解決方案能力解決方案能力和良好的保密性，擁有完善的產和良好的保密性，擁有完善的產品品和服務能力和服務能力且有國資股東背景背書且有國資股東背景背書的廠商的廠商，是下游客戶的首選，是下游客戶的首選。一方面，隨著監管側的日趨嚴格和安全需求的提升，AI 全周期的安全和監管輸出能力是客戶最為需要的。因此，廠商是否有成熟的大客戶的完整的安全解決方案，將會是未來客戶選擇 AI 監管公司的重要考慮因素，我們認為在內容側監管具備深厚歷史積累廠商將會在行業經驗和資源方面形成一定的壁壘，這也有望是獲得客戶訂單的前提。另一方面，客戶對數據信息極為敏感，因此有國資股東背景的廠商更容易受到客戶的

60、青睞。研發實力研發實力亦亦是未來龍頭企業重要的護城河。是未來龍頭企業重要的護城河。AI 作為新興技術，隨著政策法規的逐步完善，也將有望得到廣泛的應用，而這一過程將會使得客戶的系統面臨的安全和監管問題不斷增加，相關系統的建設將呈現復雜度提升的趨勢，因此 AI 監管領域的技術能力門檻也會很高，預計具備較強研發實力或者與國內技術實力領先的研究機構合作的企業方能更好得滿足客戶的需求。4.相關標的相關標的 中國 AI 監管現階段關注內容合規，生成內容需保證真實準確，體現核心價值觀，不得對國家安全、經濟發展和社會穩定構成威脅與挑戰。有文本、視頻圖像鑒真或內容監管能力的企業有望率先受益于 AI 監管政策的出

61、臺與落地。4.1.人民網人民網 人民網于 1997 年 1 月 1 日正式上線，是“網上的人民日報”。公司是人民日報社控股的文化傳媒上市公司，也是國際互聯網上較大的綜合性網絡媒體之一。截至 23 年 4月公司擁有人民在線、海外網、環球網、人民健康、人民視聽、人民信息技術、人民視訊、人民創投、人民體育、人民科技等多家控股公司；旗下產業基金已投資項目數十個。請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 19/31 公司從事的主要業務包括廣告及宣傳服務、內容科技服務、數據及信息服務、網絡技術服務。其中，人民網內容科技戰略近年來穩健起步。

62、公司研發基于人工智能的“風控大腦”，打造人工智能技術引擎，為互聯網內容、信息安全管理提供技術服務；承建人民日報社主管的“傳播內容認知全國重點實驗室”。圖圖16：人民網產品體系及旗下網站平臺人民網產品體系及旗下網站平臺 數據來源：公司官網，東吳證券研究所 表表6：人民網主要業務及具體內容人民網主要業務及具體內容 主要業務主要業務 具體內容具體內容 廣告及宣廣告及宣傳服務傳服務 依托人民網官網、“人民網+”客戶端以及環球網、海外網等子公司網絡運營平臺、活動及賽事服務平臺，在網站、客戶端、互動社區等頁面、欄目上，通過文字鏈、圖片、多媒體等表現形式為客戶提供多維度的廣告及宣傳服務。內容科技內容科技服務

63、服務 在以人工智能、大數據、區塊鏈等為代表的新科技體系的支撐下，為客戶提供內容風控服務和聚合分發服務，業務范圍涵蓋圖文、音樂、網絡文學、動漫、音頻、視頻、公眾號、小程序、游戲、廣告、運營活動等；基于新媒體平臺的運營經驗，為客戶提供各類網站、客戶端、國內外社交媒體的建設及相關平臺的內容運營服務。數據及信數據及信息服務息服務 通過大數據平臺和 SaaS 化產品，向用戶提供輿情大數據分析、輿情咨詢研究、衛星數據應用等垂直領域的智能化、個性化、多功能、安全性數據服務；通過自身運營及與電信運營商合作的方式，通過移動平臺，向用戶提供新聞、輿情、生活、娛樂等信息服務。網絡技術網絡技術服務服務 公司依托完備的

64、技術設施、專業的網絡及安全技術人員、先進的管理理念，面向社會用戶提供網站建設、主機托管、網絡接入等專業技術服務，同時依托專業研發體系，提供軟件開發服務及軟件平臺建設服務。數據來源：公司公告，東吳證券研究所 整體整體營收維持相對穩定，內容科技服務約占總營收的營收維持相對穩定，內容科技服務約占總營收的 22%。2020-2022 年公司營業收入分別為 21.00 億元、21.83 億元、19.78 億元。公司在 2023Q1 實現營收 3.32 億元，同比增加 3.78%。公司內容科技業務以人工智能、大數據、區塊鏈等為支撐，為客戶提供內容風控服務和聚合分發服務，同時還提供內容運營服務。內容科技服務

65、營收占比穩定在 22%左右，2020-2022 年分別實現營收 4.94 億元、4.63 億元、4.46 億元。圖圖17：人民網人民網 2020-2023Q1 營收營收及同比增速及同比增速 圖圖18：人民網人民網 2020-2022 年年營收營收結構結構（億元）（億元）請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 20/31 數據來源：wind，東吳證券研究所 數據來源：wind，東吳證券研究所 AIGC-X 于 3 月 1 日正式開始全網公測。AIGC-X 是由人民日報社主管、依托人民網建設的傳播內容認知全國重點實驗室，中國科學

66、技術大學，合肥綜合性國家科學中心人工智能研究院聯合推出的國內首個 AI 生成內容檢測工具。據介紹，通過采用算法融合與知識驅動的人工智能框架，使用深度建模來捕捉困惑度、突現頻次等隱式特征，AIGC-X 可對可對 AI 技術生成的假新聞、內容抄襲、垃圾郵件技術生成的假新聞、內容抄襲、垃圾郵件進行檢測，目前對中文文本檢測的準確率已超過進行檢測，目前對中文文本檢測的準確率已超過 90%，在內容版權、網絡釣魚、虛假信息和學術造假檢測等內容安全、內容風控方面有廣闊的應用前景。未來，AIGC-X 還會擴展為對人工智能生成文本、圖像乃至視頻的通用智能識別模型。4.2.新華網新華網 公司是由新華社控股的傳媒文化

67、上市公司，是新華社構建“網上通訊社”的重要組成部分和構建內外并重傳播格局的重要載體，公司積極發揮網絡平臺優勢，代表中國網絡媒體在全球媒體競爭中積極爭奪國際話語權。依托新華社作為國家通訊社的權威地位和作為世界性通訊社的全球信息網絡，新華網擁有權威的內容資源、廣泛的用戶基礎、優質的客戶資源和強大的品牌影響力，并以此為基礎開展網絡廣告、信息服務、移動互聯網、網絡技術服務和數字內容等主營業務。表表7：新華網主要業務及具體內容新華網主要業務及具體內容 主要業務主要業務 具體內容具體內容 網絡廣告網絡廣告 目前已形成全系列的廣告發布形態，覆蓋新華網 PC 端、客戶端和手機新華網以及官方法人微信、微博，公司

68、廣告業務領域涉及食品、金融、汽車、科技、能源、健康、旅游、時尚等主要行業，為客戶提供全方位、全媒體的優質網絡廣告服務。信息服務信息服務 公司的信息服務包括多媒體信息服務、大數據智能分析服務，以及舉辦大型論壇、會議活動等。公司經常性地為政府部門及企事業單位提供多媒體信息服務。作為國內最早從事數據智能分析服務的專業機構之一，本公司推出在大數據智能分析基礎上的系列服務和產品，依托權威媒體平臺、先進技術手段和陣容龐大的專家隊伍，搭建開放平臺、整合社會資源，以網絡大數據采集、智能分析和研判為基礎，為客戶提供智庫類高端產品和服務。移動互聯移動互聯網網 公司擁有“新華網”客戶端、手機新華網、新華網微博、微信

69、和“新華視頻”產品；擁有“4G入口”/“5G 入口”、手機閱讀、移動語音、手機視頻、動漫、游戲等移動增值業務，擁有“溯源中國”（含食品溯源、醫保藥品鑒證核查、工業物聯網）等業務，同時，公司提供教育平臺技術服務、在線教育服務和黨建活動服務。-15%-10%-5%0%5%05101520252020202120222023Q1營業收入（億元）同比增速（右軸）-14914202020212022廣告及宣傳服務內容科技服務數據及信息服務網絡技術服務 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 21/31 網絡技術網絡技術服務服務 本公司

70、憑借中央重點新聞網站的強大公信力、豐富的采編內容資源以及先進的網站建設技術，為各級政府、企事業單位提供專業的網站建設、內容管理、運行維護、技術保障等服務，建立起國內規模最大的政府網站集群之一。依托云計算基礎設施，以視頻云直播、內容云安全、云注冊報名系統等產品為核心，提供全線覆蓋的云服務解決方案和融合媒體解決方案。數字內容數字內容 公司依托專業的人才團隊、先進的技術設施和豐富的內容生產經驗，利用人工智能、元宇宙、數字人、虛擬現實、增強現實、混合現實、創意數字影視、創意藝術視覺、無人機服務等現代數字技術，瞄準視頻化、移動化、知識化、智能化方向進行融合形態數字內容的創意、策劃、設計、開發、制作和跨平

71、臺銷售。數據來源：公司公告，東吳證券研究所 營業收入穩健增長，營業收入穩健增長，網絡廣告與信息服務網絡廣告與信息服務為主要收入來源。為主要收入來源。2020-2022 年公司營業收入分別為 14.33 億元、17.24 億元、19.41 億元。公司在 2023Q1 實現營收 3.25 億元，同比增加 7.06%。網絡廣告與信息服務為公司最主要的收入來源，兩項業務合計營收占比超六成，網絡廣告業務 2020-2022 年營收分別為 5.14 億元、5.87 億元、6.50 億元，信息服務 2020-2022 年營收分別為 3.84 億元、5.51 億元、5.68 億元。圖圖19：新華網新華網 20

72、20-2023Q1 營收營收及同比增速及同比增速 圖圖20：新華網新華網 2020-2022 年年營收營收結構結構（億元）（億元）數據來源：wind，東吳證券研究所 數據來源：wind，東吳證券研究所 新華智云為公司與阿里巴巴合資成立的國有文化數字科技企業，于 2022 年 11 月促成了機器生產內容（MGC）標準的頒布。該標準為全球首個內容自動化生產標準，該標準將適用于報刊、廣播、電視、通訊社等新聞機構及媒體應用與研究機構。新華智云推出事實核查機器人，基于新華智云自主研發的新華智云推出事實核查機器人，基于新華智云自主研發的 AI 算法，實現對視頻、算法，實現對視頻、音頻、圖片、文本等內容的統

73、一審核。音頻、圖片、文本等內容的統一審核。通過機器審核輔助人工智能，以內容解析為手段，幫助新聞人進行內容安全核查，搭建智能高效的安全防護體系，助力企業降本增效。圖圖21：事實核查機器人識別暴恐事實核查機器人識別暴恐及色情及色情內容內容-20%-10%0%10%20%30%05101520252020202120222023Q1營業收入（億元）同比增速（右軸）02468202020212022網絡廣告信息服務移動互聯網網絡技術服務數字內容 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 22/31 數據來源：新華網公眾號，東吳證券研究

74、所 新華網聯合中國科學院計算技術研究所（簡稱“中科院計算所”）等行業機構共同研發打造的“生成式人工智能內容安全與模型安全檢測平臺”（AIGC-Safe），并召開邀請測試發布會。AIGC-Safe 平臺產品基于國版鏈（國數鏈）的數字資產與數據要素管理技術底座，依托中科院計算所的技術積累打造，已形成 AIGC 深偽內容檢測和模型檢測兩大核心能力，并可開放賦能各類 AIGC 檢測業務場景。模型安全從訓練數據安全、模型防攻擊、模型輸入安全三方面來保障從訓練到推理的全過程；內容安全覆蓋文本、圖像及音視頻的檢測，保障內容的真實性與合規性，實現雙重安全防護。AIGC-Safe 平臺內容安全功能檢測可廣泛應用

75、于虛假新聞、AI 換臉詐騙、活體攻擊、版權內容保護和學術誠信等多種檢測場景，可應用于媒體、教育、金融、公安等多個 AIGC 安全治理領域。此次 AIGC-Safe 平臺還重磅上線內容安全檢測功能，主要支持：1)文本檢測支持 AI 生成的鑒別；2)圖像與視頻檢測可覆蓋人臉生成、人臉編輯、人臉替換、表情遷移等深度合成偽造，以及 AI 生成、PS 篡改檢測；3)音頻偽造檢測支持 TTS 和 VC 音頻合成檢測，覆蓋主流音頻合成算法。4.3.美亞柏科美亞柏科 公司是國內電子數據取證領域龍頭企業，主要服務于國內各級司法機關以及行政執法部門。公共安全大數據和電子數據取證是公司的兩大基石業務；公司積極拓展新

76、網絡空間安全板塊，業務由事后電子數據調查取證延伸到“網絡空間安全”事前、事中、事后全賽道；新型智慧城市板塊依托公共安全大數據的領先優勢，基于打擊犯罪、國家安全等領域取得的重點成效，拓展延伸到社會治理領域。圖圖22：美亞柏科主營業務美亞柏科主營業務 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 23/31 數據來源：公司公告，東吳證券研究所 受工期影響受工期影響 Q1 營收下滑，營收下滑，公共公共安全大數據平臺及電子取證業務為主要收入來源。安全大數據平臺及電子取證業務為主要收入來源。2020-2022 年公司營收分別為 23.86

77、億元、25.35 億元、22.80 億元。公司于 2023Q1 實現營收 1.47 億元，同比減少 53.92%。公共安全大數據與電子數據取證產品為公司最主要的收入來源，22 年分別占總營收的 41.1%和 36.2%。圖圖23：美亞柏科美亞柏科 2020-2023Q1 營收營收及同比增速及同比增速 圖圖24：美亞柏科美亞柏科 2022 年年營收營收結構結構 數據來源：wind，東吳證券研究所 數據來源：wind，東吳證券研究所 公司于 2019 年針對深度合成技術成立專項研究團隊，以應對利用人工智能技術可能帶來的安全問題。公司自主研發打造出一系列視頻圖像檢測鑒定的一體化智能裝備，。公司自主研

78、發打造出一系列視頻圖像檢測鑒定的一體化智能裝備，如“如“AI-3300 慧眼視頻圖像鑒真工作站”等?；垩垡曨l圖像鑒真工作站”等。該設備涵蓋 40 余種視頻圖像真偽鑒定算法，近 10 種深偽鑒定算法，同時具有智能鑒定和專業鑒定兩種鑒定模式，支持卷宗管理和三種鑒定文書生成，為司法鑒定人員提供一站式視頻圖像檢驗鑒定服務。圖圖25：美亞柏科：美亞柏科：AI-3300慧眼慧眼視頻圖像鑒真工作站視頻圖像鑒真工作站-60%-40%-20%0%20%0510152025302020202120222023Q1營業收入（億元）同比增速（右軸）公共安全大數據 41.1%電子數據取證 36.2%新型智慧城市12.5

79、%新網絡安全 10.2%請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 24/31 數據來源：美亞柏科，東吳證券研究所 4.4.博匯科技博匯科技 公司成立于 1993 年，是專注于視聽大數據領域的科創企業，通過整合運用視聽大數據采集、分析和可視化等核心技術，構建了以具有自主知識產權的軟硬件產品為基本架構的研發中心支撐體系，業務涵蓋傳媒安全、智慧教育、智能顯控三個主要領域。圖圖26：博匯科技：智能視聽全站解決方案博匯科技：智能視聽全站解決方案 數據來源：博匯科技，東吳證券研究所 表表8：博匯科技主要業務及具體內容博匯科技主要業務及具體

80、內容 主要業務主要業務 具體內容具體內容 傳媒安全傳媒安全 傳媒安全領域，主要面向電視臺、廣電運營商、電信運營商等各類播出機構，通過視聽大數據技術的運用，實現全業務、全流程、端到端的服務質量監測，滿足運維需求。面向政府媒體監管部門提供技術手段，通過對媒體內容進行全面采集、智能分析，為視聽行業健康有序發展保駕護航。主要解決方案包括：廣播電視安播監管解決方案、IPTV 業務監測監管解決方案、互聯網新媒體監管解決方案、運營商端到端運維解決方案、新媒體播控全要素運維解決方案、臺站智能運維管理解決方案。智慧教育智慧教育 公司基于多年視聽行業積累以及教育信息化建設的實踐與思考，依托“博匯樂課”產品線，面向

81、教育行業，提供“教、學、評、管”完整的智慧教學解決方案，實現教學環境智能化升級，請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 25/31 一體化教學、管理與服務平臺建設，協助高校用戶打造以“教育信息化創新應用”為核心的智慧教學新生態，助力教育數字化轉型。智能顯控智能顯控 公司基于二十余年視聽信息技術的研究和探索，依托“博匯畫面云”產品線，擁有視聽信息的接入采集、編碼轉碼、傳輸分發、錄制管理、智能分析、調度呈現等核心處理能力，面向指揮調度、會商研判、協同辦公等應用場景，整合運用超高清、人工智能、信息安全技術，為軍隊、政企等行業用戶打

82、造沉浸式視聽空間，支撐智能化視聽應用。數據來源：公司公告，東吳證券研究所 營收增速重回正軌，營收增速重回正軌，傳媒安全收入占比遠傳媒安全收入占比遠超超其他業務。其他業務。公司 2020-2022 年營收分別為 2.88 億元、2.87 億元、1.64 億元。22 年受宏觀經濟影響，客戶招投標工作延緩，項目交付延期，導致公司訂單量及項目交付量有所下降，營收同比下降 42.88%。2023Q1公司重回正軌，實現營收 0.40 億元，同比增加 29.75%。傳媒安全為公司最主要的收入來源，22 年傳媒安全產品實現營收 1.22 億元，占比達 74.4%。圖圖27：博匯科技博匯科技 2020-2023

83、Q1 營收營收及同比增速及同比增速 圖圖28：博匯科技博匯科技 2022 年年營收營收結構結構 數據來源：wind，東吳證券研究所 數據來源：wind，東吳證券研究所 傳媒安全作為公司的主營業務之一，公司在內容安全做了諸多儲備：1)技術方面，公司自主研發了文字、圖片、語音、視頻多模態識別引擎，以此為基礎構建了“慧視”AI 基礎能力平臺，并取得了相關技術專利和軟著證書。公司已取得“一種基于神經網絡的單人換臉短視頻的識別方法和系統”的發明專利。公司的“視聽內容篡改檢測系統”與“媒資視頻內容 AI 算法模型”均有獲獎。2)在產品方面，公司以人工智能多模態識別引擎為支撐，針對廣播電視和網絡視聽內容監管

84、構建了立體多維的業務系統，通過流程化的任務管理、高效率的媒體內容識別、便捷化的移動發布，有效提高內容監管工作效率和智能化水平。3)在應用方面，公司的相關產品已覆蓋國家廣播電視總局、中央廣播電視總臺、中國廣電網絡股份有限公司；28 個省級廣播電視局；28 個省級新媒體播控平臺；30 個省級廣電網絡公司；30 余個電信運營商省分公司；咪咕視訊、央視網、芒果 TV 等網絡視聽平臺，建立起良好的品牌影響力。為提升新媒體集成播控平臺的視頻內容審核能力，由人工向智能化邁進，博匯科技打造“新媒體集成播控平臺內容 ai 審核方案”，應用自研多模態 AI 識別引擎，優化內容質量、拒絕不良內容傳播，凈化視頻內容，

85、以保持與新媒體發展的最佳實踐的接軌。-60%-40%-20%0%20%40%012342020202120222023Q1營業收入（億元）同比增速（右軸）傳媒安全 74.4%智慧教育 15.9%智能顯控 9.8%請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 26/31 1)智能化：智能化：新媒體集成播控平臺內容 AI 審核方案，綜合運用博匯公司自研的多模態識別引擎以及智能技審引擎，實現了對在線/離線媒資內容審核和質量審查的雙管齊下，及時發現其中涉黃、涉暴、敏感人物等違規視音頻內容以及黑場、靜幀、彩條、抖動等質量劣化。系統完美兼容國

86、產軟硬件環境，廣泛應用于各級廣電監管、播控部門。2)便捷化：便捷化：本方案采用 B/S、C/S 相結合的交互頁面設計，一方面滿足人工復審的精細化操作需求，另一方面提供了便捷化的任務管理流轉、統計分析手段，有效提升審核工作的便捷性。此外，針對新增敏感樣本，系統應用博匯專利的音視頻指紋提取、識別技術，無需對全部媒資進行完整處理即可實現快捷精準的素材翻庫審核，大大提高了敏感內容甄別的時效性。3)標準化：標準化：系統可通過標準化的數據接口與用戶現有的媒資系統進行融合，可自動對于媒資系統新注入的節目進行智能審核，并將疑似違規內容推送至業務人員進行確認，最終輸出標準化的報表，完美嵌合用戶節目內容、技術質量

87、審核業務流程。圖圖29：系統運行界面系統運行界面 圖圖30：系統運行界面系統運行界面 數據來源：公司官網，東吳證券研究所 數據來源：公司官網，東吳證券研究所 4.5.東方通東方通 東方通是中國中間件的開拓者和領導者。公司依托基礎軟件的技術積累，拓展政務、金融等特定行業解決方案，為用戶提供基礎安全產品及解決方案，同時繼續為電信運營商等傳統用戶提供領先的信息安全、網絡安全、數據安全等產品及解決方案，依托“安全+，數據+”兩大產品體系，提出“智慧+”戰略，在政企數字化轉型領域進行產品布局。業務領域從政務、金融、電信、交通等傳統優勢客戶拓展至應急管理、教育、公安、國防軍工、能源電力等行業領域。表表9：

88、東方通主要業務及具體內容東方通主要業務及具體內容 主要業務主要業務 具體內容具體內容 基礎軟件基礎軟件中間件中間件 東方通自成立以來，致力于提供具有自主產權、持續創新的中間件技術、產品和方案，為各個行業用戶的信息化建設提供堅實支撐。作為國產中間件領域的領導廠商，東方通具有更為完整 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 27/31 的中間件產品線，可提供應用支撐、數據與應用整合共享等一站式系統架構支撐產品，適用于云計算、大數據、移動互聯等各應用場景，滿足政務、金融、電信、交通、軍工、國央企等各行業用戶的需求。網信安全網信安全

89、 東方通網絡與信息安全板塊以安全管理與安全運營為核心，打造網絡與信息安全保障體系及產品體系，核心產品及解決方案包括:信息安全、數據安全、網絡安全、內容安全、零信任、安全合規管理、安全中臺等。實現統一管控、支撐、呈現與運營，強化安全支撐及創新能力，落實安全閉環管理，建立新一代立體化、縱深防御體系，形成多業務平臺協同發展的戰略模式，為企業構建“內生安全”防御機制。智慧應急智慧應急 具備全時空、全領域、全生命周期的應急管理產品體系與解決方案能力，擁有包括空天地一體化智能監測預警平臺、城市安全風險綜合監測預警平臺、應急指揮平臺、安全生產等核心產品集，以優秀的技術能力與業務理解能力，幫助政企客戶大幅度提

90、升應急管理能力和水平，提高防災減災救災能力。數字化轉數字化轉型型 公司幫助各行業利用感知、AI、云計算、大數據等信息技術手段進行數字化重塑，構建具有前瞻性業務與運營及服務模式，幫助各企事業單位在資產數字化、運營數字化、決策數字化、業務數字化創新等方面提供從咨詢到實踐的服務。數據來源：公司公告，東吳證券研究所 Q1 業績承壓業績承壓，安全產品成為第一大收入來源安全產品成為第一大收入來源。2020-2022 年公司營收穩健增長，分別為 6.40 億元、8.63 億元、9.08 億元。公司安全產品營收增速較快，22 年實現營收 3.46億元，占比達 38.11%，超越基礎軟件中間件成為公司第一大收入

91、來源。圖圖31：東方通東方通 2020-2023Q1 營收營收及同比增速及同比增速 圖圖32：東方通東方通 2020-2022 年年營收營收結構結構 數據來源：wind，東吳證券研究所 數據來源：wind，東吳證券研究所 東方通重磅推出“產品+技術”組合型智能化內容安全監測體系，基于自主創新的AI 內容監測軟硬件產品+AI 生成式技術深度研究，形成立體化的內容安全監測與管理能力，助力構建清朗網絡空間。東方通智能內容安全監測體系主要包括以下 5 大部分：1)針對生成式人工智能應用的流量監測專用設備：針對生成式人工智能應用的流量監測專用設備：基于 DPI 技術采集關鍵網絡出口流量，結合東方通多年行

92、業積累沉淀的情報庫和人工智能應用研究，能夠針對性的識別出“生成式人工智能應用”的特征，對其中違法違規的應用進行監測處置。該設備采用了專用的國產硬件，單臺設備支持處理 100Gbps 以上網絡流量，主要應用于電信運營商、信息安全監管部門等。2)瑤光智能內容邊緣監測設備瑤光智能內容邊緣監測設備：基于國產 GPU 開發的軟硬一體設備，能夠部署于戶外，例如產業園區、大型商業區、校園等場景中，可以監測和處置戶外廣告大屏宣傳-60%-40%-20%0%20%40%02468102020202120222023Q1營業收入（億元）同比增速（右軸）01234202020212022安全產品基礎軟件智慧應急數字

93、化轉型 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 28/31 中的視頻、圖片、文字等多樣化內容，能夠實時發現和處理違法違規內容、深度合成內容、違法廣告等，可為廣大人民群眾提供更為潔凈、健康、祥和的日常生活空間。3)瑤光內容安全監測系統瑤光內容安全監測系統：依據互聯網信息服務深度合成管理規定、互聯網新聞信息服務管理規定等法規要求，基于深度學習算法的圖片識別能力、多維度視頻內容識別能力、智能化音頻內容識別能力、圖像視頻高速率偽造檢測技術，能夠監測網站、微博、微信公眾號、小程序、APP、視頻平臺、IPTV 等新媒體平臺的內容安全，能

94、夠智能識別 200 多類違法違規內容及深度合成內容，實現內容安全治理的全流程管理。該系統已應用于電信運營商、廣電、互聯網公司等政企單位，在廣播電視、網絡視聽及新媒體領域，以四川廣播電視監測中心四川廣播電視和網絡視聽監測系統為例，東方通瑤光內容安全監測系統在內容發布、網絡接入服務等場景中提供了強大的內容監管能力,并可針對當前 AI 換臉詐騙等風險場景提供更為精準的安全監測。4)TongGPT 智能語音交互系統智能語音交互系統：在涉詐風險領域，隨著人工智能的接入，風險隱蔽性更強，反詐工作難度大幅提升。東方通 TongGPT 智能語音交互系統依托東方通 AI生成式人工智能技術的研究，將推出 Tong

95、GPT 多模態智能交互模型，計劃年底之前實現涉詐風險智能語音提醒、智能客服等場景 AI 識別服務。尤其面對 AI 生成語音詐騙時，可自動化提醒“受害人員”，解決當前電信網絡詐騙治理過程中的涉詐風險提醒效率、覆蓋率等難題，提升涉詐風險識別能力，減少人工識別的投入，提高涉詐提醒的及時性、有效性，實現降本增效，提升防范、治理電信網絡詐騙等新型違法犯罪的能力。4)生成式人生成式人工智能算法安全性檢測工具工智能算法安全性檢測工具：依據中央網信辦發布的 生成式人工智能服務管理辦法（征求意見稿）的要求，基于大模型對抗實現對算法安全性檢測，東方通目前已經開啟針對 ChatGPT 等新型交互式 AIGC 算法的

96、安全性評估測試方法和工具開發的研究，能夠檢測生成式人工智能算法的潛在安全風險，包括內容安全性（含違法違規風險、歧視性風險、虛假信息風險等）、隱私數據安全、算法魯棒性、惡意代碼風險等，從算法源頭實現檢測、預防和治理 AI 內容風險，未來將面向監管部門和算法服務提供者提供全面支撐服務。4.6.拓爾思拓爾思 拓爾思成立于 1993 年，是中文全文檢索技術的始創者，領先的人工智能、大數據和數據安全產品及服務提供商。公司作為人工智能、大數據和數據安全產品及服務提供商，為各行業用戶的數智化賦能。公司業務根據行業應用的不同，可劃分為數字政府、融媒體、金融科技、數字企業、公共安全五個版塊；根據技術領域的不同，

97、可劃分為人工智能、大數據、數據安全、信創四個領域；根據服務模式的不同，又可劃分為軟件產品、大數據服務、訂閱制 SaaS 服務、軟硬一體化產品四種模式。表表10：拓爾思不同技術領域及具體內容拓爾思不同技術領域及具體內容 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 29/31 技術領域技術領域 具體內容具體內容 人工智能人工智能 公司在 NLP、知識圖譜、OCR、圖像視頻結構化等領域都具備自主可控的多模態內容處理底層技術，處于行業領先地位。2022 年，公司在人工智能領域開展了 6 項重要工作，具體包括預訓練大模型和專業模型的融合實

98、踐、啟動公司自有專業模型 trsGPT 研發、開發具有 AIGC 能力的虛擬人開放云服務平臺、開啟生成式大模型創新應用規劃、發布了多模態人工智能技術平臺、推出了基于事理圖譜的事件推演分析系統，取得一定成績。大數據大數據 在大數據技術平臺方面，公司擁有完整的大數據產品矩陣，涵蓋數據采集、匯聚、加工、治理、存儲、共享、開放等全流程。在數據資產方面，公司 2010 年就自建了大數據中心，以長期服務多行業用戶持續積累的開源數據為基礎，擁有了規模及質量均位列業界前茅的公開信源數據，目前數據總量超 1400 億，并仍保持日均億級數據的采集增長。數據安全數據安全 網絡信息內容安全治理方面，公司聚焦網絡低俗色

99、情、飯圈亂象、網絡暴力等網絡生態問題的監測、追蹤和分析；內容安全審核方面，公司的文字校對云服務平臺能夠比較準確、全面、智能地對發布內容中進行內容審核；網絡安全方面，公司子公司天行網安是國內最早從事網絡安全和數據交換的企業，發明了國內第一臺安全隔離網閘，在數據視頻交換、單向導入等方面具有雄厚的技術實力。目前公司主要面向政府、公檢法、海關等單位提供以數據交換為核心的邊界安全、物聯網安全、大數據安全三大陣營產品線和解決方案。信創信創 公司已經實現了主要軟件產品與國內信創領導廠家的基礎產品，包括海光、鯤鵬、飛騰、龍芯等芯片，以及統信 UOS、中標麒麟、銀河麒麟、中科方德等國產操作系統的適配工作。公司的

100、海貝大數據管理系統是一款從內核到系統完全國產自研的搜索型數據庫，是構建搜索引擎應用的核心支撐軟件。數據來源：公司公告，東吳證券研究所 Q1 營收增速回正，人工智能軟件產品及服務營收逆勢增長營收增速回正，人工智能軟件產品及服務營收逆勢增長。2020-2022 年公司營收分別為 13.09 億元、10.29 億元、9.07 億元。2023Q1 公司營收增速回正，實現營收 2.11億元，同比增加 10.62%。公司人工智能軟件產品及服務營收逆勢穩定增長，2020-2022年分別實現營收 1.19 億元、1.81 億元、2.12 億元，2022 年營收占比達 23.37%。圖圖33：拓爾思拓爾思 20

101、20-2023Q1 營收營收及同比增速及同比增速 圖圖34：拓爾思拓爾思 2020-2022 年年營收營收結構結構 數據來源：wind，東吳證券研究所 數據來源：wind，東吳證券研究所 拓爾思在政務和媒體等相關領域的平臺建設中，涵蓋了內容審查相關業務模塊。拓爾思在政務和媒體等相關領域的平臺建設中，涵蓋了內容審查相關業務模塊。如政府集約化平臺服務，通過對信息發布的內容進行自動審核，幫助政務運營團隊更準確的信息傳達；又如在融媒體平臺的建設中，對文本、圖片和音視頻內容的多模態內容進行實時合法合規性等多維度審校。拓爾思推出的自動校對的 SaaS 云服務平臺，能夠比較準確、全面、智能地對發布-30%-

102、20%-10%0%10%20%30%40%024681012142020202120222023Q1營業收入（億元）同比增速（右軸）0246202020212022大數據軟件產品及服務人工智能軟件產品及服務安全產品系統集成及其他 請務必閱讀正文之后的免責聲明部分請務必閱讀正文之后的免責聲明部分 東吳證券研究所東吳證券研究所 行業深度報告 30/31 內容中進行內容審核，包括文字類差錯，如錯別字、音近字、形近字、多字、重疊、顛倒、繁體詞、異形詞等；敏感詞過濾，如涉及暴恐、色情、違禁、侮辱、歧視等不健康用詞，落馬官員等；知識錯誤，如表述不當、搭配不當、語義錯誤、術語名詞、地名等；常識錯誤，如標點符

103、號、數字、量詞、計量單位、大小寫、時間表述等內容。圖圖35：TRS 自動校對云服務自動校對云服務 數據來源：公司官網，東吳證券研究所 5.風險提示風險提示 政策推進不及預期。政策推進不及預期。大模型的推進受到監管節奏的影響，相關政策推進不及預期可能會影響 AI+應用的落地。行業競爭加劇行業競爭加劇的影響的影響。細分應用市場空間廣闊，可能吸引更多公司參與行業競爭。AI 監管推進不及預期。監管推進不及預期。AI 監管涉及政策層面和企業層面兩方面，如果在實際執行過程中監管力度未達到預期，可能會導致行業發展不及預期。免責及評級說明部分 免責聲明免責聲明 東吳證券股份有限公司經中國證券監督管理委員會批準

104、，已具備證券投資咨詢業務資格。本研究報告僅供東吳證券股份有限公司（以下簡稱“本公司”）的客戶使用。本公司不會因接收人收到本報告而視其為客戶。在任何情況下，本報告中的信息或所表述的意見并不構成對任何人的投資建議，本公司及作者不對任何人因使用本報告中的內容所導致的任何后果負任何責任。任何形式的分享證券投資收益或者分擔證券投資損失的書面或口頭承諾均為無效。在法律許可的情況下，東吳證券及其所屬關聯機構可能會持有報告中提到的公司所發行的證券并進行交易，還可能為這些公司提供投資銀行服務或其他服務。市場有風險，投資需謹慎。本報告是基于本公司分析師認為可靠且已公開的信息，本公司力求但不保證這些信息的準確性和完

105、整性，也不保證文中觀點或陳述不會發生任何變更，在不同時期，本公司可發出與本報告所載資料、意見及推測不一致的報告。本報告的版權歸本公司所有，未經書面許可，任何機構和個人不得以任何形式翻版、復制和發布。經授權刊載、轉發本報告或者摘要的，應當注明出處為東吳證券研究所，并注明本報告發布人和發布日期，提示使用本報告的風險，且不得對本報告進行有悖原意的引用、刪節和修改。未經授權或未按要求刊載、轉發本報告的，應當承擔相應的法律責任。本公司將保留向其追究法律責任的權利。東吳證券投資評級標準東吳證券投資評級標準 投資評級基于分析師對報告發布日后 6 至 12 個月內行業或公司回報潛力相對基準表現的預期（A 股市

106、場基準為滬深 300 指數，香港市場基準為恒生指數，美國市場基準為標普 500 指數，新三板基準指數為三板成指（針對協議轉讓標的）或三板做市指數（針對做市轉讓標的），具體如下：公司投資評級：買入：預期未來 6 個月個股漲跌幅相對基準在 15%以上；增持：預期未來 6 個月個股漲跌幅相對基準介于 5%與 15%之間；中性：預期未來 6 個月個股漲跌幅相對基準介于-5%與 5%之間；減持：預期未來 6 個月個股漲跌幅相對基準介于-15%與-5%之間；賣出：預期未來 6 個月個股漲跌幅相對基準在-15%以下。行業投資評級：增持：預期未來 6 個月內，行業指數相對強于基準 5%以上；中性：預期未來 6 個月內，行業指數相對基準-5%與 5%；減持：預期未來 6 個月內，行業指數相對弱于基準 5%以上。我們在此提醒您，不同證券研究機構采用不同的評級術語及評級標準。我們采用的是相對評級體系，表示投資的相對比重建議。投資者買入或者賣出證券的決定應當充分考慮自身特定狀況，如具體投資目的、財務狀況以及特定需求等，并完整理解和使用本報告內容，不應視本報告為做出投資決策的唯一因素。東吳證券研究所 蘇州工業園區星陽街?5 號 郵政編碼：215021 傳真：（0512）62938527