《交通銀行&頂象&瑞萊：2024金融AIGC音視頻反欺詐白皮書（64頁）.pdf》由會員分享，可在線閱讀，更多相關《交通銀行&頂象&瑞萊：2024金融AIGC音視頻反欺詐白皮書（64頁）.pdf（64頁珍藏版）》請在三個皮匠報告上搜索。

1、金融 AIGC 音視頻反欺詐白皮書版權說明版權說明本白皮書版權屬于交通銀行股份有限公司、北京頂象技術有限公司、北京瑞萊智慧科技有限公司，并受法律保護。轉載、摘編或 利用其他方式使用本白皮書文字或者觀點的，應注明“來源：交通 銀行股份有限公司、北京頂象技術有限公司、北京瑞萊智慧科技有 限公司”。違反上述聲明者，編者將追究其相關法律責任。編寫組編寫組主編：主編：李肇寧副主編：副主編：錢菲、陳樹華、田天參編人員：參編人員：王光中、趙晗、艾國、高峰、魏恪、王繼科、史博、宋文利、李煜明、劉荔園、蕭子豪、劉漢魯、孫空軍、楊金威參編單位：參編單位：交通銀行股份有限公司、北京頂象技術有限公司、北京瑞萊智慧科技

2、有限公司金融 AIGC 音視頻反欺詐白皮書1序序早在 2018 年，習近平總書記就強調要未雨綢繆，加強戰略研判，確保人工 智能安全、可靠、可控。此后，習近平主席又在多個國際場合倡議“不斷提升 人工智能技術的安全性、可靠性、可控性、公平性”“引領全球人工智能健康 發展”1。在此背景下，我國陸續出臺了一系列法律法規與政策文件，以加強 AI 的安全監管和規范應用。2024 年 7 月，二十屆三中全會通過的中共中央關 于進一步全面深化改革、推進中國式現代化的決定中，特別強調了“完善生 成式人工智能發展和管理機制?！薄凹訌娋W絡安全體制建設，建立人工智能安 全監管制度?！?這是黨中央統籌發展與安全，積極應

3、對人工智能安全風險作 出的重要部署。為此，國內發布了包括國家新一代人工智能標準體系建設指 南、生成式人工智能服務管理暫行辦法和關于依法懲治網絡暴力違法 犯罪的指導意見等多項政策，明確對利用深度合成技術發布違法信息的行為 從重處罰。在金融領域，基于人工智能的 AIGC 技術的普及帶來了顯著的創新潛力，但同時也給金融機構的業務安全、客戶信任以及系統穩定性構成了新的挑戰。特別是音視頻領域的 AIGC 欺詐手段，已經成為金融機構必須面對的重要風險之一。這些欺詐行為不僅損害了金融機構的聲譽和利益，更對廣大客戶的財產安全構成了嚴重威脅。AI治理攸關全人類命運，必須采取切實有效的措施，貫徹人工智能安全理念，

4、防范 AIGC 欺詐，保障金融業務安全。一方面，要加強技術研發和創新，提升 AIGC 技術的安全性和可控性。通過加強算法研究、優化模型設計、提高數據質量等手段，不斷提升 AIGC 技術的準確性和穩定性，減少其被惡意利用的風險。另一方面，要加強監管和治理，建立健全人工智能安全監管制度。通過完善法律法規、加大執法力度、提高監管效能等手段，確保人工智能技術在金融領域的應用符合法律法規要求，保障金融業務的合規性和安全性?；诖?，交通銀行、頂象技術、瑞萊智慧聯合編寫了金融 AIGC 音視頻反欺詐白皮書，通過詳實的數據、典型的案例和前瞻性的技術分析，系統介紹AIGC帶來的欺詐風險，深入剖析金融機構面臨的

5、AIGC 音視頻風險挑戰，并提出 AIGC 音視頻反欺詐方案、技術實現路徑及相關倡議，以期為金融機構提升AIGC 欺詐識別和防范能力提供有益參考。相信通過強化合規體系建設，加強反欺詐技術創新，構建全鏈條健康生態，守正創新攜手共進，必將推動人工智能的健康發展，賦能金融高質量發展。交通銀行副行長兼首席信息官：金融 AIGC 音視頻反欺詐白皮書2目錄目錄序序.1 1第一章第一章 AIGCAIGC 帶來的音視頻欺詐風險帶來的音視頻欺詐風險.5 51.1 AIGC 驅動音視頻技術創新的同時帶來新風險.51.1.1圖像和視頻合成技術的發展.51.1.2音頻合成技術的發展.61.2 AIGC 帶來的“換臉”

6、風險.61.2.1 AIGC“換臉”的技術原理.61.2.2 AIGC“換臉”的主要應用場景.61.2.3 AIGC“換臉”帶來的安全挑戰.71.3 AIGC 帶來的“擬聲”風險.71.3.1 AIGC“擬聲”的技術原理.71.3.2 AIGC“擬聲”的主要應用場景.81.3.3 AIGC“擬聲”帶來的安全挑戰.91.4 AIGC“換臉”“擬聲”風險的特征.91.4.1生成內容的高仿真性.101.4.2內容生成的低成本和高效率.101.4.3難以溯源的隱匿性.101.4.4跨模態內容生成與融合.10第二章第二章 AIGCAIGC 音視頻欺詐典型攻擊方法音視頻欺詐典型攻擊方法.1 22.1 AI

7、GC“換臉”攻擊分析.122.1.1 AIGC“換臉”攻擊目標.122.1.2 AIGC“換臉”攻擊過程.132.1.3 AIGC“換臉”攻擊技術.142.2 AIGC“擬聲”攻擊分析.152.2.1 AIGC“擬聲”攻擊目標.152.2.2 AIGC“擬聲”攻擊過程.152.2.3 AIGC“擬聲”攻擊技術.16第三章第三章 AIGCAIGC 音視頻欺詐對金融業務的影響音視頻欺詐對金融業務的影響.1 73.1 增加金融業務風險.173.2 給黑灰產攻擊提供新手段.173.3 為防御帶來新挑戰.183.4 對金融反欺詐提出新要求.19第四章第四章 AIGCAIGC 音視頻反欺詐方案音視頻反欺詐

8、方案.20金融 AIGC 音視頻反欺詐白皮書24.1 構建全面防御體系.204.2 技術解決思路.214.2.1 多模態 AIGC 音視頻欺詐的檢測技術.214.2.2多模態 AIGC 音視頻欺詐的鑒定技術.234.2.3AIGC 特征的欺詐團伙識別技術.24金融 AIGC 音視頻反欺詐白皮書34.2.4融合 AIGC 欺詐的多模態智能決策引擎技術.264.3 從業人員能力的提升.284.4 管理體系的提升.294.5 法律法規護航.304.5.1 針對 AI 濫用的法規.304.5.2 針對違法者的懲罰.31第五章第五章 AIGCAIGC 音視頻反欺詐技術實現音視頻反欺詐技術實現.325.1

9、 AIGC 音頻偽造檢測.325.1.1 語音偽造線索.325.1.2線索建模方式.335.2 AIGC 圖像偽造檢測.345.2.1 圖像偽造線索.345.2.2 線索建模方式.355.3 AIGC 視頻偽造檢測.365.3.1 視頻偽造線索.365.3.2 線索建模方式.385.4 AIGC 欺詐鑒定技術.385.4.1 被動式溯源.385.4.2 主動式溯源.395.5 基于知識圖譜的特征關聯分析.405.5.1 基于 AIGC 特征的關系建立.415.5.2發現與識別團伙欺詐.415.5.3提升反欺詐的能力.425.6 融合反 AIGC 欺詐計算引擎的處理系統.425.6.1數據采集與

10、預處理.425.6.2特征與規則.435.6.3智能決策引擎與風險評估.435.6.4實時響應與行為攔截.435.6.5 業務價值及優勢.43第六章第六章 典型業務場景典型業務場景.456.1 遠程音視頻反欺詐.456.1.1背景.456.1.2風險分析.456.1.3解決方案.456.1.4 實施效果.466.2 人臉識別身份認證反欺詐.46金融 AIGC 音視頻反欺詐白皮書36.2.1背景.466.2.2風險分析.466.2.3解決方案.476.2.4實施效果.486.3 偽造人臉考勤反欺詐.486.3.1背景.486.3.2風險分析.48金融 AIGC 音視頻反欺詐白皮書46.3.3解決

11、方案.486.3.4實施效果.496.4 虛假視頻聊天反欺詐.496.4.1背景.496.4.2風險分析.496.4.3解決方案.506.4.4實施效果.50第七章第七章 展望與倡議展望與倡議.517.1 未來技術挑戰.517.2 相關倡議.517.2.1 健全合規體系.527.2.2 創新發展技術.527.2.3構建健康生態.53后記后記.5 55 5參考文獻參考文獻.5 56 6金融 AIGC 音視頻反欺詐白皮書5第一章第一章 AIGCAIGC 帶來的音視頻欺詐風險帶來的音視頻欺詐風險生成式人工智能（AIGC,ArtificialIntelligence Generated Content

12、）技術的迅猛發展，推動了內容生成領域的廣泛應用，涵蓋了文本、圖像、音頻、視頻等多模態內容生成，為娛樂、教育、營銷及各行各業的應用帶來了前所未有的創新。然而，AIGC的應用與普及也帶來了新的風險挑戰，亟需多方監管、加強技術檢測與防范措施，確保其在商業應用的安全與透明性，同時加強用戶教育以提升風險防范意識。1.11.1 AIGCAIGC 驅動音視頻技術創新的同時帶來新風險驅動音視頻技術創新的同時帶來新風險AIGC 已逐步滲透至各個應用場景中。其背后強大的技術支撐包括圖像和視頻的生成對抗網絡（GAN）、擴散模型（Diffusion Model）、神經輻射場（NeRF）等一系列深度學習技術，以及音頻合

13、成中的文本到語音（TTS）和語音轉換（VC）等技術。這些技術的進步不僅顯著提升了 AIGC 內容的質量和生成效率，也帶來了在娛樂、社交、金融等多個行業的廣泛應用及新的風險。1.1.11.1.1圖像和視頻合成技術的發展圖像和視頻合成技術的發展生成對抗網絡（生成對抗網絡（GANGAN）。）。生成對抗網絡（GAN）是 AIGC 技術的基礎之一，它 通過生成器和判別器的對抗訓練，不斷優化生成內容的質量。生成器負責創造出新的圖像或視頻內容，而判別器則嘗試辨別生成內容是否與真實內容相似，從而在不斷對抗的過程中提升生成內容的真實性。GAN 技術已經實現了高度逼真的圖像和視頻生成效果，使得深度偽造成為可能。這

14、一技術的應用場景包括人臉替換、虛擬化身創建等，但同時也為偽造視頻的生成提供了可能。擴散模型（擴散模型（DiffusionDiffusion ModelModel）。）。隨著深度學習算法的進步，擴散模型逐漸 成為 AI 視頻偽造領域的新興主流技術路徑之一。擴散模型通過在噪聲中不斷增加與還原信號的過程，能夠生成非常逼真的圖像和視頻序列。擴散模型不僅在生成效果上比 GAN 更為出色，且生成過程更為穩定，其在細節處理、光影效果等方面的表現尤為顯著。這使得擴散模型在高保真視頻和復雜場景的偽造方面具有巨大的潛力。神經輻射場（神經輻射場（NeRFNeRF）。）。神經輻射場（NeRF）技術的出現為 3D 重建

15、與人臉偽 造提供了新的方向。NeRF 通過學習光線在 3D 空間中的輻射強度分布，能夠實現復雜的 3D 重建和高保真的人臉偽造。這種技術能夠將 2D 圖像數據重構為 3D場景，并生成逼真的視覺效果，使得人臉偽造的真實感更高。與 GAN 和擴散模型相比，NeRF 更適用于 3D 場景的模擬與重建，因此其在元宇宙、虛擬現實等領域也具有廣闊的應用前景。當前，以 GAN、Diffusion 和 NeRF 為基礎的技術路線在圖像和視頻偽造領域呈現出三足鼎立的趨勢。這三種技術各有優勢，分別在 2D 人臉偽造、復雜視頻生成、3D 人臉重建等方面各顯其長。這些技術的不斷演進，使得 AI 視頻偽造的質量、速度和

16、逼真度不斷提升，帶來了更廣泛的應用可能性。金融 AIGC 音視頻反欺詐白皮書61.1.21.1.2音頻合成技術的發展音頻合成技術的發展文本到語音（文本到語音（TTSTTS）。文本到語音（Text-to-Speech,TTS）技術通過將文本輸入轉化為自然語音，實現了較高質量的語音生成。這一技術的核心在于如何使合成語音聽起來自然、流暢，并具有一定的情感表達能力。當前的 TTS技 術可以在短時間內生成高保真的語音，使得虛擬助手、虛擬主播等應用能夠輕 松模仿真人的語音風格。語音轉換（語音轉換（VCVC）。語音轉換（Voice Conversion,VC）技術是另一種關鍵的音頻偽造技術，通過將源語音的特

17、定屬性（如音色、語調）轉換為目標語音的特征，從而生成與目標人物相似的語音內容。不同于 TTS，VC 技術在保留語音內容的前提下，能夠改變語音的特征，使其聽起來更接近目標人物?；谏疃葘W習的 VC 技術相比早期的統計建模方法，生成效果顯著提升，能夠更真實地 模擬目標語音風格。風格遷移和語音大模型。風格遷移和語音大模型。在語音偽造領域，風格遷移技術進一步提升了合成語音的自然度和真實性。通過模擬目標語音的說話風格和情緒特征，風格遷移彌補了傳統語音合成在情感表現上的不足。同時，語音大模型的出現進一步提高了語音合成的質量和效率。如今，僅需少量的音頻樣本便可生成高質量的語音合成內容，這使得高精度、低成本的

18、語音偽造成為現實。1.21.2 AIGCAIGC 帶來的帶來的“換臉換臉”風險風險1.2.11.2.1 AIGCAIGC“換臉換臉”的技術原理的技術原理AIGC“換臉”技術，是指利用 AIGC 技術，通過對目標視頻或圖像中的某個人的面部進行替換，將其變為另一個人的面部。此技術依托于深度學習框架，尤其是生成對抗網絡（GAN）和大型預訓練模型，通過大量人臉數據進行訓練，以生成高度逼真的“換臉”效果。GAN 由生成器（Generator）和判別器（Discriminator）構成，生成器負責生成與真實數據難以區分的“假數據”，而判別器則負責判斷生成的圖像真假，二者不斷對抗，優化生成效果，最終生成逼真

19、的人臉替換效果。通過 GAN 和其他模型的協同，AIGC“換臉”技術能夠學習到人臉的細微表情、光線反射、紋理細節等因素，在面部表情變化、嘴唇與聲音同步、光影調整等方面取得了極高的真實度。此外，AIGC“換臉”技術的生成過程也因其高度自動化而具備較強的泛化能力，無需過多人工干預便可以實現逼真且多樣化的面部替換效果。1.2.21.2.2 AIGCAIGC“換臉換臉”的主要應用場景的主要應用場景影視與娛樂行業。影視與娛樂行業。AIGC“換臉”技術在影視制作中的應用廣泛。例如，可以用明星的面孔替換替身演員的面孔，使表演更加真實且減少重復拍攝需求。金融 AIGC 音視頻反欺詐白皮書7此類技術也被應用于影

20、片復原或重拍，將已故演員的形象復現到影片中。此外，AIGC“換臉”技術在虛擬主播、數字偶像等新興娛樂領域中同樣受到關注。社交媒體和創作。社交媒體和創作。在社交媒體上，“換臉”特效讓用戶能夠體驗角色扮演 的樂趣，迅速成為熱門潮流。通過 AIGC“換臉”技術，用戶可以在短時間內生成內容，便捷地分享具有高度真實感的“換臉”視頻。此技術不僅為用戶提供了極大的創作空間，也為個性化內容的生成和傳播提供了可能性。虛擬現實與增強現實應用。虛擬現實與增強現實應用。AIGC“換臉”技術在虛擬現實（VR）和增強現實（AR）領域也具有重要作用。例如，利用“換臉”技術可以使用戶在虛擬場景中擁有不同的面孔，從而進一步提升

21、沉浸感。無論是游戲角色的面貌定制，還是 AR 社交平臺上的角色扮演，這類應用都因 AIGC“換臉”技術而變得更具吸引力和互動性。1.2.31.2.3 AIGCAIGC“換臉換臉”帶來的安全挑戰帶來的安全挑戰盡管 AIGC“換臉”技術在多個領域展現出潛力，但其也帶來了安全和道德上的挑戰。黑灰產可能利用此類技術在未經授權的情況下非法使用他人肖像，甚至對當事人形象進行惡意篡改或丑化，存在侵犯肖像權、名譽權及隱私權的風險。2024 年 1 月，美國知名歌手泰勒 斯威夫特的偽造“不雅照片”在Facebook 等社交平臺廣泛傳播，累計瀏覽量超過千萬。盡管最初傳播該照片的賬號已被封禁，但照片的擴散仍未徹底遏

22、制，嚴重侵犯了泰勒 斯威夫特的個人權益。2023 年 5 月 23日，包頭警方公布了一起利用 AI 實施電信詐騙的典型案例，福州市某科技公司法人代表郭先生在短短 10 分鐘內被騙走 430 萬元人民幣。2024 年 2 月，一黑灰產通過“換臉”技術偽造跨國公司高層身份，參與視 頻會議指揮分公司向指定賬戶匯款，成功騙取 2 億港元。利用 AIGC“換臉”技術帶來的風險主要在身份偽造與深度偽造、隱私泄露和濫用、社會信任的破壞等三個方面。隨著實施此類犯罪的技術門檻逐步降低，并預計將持續上升。身份偽造與深度偽造。身份偽造與深度偽造。AIGC“換臉”技術的真實性使其成為一種極具隱患的身份偽造手段。隱私泄

23、露和濫用。隱私泄露和濫用。利用 AIGC“換臉”技術生成的假視頻、假照片很可能在未經授權的情況下泄露他人隱私，甚至被用于惡意傳播不實信息。這不僅侵犯了隱私權，還可能對受害人造成名譽損害。社會信任的破壞。社會信任的破壞。AIGC“換臉”技術的大范圍應用可能削弱公眾對視頻和圖像真實性的信任。例如，普通用戶難以區分真假視頻，進而對信息的真實性產生懷疑，甚至影響到司法調查、新聞報道等領域的公信力。1.31.3 AIGCAIGC 帶來的帶來的“擬聲擬聲”風險風險1.3.11.3.1 AIGCAIGC“擬聲擬聲”的技術原理的技術原理金融 AIGC 音視頻反欺詐白皮書8AIGC“擬聲”技術利用人工智能深度學

24、習模型，通過對大量音頻數據的學習和訓練，生成高度逼真的合成語音，使其幾乎與目標人物的聲音完全相同。這一技術如今已經廣泛滲透到智能語音助手、虛擬主播、金融身份認證等多個領域，顯著提升了音頻生成的質量與效率。尤其是小樣本語音合成技術的突破，使得僅憑短短幾秒或一分鐘的音頻樣本，即可生成長時間、高質量的合成音頻。這不僅提高了語音合成的便捷性，還增強了其多樣化應用的可行性。AIGC“擬聲”技術主要通過深度學習模型實現，具體而言，模型首先需要大量目標聲音的數據進行學習，以分析并捕捉聲音特征。常見的方法包括生成對抗網絡（GAN）和序列到序列模型（Seq2Seq）。生成對抗網絡模型由兩個部 分組成：生成器和判

25、別器，生成器試圖生成逼真的目標聲音，而判別器則負責判斷生成的音頻是否與原聲匹配。二者在對抗訓練中不斷優化，最終生成能夠高度仿真的音頻內容。此外，小樣本語音合成技術通過少量的目標音頻樣本，使用遷移學習或適應性建模，使 AI 在只獲取少量數據的情況下便能夠學習和模仿目標聲音的個性 化特征。這意味著 AIGC 可以快速生成相似度極高的語音，并縮短了大量樣本收 集的時間成本。小樣本語音合成。小樣本語音合成。過去，音頻合成往往需要數小時的目標音頻數據，而如今小樣本語音合成技術的出現，使得 AIGC“擬聲”技術在獲取少量音頻樣本后，即可生成高質量的語音。這一技術的關鍵在于遷移學習和適應性訓練模型。通過僅一

26、分鐘左右的目標音頻數據，AI 可以快速適應并生成具有高相似度的音頻內容，大大降低了語音合成的時間和資源成本。情感與音調調節。情感與音調調節。通過情感控制模型，AIGC“擬聲”技術可以根據需求調節語音的情感色彩，生成更加自然的情緒表達效果。例如，在客服系統中，可以為合成語音添加溫和、愉悅或嚴肅的情感，以改善用戶體驗。而在影視配音中，AIGC 技術可以根據劇中人物的情緒調節語音的抑揚頓挫，使語音更加貼合劇情需求?？缯Z言語音生成?？缯Z言語音生成。AIGC“擬聲”技術還實現了跨語言語音生成，能夠在不同語言間自動生成目標音色。這對于多語種語音助手、國際廣告配音等應用場景具有重要意義?？缯Z言語音生成借助序

27、列到序列模型的遷移學習功能，使得AI 在不同語言間保持同一人的音色特征，從而實現自然語言間的聲音轉化。1.3.21.3.2 AIGCAIGC“擬聲擬聲”的主要應用場景的主要應用場景智能語音助手與客服系統。智能語音助手與客服系統。許多智能語音助手和客服系統都已應用了 AIGC“擬聲”技術，使得用戶能夠與擁有自然人聲的虛擬助手進行溝通。AI 語音助手不僅能夠模仿不同年齡、性別的聲音，還可以根據情境和用戶需求自動調節音調、情感，從而實現個性化互動體驗。虛擬主播和娛樂內容生成。虛擬主播和娛樂內容生成。AIGC“擬聲”技術在虛擬主播、短視頻平臺等娛樂領域得到廣泛應用。借助該技術，虛擬主播可以擁有富有感染

28、力的聲音，而不需要真人配音。此外，視頻制作人能夠快速生成與內容相匹配的配音，不僅提升了內容生產的效率，也拓寬了音頻內容創作的想象空間。金融身份驗證與安全識別。金融身份驗證與安全識別。在金融行業，AIGC“擬聲”技術逐漸成為身份認證的有效工具。例如，基于聲紋識別的身份驗證系統可以在不依賴于煩瑣的金融 AIGC 音視頻反欺詐白皮書9密碼和指紋的情況下，通過聲音對客戶進行身份確認。然而，AIGC“擬聲”技術的進步也對金融身份驗證帶來了新的挑戰，需要進一步提高聲紋識別系統的魯棒性，以防止偽造音頻的安全風險。影視、配音與廣告制作。影視、配音與廣告制作。AIGC“擬聲”技術已廣泛應用于影視、廣告配音中，通

29、過生成特定音色的語音，電影制作人可以將已故演員的聲音“復活”，或者為國際觀眾定制化配音。同時，在廣告中使用 AIGC“擬聲”可以根據不同地域、年齡、性別的受眾生成個性化聲音，從而增強傳播效果。1.3.31.3.3 AIGCAIGC“擬聲擬聲”帶來的安全挑戰帶來的安全挑戰AIGC“擬聲”技術使得偽造音頻的成本降低，黑灰產可以模仿他人聲音實施電信詐騙，甚至在虛假視頻中偽造他人聲音。這不僅可能損害個人聲譽，威脅金融交易乃至人身的安全。此外，AIGC“擬聲”技術生成的聲音可用于不實信息的傳播，如虛假新聞、政治操控等。2023 年 12 月，一名留學生在境外被“綁架”，父母遭“綁匪”索要 500萬元贖金

30、，還收到了“肉票”被控制、傷害的視頻。通過現場調查及國際警務合作，5 個小時后發現，這是詐騙分子精心布設的一起騙局。2024 年 2 月，劉德華公司發表聲明，稱有人利用 AGIC 技術合成劉德華的聲音以吸引流量并銷售商品獲利。2024 年 4 月，密碼管理工具公司 LastPass 披露一起 AIGC 偽造聲音的詐騙。騙子冒充 LastPass 首席執行官卡里姆 圖巴創建了一個 WhatsApp 賬戶，然后向碼管理工具公司 LastPass 員工接員發送一系列消息，包括使用 AI 的偽造的卡里姆 圖巴聲音的語音消息，多條未接的音頻通話等。不過，該員工很快就 識別出這是騙子偽造的電話。2024

31、年 7 月，公安部公布十大高發電信網絡詐騙類型，其中有一個“冒充領導、冒充熟人”詐騙格外引人注目。詐騙分子利用受害人領導、熟人的照片、姓名包裝社交賬號，通過添加受害人為好友或將其拉入微信聊天群等方式，冒用領導、熟人身份對其噓寒問暖表示關心，或模仿領導、老師等語氣發出指令，從而騙取受害人信任。AIGC“擬聲”技術讓電信網絡詐騙更加復雜，黑灰產利用社交媒體、社交工具、電話、遠程會議等發動各類攻擊。社交媒體詐騙。社交媒體詐騙。黑灰產利用克隆聲音在社交媒體上冒充公眾人物或受害者 親友，進行詐騙活動。社交工具或電話詐騙。社交工具或電話詐騙。通過社交工具發送偽造的語音，或直接撥打電話，黑灰產誘使受害者透露

32、敏感信息或直接轉賬。遠程會議攻擊。遠程會議攻擊。在遠程會議中，黑灰產通過克隆參會者的聲音進行干擾或誤導，竊取商業機密或個人數據。偽造新聞資訊。偽造新聞資訊。黑灰產在偽造新聞資訊中使用克隆聲音，以增加信息的可 信度，誘導受害者上當。1.41.4 AIGCAIGC“換臉換臉”“”“擬聲擬聲”風險的特征風險的特征金融 AIGC 音視頻反欺詐白皮書11.4.11.4.1生成內容的高仿真性生成內容的高仿真性隨著 AIGC 生成技術的快速發展，尤其是深度學習算法中的生成對抗網絡，已經能夠創造出極其逼真的圖像和視頻，它們通過學習大量數據樣本，生成與真實樣本難以區分的視覺內容。在音頻領域，這項技術能夠模擬和復

33、制特定人的聲音特征，包括語調、節奏和情感色彩，使得合成音頻與真實錄音難以區分。AIGC 生成內容的高仿真性是此類風險的典型特征之一。1.4.21.4.2內容生成的低成本和高效率內容生成的低成本和高效率隨著 AIGC 技術的普及，內容生成的成本顯著下降，易用性大幅提升，這使得普通用戶無需專業知識即可生成高質量內容。AIGC 工具的易用性使得生成逼真的虛假圖像、音頻和視頻變得更加簡單，成為 AIGC 風險增加的重要因素。此外，AIGC 技術的自動化生成能力也意味著虛假內容的生產門檻降低，可以大規模自動化地生成內容，為黑灰產開展規?；籼峁┝思夹g基礎，降低了黑灰產攻擊的難度。1.4.31.4.3難

34、以溯源的隱匿性難以溯源的隱匿性隨著 AIGC 技術的快速發展，內容生成的隨機性和復雜性顯著增加，這不僅使得追蹤虛假內容的來源變得異常困難，也對虛假內容的識別和溯源提出了新的挑戰。利用生成對抗網絡（GANs）和變分自編碼器（VAEs）等先進模型，可以根據文本描述或隨機種子生成高度逼真的圖像和視頻內容，這種隨機性的特性讓虛假內容的來源難以捉摸。同時，匿名發布的特性和匿名化處理技術，如 實時匿名化處理，允許用戶在不暴露身份的情況下發布內容，這雖然在一定程 度上保護了用戶的隱私，但也為虛假信息的傳播提供了可乘之機。因此，面對 AIGC技術不斷進步帶來的挑戰，我們需要開發新的檢測工具和技術，以保護信 息

35、的真實性和網絡環境的安全。1.4.41.4.4跨模態內容生成與融合跨模態內容生成與融合AIGC 技術通過學習大量訓練數據中的模式，能夠自主創建包括文本、圖像或音樂在內的各種原創內容，其應用范圍廣泛，從文本生成、圖像生成到音頻生成和視頻生成都能覆蓋?？缒B融合內容，例如帶語音的視頻或圖文并茂的虛假報道，由于結合了多種感官信息，更具欺騙性，增加了識別難度。這種跨 模態的生成能力不僅拓寬了藝術創作的表現形式，但也為 AIGC 內容檢測帶來了 新的挑戰，尤其是在虛假信息的識別和防范方面，如通過輸入文本描述生成視 覺內容，或者將文章自動轉換成視頻，使得虛假內容更難被識破?？缒B內容 生成技術的出現和普及

36、為黑灰產攻擊提供了更加具有欺騙性的技術攻擊，進一 步加大了防御的難度。金融 AIGC 音視頻反欺詐白皮書1第二章第二章 AIGCAIGC 音視頻欺詐典型攻擊方法音視頻欺詐典型攻擊方法AIGC“換臉”攻擊利用生成對抗網絡（GAN）或擴散模型等技術，將攻擊目 標的面部與他人面部替換，生成極具欺騙性的偽造圖像或視頻。此類攻擊已被廣泛用于身份冒充、金融詐騙等場景，增加黑灰產獲取非法收益的手段的復雜 性和隱蔽性。AIGC“擬聲”攻擊通過生成和模仿目標高度相似的語音內容進行 欺詐。在電話詐騙、語音識別系統攻擊中常被使用，通過假冒聲音進行身份驗 證繞過和財產欺詐，為金融和企業安全帶來嚴峻挑戰。面對 AIGC

37、 帶來的新型攻擊，現有防護手段難以有效檢測偽造的內容，亟需加強技術研發、制定應對策略，并提升公眾對 AIGC 攻擊手段的風險防范意識。2.12.1 AIGCAIGC“換臉換臉”攻擊分析攻擊分析2.1.12.1.1 AIGCAIGC“換臉換臉”攻擊目標攻擊目標當前人臉識別系統作為一種重要的身份核驗方式被廣泛應用于金融行業，金融賬戶遠程開戶、賬戶解鎖、消費金融申請、信用卡申領、業務簽約、銀行卡業務、核保理賠等金融業務，均可利用遠程人臉識別進行身份的核驗。人臉識別系統作為客戶身份認證的關鍵環節，也成為黑灰產的主要攻擊目標。遠程人臉識別系統由客戶端、服務器端、安全傳輸通道組成。系統由客戶端實現人臉的采

38、集，經安全傳輸通道傳輸，在服務器端遠程進行比對。圖圖 2-12-1 遠程人臉識別系統參考模型遠程人臉識別系統參考模型3基于遠程人臉識別的互聯網賬戶刷臉流程如圖所示，具體流程如下：（1）在移動應用中采集用戶人臉數據，并存儲在服務端，作為人臉的比對源。（2）當一個業務場景需要核實用戶的身份，則需要再次采集用戶人臉數據。（3）系統將獲取到的人臉數據，通過活體檢測和質量檢測后，與用戶原有的比對源數據進行人臉比對，如比對通過則用戶可以進行后續操作。如果未通過活體檢測、質量檢測或者人臉比對失敗，用戶需要進行重試。金融 AIGC 音視頻反欺詐白皮書1圖圖 2-22-2基于遠程人臉識別的互聯網賬戶刷臉流程基于

39、遠程人臉識別的互聯網賬戶刷臉流程42.1.22.1.2 AIGCAIGC“換臉換臉”攻擊過程攻擊過程利用遠程人臉識別系統進行身份認證需要經過人臉采集、活體檢測、人臉比對等多個環節，黑灰產攻破其中任意一個環節都有可能攻破人臉識別系統。隨著 AIGC 工具的普及，利用 AIGC 工具可以實現人臉替換和表情操縱。黑灰產可通過定制客戶端 ROM 或者劫持客戶端攝像頭的方式，在人臉采集環節將受害者的偽造的受害者視頻注入客戶端，非法通過活體檢測和人臉比對環節，成功實現攻擊。黑灰產對人臉識別系統實施攻擊的流程如下圖所示。首先，黑灰產可通過購買身份信息等方式獲取受害人的高清身份證人臉圖像；其次，利用 PS 工

40、具將 人臉圖片設置為帶背景的圖片；然后，利用 AIGC 工具對受害者的照片進行活化 處理，生成“眨眼”“搖頭”的偽造視頻；最后，將偽造視頻注入APP中對身 份認證系統實施攻擊。金融 AIGC 音視頻反欺詐白皮書1圖圖 2-32-3AIGCAIGC“換臉換臉”攻擊過程攻擊過程2.1.32.1.3 AIGCAIGC“換臉換臉”攻擊技術攻擊技術黑灰產在實施 AIGC“換臉”攻擊時的核心目標是將攻擊目標的人臉“活化”，驅動攻擊目標實現“點頭”、“搖頭”、“張嘴”等動作，來通過人臉識別系統的活體檢測驗證。在這個過程中，利用的核心技術是人臉表情驅動技術，隨著實時人臉替換技術的出現，實時人臉識別技術也可以作

41、為 AIGC“換臉”攻擊的重要技術手段。人臉表情驅動技術是指利用深度合成技術實現對圖像或視頻中的人臉表情進行分析、編輯和修改的技術。這種技術能夠操縱原始圖像、視頻中的人臉，使其做出指定的表情和口型，合成指定的講話音視頻。該技術一般通過提取人臉圖像中與表情相關的特征，如眼睛、嘴巴、眉毛等部位的形狀、位置及運動信息，將提取的特征與預先訓練的表情模型進行匹配，以確定人臉所表達的情感狀態?；诜治鼋Y果，對目標表情進行編輯或操縱，如改變表情類型、強度或合成全新的表情。人臉替換技術是指利用深度合成技術將原始圖像中的人物的面部，替換成其他人物的面部，完成人臉的“裁剪”和“嫁接”。該技術首先提取人臉的關鍵特征

42、，如眼睛、鼻子、嘴巴等部位的位置；其次將源人臉與目標人臉進行對齊，確保替換后的面部特征與原視頻中的人物動作保持一致；最后將提取的源人臉特征合成到目標人臉的位置上，實現自然過渡和逼真效果。在此基礎上，實時人臉替換技術可以實現人臉表情的實時變換，實現 AIGC 人臉攻擊。目前已經出現 Muglife、CrazyTalk 等偽造 APP 實現眨眼、點頭、搖頭等人 臉表情的操縱，降低了 AIGC 人臉攻擊的難度。Muglife、CrazyTalk 等偽造 APP 可以實現眨眼、點頭、搖頭等人臉表情的操縱。Roop、DeepFaceLive 等開源應用實時的人臉替換。這些 APP 的出現降低了 AIGC

43、 人臉攻擊的難度。金融 AIGC 音視頻反欺詐白皮書12.22.2 AIGCAIGC“擬聲擬聲”攻擊分析攻擊分析2.2.12.2.1 AIGCAIGC“擬聲擬聲”攻擊目標攻擊目標除了人臉識別系統外，聲紋識別系統也被作為一種常用的身份認證方式被應用于金融服務中，也是黑灰產開展 AIGC“擬聲”攻擊的目標。聲紋識別是根據待識別語音的聲紋特征鑒別該段語音所對應的說話人的身份過程，在移動金融服務中基于聲紋識別的應用流程如圖 2-4 所示，用戶通過拾音設備進行語音采集，經移動金融客戶端加密傳輸至服務器端?？蛻舳饲爸梅掌鬟M行必要的業務處理后將語音信息傳輸至聲紋服務器。聲紋服務器完成聲紋的注冊、驗證、變更

44、或注銷，并將相應的結果（接受或拒絕）經客戶端前置服務器反饋至移動金融客戶端。圖圖 2-42-4聲紋識別應用流程示意圖聲紋識別應用流程示意圖52.2.22.2.2 AIGCAIGC“擬聲擬聲”攻擊過程攻擊過程利用遠程聲紋識別系統進行身份認證需要經過語音采集、聲像攻擊檢測、聲紋比對等多個環節，黑灰產攻破任意一個環節都有可能攻破聲紋識別系統。隨著 AIGC 工具的普及，利用 AIGC 工具可以實現語音的合成及轉換。黑灰產可以在語音采集環節，通過播放受害者的合成音頻對聲紋識別系統實施攻擊，通過身份驗證。黑灰產對聲紋識別系統實施攻擊的流程如下圖所示。首先，黑灰產可通過電話詐騙錄音等方式獲取受害人的語音素

45、材；其次，利用 AIGC 工具生成攻擊目標的偽造音頻；最后，利用呈現攻擊或者注入式攻擊方式對身份認證系統實施攻擊。圖圖 2-52-5AIGCAIGC“擬聲擬聲”攻擊過程攻擊過程金融 AIGC 音視頻反欺詐白皮書12.2.32.2.3 AIGCAIGC“擬聲擬聲”攻擊技術攻擊技術黑灰產在實施 AIGC“擬聲”攻擊時的核心目標是利用 AIGC“擬聲”技術合成目標任務的偽造音頻，通過播放偽造音頻來通過聲紋識別系統的檢測驗證。在這個過程中，利用的核心技術是文本轉語音的合成技術。自動語音合成（TTS）技術可根據指定的語言文本生成目標說話人聲音，實現文本到語音的映射。典型的語音合成系統包括前端文本分析和后

46、端語音波形生成兩部分。文本分析將輸入文本通過規范化、分詞、詞性標注等步驟生成對應的因素序列、時長預測等信息；語音波形生成根據文本分析生成的語言規范合成目標說話人的語音波形。通過對合成聲音進行微調，可以讓合成語音聽起來更自然，更容易理解。隨著技術的發展，目前已經出現 ChatTTS、Seed-TTS等開源語音合成應用服務，可以快速合成高質量的偽造語音，降低了 AIGC“擬聲”攻擊的難度。金融 AIGC 音視頻反欺詐白皮書1第三章第三章 AIGCAIGC 音視頻欺詐對金融業務的音視頻欺詐對金融業務的影響影響3.13.1 增加金融業務風險增加金融業務風險隨著數字化進程的加速，金融業務全面線上化已成為

47、行業趨勢，用戶的生 物特征如人臉與聲音，成為身份認證和交易的重要憑證。金融業務線上化提升 了金融服務的便利性，但也讓金融機構和消費者面臨全新的安全挑戰。AIGC 技 術的快速發展，使得金融業務的風險面進一步擴大，尤其是在換臉技術和擬聲 技術被惡意利用時，金融業務面臨前所未有的威脅。隨著 AIGC 技術的快速發展，金融機構的線上業務風險結構正在經歷顯著的變化。傳統的金融身份驗證依賴于生物特征，如人臉識別和語音認證，因其基 于個人的獨特特征，這些方法曾被認為高度安全。然而，黑灰產利用 AIGC技術 輕松復制個人特征，生成高精度的深度偽造內容。例如，換臉技術能根據獲取 到的受害者照片生成難以鑒別的圖

48、像或視頻，擬聲技術則能根據受害者少量聲 音片段生成高質量偽造音頻，這使得攻擊者能夠繞過生物認證系統，冒充用戶 進行高風險操作，如資金轉賬、貸款申請等。相較于傳統手段，AIGC 技術的應 用提高了虛假內容的生成質量，使得欺詐行為更加隱蔽和難以分辨，依靠AIGC 技術生成的虛假音頻、視頻可達到以假亂真的程度，使金融機構難以通過常規 手段識別，直接影響線上業務的安全性。相較傳統方法，AIGC 工具大幅提高了攻擊效率和影響范圍。借助開源或商用的 AIGC 工具和自動化腳本，黑灰產可以快速實現對金融系統的批量攻擊，造成重大經濟損失。例如，黑灰產可以利用開源工具生成大量偽造身份信息，在金融系統中實施“批量

49、開戶”或“多頭借貸”，擾亂正常的業務運轉。這類攻擊成本更低且速度更快，能夠在短時間內造成巨大的經濟損失，對金融安全構成嚴重威脅。3.23.2 給黑灰產攻擊提供新手段給黑灰產攻擊提供新手段AIGC的應用讓欺詐變得愈加隱蔽和高效。這些技術不僅提高了欺詐內容的真實感，還極大地降低了欺詐操作的門檻，使得欺詐行為更加復雜多樣。AIGC 生成的音頻、視頻和圖像內容具有高度真實的深度偽造能力，能夠輕松欺騙普通用戶甚至部分現有的驗證系統。例如，語音模擬技術僅需少量語音片段即可生成高度逼真的聲音，精確模仿語調、語速和情感特征，用于實施電話詐騙或身份冒充。此外，深度偽造技術可生成精準的換臉視頻，真實還原受害者的面

50、部特征與表情，甚至在通話中欺騙驗證。AIGC 還可制作高分辨率的偽造身份文件，如身份證、合同等，使欺詐手段更加難以察覺。這種技術上的突破不僅增加了偽裝的真實性，也使得傳統防護手段面對新型欺詐時難以奏效。此外，相較傳統方法，AIGC 生成內容的隱蔽性和多樣性顯著提升，進一步加劇了金融欺詐的復雜性，傳統檢測系統難以快速識別偽造性質。例如，偽造視頻在光影一致性、面部紋理和表情細節上高度逼真，使得識別偽造更加困難。金融 AIGC 音視頻反欺詐白皮書1與此同時，AIGC 賦予了欺詐行為多樣化的能力，從語音冒充到視頻偽造，再到文本生成，每種手段均可獨立實施，或聯合形成多維度攻擊的“組合拳”。在對真實性要求

51、高的場景中，如身份驗證或在線交易，AIGC生成的語音模擬和深度偽造視頻足以假冒客戶身份，通過銀行驗證流程并非法竊取資金。高度擬真的內容讓受害者更難辨別真偽，直接威脅金融交易的安全性。同時，AIGC 技術的普及大幅降低了欺詐操作的技術門檻，傳統金融欺詐通常需要技術團隊支持和復雜設備，成本較高。而 AIGC 工具以其易用性和普及性，使得沒有專業技術背景的攻擊者也能生成高度逼真的音頻、視頻或文本內容，輕松實施復雜的欺詐行為。例如，攻擊者可以利用成熟的開源技術偽造身份文件突破支付 APP 身份認證環境實施詐騙。這種技術的普及使黑灰產組織能夠以更低成本實現更高效率的欺詐操作。這樣的大規模欺詐行為突破了人

52、工操作的局限，為黑灰產的擴張提供了便利。3.33.3 為防御帶來新挑戰為防御帶來新挑戰AIGC 技術賦予黑灰產以更高的效率和更大規模生成復雜攻擊樣本的能力，極大地增加了欺詐手段的多樣性和隱蔽性，帶來巨大信息威脅，使得金融業務的防御體系面臨嚴峻考驗。欺詐內容的真實性與難辨性。欺詐內容的真實性與難辨性。AIGC 技術的核心優勢在于其能夠生成極具真實性的偽造內容，這些內容往往在視覺和聽覺上都能以假亂真，令受害者難以辨別真偽。在金融業務場景中，尤其是身份驗證和在線交易等對真實性要求極高的環節，AIGC 生成的偽造內容能輕松冒充客戶身份進行欺詐。黑灰產能夠利用偽造的聲音模擬技術，模仿客戶的語音指令進行轉

53、賬操作；或通過偽造客戶的面部圖像、視頻進行遠程身份驗證，從而獲取非法資金。這種高度擬真的內 容直接威脅到金融交易的安全性，給金融機構帶來了巨大的安全隱患。攻擊樣本的多樣化與復雜化。攻擊樣本的多樣化與復雜化。傳統的欺詐手段往往是針對某一特定漏洞或 手段的攻擊，而基于 AIGC 的欺詐行為卻能夠突破原有防御體系，采用多重偽裝 技術進行攻擊。AIGC的迅速普及意味著黑灰產能夠以極低的成本和快速的迭代 速度，不斷創新攻擊方式。這對防御系統的多層次性和應變能力提出了更高要 求?，F有的防御系統往往難以應對這種快速變化的復雜威脅，特別是在面對智 能化攻擊時，傳統的基于規則的防御方式顯得捉襟見肘。金融機構必須

54、提升對 AIGC帶來新型風險的敏感度，及時識別復雜的欺詐模式，并做好相應的風險應 對措施?？焖俚墓襞c防御的滯后性?？焖俚墓襞c防御的滯后性。與傳統攻擊方式相比，AIGC 工具的易用性和高效性為攻擊者提供了更多的時間優勢。黑灰產不再依賴傳統的復雜編程或長時間的攻擊準備，而是可以通過現成的 AIGC 工具快速生成攻擊樣本并開展攻擊。這使得攻擊策略的更新速度遠遠快于金融機構現有防御系統的響應速度，防御系統的應對能力往往滯后于攻擊者的創新。在這種背景下，金融機構的防御系統必須具備快速迭代的能力，借助機器學習和人工智能技術，建立具有自適應能力的動態防御系統，通過利用大數據分析、行為識別技術以及

55、實時監控系統，防御系統可以自動識別異常行為并及時響應。動態學習與預測潛在威脅。動態學習與預測潛在威脅。隨著攻擊手段的不斷演化，金融機構必須確保 防御體系能夠及時學習和適應新的威脅模式，不僅能夠實時識別當前的攻擊，金融 AIGC 音視頻反欺詐白皮書1還能基于歷史數據和攻擊模式進行預測，并預防未來可能的攻擊。例如，通過訓練深度學習模型，系統可以從歷史欺詐數據中學習不同的攻擊路徑，并預測潛在的風險區域，從而提前做出防范。3.43.4 對金融反欺詐提出新要求對金融反欺詐提出新要求AIGC 對金融機構的風險管理體系提出了更高的要求。傳統的基于規則的風控系統，通常依賴固定的模型和人工設置的規則，已無法有效

56、應對 AIGC 驅動的新型欺詐方式。因此，金融機構亟須升級其風險管理體系，采用更加智能化、動態化的防控手段，以提升對 AIGC 欺詐行為的識別、應對和防范能力。使用使用 AI AI 技術作為反欺詐重要工具。技術作為反欺詐重要工具。AI 技術本身可以成為金融機構防控欺詐的有力工具。通過分析客戶的行為數據，AI 可以幫助識別潛在的欺詐行為。例如，通過分析客戶的使用習慣數據，系統能夠檢測到任何異常的操作模式。這種基于行為分析的風控機制，可以幫助識別偽造身份、非法登錄等欺詐行為。同時，AI可以幫助金融機構開發更高效的偽造檢測工具。傳統的驗證方法，如密碼、驗證碼等，已經無法完全防范由 AI 生成的偽造視

57、頻、語音等內容。金融機構應加強深度偽造檢測技術的應用，實時識別和驗證換臉視頻、語音模擬等偽造內容。AIGC的實時分析能力可讓風控系統在檢測到異常行為時，迅速響應。例如，發現大額轉賬或可疑登錄行為時，系統可以自動凍結賬戶或要求額外身份驗證，從而及時制止欺詐行為，減少損失。建立動態化的智能風控體系。建立動態化的智能風控體系。金融機構需要建立更加動態和自適應的風控 體系。隨著 AIGC 欺詐手段的不斷演化，傳統的靜態風控系統已無法滿足需求。金融機構應通過機器學習等技術，實時學習和適應新的欺詐模式，動態調整防 御策略?；谌斯ぶ悄艿娘L控系統可以快速識別新型欺詐行為，并及時更新防 御規則。對于交易數據的

58、存證也是提升風控系統可信度的重要手段。通過采用 區塊鏈等技術，金融機構可以確保交易數據的不可篡改性，增強數據的可靠性 和透明度。這有助于在發生欺詐行為時，能夠追溯到原始數據并提供可靠的證 據。加強技術創新和行業協作。加強技術創新和行業協作。應對 AIGC 帶來的欺詐風險，不僅需要技術創新，還需加強行業間的協作。金融機構應與技術公司、監管部門緊密合作，共享威脅情報和技術創新成果，共同開發應對 AIGC 欺詐的新技術和方法。此外，金融機構還需積極參與全球或區域性的 AIGC 技術和安全規范的制定，為反欺詐技術的標準化提供支持。提升公眾教育與安全意識。提升公眾教育與安全意識。公眾教育是反欺詐工作中不

59、可忽視的一環。金 融機構應通過科普活動向消費者普及 AIGC 欺詐的風險，提升公眾對深度偽造內 容的辨識能力。提供權威的偽造檢測工具，幫助用戶驗證可疑內容的真實性，增強其自我保護意識。這不僅能夠提高用戶對金融機構的信任度，還能有效減 少社會層面上 AIGC 欺詐的傳播。面對 AIGC 技術引發的安全挑戰，金融機構必須不斷創新和完善其風險管理體系，以適應這一新興威脅。金融 AIGC 音視頻反欺詐白皮書2第四章第四章 AIGCAIGC 音視頻反欺詐方案音視頻反欺詐方案為了有效應對 AIGC 帶來的威脅，金融機構必須建立一個覆蓋全周期、全場景、全鏈條的防御體系。技術層面，金融機構應引入多模態 AIG

60、C 音視頻欺詐檢測與鑒定技術，通過結合圖像、聲音、行為等多維數據，精準識別偽造內容。同時，借助 AIGC 特征的欺詐團伙識別技術和融合智能決策引擎，實時監測并應對欺詐行為。從業者方面，金融從業人員應不斷提升對 AIGC 深度偽造欺詐的識別與應對能力，幫助機構更好地管理風險，減少攻擊影響。管理體系方面，通過引入前沿技術、加強數據整合與共享、提升員工培訓，并優化法律與合規管理，提升金融機構風險應對能力。此外，持續的演練和模擬也有助于強化防御，確保金融業務的安全和穩定。4.14.1 構建全面防御體系構建全面防御體系金融機構面臨的 AIGC 欺詐風險日益加劇，必須建立覆蓋全周期、全場景、全鏈條的防御體

61、系，以應對 AIGC 帶來的復雜威脅。圖圖 4-14-1 AIGCAIGC 反欺詐技術體系反欺詐技術體系構建全周期防御。構建全周期防御。在全周期防御方面，事前預防是關鍵。金融機構需通過 嚴格的數據訪問控制和加密存儲技術保護敏感信息，并利用多因子驗證手段增 強身份認證的安全性。此外，基于機器學習和行為分析的動態風控模型可幫助 機構提前預測潛在欺詐行為。在事中監測階段，AIGC技術為實時監控交易和操 作行為提供了技術支持，能夠快速識別異常操作并采取響應措施。同時，深度 偽造檢測技術可驗證音視頻內容的真實性，有效遏制換臉視頻和模擬語音欺詐 行為。此外，通過TLS 協議和端到端加密技術，可進一步防范數

62、據傳輸過程中 的信息篡改與泄露。事后響應則聚焦于日志追溯與快速凍結，利用區塊鏈技術 確保數據不可篡改性，為欺詐事件的后續追蹤提供可靠依據，并及時凍結涉事金融 AIGC 音視頻反欺詐白皮書2賬戶以控制損失。全場景防護是應對多樣化全場景防護是應對多樣化 AIGCAIGC 威脅的重要手段威脅的重要手段。在用戶身份驗證場景中，活體檢測技術（如眼球追蹤、光影變化捕捉）能夠有效防范深度偽造攻擊。同 時，AI 輔助審核技術可識別身份文件的細微偽造特征，提升審核精度。在交易 場景下，動態監測用戶行為特征（如交易頻率、地理位置）并建立異常警報機 制，可以及時發現高風險操作；對于高額或敏感交易，還可通過分級驗證策

63、略 強化安全保障。在數據流轉環節，依托零信任架構限制敏感數據的傳播范圍，確保數據僅在授權環境下可見，從而有效防范內部數據泄露。全鏈條防控的構建需要內外協作共同發力。全鏈條防控的構建需要內外協作共同發力。內部防控強調最小權限原則和 員工安全教育，減少未經授權訪問和內部人員成為攻擊突破點的風險。外部防 控則依賴于行業協作，與其他金融機構、監管部門和技術企業建立威脅情報共 享機制，快速獲取新型欺詐手段的信息并調整防御策略。技術和管理的協同發展是構建全面防御體系的關鍵。技術和管理的協同發展是構建全面防御體系的關鍵。一方面，通過開發深度偽造檢測和區塊鏈存證技術，可從技術層面遏制欺詐行為；另一方面，完善A

64、IGC 監管規則與問責機制，并加強公眾教育，能提升全行業和用戶的安全意識。只有從全周期、全場景、全鏈條的維度構建這一綜合防御體系，金融機構才能在 AIGC 欺詐日益復雜的環境中確保安全與穩定。4.24.2 技術解決思路技術解決思路AIGC 音視頻欺詐的防御過程包括異常檢測和鑒定欺詐兩個關鍵環節，通過系統化流程實現對欺詐行為的快速識別與應對。在異常檢測環節，系統通過監測用戶行為特征，如登錄設備的變化、操作 頻率的異常、跨區域訪問等情況，識別可能的風險信號。同時，對接收的音視 頻數據進行結構性分析，標記潛在的異常內容，例如音頻中不自然的語調或視 頻中的細微拼接痕跡。并利用機器學習模型不斷優化檢測能

65、力，識別新型偽造 手段，提高異常檢測的精準性。在鑒定欺詐環節，針對確認的異常內容，系統進一步驗證其與真實數據的 匹配程度。例如，通過比對用戶的歷史行為模式、生物特征以及系統存儲的原 始數據，判定音視頻是否為偽造。一旦確認欺詐行為，系統將自動觸發警報，并采取相應措施，如凍結賬戶、阻止交易或要求額外驗證，確保風險能夠得到 及時控制。4.2.14.2.1 多模態多模態 AIGCAIGC 音視頻欺詐的檢測技術音視頻欺詐的檢測技術在音頻偽造中，黑灰產可以利用 AIGC 生成幾乎完美模仿目標對象聲音的偽造語音，并拼接不同音頻段以制造欺騙效果。圖像偽造則可能涉及對人臉、物體或場景的精細修改，例如細微的紋理變

66、化、邊緣處理等，極大增加了檢測難度。視頻偽造則更加復雜，偽造者可以篡改特定片段中的面部表情或肢體動作，從而影響整體語義一致性。多模態 AIGC 偽造內容，結合了音頻、圖像和視頻等領域，通過生成對抗網絡（GAN）等深度學習技術生成。這些偽造內容看似真實，但實際上包含許多細微的偽造痕跡。針對多模態 AIGC 偽造內容的檢測技術，通金融 AIGC 音視頻反欺詐白皮書2過結合音頻、圖像和視頻等不同模態的信息，利用深度學習和專家知識，可以構建更為精準的偽造內容檢測體系。4.2.1.14.2.1.1 音頻偽造檢測技術音頻偽造檢測技術針對音頻偽造，構建基于聲紋拼接痕跡的檢測體系是目前的關鍵技術路徑之一。通過

67、深入分析音頻的波形、頻譜圖極其微小的拼接痕跡，結合深度學習技術與專家知識，可以檢測出偽造痕跡。同時，結合不確定性估計技術，開發出更具魯棒性的偽造語音鑒別方法。例如，基于聲紋細節的拼接點異常特征，可以識別出人工合成或拼接的語音內容。這種方法不僅可以用于檢測合成語音，還可以識別出經過編輯的錄音，確保其真實性。此外，聲音的頻率成分和語音波形中的異常變化也是關鍵的偽造線索。通過機器學習算法自動提取這些細微的差異，能夠有效區分偽造語音和真實語音。這種技術還可以與基于人類聲音特點的分析方法相結合，提升對語音偽造的識別精度。4.2.1.24.2.1.2圖像偽造檢測技術圖像偽造檢測技術圖像偽造檢測技術的難點在

68、于偽造痕跡往往細微且多樣。通過基于局部區域特征的檢測方法，側重于對圖像中的紋理、邊緣和結構信息的分析，能夠有效發現偽造內容中的異常。細粒度特征檢測技術利用深度學習模型，自動識別圖像中肉眼難以察覺的偽造痕跡，例如圖像局部的顏色不一致性、模糊的邊緣處理或不自然的紋理變化。在 GAN 偽造圖像的檢測中，紋理分析是一個有效的手段。GAN 生成的圖像通常在局部區域存在紋理的微妙差異，特別是在細節處理上與真實圖像存在不 一致。這些差異可以通過卷積神經網絡（CNN）等深度學習算法加以捕捉，進而 鑒定圖像的真實性。此外，另一種基于光照不一致性的方法也被用于圖像偽造檢測。偽造圖像中的光源往往與真實場景中的光照不

69、符，特別是在多張圖像合成的偽造場景中，不同物體的光照方向不一致是常見的偽造痕跡。通過計算圖像中的光照方向和陰影分布，可以檢測出偽造痕跡，為鑒別偽造圖像提供可靠的輔助依據。4.2.1.34.2.1.3 視頻偽造檢測技術視頻偽造檢測技術視頻偽造比圖像和音頻更為復雜，因為它不僅涉及圖像處理，還涉及時間維度上的語義一致性問題。在偽造視頻中，常見的技術手段是對視頻中的特定幀進行修改，如更改人物面部表情、語音同步或動作，這些改動導致視頻整體語義上的不一致。視頻偽造檢測的一個重要方向是基于語義一致性的鑒偽技術。通過分析視頻中的面部表情、人物情緒和動作流暢性，可以識別出偽造的部分。偽造視頻通常會在面部表情、口

70、型與語音的匹配上出現偏差，而這些偏差是人工合成視頻的常見漏洞。此外，偽造視頻在幀與幀之間的過渡不夠自然，動作顯得生硬，通過分析這些時序特征，可以有效檢測出視頻的偽造痕跡。深度學習技術同樣在視頻偽造檢測中發揮著關鍵作用。例如，基于循環神經網絡（RNN）和長短期記憶網絡（LSTM）的時序分析模型可以跟蹤視頻幀的時金融 AIGC 音視頻反欺詐白皮書2間序列特征，從而檢測出幀間不連續性和異常變化。同時，利用 3D 卷積神經網 絡（3D CNN）捕捉視頻中的空間和時間信息，可以更精確地識別視頻偽造的跡 象。4.2.1.44.2.1.4多模態融合檢測技術多模態融合檢測技術單一模態的檢測方法在面對多模態偽造

71、內容時往往不夠充分，因此，融合多模態信息的檢測技術逐漸成為研究的熱點。通過將音頻、圖像和視頻等多模態信息進行融合分析，可以提高偽造內容的檢測精度。例如，將圖像的紋理特征與音頻的頻率特征相結合，通過跨模態的偽造痕跡分析，可以發現單模態檢測難以察覺的偽造行為。多模態融合技術不僅可以提高檢測的準確率，還能夠有效減少誤報率。例如，在視頻偽造檢測中，結合聲音的語義分析與視頻幀的圖像分析，可以更精確地檢測出音畫不同步、情緒不一致等問題，從而提高整體偽造檢測的魯棒性。4.2.24.2.2多模態多模態 AIGCAIGC 音視頻欺詐的鑒定技術音視頻欺詐的鑒定技術為了有效應對 AIGC 生成工具的欺詐風險，針對金

72、融場景的 AIGC 鑒定技術框架需要覆蓋從內容檢測到預警再到系統迭代的全流程。這一框架可以通過表征學習、半監督學習、度量學習和遷移學習等關鍵技術，建立完整的風險內容識別和標記機制。4.2.2.14.2.2.1多模態多模態 AIGCAIGC 音視頻欺詐鑒定技術的框架音視頻欺詐鑒定技術的框架提取提取 AIGCAIGC 生成內容的深層特征。生成內容的深層特征。表征學習是 AIGC 生成工具鑒定的核心技術之一。它通過深度學習模型，提取偽造內容中的深層特征，從而識別出AIGC生成的痕跡。例如，在處理偽造的財務報表或合同時，表征學習可以分析文本的語法結構、內容風格、數據分布等隱含特征。AIGC 生成的文本

73、盡管在表面上與人工編寫的文檔相似，但在語言模式、句子結構上往往存在不一致性，表征學習通過深度模型捕捉這些微妙差異，能夠有效識別出偽造內容。同樣，在圖像和視頻檢測中，表征學習可以幫助模型提取紋理、邊緣和局部結構的特征。例如，針對生成圖像或視頻中的視覺偽造痕跡，表征學習可以識別出 AIGC 生成圖像在細節處理上的不自然之處，如邊緣模糊、紋理不一致等。在有限標注數據下進行有效學習。在有限標注數據下進行有效學習。金融領域的 AIGC 欺詐場景往往缺乏大量標注的訓練數據，這使得傳統的監督學習方法難以適用。半監督學習可以在有限標注數據的情況下，結合大量未標注的數據，自動學習生成工具的鑒定特征。通過這種方式

74、，系統可以逐步識別并標記出偽造內容，提高模型的檢測能力。例如，針對少量已知的 AIGC 偽造財務數據，半監督學習可以利用這些標注樣本作為“種子”，用于訓練模型提取偽造模式的共同特征。隨后，模型可以將這些特征應用于大量的未標注數據中，從而識別出更多潛在的偽造風險內容。通過這種方式，半監督學習不僅可以顯著提高數據利用效率，還能夠加速金融場景中 AIGC 欺詐內容的發現與預警。金融 AIGC 音視頻反欺詐白皮書2精準計算偽造內容與真實內容的差異。精準計算偽造內容與真實內容的差異。度量學習是建立在相似性分析基礎 上的技術，旨在根據內容的內在特征度量出偽造內容與真實內容的差異。在金金融 AIGC 音視頻

75、反欺詐白皮書2融業務中，度量學習可以幫助模型區分正常交易記錄與 AIGC 生成的偽造交易，計算出其相似度并評估風險等級。例如，度量學習可以對生成的偽造文檔或圖像進行嵌入表示，將其轉換為高維向量空間，并通過計算偽造內容與真實內容之間的“距離”來判斷其真實性。如果兩者之間的度量距離較大，則模型可以判定為潛在的偽造內容。這種基于度量學習的鑒定技術可以有效降低誤報率，提升對復雜 AIGC 生成內容的識別精度。應對應對AIGCAIGC 生成工具的快速迭代。生成工具的快速迭代。AIGC 生成工具的快速迭代使得傳統的模型訓練和更新周期難以跟上技術變化，而遷移學習為此提供了有效的解決方案。遷移學習通過將已經訓

76、練好的模型知識遷移到新的欺詐場景中，無需從零開始訓練模型，大大提高了檢測效率。在金融場景中，遷移學習可以幫助系統快速適應新的 AIGC 生成工具。例如，針對不同類型的 AIGC 生成合約或偽造交易記錄，遷移學習可以利用已有的語音識別、圖像處理技術，遷移至新的偽造模式中，快速鑒定新型風險。這種方法不僅提升了模型的泛化能力，還確保了系統在面對未知威脅時的快速響應能力4.2.2.24.2.2.2 全流程全流程 AIGCAIGC 生成工具鑒定體系生成工具鑒定體系通過表征學習、半監督學習、度量學習和遷移學習等技術，可以構建出一個全流程的 AIGC 生成工具鑒定體系。該體系包括以下幾個核心環節：檢測。檢測

77、。自動化檢測系統基于表征學習和度量學習，實時監控金融業務中的 各類 AIGC 生成內容，提取偽造特征并進行風險評估。預警。預警。系統一旦檢測到偽造內容，將及時發出風險預警，標記內容來源并生成相應的風險報告。預警機制可以根據不同的風險等級提供相應的處理建議，幫助金融機構采取適當的防范措施。迭代優化。迭代優化。系統通過遷移學習不斷自我優化，確保其檢測能力能夠跟上 AIGC 生成工具的快速演變。隨著新型 AIGC 生成工具的出現，模型可以通過遷 移已有的知識，快速適應并更新檢測策略。AIGC生成工具的應用已經深入到金融行業的多個領域，其潛在的安全隱患不容忽視。通過開發針對 AIGC 生成工具的專用鑒

78、定技術，金融機構可以更好地識別和標記潛在的風險內容來源，從而有效防范 AIGC 欺詐行為。利用表征學習、半監督學習、度量學習和遷移學習等核心技術，構建完整的檢測、預警和迭代的鑒定體系，可以為金融業務的安全提供有力保障。4.2.34.2.3AIGCAIGC 特征的欺詐團伙識別技術特征的欺詐團伙識別技術AIGC 特征的欺詐團伙識別技術，如基于多維特征關聯的智能反欺詐系統，通過多維特征融合、知識圖譜推理與圖挖掘技術，為打擊網絡欺詐提供了全新的解決方案。該技術不僅可以識別出當前的欺詐行為，還能夠持續優化系統模型，提升反欺詐能力，為金融行業提供堅實的安全保障。金融 AIGC 音視頻反欺詐白皮書24.2.

79、3.14.2.3.1多維特征融合構建反欺詐關聯網絡多維特征融合構建反欺詐關聯網絡AIGC 特征識別是打擊 AIGC 生成的虛假信息和欺詐行為的核心技術之一。通過融合以下幾類多維特征，能夠構建出更加精準的關聯網絡：AIGCAIGC 技術特征。技術特征。通過 AIGC 鑒定技術提取 AIGC 生成內容（如虛假視頻、音頻等）的獨特特征，包括生成模型的指紋、虛擬人物或聲音的合成特征等。這些特征能夠有效區分人工生成的內容和真實數據，為后續的圖計算提供基礎。設備維度關聯特征。設備維度關聯特征。通過設備指紋技術，可以捕捉設備的獨有信息（如IP 地址、硬件特性、操作系統信息等）。這些信息可以識別出是否存在設備

80、被代 理、虛擬機使用、模擬器運行等欺詐行為。環境維度關聯特征。環境維度關聯特征。涉及操作環境的相關數據，例如用戶操作的地理位置、時區、操作習慣等。當環境特征與用戶的歷史記錄不符時，這種偏差可以用作異常行為的標志。通過融合上述多維特征，構建出反欺詐的關聯網絡。該網絡不僅能夠揭示潛在的欺詐團伙，還能深入分析其行為模式，為金融行業提供強有力的風險防 控支持。4.2.3.24.2.3.2 用關聯圖譜挖掘欺詐團伙用關聯圖譜挖掘欺詐團伙關聯知識圖譜在多維數據關聯中扮演了核心角色。通過構建基于 AIGC 特征的關聯知識圖譜，系統能夠自動捕捉并分析欺詐團伙的關系網絡：關聯關系構建。關聯關系構建。通過 AIGC

81、 技術、設備特征、操作環境等多源數據節點之間的關聯，使用圖計算算法進行推理，揭示團伙成員之間的協同作案關系。這種技術特別適用于識別那些利用虛擬身份、復雜網絡環境和高級 AIGC 工具掩飾其真實身份的團伙。圖挖掘算法。圖挖掘算法。采用先進的圖挖掘技術（如社區發現算法、節點重要性排序 等），從復雜的多維數據中提取潛在的團伙特征。這些算法通過分析節點之間 的頻繁互動、合作行為以及共用的設備和環境特征，識別出異常團伙活動。例 如，如果多個賬戶使用相同的設備進行登錄，或頻繁在不同時區出現，系統可 以將這些異常行為標記為潛在欺詐活動。4.2.3.34.2.3.3 基于團伙特征的模型訓練與基于團伙特征的模型

82、訓練與優化優化在識別出欺詐團伙之后，這些團伙的行為特征可以進一步用于 AI 模型的優 化與再訓練。智能決策支持。智能決策支持。提取的團伙特征可以作為智能決策系統的重要依據，幫助 反欺詐系統在未來迅速識別類似的欺詐行為。同時，這些特征還可以通過AIGC 模型的再訓練過程，提升整個系統的反欺詐能力。模型迭代與標注。模型迭代與標注。在識別出團伙之后，系統會將其特征作為訓練數據輸入 AIGC 模型中，進行標注并優化模型的檢測精度。通過不斷迭代，AIGC 系統能夠 逐步增強對新型欺詐手段的識別能力，并應對不斷變化的欺詐模式。金融 AIGC 音視頻反欺詐白皮書24.2.3.44.2.3.4 AIGCAIG

83、C 欺詐內容的深度識別欺詐內容的深度識別對于那些未知的、可能涉及新技術或工具的 AIGC 內容，特征往往隱藏得極深，傳統的反欺詐檢測手段往往難以應對?；谥R圖譜的欺詐團伙挖掘技術，通過對 AIGC 內容的特征提取，包括 AIGC 生成特征、設備信息、操作環境等能夠有效識別隱藏的欺詐行為?；阢y行等金融機構的內部業務數據，結合圖計算技術、深度學習和 AIGC算法，能夠深入挖掘復雜的數據關聯，并從中提取出欺詐團伙的行為特征。這 不僅有助于識別是否存在新的欺詐手段和技術，還能夠深入追蹤欺詐行為的來 源及其演變過程，從而更有效地應對復雜多變的欺詐風險。4.2.44.2.4融合融合 AIGCAIGC

84、欺詐的多模態智能決策引擎技術欺詐的多模態智能決策引擎技術融合 AIGC 欺詐的多模態智能決策引擎技術，通過集成音視頻偽造檢測、設備維度關聯特征、用戶行為分析和欺詐團伙特征等多模態數據，能夠為銀行等業務場景提供實時的、高效流計算功能，同時具備靈活配置、可驗證、可溯源等優勢，實現對 AIGC 欺詐行為的全面識別和輔助決策支持。4.2.4.14.2.4.1融合多模態特征的智能決策引擎融合多模態特征的智能決策引擎多模態智能決策引擎是通過整合不同類型的數據源和技術模塊，為欺詐檢測和防范提供綜合分析和決策支持的系統。其核心架構包括以下幾個關鍵部分：多模態數據采集層。多模態數據采集層。包括 AIGC 檢測技

85、術（如音視頻偽造特征）、設備維度關聯數據、用戶行為數據、環境數據等。數據采集層通過多種渠道獲取各類信息，確保系統能廣泛收集相關特征進行實時處理。特征融合與關聯分析層。特征融合與關聯分析層。將多模態數據進行特征提取、處理與融合，尤其 是將不同維度的數據通過特征向量化、圖模型等方式進行關聯分析。這一層通 過深度學習、圖計算等技術，挖掘不同維度之間的潛在關聯性，識別出欺詐團 伙的特征及其協同作案模式。流計算與實時決策層。流計算與實時決策層。流計算技術的核心是提供實時、高效的計算能力，尤其是在欺詐檢測中的低延遲需求至關重要。流計算引擎支持對大量并發數據 進行高效處理，能夠在交易或行為發生的瞬間做出實時

86、的風險評估和決策。智能決策與反饋優化層。智能決策與反饋優化層。在做出判斷后，智能決策引擎能夠輸出直觀的風 險分析報告，并將判斷結果返回業務系統。同時，該層還提供決策反饋機制，通過持續學習和自我優化，不斷提高系統的判斷精度?？沈炞C與可溯源機制可驗證與可溯源機制。針對每一次判斷，系統會記錄相關數據和決策流程，確保所有操作都可以追溯，方便銀行在出現風險或糾紛時進行審核和驗證。4.2.4.24.2.4.2多維特征融合與智能決策多維特征融合與智能決策融合多模態特征的智能決策引擎主要具備以下核心功能，確保其在不同場景中有效識別和防范 AIGC 欺詐行為：金融 AIGC 音視頻反欺詐白皮書2AIGCAIGC

87、 偽造內容檢測。偽造內容檢測。通過先進的 AI 鑒定技術，識別音視頻偽造內容，尤其是利用深度偽造技術生成的虛假信息。檢測過程涵蓋音頻的語調、音頻頻譜異常、視頻中的光影不一致等特征。設備維度關聯分析。設備維度關聯分析。系統會跟蹤設備指紋、IP 地址、地理位置等信息，通 過關聯多個設備的登錄、操作歷史，識別出是否存在欺詐行為。例如，一個欺 詐團伙可能通過多個設備進行分布式操作，系統能夠通過設備關聯性分析發現 異常模式。用戶行為特征識別。用戶行為特征識別。該引擎通過行為分析算法，識別用戶操作習慣，構建 用戶的行為畫像。一旦某個賬戶的行為與其歷史記錄明顯不符，例如異常交易 頻率、異常登錄地點等，系統可

88、以及時發出風險警報。欺詐團伙行為挖掘。欺詐團伙行為挖掘。結合知識圖譜技術和圖計算算法，系統能夠發現潛在 的欺詐團伙及其協同作案模式。例如，系統可以通過分析多個關聯賬戶的操作 行為，識別出某些賬戶背后可能存在的團伙作案跡象，并提取其團伙特征，幫 助制定防控策略。4.2.4.34.2.4.3多模態特征的集成與優化多模態特征的集成與優化多模態智能決策引擎通過融合不同特征，構建了一個多維度、全方位的欺詐識別體系。以下是幾個關鍵特征的融合與優化方式：音視頻偽造特征與設備特征融合。音視頻偽造特征與設備特征融合。AIGC 技術的欺詐行為往往通過偽造的音視頻內容進行，系統可以將偽造內容的特征與設備的使用情況結

89、合起來分析。例如，某個設備頻繁登錄多個賬戶，并生成大量虛假音視頻，這種情況可能表明該設備是欺詐團伙的重要工具。用戶行為特征與環境特征融合。用戶行為特征與環境特征融合。用戶的操作習慣和設備的環境信息（如網 絡位置、設備類型等）結合，可以幫助系統更精確地判斷異常行為。若某用戶 突然在不同國家的 IP 地址上快速切換設備登錄，這樣的環境特征與行為特征結 合的異常模式可以快速觸發風險預警?？鐖鼍皵祿诤??？鐖鼍皵祿诤?。通過集成銀行內部的交易數據、設備信息、客戶行為記錄，智能決策引擎可以通過跨場景數據分析，發現某些復雜的欺詐模式。例如，某賬戶在一天之內進行異常頻繁的交易操作，并使用不同設備登錄，這些多

90、維度信息結合可以判斷該賬戶可能受到了控制或是惡意操作。4.2.4.44.2.4.4多模態引擎在金融業務反欺詐中的作用多模態引擎在金融業務反欺詐中的作用多模態智能決策引擎技術在銀行及金融機構的多個業務場景中，能夠精準地識別欺詐行為、提高風控效率，并為金融機構提供更智能、動態的反欺詐解決方案。信貸業務。信貸業務。在信貸業務中，欺詐行為通常表現為虛假信息提交、偽造身份 或不真實的收入證明等。多模態智能決策引擎通過整合客戶的身份驗證數據、信用歷史、社交行為和生物特征信息，實時檢測和分析客戶的申請信息，驗證客戶提交的各類資料的真實性，如通過面部識別技術驗證身份證照片的真實性，或通過行為分析識別客戶是否為

91、操控賬戶的惡意行為者，減少不良貸款的發生，降低信貸欺詐風險，提高貸款審批的效率和準確性，同時確保合規性和客戶資金安全。金融 AIGC 音視頻反欺詐白皮書2信用卡業務。信用卡業務。信用卡欺詐通常表現為身份盜用、卡片信息盜取和未經授權 的交易。多模態智能決策引擎結合客戶的行為模式、交易歷史、設備指紋、位 置數據等多種信息，對客戶的消費習慣、地理位置以及交易頻率進行分析，判 斷是否存在異?；顒佑行Х乐剐庞每ūI刷和身份盜用，減少因欺詐行為而產生 的經濟損失，提升客戶對信用卡產品的信任。支付結算業務。支付結算業務。支付結算環節是金融服務中最易受到欺詐攻擊的部分，常見的欺詐形式包括支付信息篡改、跨境欺詐和

92、洗錢等。多模態智能決策引擎技術能夠通過監控支付交易的多維度數據，結合交易金額、支付方式、設備指紋、用戶身份等多種信息，實時判斷是否存在風險。如客戶在短時間內進行頻繁小額支付或進行高風險的跨境支付時，系統會自動觸發警報并要求二次身份驗證或凍結交易，從而提高支付安全性，防止支付過程中的欺詐行為，保障金融機構和用戶的資金安全?？蛻魻I銷推廣客戶營銷推廣?？蛻魻I銷活動中，欺詐通常表現為惡意注冊、虛假客戶信息、濫用優惠活動等。多模態智能決策引擎通過分析用戶的行為特征、購買習慣、社交網絡互動等進行全面分析，識別異?？蛻?，如通過分析用戶注冊過程中的設備信息、IP 地址和位置等，判斷是否為虛假注冊賬戶。此外，基

93、于歷史交易和互動數據，該技術可以檢測是否有濫用促銷活動或不正常的優惠申請行為，減少因虛假注冊、濫用優惠等行為導致的營銷損失，提升客戶營銷活動的準確性和 ROI。智能客服。智能客服。智能客服在提供金融服務時，通常需要處理大量的用戶信息與 請求。惡意用戶可能通過偽造身份或惡意行為試圖通過客服渠道進行欺詐。多 模態智能決策引擎可以通過分析用戶的語音、文本和行為數據，識別客戶聲音 中的情緒波動、語言特征等，判斷其是否存在欺詐意圖。例如，如果用戶的聲 音與其身份不符，或者語音內容與系統記錄的客戶信息不匹配，系統將自動提 示進行二次驗證，有效阻止通過客服渠道進行的身份冒用和欺詐行為，提高客 戶服務的安全性

94、和可信度。反洗錢。反洗錢。反洗錢是金融機構必須遵守的重要合規要求。通過監控客戶的交易行為和資金流向，多模態智能決策引擎能夠實時發現洗錢活動中的異常行為，如資金流動異常、頻繁的大額交易、交易記錄、客戶身份、地理位置等數據綜合分析，實時監測并識別是否存在洗錢行為，加強金融機構對洗錢行為的實時監控和早期發現，確保合規性，并防止金融機構因洗錢行為而遭受監管處罰或聲譽損害。多模態智能決策引擎技術能夠幫助金融機構實時識別欺詐行為、降低風險并提高效率。無論是在信貸審批、信用卡監控、支付結算、客戶營銷推廣、智能客服還是反洗錢等多個業務場景中，它都能發揮出強大的安全保障作用，為 金融機構提供更加智能化、精準化的

95、反欺詐解決方案。4.34.3 從業人員能力的提升從業人員能力的提升加強金融從業人員的培訓，不僅有助于提高他們對 AIGC 深度偽造欺詐的識別和應對能力，還能夠幫助金融機構建立更加完善的風險管理體系，減少潛在的風險和損失。提升風險應對能力。提升風險應對能力。通過系統培訓，金融從業人員可以學習如何辨別深度金融 AIGC 音視頻反欺詐白皮書2偽造的音視頻內容。例如，了解深度偽造技術的基本原理，掌握如何識別面部識別中的細微偽造跡象（如面部表情不自然、眼部反應遲鈍等）或語音中的非自然語氣（如合成聲音的節奏和語調問題）。此外，培訓還可以幫助員工掌握如何使用反偽造技術（如換臉檢測工具、深度偽造音頻檢測工具）

96、，及時發現并標記可疑交易或操作，避免通過 AIGC 欺詐手段導致身份盜用或資金損失。強化風險與決策。強化風險與決策。通過定期的培訓，金融從業人員能夠更好地理解和識別 AIGC 欺詐的潛在風險，從而在客戶身份核驗、交易監控等關鍵環節實施更嚴格 的審核。例如，金融從業人員可學會如何通過綜合驗證手段（如多因素認證、行為分析等）來識別和防止偽造身份的風險。在處理客戶請求時，經過培訓的 員工能更清楚地識別風險信號，及時采取措施，如凍結可疑賬戶、要求二次驗 證、啟動人工審核流程等，從而有效減少 AIGC 欺詐帶來的損失。增強客戶信任。增強客戶信任。受過培訓的從業人員能為客戶提供更加專業的風險識別和 防范建

97、議，增強客戶對金融機構的信任。例如，員工可以通過解答客戶對于 AIGC 欺詐的疑慮，提供反欺詐教育，幫助客戶了解如何識別深度偽造的音視頻 內容，保護個人賬戶和信息安全；在接到客戶關于可能遭遇欺詐的投訴時，員 工能夠做出快速且準確的反應，向客戶提供有效的解決方案和幫助，提升客戶 的滿意度。推動合規落地。推動合規落地。培訓有助于金融從業人員了解和遵守國家和地區的法律法 規，確保在面對 AIGC 欺詐時采取合規措施。例如，員工了解在 AIGC 欺詐情境 下如何合法獲取證據，如何處理客戶信息，能夠避免因誤操作而引發的法律糾 紛。還可以加強員工對于金融監管政策的理解，確保機構能夠執行正確的反欺 詐流程和

98、合規標準，避免因應對不當而遭受監管處罰。降低金融機構聲譽風險。降低金融機構聲譽風險。培訓可以幫助金融從業人員在面對 AIGC 欺詐事件時，采取適當的危機應對措施，減少損失，并通過有效的客戶溝通維護機構的公眾形象，確保能夠及時識別并防范 AIGC 欺詐行為，增強客戶和市場對機構的信任度，從而在競爭激烈的市場中獲得優勢。4.44.4 管理體系的提升管理體系的提升建立科學的管理體系，提升金融機構的反欺詐能力，是成為應對 AIGC 音視頻欺詐的關鍵。構建統一標準的管理框架。構建統一標準的管理框架?？茖W的管理體系首先需要為金融機構構建一個 全方位的風險管理框架，通過綜合考慮技術手段、流程控制、合規性要求

99、和人 員管理，金融機構可以對潛在的 AIGC 風險進行全面評估。從風險的預防、監控 到應急響應，管理體系能夠對 AIGC 帶來的欺詐風險進行全周期覆蓋，并能夠建 立統一的風險評估標準和操作流程，確保在面對 AIGC 欺詐時，所有相關部門和 人員能夠迅速、有效地應對。增強安全體系的合規性。增強安全體系的合規性。應對 AIGC 欺詐風險，金融機構需要在科學的管理體系中融入法律和合規管理。隨著 AIGC 技術的不斷發展，相關的法律和政策也在逐步完善，金融機構必須緊跟法律合規的步伐，確保反欺詐措施的合法性和有效性。實施 AIGC 音視頻反欺詐技術時，金融機構需要確保所采取的措施符合數據保護和隱私保護法

100、律的要求，在發生欺詐事件時，能夠及時通過法律手段追蹤和追責，保障金融機構的合法權益。金融 AIGC 音視頻反欺詐白皮書3提升反欺詐效率。提升反欺詐效率。通過實現跨部門、跨系統的數據融合，金融機構能夠在 更廣泛的范圍內獲取和分析客戶數據，提升對 AIGC 欺詐的檢測和響應能力。通 過加強數據的實時監控和共享，金融機構能夠實時追蹤客戶交易行為和操作，及時發現潛在的欺詐行為。例如，結合 AIGC 技術，系統能夠識別不正常的登錄行為、大額交易頻繁等異常情況，實時觸發反欺詐措施。通過數據整合和共享，能夠跨系統、跨部門實現信息的及時流轉和反饋，提升反欺詐工作的效率和精準度。實現全行級實時監控。實現全行級實

101、時監控。實時監控系統是科學管理體系的核心組成部分。通過引入先進的監控技術和智能化決策引擎，金融機構可以對每一筆交易、每一次身份驗證和每一段音視頻內容進行動態監控和評估。通過 AI 技術和多模態分析，系統能夠實時監測音視頻內容的真實性，快速檢測到換臉視頻或偽造音頻，及時采取凍結賬戶、重置密碼、二次驗證等應急措施。結合大數據分析和行為分析技術，金融機構可以實時識別用戶行為的異常波動（如不尋常的登錄地點、頻繁的大額轉賬等），并觸發自動報警系統，迅速采取防范措施。提升應急響應能力。提升應急響應能力。為了應對 AIGC 帶來的潛在風險，金融機構需要定期進行反欺詐演練和模擬測試，檢驗現有反欺詐措施的有效性

102、。這種持續演練不僅能夠幫助金融機構發現系統漏洞，還能提高員工在面對實際欺詐事件時的應急處理能力。通過模擬各種 AIGC 欺詐場景，金融機構可以識別現有防護體系中的漏洞和不足，及時進行技術更新和流程優化。模擬演練能夠提高員工的應急反應能力，幫助他們熟悉反欺詐操作流程，確保在面對實際欺詐時能夠高效處置。4.54.5 法律法規護航法律法規護航4.5.14.5.1針對針對 AI AI 濫用的法規濫用的法規中國作為 AIGC 領域的全球領導者，已經采取了多項措施來應對 AIGC 帶來的安全挑戰，并逐步建立起了一套AIGC安全治理的法律框架。然而，面對 AIGC 技術日新月異的發展，相關法律體系仍有待進一

103、步完善。中國是最早針對 AIGC 和深度合成技術制定法規的國家之一。2023 年 10 月18 日，中央網信辦發布全球人工智能治理倡議，這標志著中國在全球 AIGC治理中占據了重要的主導地位。該倡議提出了明確的 AIGC 安全治理方向，包括建立風險等級測試評估體系、分類分級管理、提高人工智能的可解釋性和可預測性等。這些措施不僅有助于保障 AIGC 技術的安全發展，還為未來的 AIGC 立法提供了基礎。此外，中國在 2021 年和 2023 年相繼出臺了一系列與 AIGC 安全相關的法規，包括互聯網信息服務算法推薦管理規定、互聯網信息服務深度合成管理規定和生成式人工智能服務管理暫行辦法。這些法律

104、對生成式 AIGC 和深度合成技術的研發和應用進行了詳細的規范，尤其是對涉及社會輿論或具有社會動員能力的 AIGC 服務，要求其進行安全評估并履行備案手續。國內的 AIGC 法律體系主要由幾部重要的法律法規構成。除了針對 AIGC 和深度合成技術的具體規定，還涉及網絡安全、數據安全、個人信息保護、知識金融 AIGC 音視頻反欺詐白皮書3產權等多個方面的法律。這些法律包括中華人民共和國網絡安全法、中華人民共和國數據安全法、中華人民共和國個人信息保護法、版權金融 AIGC 音視頻反欺詐白皮書3法、中華人民共和國科學技術進步法和中華人民共和國民法典。這些法規為 AIGC 的研發、應用及其衍生問題提供

105、了法律依據和保障。中國在 AIGC 安全治理上采取了一系列實際的措施，以確保 AIGC 技術的安全可控。這些措施包括推動 AIGC 技術的可解釋性與可預測性，確保 AIGC 技術處于人類的控制之下。相關企業和研發主體必須確保 AIGC 技術的透明性和可審查性，并在應用中保護個人隱私和數據安全，避免非法數據的收集和使用。4.5.24.5.2針對違法者的懲罰針對違法者的懲罰國內在金融領域防止 AIGC 濫用方面的法律法規已經取得了初步成效，涵蓋了數據安全、個人信息保護、AI 生成技術監管、防范金融詐騙等多個領域。隨著 AIGC 技術的持續發展，金融領域的監管框架也將不斷優化，以確保 AIGC 技術

106、在促進金融創新的同時，能夠有效防范潛在風險和濫用行為。中華人民共和國數據安全法、中華人民共和國個人信息保護法這兩部法律構成了防止 AI 濫用的基礎。數據安全法要求金融機構必須確保其處理 和儲存的數據安全性。AIGC 系統依賴于大規模的數據集，而這些數據集必須得 到嚴格的保護，不能被用于非法目的或濫用，如未經許可的數據分析或生成不 良的金融決策。個人信息保護法進一步規定，金融機構在使用 AI 技術時，必須 確保用戶個人數據的隱私和安全。任何涉及個人敏感信息的數據處理活動，如 信用評分或風險評估，都需要用戶同意，并遵守隱私保護要求。生成式人工智能服務管理暫行辦法主要針對生成式 AI 的應用，要求金

107、 融機構在使用具有生成和社會動員能力的 AI 服務時，必須進行安全評估，并遵 循國家有關規定。該規定旨在防止 AIGC 生成虛假信息、操縱市場或擾亂金融秩 序。該暫行辦法對具有輿論屬性和社會動員能力的 AIGC 服務進行了更加嚴 格的監管，要求企業在提供此類服務時進行安全評估，并履行算法備案、變更 或注銷備案手續。這些法規強化了對 AI 系統的監管，并為未來可能出現的新問 題預留了法律空間。此外，中華人民共和國刑法對通過 AIGC 技術進行非法活動進行了處罰規定。編造虛假信息、通過信息網絡或其他平臺傳播的行為可以被處以有期徒刑或罰金，而中華人民共和國民法典則對個人隱私、肖像權和名譽權提供了法律

108、保護。利用深度偽造技術侵犯他人權利的個人可能面臨民事賠償責任。金融 AIGC 音視頻反欺詐白皮書3第五章第五章 AIGCAIGC 音視頻反欺詐技術實現音視頻反欺詐技術實現5.15.1 AIGCAIGC 音頻偽造檢測音頻偽造檢測AIGC 語音檢測技術旨在提高系統對各種類型的偽造語音的檢測能力，尤其是在面對不斷改進的偽造語音技術時，仍能保持較高的準確性和可靠性。本小 節將從偽造語音特征線索和魯棒性建模兩方面梳理現有的偽造語音鑒別技術，揭示偽造語音特征的痕跡或異常，以應對不同生成技術和復雜噪聲干擾。5.1.15.1.1語音偽造線索語音偽造線索在 AIGC 語音檢測中，偽造線索指的是能夠揭示語音是否由

109、人工智能生成或篡改的音頻特征。這些偽造線索通常體現在音頻質量、自然度、聲紋特征和頻譜分析等幾個方面。音頻質量指的是音頻信號本身的清晰度、純凈度和信號質量等方面的綜合指標。在偽造語音中，通常會出現一些音頻質量的異?；蜩Υ?。偽造語音的生成過程可能會引入噪聲、失真或其他影響音頻質量的因素，這些特征可以作為檢測偽造語音的一個重要線索。影響音頻質量的因素主要有：噪聲。噪聲。偽造語音中可能會包含一些不自然的背景噪聲或者音頻偽造過程中引入的雜音。失真。失真。偽造語音可能會在音頻波形中產生某些突變或不連續的現象，尤其是在快速變化的音節部分，如爆破音、輔音等。頻譜不一致。頻譜不一致。偽造語音的頻譜圖可能表現為頻

110、率分布不規則，尤其是高頻 部分。編碼和壓縮失真。編碼和壓縮失真。在生成或傳輸過程中，偽造語音可能會遭遇壓縮或編碼，從而喪失一些高質量的音頻細節。自然度是指語音聽起來是否像人類自然發出的聲音。人類語音的自然度通常具有一些固有的特點，比如語速、語調、音色等方面的自然變化。偽造語音在這些方面可能會表現出不自然的模式，導致它們聽起來不像真正的人類語音。影響自然度的因素主要有：語音流暢性語音流暢性。偽造語音可能出現發音不連貫、停頓不自然或語速不一致的現象。語調和重音語調和重音。人類在說話時會有一定的抑揚頓挫，而偽造語音可能會缺乏 這種自然的韻律。情感表達情感表達。偽造語音通常無法準確模擬情感變化，聽起來

111、更加平淡或呆板。語速和停頓語速和停頓。偽造語音可能會出現語速過快或過慢的現象，或者在不合適 的地方停頓。聲紋特征是指能夠唯一識別和區分每個人的語音中獨特的生理和行為特征。由于每個人的聲帶結構、發聲習慣、口腔構造等生理特點不同，因此產生的聲音也具有獨有的特征，這些特征被稱為聲紋。聲紋特征在語音識別、身份驗證和偽造語音檢測等領域具有廣泛應用。人工智能合成的語音與真實人的語音在金融 AIGC 音視頻反欺詐白皮書3聲紋特征上存在明顯的差異，AI 合成語音在語音的發音習慣、語速、音高等方面的變化通常比人類語音更加規律化或機械化，缺乏自然人的個性化聲紋。頻譜分析是一種將語音信號從時間域轉換到頻域的技術，通

112、過頻譜來分析信號的頻率成分及其變化情況。在語音處理、信號處理和語音偽造檢測中，頻譜分析是一項核心技術，因為它能揭示信號的頻率結構，從而提取到音頻的獨特特征。通過分析語音的頻譜圖，人工智能生成的語音通常會在高頻或低頻段表現出與真實人聲不同的特征。例如，生成語音的頻率分布可能不自然，偏離 真實人類語音的自然波形特性。5.1.25.1.2線索建模方式線索建模方式基于上述這些語音偽造線索，AIGC 語音檢測的建模方式主要可以分為基于特征工程的傳統方法和基于深度神經網絡的方法。圖圖 5-15-1 偽造語音檢測常用結構偽造語音檢測常用結構基于特征工程的傳統方法是偽造語音檢測的早期手段，這類方法通過從語音信

113、號中提取人工設計的特征，并利用這些特征進行分類，來判斷語音是否為偽造。傳統方法主要依賴于信號處理領域的一些經典特征，這些特征能反映出語音信號的物理特性或統計模式。常見的特征包括：梅爾頻率倒譜系數（梅爾頻率倒譜系數（MFCCMFCC）。）。通常在檢測偽造語音時，MFCC 特征中某些頻段的異常變化可以作為判斷的依據。聲紋特征聲紋特征。偽造語音通常難以完全模仿真實人類的獨特聲紋特性。時頻特征時頻特征。偽造語音的時域特征可能較為機械化，且缺乏真實人類語音的自然變化。通過這些特征訓練傳統的機器學習模型（如 SVM、隨機森林等）進行分類。檢測模型通過這些手工設計的特征來判斷語音是否為人工智能合成?；谏疃?/p>

114、神經網絡的方法在 AIGC 語音檢測中取得了顯著成效，能夠識別出合成語音的特征，從而有效區分人工語音和偽造語音。由于 AIGC 語音生成技術越來越逼真，深度學習在 AIGC 語音檢測中發揮著至關重要的作用。方法主要包括以下幾個方面：金融 AIGC 音視頻反欺詐白皮書3頻譜圖分析和卷積神經網絡頻譜圖分析和卷積神經網絡。AIGC 語音檢測中，頻譜圖（如梅爾頻譜圖和STFT 頻譜圖）常作為語音數據的主要表示方式。通過將頻譜圖輸入卷積神經網絡，可以讓模型自動學習到頻譜圖中的偽造特征。時序特征分析與循環神經網絡時序特征分析與循環神經網絡。循環神經網絡 RNN 及其改進模型（如 LSTM和 GRU）擅長處

115、理時序數據，能夠捕捉到語音信號的時間依賴特性。時序信息可以揭示出語音生成過程中的異常，例如發音不自然、節奏不一致等。生成對抗網絡（生成對抗網絡（GANGAN）。生成對抗網絡不僅能生成偽造樣本，還可以用于檢測偽造內容。Transformerransformer 模型與自注意力機制模型與自注意力機制。Transformer 模型通過自注意力機制，能夠同時關注語音序列中的不同位置，非常適合用于分析語音生成過程中的整 體特征。尤其對于長語音數據，Transformer能夠捕捉語音中的長程依賴性，是AIGC 語音檢測的有效工具。此外，近年來的研究也探索了將語音信號與其他模態數據（如視頻、文本等）結合，進

116、行跨模態檢測。這種方法利用多種信號源之間的關系，提高了模型的檢測能力和準確性。AIGC 語音檢測技術通過捕捉偽造語音的特征線索并構建強大的檢測模型，能夠有效應對多樣化的生成技術和復雜的噪聲干擾。采用多層次特征融合、對抗訓練、時序建模等技術手段，確保模型具有更高的檢測精度和更強的泛化能力。在未來的研究中，結合多模態信息和更先進的深度學習技術，將進一步提高偽造語音的檢測性能。5.25.2 AIGCAIGC 圖像偽造檢測圖像偽造檢測AIGC圖像檢測任務旨在判斷給定的圖像是否由人工智能生成或篡改。本小節將從偽造線索和建模方式兩方面梳理現有的 AIGC 圖像檢測技術，前者關注那些能夠揭示圖像被人工智能生

117、成或篡改的特征或痕跡，后者關注利用偽造線索構建檢測模型的具體方法和技術。5.2.15.2.1 圖像偽造線索圖像偽造線索AIGC圖像中的偽造線索主要包括視覺偽影、數字信號異常特征、模型指紋、人臉先驗約束、物理成像法則違背等幾個方面。視覺偽影指 AIGC 圖像生成過程中產生的不自然視覺效果，其可能是由多種因素造成的，包括但不限于算法局限、訓練數據不足、計算資源限制等。AIGC圖像中的視覺偽影主要表現為以下幾類：不自然的紋理。不自然的紋理。生成模型可能在訓練數據中學習到了某些特定的紋理模式，并在生成新圖像時過度使用這些模式，導致出現重復或不自然的紋理。邊緣扭曲或模糊。邊緣扭曲或模糊。AI 模型在生成

118、圖像時，可能會在邊緣處理上不夠精細，導致邊緣模糊或者過于銳利，與周圍環境不協調。顏色分布異常。顏色分布異常。AI 模型可能會在顏色渲染上存在偏差，導致某些顏色過于飽和或者不自然地分布在圖像中。幾何畸變。幾何畸變。在生成具有復雜幾何形狀的對象時，AI 模型可能會產生不自然的變形或者比例失調金融 AIGC 音視頻反欺詐白皮書3過度平滑。過度平滑。為了減少計算復雜度，AI 模型可能會在圖像中使用平滑技術，但過度平滑可能會使得圖像失去細節和紋理的自然變化。AIGC圖像還可能在數字信號層面留下異常特征，包括頻域、噪聲域和色彩統計特征等。在頻域上，AI 生成的圖像在頻域中可能表現出特定的模式，這些模式可能

119、與真實圖像的頻域特征存在顯著差異。例如，GAN 生成的圖像在頻域中可能存在由上采樣操作引入的偽影，這些偽影可以作為檢測的依據。在噪聲 域中，真實圖像的噪聲通常具有特定的統計特性，而 AIGC 圖像的噪聲模式可能 與真實圖像不一致。通過分析圖像的噪聲模式，可以識別出 AIGC 圖像。此外，在色彩統計特征方面，AIGC圖像在色彩分布上可能與真實圖像存在差異。例如，生成圖像可能在某些顏色通道上表現出不自然的集中或稀疏，這些差異可以通過色彩統計分析來識別。模型指紋是指 AI 生成模型在其輸出結果中留下的獨特標記或特征，這些特 征可以用來追溯圖像是否是由特定的生成模型所創造。這些指紋是由模型的架 構、訓

120、練數據、參數設置等因素共同決定的。通過訓練專門的檢測模型來識別 這些模型指紋，可以判斷一幅圖像是否由特定的 AI 模型生成。人臉先驗約束是指人臉圖像中固有的結構、比例、紋理等特征，這些特征在真實的、未經修改的人臉圖像中通常是穩定且一致的。然而，AI 生成的人臉圖像由于生成算法的局限性和訓練數據的不足，可能無法完全準確地復現這些先驗知識，進而導致生成圖像中出現違背先驗知識的異常。例如，眼睛的位置可能不準確、瞳孔形狀不規則、鼻子的形狀可能不自然、皮膚紋理可能過于平滑、頭部朝向和臉部朝向不一致等。圖圖 5-25-2姿態一致姿態一致6性性/瞳孔形狀不規則瞳孔形狀不規則7/左右眼角膜高光一致性左右眼角膜

121、高光一致性8物理成像法則是指光在傳播、反射、折射等過程中遵循的物理定律，如光的直線傳播、反射定律、折射定律等。這些定律在自然界中是普遍存在的，也是真實圖像形成的基礎。而 AIGC 圖像由于是由算法生成的，其生成過程中可能并未嚴格遵循這些物理定律，因此可能在圖像中暴露出不符合物理規律的線索。例如，出現光源不一致、陰影方向和長度不符合物理規律、透視關系不符合幾何學原理等。5.2.25.2.2 線索建模方式線索建模方式針對 AIGC 圖像中偽造線索的建模方法，主要分為手工構造與表征學習兩大類。手工構造方法基于對偽造圖像生成機制及特性的深入理解，通過人工設計特定特征來識別偽造痕跡。此類方法對數據量的需

122、求不高，通常專注于某一特金融 AIGC 音視頻反欺詐白皮書3定偽造特征，盡管建模過程較為復雜，但具備較高的透明度與可解釋性。這種方式的核心在于“特征工程”，即根據偽造圖像中的偽造線索，人工設計并提取出能夠區分真實與偽造圖像的特征。典型方法包括紋理分析（如灰度共生矩陣和局部二值模式）來提取紋理信息；分析顏色分布、飽和度及亮度，識別可能存在的顏色失真；以及通過邊緣檢測和形狀分析提取異常輪廓。此外，圖像的統計量計算（如均值、方差、直方圖）也能揭示真實與偽造圖像在統計分布上的差異。提出特征后，可以通過傳統的機器學習模型（如支持向量機、決策樹等）完成偽造圖像的檢測。然而，其局限性在于難以全面涵蓋所有偽造

123、類型，且隨著偽造技術的持續演進，需頻繁更新特征集以保持有效性。表征學習采用深度學習模型，能夠從大規模、多樣化數據集中自動提取多層次、有效的特征表示。其優勢在于適用于類型多樣的偽造痕跡檢測，涵蓋常見與復雜的偽造痕跡，同時適應光照變化、遮擋及圖像降質等復雜場景。該方法通常結合特定任務特點，從網絡架構、損失函數、數據增廣及訓練策略等方面優化。在網絡架構方面，設計了專門針對偽造特征提取的模塊，例如結合提取層次化特征、引入注意力機制關注局部關鍵特征等；在損失函數的選擇上，則注重于強化模型對于細微偽造差異的敏感度；數據增廣技術的應用旨在增加模型面對未知情況時的魯棒性；在訓練策略方面，通過調整學習率、正則化

124、和歸一化等方式提高模型的穩定性和性能。此方法簡化了建模流程，提高了模型的泛化能力，但同時也犧牲了一定程度的透明度與可解釋性?？傮w而言，表征學習因其自動化、高效能及強大的適應性，在處理日益復雜多變的 AIGC 圖像偽造挑戰中展現出顯著優勢，成為當前研究的主流趨勢。盡管如此，手工構造方法因其獨特的透明度和可解釋性，在特定應用場景中仍具有不可替代的價值，兩者相輔相成，共同推動著圖像偽造檢測技術的不斷發展。5.35.3 AIGCAIGC 視頻偽造檢測視頻偽造檢測針對視頻偽造過程中容易破壞語義特征一致性這一特點，研究基于視頻語義一致性的鑒偽技術，研究對視頻中的目標進行識別與分割，對目標和目標進行紋理、光

125、照、分辨率等特征進行提取，結合這些混合特征進行分類檢測通過檢測目標網格圖像分割幀與幀之間移動的不一致性進行偽造識別。這種方法能夠捕捉到偽造過程中容易被忽略的動態語義異常，為視頻偽造的精確檢測提供了技術支撐。AIGC 視頻檢測技術，其核心目標在于精準判斷給定的視頻內容是否由人工智能生成或經過篡改。本小節同樣從偽造線索和建模方式兩方面梳理現有的AIGC 視頻檢測技術。在偽造線索方面，AIGC 視頻檢測不僅需要識別靜態圖像中的各種偽造線索，還需考慮視頻特有的時空連續性、視聽不一致性等偽造線索。在建模方式方面，AIGC 視頻檢測還需進一步考慮視頻特有的復雜性。5.3.15.3.1 視頻偽造線索視頻偽造

126、線索AIGC 視頻中的偽造線索除了靜態圖像中的偽造線索，還包括時序視覺偽影、視聽不一致性、人臉先驗約束、運動軌跡自然性等幾個方面。其中，AIGC 視頻中的時序視覺偽影主要表現為以下幾類：金融 AIGC 音視頻反欺詐白皮書3時空連續性不一致時空連續性不一致。AIGC 視頻可能在相鄰幀之間出現不自然的過渡，如物體位置突然跳躍、背景信息不一致等。光照和陰影一致性。光照和陰影一致性。AIGC 視頻在生成時，可能無法準確模擬復雜的光照和陰影變化，特別是在動態場景中，光源方向或強度的變化可能導致陰影不一致。邊界和邊緣異常。邊界和邊緣異常。AIGC 視頻生成時，可能無法完美地處理物體或人物的邊界，導致邊緣出

127、現鋸齒狀或模糊現象。紋理和顏色突變。紋理和顏色突變。AIGC 視頻中的紋理和顏色可能在幀間或幀內出現突變，表現出局部區域的顏色或紋理與周圍環境不一致。真實視頻中的視覺和聽覺信息應保持高度的同步和協調，而 AIGC 視頻可能出現視聽不一致性。視聽不一致性主要表現為以下幾類：音畫協同性較差。音畫協同性較差。視頻中的音頻和視頻內容應在時間上保持一致，不應有 明顯的延遲或錯位。導致音頻和視頻內容的不匹配，如人物動作與背景音效的 不協調。音視頻情感不一致。音視頻情感不一致。視頻中人物的情感表達應與語音的情感相一致，如高 興的表情與歡快的語氣，不能出現人物的表情與語音情感不匹配。音唇不一致。音唇不一致。表

128、現為人物說話時嘴唇動作與聲音不同步。身份不一致。身份不一致。表現為視頻中人物的聲音與形象不匹配。語義內容不一致。語義內容不一致。AIGC 視頻中的對話內容應與人物的肢體動作、表情或唇部動作所傳達的語義內容相吻合。語義內容不一致時，表現為這些元素之間的矛盾。音視頻環境一致性音視頻環境一致性。視頻中的音頻環境應與視覺環境相一致，如室內環境 的回聲與視頻中的室內場景相符。環境不一致表現為音頻環境與視覺環境不匹 配。圖圖 5-35-3 音視頻語義內容一致性音視頻語義內容一致性9/音頻視頻情感一致性音頻視頻情感一致性10AIGC 視頻中也會違背一些先驗人臉約束，主要包括：表情不自然。表情不自然。AI 在

129、模擬人類面部表情時，可能會因為缺乏對人類情感表達的深刻理解，而導致生成的表情顯得生硬、夸張或不符合常理。五官比例失調。五官比例失調。人臉的五官比例是長期進化過程中形成的自然規律，但在AIGC 視頻中，由于算法或數據的問題，生成的人臉五官比例可能出現失調現象。身份特征不一致。身份特征不一致。在連續的視頻幀中，AI 生成的人臉應保持一致的身份特 征，包括臉型、五官形態等。然而，由于算法的不穩定性或數據的局限性，AIGC 視頻中的人臉可能在某些幀中發生微妙的變化，導致身份特征不一致的現 象。眨眼與頭部運動不自然眨眼與頭部運動不自然。真實人類在交流過程中會自然地眨眼和進行頭部運動，這些細微的動作對于維

130、持視覺的真實感至關重要。金融 AIGC 音視頻反欺詐白皮書3此外，AIGC 視頻還會存在違背運動軌跡自然性的偽造線索，AI 生成的物體運動可能顯得僵硬、不流暢，或者不符合物理運動規律，如速度變化不連續、加速度異常等。5.3.25.3.2 線索建模方式線索建模方式針對視頻偽造線索的建模方式，可以借鑒并擴展 AIGC 圖像偽造線索建模的方法論，將其應用于更為復雜和動態的視頻數據中。視頻偽造線索建模同樣可以劃分為手工構造與表征學習兩大類，但考慮到視頻的時間維度、運動信息及 連續性等特點，這些方法需要相應調整和優化。在視頻偽造線索的手工構造建模中，核心仍然是“特征工程”，但特征的設計需更加關注視頻特有

131、的屬性。例如，通過光流法、軌跡跟蹤等技術分析視頻中物體的運動軌跡，檢測是否存在不自然的運動變化或速度突變；分析視頻幀間的時空連貫性，包括顏色、亮度、紋理等特征在連續幀中的一致性，以及物體形態和位置的連續性變化，可以識別可能的偽造區域；驗證音頻與視頻內容的同步性，可以檢驗視頻是否被編輯過；在重力、光影變化、透視原理等方面的檢查，可以識別違背自然規律的場景。在視頻偽造線索的表征學習中，核心在于利用深度學習模型自動從大規模、多樣化的視頻數據中學習到有效的特征表示。與圖像偽造線索的表征學習相比，視頻偽造線索的表征學習需要特別關注視頻的時間維度、運動信息及連續性等特點。例如，通過 3DCNNs 和 RN

132、Ns 的結合，同時捕捉視頻的空間和時間特征；通過多模態學習和跨模態一致性驗證，確保視頻中的視覺和聽覺內容保持一致。5.45.4 AIGCAIGC 欺詐鑒定技術欺詐鑒定技術現有的 AIGC 圖像和視頻檢測工作大部分聚焦于真假判別任務，即判斷給定的圖像或視頻是否被偽造。AIGC 生成工具鑒定則是一種更精細的任務，需要分析偽造圖像或視頻背后的生成細節，包括合成方法、網絡結構等。這類技術可以提供偽造數據的更多歷史信息，增強真假判別結果的可信度。根據能否預先接觸待溯源的目標數據，AIGC 生成工具鑒定技術可以被劃分為被動式溯源和主動式溯源。5.4.15.4.1 被動式溯源被動式溯源被動式溯源按照溯源粒度

133、可以進一步劃分為方法級溯源、結構級溯源、模型級溯源和超參數級溯源，任務難度由易到難。方法級溯源主要集中在識別偽造內容所采用的具體技術或算法。Jia 等人11提出的 DMA-STA 方法通過結合空間注意力機制和時序注意力機制來提取和聚合視頻幀的特征，最終實現對偽造視頻的多分類。Ciftci 等人12則通過放大視頻中的人臉肌肉運動，利用 3D卷積神經網絡（3DCNN）來識別偽造內容。Girish等人13關注到了快速迭代的 GANs 方法帶來的挑戰，提出了一個開展深度偽造溯源任務及解決方案，旨在動態地識別新出現的未知 GANs 方法。而 Narayan 等人14引入了“深偽種系”金融 AIGC 音視

134、頻反欺詐白皮書3的概念，強調了一張人臉可能經過多次不同的偽造處理，因此將深偽溯源問題定義為多標簽分類任務，即給定一張圖像，輸出所有使用的偽造方法類別。圖圖 5-45-4開集深度偽造溯源方法流程圖開集深度偽造溯源方法流程圖結構級溯源旨在確定偽造內容背后的特定神經網絡架構。Yang等人15通過實驗證明了神經網絡結構指紋的存在，并開發了 DNA-Det網絡來學習和識別這些結構指紋，這有助于更深層次地理解偽造內容的生成過程。模型級溯源進一步細化到識別具體的模型實例，即識別出用于生成偽造內容的具體模型（包括其權重和參數）。Yu 等人16通過實驗證明了 GAN 模型指紋的存在性及其獨特性，并提出了一種基于

135、自編碼器的方法來提取和利用這些指紋進行溯源。Guarnera 等人17構建了一個專門的數據集，用于研究不同模型實例之間的細微差異，并提出了一種有效的模型識別方法，該方法在特定數據集上展現了良好的識別性能。超參數級溯源是最細粒度的溯源層次，目標是從偽造內容中反推出生成模型時使用的具體超參數設置。Asnani 等人提出了一種框架，該框架包括兩個主要組件：指紋估計網絡（FEN）和解析網絡（PN），前者用于從生成的圖像中估計出生成指紋，后者則負責從這些指紋中解析出模型結構和損失函數等超參數信息。5.4.25.4.2 主動式溯源主動式溯源主動式溯源要求在圖像或視頻生成過程中預先嵌入特定的指紋信息，推斷時

136、通過提取這些指紋信息來獲取偽造數據的生成細節。這種方法依賴于制作深度偽造時嵌入的隱藏簽名。這種隱藏的簽名信息伴隨著圖像或視頻的整個生命周期，因而推斷時只需將簽名信息提取出來就能得到相關信息。主動式溯源通常通過數字水?。―igital Watermarking）技術和神經網絡 水?。∟eural Network Watermarking）技術來實現。數字水印技術將信息直接 嵌入圖像的像素中，而神經網絡水印技術則將信息嵌入到神經網絡的參數里。Yu 等人8提出了一種基于神經網絡水印的方法，該方法首先通過訓練指紋編 碼器將指紋信息編碼到訓練數據中，隨后訓練 GAN 模型。在生成過程中，GAN 的生成器

137、會生成包含指紋信息的圖像，最終通過指紋解碼器提取出嵌入的指紋 信息，從而完成偽造內容的溯源。金融 AIGC 音視頻反欺詐白皮書4圖圖 5-55-5基于神經網絡水印的主動式溯源方法基于神經網絡水印的主動式溯源方法5.55.5 基于知識圖譜的特征關聯分析基于知識圖譜的特征關聯分析圖圖 5-65-6業務流程圖業務流程圖基于知識圖譜的 AIGC 特征關聯性分析是一種強大的圖結構數據模型，通過構建與深度學習、特征提取和指紋識別技術相結合的知識圖譜，用圖形的形式將實體（如人物、事件、地點等）之間的關系進行結構化描述，揭示不同數據對象間潛在的復雜聯系。這種方法不僅能有效識別和追蹤 AIGC 生成內容中的潛在

138、欺詐團伙，還能夠揭示多個欺詐個體之間的聯系和行為模式。揭示隱藏的關系。揭示隱藏的關系。通過將各類 AIGC 生成的內容（如虛假視頻、偽造音頻等）作為圖譜中的節點，并通過特征匹配、生成工具搭建節點間的關系，知識圖譜可以揭示不同欺詐行為之間的潛在關聯。例如，多個虛假賬戶通過相似的生成工具、相近的生成時間或一致的偽造特征連接成一個欺詐團伙的潛在網絡。幫助識別團伙組織模式。幫助識別團伙組織模式。通過社群發現算法（如Louvain算法、LabelPropagation算法等），可以在圖譜中識別出高密度的節點社群，這些社群可能代表著有組織的 AIGC 特征欺詐團伙。例如，某些欺詐團伙可能通過類似的生成工具

139、進行內容制作，或在特定的時間窗口內頻繁進行虛假內容生成，形成具有明顯聯系的社群。動態追蹤和推理。動態追蹤和推理。知識圖譜不僅能表示當前的關聯性，還可以進行動態推 理，發現潛在的隱性關系。通過關聯推理，可以追蹤 AIGC 生成內容在圖譜中的金融 AIGC 音視頻反欺詐白皮書4傳播路徑，進一步發現潛藏的團伙成員，甚至識別出新的欺詐行為模式。5.5.15.5.1 基于基于 AIGCAIGC 特征的關系建立特征的關系建立在 AIGC 特征欺詐團伙的識別中，首先需要從 AIGC 生成內容中提取出獨有的特征信息，作為構建知識圖譜節點的依據。這些特征可以包括但不限于以下幾類：音頻頻譜特征。音頻頻譜特征。音頻

140、偽造（例如語音克隆或 AI 合成語音）生成的音頻頻譜具有某些特征，可以通過頻譜分析算法（如 MFCC、Chroma 等）提取音頻的頻率、音高、語速、韻律等信息。這些特征是識別偽造音頻的關鍵。人臉微表情特征。人臉微表情特征。在 AI“換臉”生成的視頻中，人臉微表情（如眨眼、口 唇動作等）往往呈現出人工智能生成的失真特征。通過計算機視覺算法提取面 部表情和微表情的特征，可以有效識別 AIGC 生成的人臉偽造內容。設備的指紋特征。設備的指紋特征。每種生成工具（如 DeepFaceLab、GAN 等）都有獨特的生 成痕跡和指紋。通過指紋識別技術，可以從 AIGC 生成的內容中提取出工具的使用痕跡，從而

141、識別出相同工具生成的虛假內容。時間和行為特征時間和行為特征。欺詐團伙往往會在特定的時間段內頻繁進行欺詐活動。通過對生成內容的時間戳、頻率等信息進行分析，可以識別出是否存在團伙行 為的規律。將上述特征映射到知識圖譜中，可以形成多個節點，每個節點代表不同的 虛假賬戶、偽造合約、篡改證據等行為，每個節點通過特定的關系（如相似的 生成特征、相近的時間生成等）進行連接，形成知識圖譜的邊。這些關系不僅 反映了個體之間的相似性，還揭示了可能的組織結構和行為模式。5.5.25.5.2發現與識別團伙欺詐發現與識別團伙欺詐構建基于 AIGC 特征的知識圖譜后，可以通過社群發現算法分析圖譜中潛在的高密度節點群體，通

142、過關聯推理進行可疑行為模式標記，以及通過追蹤節點關系進行團伙擴展與路徑追蹤，從中識別出可能的欺詐團伙。高密度節點社群識別。高密度節點社群識別。社群發現算法的基本思想是，圖中節點間的邊越多，越可能代表一個緊密的群體。使用社群發現算法（如 Louvain 算法、Girvan-Newman 算法等），可以識別出高密度的節點社群。社群中的節點通常具有相似的特征或行為，如使用相同的 AIGC 生成工具、相似的偽造特征等，這意味著它們很可能屬于同一個欺詐團伙?？梢尚袨槟Ｊ綐擞??？梢尚袨槟Ｊ綐擞?。通過圖譜中的關聯推理，能夠發現同一社群內多個節 點之間存在重復或一致的行為模式。例如，同一社群中的多個節點可能頻

143、繁使 用相同的音頻偽造特征或人臉“換臉”特征，或者在相似的時間內進行高頻次 的虛假內容生成。通過標記這些可疑的行為模式，能夠有效識別潛在的欺詐團 伙。團伙擴展與路徑追蹤。團伙擴展與路徑追蹤。通過追蹤節點之間的關系，可以發現特定特征在圖 譜中的傳播路徑，進一步挖掘潛在的團伙成員。例如，某些節點可能與多個虛 假賬戶存在關聯，而這些賬戶又與其他疑似欺詐行為密切相關，通過追蹤這些 節點間的傳播路徑，可以揭示出完整的詐騙網絡。金融 AIGC 音視頻反欺詐白皮書45.5.35.5.3提升反欺詐的能力提升反欺詐的能力通過基于知識圖譜的 AIGC 特征關聯性分析，能夠在以下幾個方面提升反欺詐能力：高效識別欺詐

144、團伙。知識圖譜高效識別欺詐團伙。知識圖譜通過節點和邊的關系，可以快速識別出潛在 的欺詐團伙，避免傳統方法中對個體行為的逐一排查。同時，依托社群發現算 法，能夠自動化地發現隱形的犯罪網絡，提升識別效率。動態監控與實時預警。動態監控與實時預警。知識圖譜具有實時更新的特性，能夠隨著新數據的加入不斷更新圖譜結構，實時反映 AIGC 生成內容的變化，及時發現新的團伙成員和新的欺詐行為模式。一旦識別到潛在的欺詐團伙，系統可以立即發出預警，為監管機構提供阻止欺詐行為擴散的機會。精準防范與風險管理。精準防范與風險管理。通過對知識圖譜的深入分析，企業和監管機構能夠 更準確地預測和防范 AIGC 特征欺詐團伙的活

145、動，從而優化風險管理策略，減少 經濟損失?；谥R圖譜的 AIGC 特征關聯性分析，通過構建與深度學習、特征提取和指紋識別技術相結合的知識圖譜，能夠有效揭示多個欺詐個體之間的潛在關聯性，識別有組織的欺詐團伙及其行為模式。5.65.6 融合反融合反 AIGCAIGC 欺詐計算引擎的處理系統欺詐計算引擎的處理系統融合反 AIGC 欺詐技術引擎的高性能實時流處理系統，通過集成多種數據源（如設備、圖像、音頻、文本等），運用實時流處理技術、跨模態特征分析以及智能決策引擎，能夠實時檢測、評估和識別 AIGC 生成內容中的欺詐行為，從而在復雜的欺詐環境中提供更為精準的防護。5.6.15.6.1數據采集與預處

146、理數據采集與預處理融合反 AIGC 欺詐技術引擎的實時流處理系統由多個功能模塊構成，涵蓋數據采集、特征提取、規則匹配、風險評估、決策引擎和風險響應等多個環節。系統的設計目標是實現對不同模態數據進行實時分析，并根據檢測結果進行精準的欺詐判定和風險決策。系統首先從多個數據源獲取輸入信息，包括但不限于以下幾種類型：設備數據。包括設備數據。包括設備指紋、IP 地址、設備型號、操作系統等信息，通過設 備行為模式判斷是否與以往行為存在差異。圖像數據。圖像數據。通過計算機視覺技術對視頻幀、圖像進行分析，檢測人臉“換 臉”、圖像篡改等偽造特征。音頻數據。音頻數據。通過語音識別和聲紋分析技術檢測偽造音頻或語音生

147、成內容，識別生成的語音與實際語音的差異。文本數據。文本數據。對生成的文本進行語義分析，檢查是否存在由 AI 生成的釣魚郵 件或偽造合同等。這些數據會經過預處理步驟，進行清洗、去噪和格式化，以便后續處理。數據預處理階段還包括特征提取，主要是從視頻、音頻、設備和文本中提取出金融 AIGC 音視頻反欺詐白皮書4關鍵特征信息（如音頻頻譜特征、人臉微表情特征、設備指紋等）。5.6.25.6.2特征與規則特征與規則不同模態的數據（設備、圖像、音頻、文本）具有不同的特征，系統需要 對每種特征分別進行單獨和綜合的分析。設備分析。設備分析。通過對設備行為的模式分析，檢測是否存在不合常規的行為，如頻繁變更 IP

148、地址或使用不同的設備指紋。圖像分析。圖像分析。使用計算機視覺技術（如人臉識別、圖像一致性檢測）分析圖 像中的偽造痕跡，如“換臉”、虛假修圖、圖像變形等。音頻分析音頻分析。通過聲紋識別和語音生成模型分析音頻中的特征，識別是否為 AI 合成語音或深度偽造的音頻內容。文本分析。文本分析。通過自然語言處理（NLP）技術對文本內容進行檢測，識別是否為 AI 自動生成的釣魚信息或虛假合約。在特征提取后，系統將這些特征與規則庫中的預定義規則進行比對。這些 規則可以包括基礎規則（如音頻頻譜特征是否正常）以及復雜規則（如多個特 征之間的關聯性、跨模態特征的匹配等）。5.6.35.6.3智能決策引擎與風險評估智能

149、決策引擎與風險評估當系統通過規則匹配識別出潛在的欺詐特征后，將對相關行為進行風險評估。評估過程中，系統將根據多個維度的分析結果計算出一個綜合風險評分。這包含生成的音頻或圖像與真實內容的差異程度、行為模式的異常性、模態特征的一致性、歷史行為的對比等。最后，系統通過多層次的計算模型（如決策樹、隨機森林、神經網絡等）進行風險評估，區分潛在的欺詐行為與正常行為 區分開。5.6.45.6.4實時響應與行為攔截實時響應與行為攔截基于智能決策引擎的分析結果，系統會根據設定的規則進行實時響應及處 置，以減少可能的損失。自動攔截。自動攔截。當某個請求的風險評分超過預設閾值時，系統可自動阻止該請 求進入業務流程，

150、例如自動撤銷偽造的交易請求或視頻生成請求。人工審核。人工審核。對于中等風險行為，系統會將風險事件標記為待審核狀態，生 成通知并提交給人工審核人員進行深入分析。反饋與監控。反饋與監控。系統會將識別出的可疑行為反饋給業務流程，同時通過實時 監控系統持續跟蹤潛在欺詐的活動。5.6.55.6.5業務價值及優勢業務價值及優勢高效實時識別。高效實時識別。融合反 AIGC 欺詐技術引擎的實時流處理系統，能夠在欺詐金融 AIGC 音視頻反欺詐白皮書4行為發生時實時捕獲并處理多模態數據。通過實時流處理技術，系統能夠實現毫秒級的響應時間，大幅提升對 AIGC 欺詐行為的識別能力。無論是偽造音頻、視頻，還是虛假文本

151、，系統都能夠在生成內容發布的瞬間進行風險評估，并及時采取攔截措施。多模態數據綜合分析。系統多模態數據綜合分析。系統通過將設備數據、圖像數據、音頻數據和文本數據結合，系統能夠進行跨模態分析，揭示潛在的欺詐行為。例如，在一段視 頻中，如果圖像內容與音頻特征不一致，系統能夠根據圖像和音頻之間的關聯 性判斷該視頻是否為 AI 偽造。系統綜合分析各類數據源的特征，通過能夠有效 識別 AI 生成的欺詐內容。智能決策與實時反饋。智能決策與實時反饋?；跊Q策引擎的智能決策能力，系統能夠根據實時 數據自動調整響應策略，確保對 AIGC 欺詐行為的快速反應。通過結合多種算法 模型，系統可以不斷優化風險評估和決策能

152、力，逐步提升防御的精度。靈活應對新型欺詐手段。靈活應對新型欺詐手段。由于 AIGC 技術日新月異，欺詐手段不斷變化，系統能夠根據不斷更新的規則庫和算法模型，靈活適應新型的 AIGC 欺詐行為。例如，隨著生成工具的更新，系統能夠動態調整規則，確保始終處于最新的防護狀態。融合反 AIGC 欺詐計算引擎的高性能實時流處理系統，通過集成多種數據源及其特征，結合先進的跨模態分析、智能決策引擎和實時流處理技術，為識別和應對 AIGC 欺詐行為提供了強有力的支持。通過高效的實時識別、綜合分析和智能決策，系統能夠有效防范和應對 AI 生成內容帶來的各種欺詐風險，確保在 復雜和隱蔽的網絡環境中提供精確的防護，為

153、業務流程的安全性提供保障。金融 AIGC 音視頻反欺詐白皮書4第六章第六章 典型業務場景典型業務場景6.16.1 遠程音視頻反欺詐遠程音視頻反欺詐6.1.16.1.1背景背景AIGC 技術的迅速發展，也為詐騙分子提供了可乘之機。利用 AIGC的音視頻生成能力，欺詐活動變得愈發復雜和隱蔽，為金融機構的安全運營帶來了新 的挑戰。某銀行基于企業級音視頻能力推出的在線業務辦理平臺，致力于為客戶提供便捷、全面的在線金融服務。黑灰產勢力利用 AIGC 進行面部替換、表情驅動、全臉合成、背景生成等偽造技術，使銀行遠程視頻服務面臨的欺詐風險挑戰，亟需構建全新的防范體系，保障客戶資金財產安全。6.1.26.1.

154、2風險分析風險分析通過 AIGC 技術，黑灰產能夠合成出完全虛擬的人臉圖像，或者從網絡上獲取目標客戶的面部圖像，通過全臉合成技術生成幾乎無法辨別的虛假面部，使得偽造的客戶面部特征和表情與真實客戶高度相似。不僅能夠模擬客戶的外貌，還能通過表情驅動技術，精準地再現客戶的面部動作和情感變化，此外，偽造的背景環境也是重要的一環，攻擊者可以生成與客戶真實環境相符的背景，以消除人工座席對環境不匹配的懷疑。這種“背景生成”技術能夠極大提高欺詐的隱蔽性，增加人工客服判定欺詐的難度。黑灰產還通過 AIGC 語音模擬技術，能夠精準復制客戶的語音特征，包括音調、語速、語氣和語音模式等。傳統的人工客服依賴客戶提供的身

155、份信息進行服務，但對于那些沒有明顯漏洞的 AIGC 偽造內容，人工客服很難從細節中分辨真偽。這使得黑灰產能夠通過電話或視頻通話冒充客戶，進行賬戶查詢、資金轉賬、貸款申請等高風險操作。6.1.36.1.3解決方案解決方案為應對不斷升級的遠程欺詐風險，該銀行以關鍵的偽造音視頻檢測技術為核心進行了全面的防御升級。積累偽造合成數據集。積累偽造合成數據集。針對偽造攻擊的多樣性和復雜性，建立偽造合成數據集，涵蓋 AIGC 生成的面部替換、嘴型驅動、聲音合成等多種類型的虛假內容。通過數據集的積累和細分，構建精確的識別標準，有效區分正常與偽造內容。研發音視頻偽造檢測算法研發音視頻偽造檢測算法。開發并優化基于深

156、度學習的檢測算法，采用技術手段分析音視頻內容中不易察覺的偽造特征，例如視頻幀間的細微錯位、音頻波形異常等，針對深度偽造內容的技術原理、統計特點進行識別，實現動態檢測，提高偽造內容檢測的精準度和效率。金融 AIGC 音視頻反欺詐白皮書4建立高效檢測與風險控制機制。建立高效檢測與風險控制機制。針對偽造內容高質量和快速變化的特點，及時生成欺詐風險評分，快速識別并標記高風險內容，形成預警信號。對于高 于預設閾值的高風險內容，自動觸發二次驗證流程或轉接人工審核，并通過對 內部員工進行反欺詐培訓，進一步控制風險。加大客戶信息安全意識普及。加大客戶信息安全意識普及。通過反詐知識宣傳和客戶提醒，向客戶傳達欺詐

157、風險信息，提醒客戶在遠程視頻交互時保持警惕，不點擊來歷不明的鏈接，不輕易分享敏感信息。6.1.46.1.4 實施效果實施效果一方面，通過欺詐數據的積累，持續進行算法優化，不斷提升檢測算法的判偽精度，極大地降低了客戶隱私泄露和財產受損的風險。進而基于高效檢測算法和風控機制，以技防+人防的手段實現了對深度偽造內容的高效識別。偽造音頻整體平均檢出率 99%，偽造視頻整體平均檢出率100%，大幅降低偽造音視 頻通過的概率，有效保障了業務流程的安全性。與此同時，通過持續的內外部欺詐知識培訓及宣導，提升內部員工及客戶的反詐意識，更加主動和從容地應對欺詐風險，保障人民群眾資金財產安全。6.26.2 人臉識別

158、身份認證反欺詐人臉識別身份認證反欺詐6.2.16.2.1背景背景人臉識別和聲紋識別等多模態生物識別技術為金融機構擴大服務半徑、提升服務效率提供了必要手段，但隨著人工智能技術的發展，AI深度偽造技術（如深度學習驅動的面部合成）被犯罪分子應用在欺詐行為中，為金融服務的 安全性帶來挑戰，對用戶資金安全和銀行聲譽構成了嚴重威脅。目前大多數金融機構所使用的人臉識別算法，主要基于深度學習算法，通 過大量人臉數據進行特征提取、訓練和識別。這一過程雖然高效，但也存在過 度依賴數據的問題，透明度和可解釋性不足，容易成為黑客攻擊的目標。常見 的攻擊方式包括對抗樣本攻擊和深度偽造攻擊，前者可通過在人臉圖像上添加 細

159、微擾動來誤導人臉識別系統，后者則能將一個人的面部特征轉移到另一個人 身上，制造逼真的動態視頻，用以冒充他人完成身份驗證。6.2.26.2.2風險分析風險分析目前，對于人臉識別安全防御主要重心主要是通過攝像頭或其他傳感器直接捕捉到用戶的面部圖像或視頻實時分析檢測用戶是否為“活體”的前端活體檢測，以及通過對獲取到的面部圖像或視頻數據進行更深層次的分析和比對，識別潛在的偽造內容的后端活體檢測。新型攻擊方式針對上述防御手段進行針對性攻擊，主要有以下幾種：針對活體檢測增強模塊的攻擊?；铙w檢測對屏幕重放攻擊有一定的防御效金融 AIGC 音視頻反欺詐白皮書4果，但若對 APP 或操作系統進行攻擊，繞過攝像頭

160、采集，可直接將準備好的偽造圖像傳輸給后臺人臉比對算法，造成威脅。針對人臉特征比對增強算法的攻擊。人臉特征比對增強本質上是提升了比對算法的閾值，在提升自身安全性的同時，也降低了對于用戶的友好體驗，往往要進行反復拍照、核驗才能通過比對，容易造成客戶厭倦并采用其他手段進行校驗，從而繞過人臉檢測方案。針對臉部異常結構識別的攻擊。臉部異常結構識別旨在應對對抗眼鏡樣本等攻擊方式，但對抗樣本的攻擊方式千變萬化，目前已出現眼鏡形式之外的形式，防御手段難以快速跟進。針對眩光活體增強檢測的攻擊。眩光活體檢測對常規黑灰產攻擊有一定的防御效果，但對于當下新型的 AI 偽造+4K 屏翻拍模式基本無效，因其可在不對銀行

161、APP 做任何更改的情況下，實現傳統活體需要的用戶動作+炫彩的無延遲反饋。綜上所述，傳統安全加固措施，難以解決現有面臨的新型攻擊形式，需要從 AI 偽造本身對攻擊的樣本進行特征分析。6.2.36.2.3解決方案解決方案針對上述挑戰，某銀行研發了 AIGC 偽造檢測系統，該系統具有顯著的技術價值和獨特的特點，能夠精準地識別并攔截 AIGC 偽造內容，有效提升現有生物特征識別系統的安全性，并專門針對對抗樣本和深度偽造等新型攻擊方式進行防御。識別深度偽造。識別深度偽造。通過在現有活體檢測和人臉識別的基礎上加裝 AIGC 偽造檢測模塊，系統能夠為生物識別系統提供額外的防護層。系統通過深入到圖像生成的細

162、節層面，識別那些微小的偽造痕跡，深入分析圖像特征、動作一致性、細節與紋理等多重維度，能夠有效識別偽造圖像或視頻中的細微差異，例如不自然的面部表情、紋理的失真、光線變化異常等，從而提高了對深度偽造和對抗樣本的防御能力。實時快速檢測。實時快速檢測。通過對人臉圖像的即時監控和分析，系統可以在幾秒鐘內 完成偽造檢測，并將結果即時反饋給業務系統。如果檢測到圖像為偽造或存在 可疑跡象，系統會自動阻止該圖像進入后續識別流程，確保偽造內容無法突破 生物識別層級并影響后續的業務操作。AI AI與人工結合判斷。與人工結合判斷。系統會在檢測到可疑圖像時，標記為“待人工復審”狀態，并將其交由經過專業培訓的人工審核員進

163、行進一步驗證。這種人工智能與人工審核相結合的方式，能夠提高檢測的準確性，避免系統誤判或漏判，確?？蛻羯矸蒡炞C的可靠性。系統自我更新。系統自我更新。該系統通過機器學習算法，能夠在接收到新的欺詐樣本時，實時更新檢測模型。隨著新型攻擊手段的出現，系統可以基于歷史數據的反饋機制，自主調整算法，及時識別新類型的偽造圖像。這種持續學習的能力，使得該系統在面對未來不斷變化的欺詐方式時，始終能夠保持有效性和精準度。這套 AIGC 偽造檢測系統通過針對深度偽造技術的專門防護，提升了銀行對于 AIGC 相關欺詐行為的識別能力，有效避免由于身份盜用和虛假認證引發的金金融 AIGC 音視頻反欺詐白皮書4融風險。系統的

164、高效檢測與自動化響應機制能夠在第一時間識別出欺詐行為，及時止損，從而保障了金融交易和客戶資金的安全。6.2.46.2.4實施效果實施效果該系統已成功上線并應用于 20 多個在線業務場景，涵蓋賬戶注冊、登錄、資金轉移、設備更換和信用額度調整等關鍵環節，累計處理人臉識別請求約 3.8 億次，有效抵御針對人臉識別的身份攻擊事件 1.8 萬起，保護了超過 2000 名潛在受害者的財產安全，精準攔截數億元經濟損失，顯著增強了銀行的風險 控制能力，為維護客戶信任和市場穩定做出了重要貢獻。6.36.3 偽造人臉考勤反欺詐偽造人臉考勤反欺詐6.3.16.3.1背景背景保險公司的人力成本中，薪資占比達 85%以

165、上，福利成本占比高于 12%。截 至 2022 年 6 月 30日，全國保險公司在保險中介監管信息系統執業登記的銷售 人員 570.7 萬人。人員管理已成為保險公司的核心競爭力。然而，虛假考勤、代替打卡等現象屢見不鮮，造成人力資源浪費。20232024 年，黑灰產通過破解多家公司考勤系統，制作出打卡作弊工具，并向保險公司員工兜售“代打卡服務”，可以讓保險公司員工不出門不到崗也可以實現“上班打卡”，輕松領取全勤獎。6.3.26.3.2風險分析風險分析黑灰產主要通過偽造人臉視頻和考勤 App 等手段，提供考勤欺詐服務。偽造人臉視頻代打卡。偽造人臉視頻代打卡。個人提供真實的人臉視頻，黑灰產將視頻上傳

166、至考 勤系統，繞過考勤系統的人臉識別，幫助購買者完成每日的考勤打卡。最新的 攻擊已經可以只通過照片制作出具有高真實性的人臉視頻，模擬目標員工的面 部表情和動作，使考勤系統將錯誤地認為是員工本人，從而完成考勤打卡。偽造考勤偽造考勤 AppApp。黑灰產通過逆向工程或利用系統漏洞，獲取保險公司考勤系統的源代碼或協議文檔，破解考勤 App 并偽造新的考勤 App。該 App 能夠屏蔽真實的攝像頭影像采集、攔截藍牙和無線網絡，并偽造GPS 定位。個人可在任何地點使用該 App，該 App 會模擬出公司場景、位置等信息并發送至后臺，后臺系統將錯誤地識別為正常的考勤打卡。6.3.36.3.3解決方案解決方

167、案某保險公司將人臉考勤系統同設備指紋、行為識別等技術融合，并通過強化考勤 App 的安全性以提高防范能力。金融 AIGC 音視頻反欺詐白皮書4檢測識別考勤打卡機上傳的檢測識別考勤打卡機上傳的 AIGCAIGC 偽造的偽造的視頻。視頻。通過對考勤打卡機設備環境、人臉信息、圖像鑒偽、用戶點擊動作等多維度信息進行智能核驗，結合考勤打卡機所在環境中聲音與視頻幀，檢測出音畫不同步、考勤背景聲不一致等問題，提高整體偽造檢測的魯棒性。檢測識別終端檢測識別終端 AppApp 上傳的上傳的 AIGCAIGC 偽造的視頻。偽造的視頻。通過對終端 App 上傳的音視頻進行鑒偽分析，綜合判斷辦公背景、光照、背景音、地

168、理位置等情況，進行音視頻鑒偽分析。提升考勤提升考勤 AppApp 安全性。安全性。一是通過定期進行滲透測試，對 App 進行運行環境安全檢測，觀察是否有存在代碼注入等行為，同時增加 App 安裝包（SDK）的合法性檢測，檢測包的簽名、大小、進程信息、App版本號等，并持續進行不同版本 App 的信息檢驗；二是通過獲取終端設備指紋、IP 地址等信息，識別同一設備頻繁登錄多個賬戶等情況，防范虛擬終端風險。6.3.46.3.4實施效果實施效果分析發現，某些地區考勤作弊的保險員工數量占比高達25%以上，該方案 在保險公司部署后，攔截阻止虛假考 15 萬次，節省人力成本近百萬元。6.46.4 虛假視頻聊

169、天反欺詐虛假視頻聊天反欺詐6.4.16.4.1背景背景AIGC 為威脅行為者提供了新工具，黑灰產正在使用 AI 來瞄準員工、創建網絡釣魚電子郵件、冒充供應鏈合作伙伴。部分案例表明，詐騙分子在視頻會議中創建深度偽造的企業負責人形象，要求受害人轉賬或提供賬號密碼，導致 個人或企業的資金被盜或涉及重大合同或交易信息泄露，影響客戶利益、商業 利益。此外，詐騙分子通過 AIGC 生成更加逼真的電子郵件內容，騙取受害者的信任，要求受害者點擊惡意鏈接或下載附件，從而泄露敏感信息或者控制受害者的電腦，進而通過視頻軟件、聊天工具等多種手段，實施進一步的詐騙活動。根據德勤的最新報告18，與深度偽造相關的網絡攻擊損

170、失預計將從2023年的 123 億美元飆升至 2027 年的 400 億美元，復合年增長率達 32%，銀行和金 融服務業將成為主要目標。6.4.26.4.2風險分析風險分析犯罪分子主要通過音視頻偽造技術偽造成被騙人員的關系人，進而通過音視頻、交友 App 等手段逐漸誘導實現詐騙。下面以一名企業財務人員遭遇的電信網絡詐騙為例進行說明。關系人信息收集與偽造。關系人信息收集與偽造。黑灰產首先了解該財務人員所在公司，并收集該 公司領導的公開照片、視頻素材，甚至通過社交網絡或社交工程手段獲取私人金融 AIGC 音視頻反欺詐白皮書5化信息。AIGCAIGC 技術合成。技術合成。利用 AIGC 技術，基于收

171、集的相關素材，詐騙分子合成該領導的聲音，并將自己的面部表情、語言和動作準確地轉換到該公司領導的臉上，創造一個虛擬且可信的領導形象。建立聯系與信任。建立聯系與信任。詐騙分子通過交友 App 與該財務人員建立聯系，基于仿真的音視頻合成技術，關心員工工作、生活狀態，允諾在工作中的相關待遇，逐步建立信任，使受害人放松警惕。緊急資金需求誘導。緊急資金需求誘導。案發當時，詐騙分子同該財務人員緊急視頻，偽裝成 領導并通過語音和視覺傳達緊急資金需求，要求該財務人員迅速轉賬以應對公 司資金周轉問題。6.4.36.4.3解決方案解決方案通過構建一個多維度、全方位的欺詐識別系統，結合音頻、圖像和視頻等不同模態的信息

172、，利用深度學習和專家知識，實現欺詐檢測。檢測識別檢測識別 AIGCAIGC 偽造的視頻。偽造的視頻。在視頻偽造檢測中，結合聲音的語義分析技術與視頻圖像分析技術，對音頻的語調、音頻頻譜異常、視頻中的光影不一致等特征進行綜合分析，檢測音畫不同步、情緒不一致等問題，提高偽造檢測的精度。設備維度關聯分析。設備維度關聯分析。通過對偽造音視頻設備進行記錄，建立欺詐視頻終端 數據庫，并建立名單動態運營維護機制，沉淀并維護相應的黑白名單數據。防 范團伙作案?；谠O備指紋、IP 地址等信息，同溯源數據庫進行比對，識別出 是否存在欺詐行為?；谟涗洈祿掷m優化模型?；谟涗洈祿掷m優化模型?；诔恋砑胺e累的欺詐案

173、例及數據，利用智 能模型平臺構建專屬欺詐風險模型，并根據防范情況及時更新風控策略，實現 風控策略實時迭代更新，提升防范虛假人臉風險的水平。6.4.46.4.4實施效果實施效果某銀行部署該系統后已經成功攔截數十起虛假視頻的詐騙案件，及時識別和阻止虛假視頻的侵入，避免了近百萬元的資金損失。金融 AIGC 音視頻反欺詐白皮書5第七章第七章 展望與倡議展望與倡議AIGC 技術以其優異的表現、普適的場景而受到社會的廣泛認可，其持續發展是數字經濟時代的必然。然而，技術作為雙刃劍，其快速發展也會帶來更復雜的欺詐風險。隨著反欺詐技術的持續演變，AIGC 音視頻欺詐將呈現智能化、多維化、自動化、個性化等特點，需

174、要持續關注、及早布局、從容應對。7.17.1 未來技術挑戰未來技術挑戰超逼真生成技術的發展提升了鑒偽難度超逼真生成技術的發展提升了鑒偽難度。一是隨著算法的優化、算力的擴 容、音視頻數據的不斷采集，更加逼真、更加精細的音視頻生成技術將出現，高分辨率人臉生成技術可細致到毛孔、瞳孔紋理及微表情，并結合動態模糊處理增強真實性，達到近乎真實的效果，甚至在人眼和傳統算法檢測下無法辨別；二是實時換臉與擬聲技術將得到極大改進，可以在視頻通話中即時偽裝為他人，實時互動而無卡頓或破綻；三是聲音和影像的配合將更加緊密，情感語調與面部表情同步，整體的欺騙性更強。個性化個性化 AIGCAIGC 偽造內容生成導致攻擊更加

175、精準偽造內容生成導致攻擊更加精準。AIGC 技術結合用戶數據，可生成高度定制化的 AIGC 偽造內容，對目標對象實施精準攻擊?；谏缃幻襟w上公開的音視頻內容，AIGC 可以學習目標的外貌、聲音、行為習慣，模擬復雜的生活、工作場景，利用語氣模仿、信任場景構造等手段誘導目標作出決策。生成與篡改技術融合形成組合型風險生成與篡改技術融合形成組合型風險。音視頻生成技術結合篡改技術可大幅提升欺騙性和攻擊力，通過拼接真實音視頻片段并補充偽造內容，可實現更高可信度的 AIGC 偽造材料。自動化與規?；羰棺詣踊c規?；羰埂凹挤兰挤馈背蔀楸仨毬窂匠蔀楸仨毬窂?。AIGC 模型的訓練和使用門檻不斷降低，攻擊者

176、可編寫腳本，批量調用成熟工具生成偽造音視頻內容，形成規?；?。犯罪團體可能開發基于 AIGC 的欺詐服務平臺，向不具備技術能力的犯罪分子提供自動化工具，生成音視頻逐步滲透目標系統，在多個環節實施欺騙行為。自學習、自適應等技術的提升導致攻防對抗更激烈自學習、自適應等技術的提升導致攻防對抗更激烈。學習是不斷提供標簽反饋再進化的過程，隨著反欺詐樣本的增多，AIGC 也將不斷優化生成能力，以逃避檢測。例如，利用生成對抗網絡（GAN）提升偽造內容的檢測逃逸能力，甚至針對特定檢測算法進行優化；利用自適應學習進行試探性攻擊，學習反欺詐技術的特征，動態調整生成策略，持續提高欺騙成功率；采用多模態技術及對抗思

177、想，同時生成文字、語音、圖像、視頻等多模態偽造內容，形成復合型欺詐，增加欺詐內容的可信度等。7.27.2 相關倡議相關倡議技術發展帶來的挑戰不可避免，需要同時兼顧發展和安全。需要 AIGC 技術提供者、AIGC使用者、行業機構等產學研各方的通力協作，構建安全、可信的AIGC音視頻生態體系，才能在技術創新與安全防護之間找到平衡。需要在法律、金融 AIGC 音視頻反欺詐白皮書5技術、生態等層面同步發力，推動全球化治理，形成多層次、全方位的防護網，金融 AIGC 音視頻反欺詐白皮書5才能更有效防范 AIGC 音視頻風險帶來的威脅。7.2.17.2.1健全合規體系健全合規體系一、一、法律法規法律法規強

178、化法律法規的向善引導作用。強化法律法規的向善引導作用。壓實 AIGC 技術及使用各方的主體責任，促進技術的合規、合理使用，避免誤用、濫用，嚴厲禁止將先進技術應用于違背 社會倫理道德、違反社會價值、違反法律要求的場景中。與時俱進更新法律法規。與時俱進更新法律法規。隨著 AIGC 技術的創新發展，與時俱進更新法律法規，適應人民群眾的新生活方式、有效抑制新風險、從容應對新挑戰，既需避免過度抑制技術創新，又應在保障社會安全與道德底線的前提下推動行業健康發展。進一步強化數據隱私與生物特征保護。進一步強化數據隱私與生物特征保護。在第六章應用場景的風險分析中可 以看到，犯罪分子如能獲取公民的生物特征、隱私信

179、息，其攻擊能力將極大增 強。宜強化對源頭數據的保護與治理，細化在對隱私信息采集、處理、使用等 過程中應明確的使用范圍、安全保護要求，避免信息泄露。二、標準建設二、標準建設明確明確 AIGCAIGC 生成的音視頻內容附加標識的規范。生成的音視頻內容附加標識的規范。讓使用方可以清晰辨別原始影像與合成數據，實現充分告知、及時驗證、不影響用戶體驗；在此基礎上，進一步推動跨國共識，防止跨境規避的情況發生。細化細化 AIGCAIGC 應用透明度和可解釋性的標準。應用透明度和可解釋性的標準。形成技術規范或應用指引，并進一步建立相關內容評測標準，通過第三方機構測試等方式提升技術應用的可信度。建設建設 AIGC

180、AIGC 鑒偽能力指引。鑒偽能力指引。明確對 AIGC 生成的音視頻進行鑒偽的必要性，并指導企業在技術應用、業務流程、管理機制等方面進行音視頻偽造風險防范。7.2.27.2.2創新發展技術創新發展技術一、研制性能更優的欺詐檢測模型一、研制性能更優的欺詐檢測模型隨著 AIGC 技術的進步，AIGC 與反欺詐技術之間將進行持續的競賽。AI 生成的虛假內容將不斷優化其隱蔽性和仿真度，而反欺詐系統則需要持續更新算法及機制來應對愈發高級的攻擊。持續優化檢測模型性能。持續優化檢測模型性能。綜合利用積累的數據及業務經驗，利用小樣本學 習、持續學習等方式，實現模型的快速迭代，適應新型欺詐手段。融合多模態分析技

181、術進行綜合分析。融合多模態分析技術進行綜合分析。通過對圖像、音頻、文本等多種數據 的分析，實現多模態交叉驗證，進行更全面的威脅檢測。針對典型的針對典型的 AIGCAIGC 音視頻生成算法進行逆向檢測音視頻生成算法進行逆向檢測。針對 AIGC 算法的固定模式、技術特征，同真實影像的統計學差別等特點，進行針對性研究；也可通過生成對抗網絡（GAN）識別模型生成的偽造內容，進一步提升偽造檢測的精度。金融 AIGC 音視頻反欺詐白皮書5二、構建自動化反制體系二、構建自動化反制體系強化技術創新，研制持續進化的反強化技術創新，研制持續進化的反 AIGCAIGC 技術。技術。開發具有自適應能力的反欺詐 AI

182、模型，通過深度學習和對抗訓練實時學習新的欺詐模式。建立防范機器人攻擊的防御體系。建立防范機器人攻擊的防御體系。針對 Bot 攻擊的特點，利用歷史流量分 析、設備指紋等技術，檢測機器人攻擊行為并進行溯源分析，從而進一步屏蔽 該團伙大量生成的偽造內容。三三、提供定制化的身份驗證及風險預警服務提供定制化的身份驗證及風險預警服務研制多維度驗證手段。研制多維度驗證手段。在客戶授權的前提下，基于客戶授權的相關信息及 存量信息，結合行為分析、動態生物識別技術，以及多因素驗證等手段，對音 視頻進行綜合化分析，可有效提升檢測精度，提升服務安全性。提供個性化風險預警模型。提供個性化風險預警模型。針對不同用戶群體的

183、特點建立個性化風險模型，并生成客戶定制化的風險預警內容，在保障客戶體驗的前提下實現風險充分預警，使用戶更容易理解潛在威脅。7.2.37.2.3構建健康生態構建健康生態一、產學研用多方協同，構建健康應用生態一、產學研用多方協同，構建健康應用生態提升先進技術應用轉化效率。提升先進技術應用轉化效率。強化技術應用方同科研機構等技術提供方的 合作，提升技術轉化效率，加快先進技術普及進程，以最快的速度防御日新月 異的挑戰。構建協同防御機制。構建協同防御機制。新型欺詐往往跨機構作案，單一機構難以看到完整的 資金鏈路及欺詐過程，金融機構、電信運營商、視頻通訊服務提供商、聊天工 具服務提供商等宜建立聯合防御機制

184、，應對復雜、隱蔽的作案手法。提供便捷的虛假視頻檢測手段。提供便捷的虛假視頻檢測手段。宜提供開放便捷、輕量的反偽造工具，通 過數據完整性、元數據特征和數字水印等方法提升偽造內容的識別能力，供社 會公眾使用，使社會公眾及時獲知音視頻偽造情況，降低操作使用的風險。二、促進行業共享，建立反詐案例數據庫二、促進行業共享，建立反詐案例數據庫建立威脅情報共享合作機制。建立威脅情報共享合作機制。在合規的前提下，通過名單共享、通報交流、案例研討等方式及時共享黑名單數據、新型攻擊手段和典型欺詐案例。在情報共享基礎上形成典型案例數據庫。在情報共享基礎上形成典型案例數據庫。收錄最新偽造技術及特征，供企 業和機構進行運

185、營策略、算法調整和風險評估。三、強化宣傳引導，提升反詐意識三、強化宣傳引導，提升反詐意識強化內部員工培訓。強化內部員工培訓。及時學習掌握新技術，了解新技術可能帶來的攻擊手 段，在業務辦理時強化風險意識，在運營策略、風險防范、操作流程等方面考 慮新技術手段可能帶來的業務風險。金融 AIGC 音視頻反欺詐白皮書5面向公眾進一步普及最新的反詐知識，面向公眾進一步普及最新的反詐知識，提升提升反詐意識。反詐意識。防范換臉詐騙、擬聲電話、遠程視頻偽造等形式的詐騙；強化公眾隱私保護意識，謹慎上傳人臉、聲音等個人數據，避免授權給不可信的平臺或應用；提升公眾在資金交易或敏感信息操作過程中的風險意識，面對可疑或不

186、信任場景時，及時求證或報告可疑情況，迅速向相關平臺或機構舉報。普及普及 AIGCAIGC 知識，減少不必要的恐慌。知識，減少不必要的恐慌。先進技術雖然可能被犯罪分子利用，但更多的是用于促進社會發展、提升人民群眾幸福感。強化 AIGC 技術知識的普及，可以有效增強企業、消費者、公眾對新技術的信任，為行業信任和秩序奠定基礎，真正實現科技為民、科技向善。金融 AIGC 音視頻反欺詐白皮書5后記后記金融 AIGC 音視頻反欺詐白皮書旨在引起全社會對 AIGC 技術帶來的日益復雜的安全威脅的關注，金融企業、行業從業者以及社會各界應保持高度警惕，形成合力，共同應對 AIGC 濫用帶來的安全風險。我們希望通

187、過本白皮書，提升金融行業對 AIGC 風險的認知，強化防范措施，并推動反欺詐技術的創新。推動政府、行業和企業共同攜手，形成一個全方位、多層次的防控體系，從而減少 AIGC 技術濫用帶來的潛在風險，確保金融體系的安全和可靠，保障用戶資金安全和業務穩定的同時，應對 AIGC 帶來的挑戰。在此，我們特別感謝北京市科委、中關村管委會、上海金融科技產業聯盟的大力支持，本白皮書也是“遠程銀行音視頻系統反 AIGC 欺詐和智能決策系統關鍵技術及應用研究”項目研究成果之一。我們誠摯邀請更多的合作伙伴加入 AIGC 音視頻反欺詐的行列，與我們一道，共同推動金融行業在應對 AIGC 帶來的安全威脅方面不斷創新，確

188、保金融安全與用戶信任的長期可持續發展。金融 AIGC 音視頻反欺詐白皮書5參考文獻參考文獻1央視網，熱解讀從這八個字理解人工智能治理中國方案2新華社，中共中央關于進一步全面深化改革 推進中國式現代化的決定3 GB/T 38671-2020信息安全技術遠程人臉識別系統技術要求4 T/IIFAA3001.1-2021遠程人臉識別應用技術規范第1部分：金融賬戶管理5JR/T0164-2018移動金融基于聲紋識別的安全應用技術規范6YangX,LiY,LyuS.ExposingdeepfakesusinginconsistentheadposesC/ICASSP2019-2019IEEEInterna

189、tionalConferenceonAcoustics,SpeechandSignalProcessing(ICASSP).IEEE,2019:8261-8265.7Guo H,Hu S,Wang X,etal.Eyestellall:Irregularpupilshapesrevealgan-generated facesJ.arXivpreprintarXiv:2109.00162,2021.8Hu S,Li Y,Lyu S.Exposinggan-generatedfaces usinginconsistent cornealspecular highlightsC/ICASSP2021

190、-2021IEEEInternational ConferenceonAcoustics,Speech and Signal Processing(ICASSP).IEEE,2021:2500-2504.9Korshunov P,MarcelS.Speakerinconsistencydetectionintampered videoC/201826thEuropeanSignalProcessingConference(EUSIPCO).IEEE,2018b:2375-2379.10MittalT,Bhattacharya U,ChandraR,etal.Emotionsdon tlie:A

191、deepfakedetectionmethodusingaudio-visualaffectivecuesJ.arXivpreprint arXiv:2003.06711,2020.11JiaS,LiX,LyuS.ModelAttributionofFace-swapDeepfakeVideosJ.arXiv preprint arXiv:2202.12951,2022.12 Ciftci U A,DemirI.HowDoDeepfakes Move?Motion Magnification forDeepfakeSourceDetectionJ.arXivpreprintarXiv:2212

192、.14033,2022.13GirishS,SuriS,RambhatlaSS,etal.Towardsdiscoveryandattributionofopen-worldgangeneratedimagesC/Proceedingsofthe IEEE/CVFInternationalConferenceonComputerVision.2021:14094-14103.14NarayanK,AgarwalH,ThakralK,etal.DeePhy:OnDeepfakePhylogenyJ.arXiv preprint arXiv:2209.09111,2022.15YangT,Huan

193、gZ,CaoJ,etal.DeepfakeNetworkArchitectureAttributionJ.arXiv preprint arXiv:2202.13843,2022.16YuN,DavisLS,FritzM.Attributingfakeimagestogans:LearningandanalyzingganfingerprintsC/ProceedingsoftheIEEE/CVFinternationalconferenceoncomputervision.2019:7556-7566.17GuarneraL,GiudiceO,NienerM,etal.OntheExploitationofDeepfake ModelRecognitionC/ProceedingsoftheIEEE/CVFConference金融 AIGC 音視頻反欺詐白皮書5on Computer Vision and Pattern Recognition.2022:61-70.18Deloitte,GenerativeAIisexpectedtomagnifytheriskofdeepfakes andotherfraudinbanking