《中金電信&IDC:2025中國金融大模型發展白皮書(69頁).pdf》由會員分享,可在線閱讀,更多相關《中金電信&IDC:2025中國金融大模型發展白皮書(69頁).pdf(69頁珍藏版)》請在三個皮匠報告上搜索。
1、開啟智能金融新時代 中 國 金 融 大 模 型 發 展 白 皮 書目錄核心觀點第一章 百舸爭流:AI大模型發展概述.AI大模型與新質生產力.國內外AI大模型的發展現狀.AI大模型應用發展整體現狀第二章 聚焦行業:金融行業大模型概述.金融行業大模型應用的特殊性.金融行業大模型應用落地面臨的挑戰第三章 落地進展:大模型催生效率變革 金融行業務實求效.大模型在金融行業的典型應用場景梳理.生成式AI在金融行業場景應用流程梳理第四章 金融行業大模型的應用路徑與關鍵能力.金融機構落地大模型的應用路徑.金融機構選擇或部署大模型時的關鍵能力要素第五章 展望未來:金融行業大模型的發展趨勢.大模型技術創新與發展趨
2、勢.行業應用場景的拓展趨勢第六章 關于中電金信.中電金信公司介紹.中電金信人工智能產品及能力介紹.中電金信AI大模型在金融行業的服務案例核心觀點AI大模型成為新質生產力的重要組成部分,國內外科技公司正加速布局AI大模型已成為新質生產力的重要組成部分,能夠大幅提高生產效率,優化資源配置,降低生產成本,為企業高質量發展提供強大的技術支持和動力。當前,美國、中國、日本、歐盟等全球主要地區的科技公司正加大大模型技術的創新及應用。在未來GenAI投資分配上,中國和全球企業幾乎都會平均分配在生產力提升應用場景、跨行業水平職能應用場景、以及垂直行業專屬應用場景上。金融行業AI大模型的研發投入和應用較為顯著,
3、且具有一定的應用特殊性和應用挑戰近兩年,金融行業在AI大模型的研發投入和應用方面亦走在市場前列。根據IDC數據顯示,年,中國金融行業AI and Generative AI投資規模達到.億元,到年將達到.億元,增幅達到%。同時,金融行業屬于信息密集型、風險規避及強監管行業,在推進大模型落地過程中,相比其他領域,金融行業對數據質量、推理準確性及響應速度,以及在管控、合規、安全層面的要求都更高。同時,根據IDC調研數據顯示,數據治理、模型治理、以及合規應用是金融機構落地大模型/生成式AI更需求關注的要素。AI大模型在金融行業的應用場景正從簡單到復雜加速分步推進IDC認為,生成式AI的行業應用往往都
4、是循序漸進的過程,一般是逐漸從內部輔助運營到外部對客提效、從業務邊緣到核心,相應地AI對金融機構的價值也逐漸增大。在未來個月內,支付清算、智能投研、內部研發(代碼生成、測試等)、數據分析(報表生成與分析、數據建模、數據決策等)、欺詐/洗錢/威脅監測、資產管理(資產盡調、資產評估及定價等)是金融機構主要的落地場景。在應用流程方面,IDC認為,金融行業生成式AI應用場景的落地可以從場景應用評估與選擇(如技術解決方案評估、項目管理及風險評估、投資回報分析)、以及面向場景的工程化落地(如模型選擇、技術路線、數據及算力準備、模型訓練及調優、以及系統集成與部署、組織協同等)等層面分步推進。金融機構應根據其
5、資源能力選擇不同的大模型應用路徑,并需打造多樣化的能力要素當前,不同類型的金融機構在推進大模型的落地中,有著不同的路徑選擇,其可根據自身戰略目標、業務需求、技術能力、資源稟賦、風險偏好來決定是否自主建設、基于已有模型微調,或是采用其他方式來利用GenAI能力。同時,IDC認為,金融機構在落地大模型的過程中,需要綜合考慮打造數據價值鏈管理、模型的選擇與部署、AI平臺搭建、以及AI治理等要素能力。尤其是在數據價值鏈管理方面,IDC認為,金融機構的數據價值鏈管理是生成式AI在金融場景中有效發揮價值的基石,其核心目的是提升數據質量、數據可用性以及確保數據的合規獲取,有利于金融機構面向不同的應用場景快速
6、構建高質量的數據集,并為后續金融大模型的規模應用奠定堅實的基礎。多模態技術、AI智能體、以及通過大小模型協同應用和構建大模型生態資源共享平臺是金融機構落地大模型的主要趨勢隨著大模型技術的發展,大模型的參數規模也將顯著增長,多模態技術及智能體亦將在金融機構中深入應用。一方面,多模態之間的融合將使得AI大模型能更深刻地捕捉復雜場景背景、細節和情感,使其更快的感知和適應場景,并能應用于更加復雜的金融場景。另一方面,AI智能體通過“感知-認知-推理-決策-組織/行動”的閉環,及其在數據處理、智能決策與自然交互等方面的卓越能力,預示著它將在客戶服務、業務流程優化及業務效率提升等多個關鍵領域發揮核心作用,
7、為金融機構帶來前所未有的價值創造。此外,IDC認為,通過大小模型協同也能驅動金融機構在更加多樣復雜的場景中的應用。同時,通過構建大模型生態資源共享平臺,向金融機構提供大模型應用所需的全套資源,是金融機構大規模應用生成式AI的主要路徑之一。第一章百舸爭流AI大模型發展概述.AI大模型與新質生產力當前,人工智能正以前所未有的速度和規模滲透到我們生活工作中。人工智能是數字基礎設施建設的重要組成部分,是新一輪科技革命和產業革命的核心驅動力,在人工智能技術的加持下,全球的數字化轉型已進入倍增創新階段,同時以多模態大模型為代表的新型人工智能技術正高速發展。年月日,習近平總書記在主持二十屆中共中央政治局第十
8、一次集體學習時,進一步強調發展新質生產力是推動高質量發展的內在要求和重要著力點。而以AI大模型為主的新技術,作為各行業的新質生產力的重要組成部分,能夠大幅提高生產效率,優化資源配置,降低生產成本,為企業高質量發展提供強大的技術支持和動力。尤其是隨著AI Agent的潛力被不斷挖掘,以AI Agent為核心的人機協同將為業務洞察與決策提供新的能力支撐,為金融機構構建領先的新質生產力。未來推動金融業逐步走向智能化金融的演化,實現超高數據處理與實時決策的融合,推動著普惠金融、金融供給側改革、客戶體驗/個性化服務不斷深化。.國內外AI大模型的發展現狀當前,大模型技術加速發展,美國、中國、日本、歐盟等全
9、球主要地區的科技公司正加大大模型技術的創新及應用。美國在生成式AI方面起步較早,OpenAI、Google DeepMind、Meta等科技公司在生成式AI領域取得了里程碑式的進展。在中國,百度、阿里、華為、騰訊、京東、科大訊飛、字節跳動等科技公司也紛紛發布了基座大模型,且加速推進其在各行各業的落地。而歐盟的科技公司也加速應用生成式AI,且其更傾向于在細分領域(如醫療、金融等)應用生成式AI,而不是開發通用的大規模生成模型。例如,英國的DeepMind是生成式AI領域的重要力量,其生成模型在文本生成、游戲AI等方面表現突出。日本在生成式AI的技術開發上相對滯后,其在機器人和自動化領域具備全球領
10、先的技術實力,但在自然語言生成和通用圖像生成等方面,尚未推出具備國際競爭力的大規模模型。不過,日本的一些企業和科研機構也在逐漸跟進,根據日本政府發表的信息通信白皮書表示,未來的增長潛力不容忽視。.%的受訪者表示,在合適的情況下,愿意嘗試使用生成式AI。表 主要國家和地區生成式AI發展現狀來源:IDC根據公開資料整理地區技術實力應用場景政策支持/監管政府大力推動AI創新,出臺支持政策,關注數據保護與AI倫理廣泛應用于社交媒體、電商、金融、在線教育、智能客服等領域快速發展,百度的“文心一言”、阿里的“通義千問”等語言生成模型快速發展中國政府出臺AI“權利法案藍圖”,探索監管框架,平衡創新與社會責任
11、廣泛應用于文案生成、圖像生成、代碼生成、音樂和視頻創作等全球領先,擁有OpenAI的GPT-、Google Gemini等頂尖模型美國人工智能法案強調高風險AI應用的嚴格監管,注重公平性和透明性主要用于醫療影像生成、數據合成、建筑設計、自動化報告撰寫等專業領域技術發展相對滯后,DeepMind等公司在細分領域有所進展歐盟根據日本政府發表的年度信息通信白皮書數據顯示,日本國內生成式AI的個人使用率和企業使用率都相對較低主要應用于動漫創作、虛擬偶像、工業設計、醫療健康等領域技術進展緩慢,集中于機器人、自動化等領域,缺乏國際競爭力的生成模型日本.AI大模型應用發展整體現狀大模型作為帶動產業/組織服務
12、效率及范式變革的重要技術,已經具備較高的識別準確率和較強的場景泛化性,在多模態的任務下也有明顯的突破,全球諸多企業已在金融、電商、能源等行業“試水”。據IDC全球調研顯示(如圖),全球已經有%的企業在生產環境中引入了幾個GenAI增強的應用,并專注于擴展;中國的這一比例僅為%,但中國開始投資或做POC測試的企業達%。在未來GenAI投資分配上,中國和全球企業幾乎都會平均分配在三類應用場景上(大約各/),如圖。圖 您的組織目前評估或使用生成式AI(GenAI)的情況如何?來源:IDCs Future Enterprise Resiliency&Spending Survey,Wave,年月,n=
13、(北美:,歐洲與其它地區:,亞太:中國:)已經在生產環境中引入了幾個GenAI增強的應用,并專注于擴展正在大力投資GenAI,并制定了培訓和購買GenAI增強軟件的計劃正在對GenAI做POC測試,但還沒有一個固定的支出計劃我們還沒有做任何GenAI相關工作全球中國%目前,基礎大模型建設已經較為完整,諸多云服務商、AI技術服務商、數據服務商等均推出其基座大模型,且各具特色,未來將會進入大模型應用跑馬圈地階段,行業應用場景數量也將爆炸性地多元化增長,且會逐漸從輔助運營類的業務場景向決策管理場景深入。來源:IDCs Future Enterprise Resiliency&Spending Sur
14、vey,Wave,年月,n=(北美:,歐洲與其它地區:,亞太:中國:)生產力提升應用場景任務生產力和運作效率%跨行業水平職能應用場景情境化的體驗,改進的決策改進的功能有效性垂直行業專屬應用場景新的商業模式、產品或服務,特定于行業的護城河全球中國圖 考慮您在未來個月GenAI的投資,這些投資將如何分配到以下類型的應用場景中?第二章聚焦行業金融行業大模型概述金融業在我國經濟中舉足輕重,金融機構通過提供資金流動和管理服務,為個人、企業和政府的各種經濟活動提供必要的資金支持。近兩年,金融行業不斷地利用新興技術推進業務高質量發展,尤其是在AI大模型的研發投入和應用方面亦走在市場前列。根據IDC數據顯示,
15、年,中國金融行業AI and Generative AI投資規模達到.億元,到年將達到.億元,增幅達到%。.金融行業大模型應用的特殊性如今,金融科技已經從“立柱架梁”邁入了“積厚成勢”新階段,越來越多的金融機構積極使用AI大模型等新技術助力其實現高質量發展。AI大模型雖在金融行業有較多的應用場景和應用價值,但是,金融行業屬于信息密集型、風險規避及強監管行業,在推進大模型落地過程中,相比其他領域,金融行業對數據質量、推理準確性及響應速度,以及在風控、合規、安全層面的要求都更高。同時,根據IDC調研數據顯示,數據治理、模型治理以及合規應用是金融機構落地大模型/生成式AI更需求關注的要素。在數據層面
16、,金融行業處理的數據往往涉及客戶的隱私信息、交易記錄等敏感數據,數據來源多樣且數據質量參差不齊,而數據規模、數據質量和多樣性會影響大模型在具體場景應用的效果和性能。若輸入的基礎數據不準確或時效性較差或存在數據操控問題,那將直接影響模型微調效果,以及模型輸出的準確性。同時,訓練數據可能存在性別、種族及主觀因素等方面的偏見。如果這些偏見被應用到金融決策中,可能導致模型在決策和預測中產生不公平或歧視性的結果,如何解決數據的合規獲取及保護信息/內容版權,并合理設置相關的訴訟機制和監管及罰款機制,也是金融機構落地大模型需要解決的問題。因此在數據準備階段,涉及數據獲取、數據脫敏/數據處理、數據清洗和數據標
17、注等復雜工作,在此過程中尤其需要注重數據隱私保護,確保數據安全和符合隱私法規。在模型層面,金融行業業務復雜度更高,金融領域的決策和分析通常要求精準的回答和實時的響應,對模型推理的推理速度和精度都有較高的要求。如果金融大模型/生成式AI做出虛假的、誤導性的陳述,或推理與響應速度較慢,就會造成嚴重的決策損失和較差的用戶體驗。在應用人工智能技術時,大模型因其黑盒效應(復雜的模型結構和龐大的參數,難以線性化表達),可解釋性、透明性及安全性也有待提高,金融機構需著重解決大模型的安全性和可解釋性、透明性,以防范模型和算法風險。在安全與合規層面,金融領域對于數據安全、監管合規和風險控制具有嚴格的要求,需要遵
18、守各種法律法規和國家金融監管機構的要求。大模型在應用中必須確保符合風控和合規要求,防止欺詐、洗錢等非法活動,并保護客戶利益。同時,隨著網絡攻擊手段的不斷升級,大模型在部署和運行過程中需要采取嚴格的安全措施,防止數據泄露、篡改和非法訪問。此外,在當前市場中,圍繞提升客戶體驗、增強數字化經營能力,深度服務客戶已成為推動金融機構發展的關鍵要素,金融行業大模型落地各個環節需要以客戶體驗為中心,且GenAI應用又促使金融服務模式及客戶體驗的升級。.金融行業大模型應用落地面臨的挑戰大模型在金融機構中的應用場景廣泛,且應用成本較高,所需關注的安全合規問題較多,金融機構需以謹慎的態度去推進大模型的應用落地。如
19、何選擇合適的應用場景及如何推進其在金融場景中的有效落地,是當前金融機構在大模型應用落地中重點關注的問題。首先,在應用成本考量方面,金融機構訓練模型需要大量的算力資源,資源調度需要使用更優化的硬件設備來提升訓練速度。尤其是在處理千億級參數的大模型時,對算力的需求更是呈指數級增長,其所投入的成本也較高。根據IDC調研顯示,算力限制及技術投入成本高是金融機構在推進大模型/生成式AI過程中的最主要的兩大阻礙因素。其次,在應用場景選擇方面,在推進大模型落地時,有哪些大模型應用場景可供選擇,如何選擇合適的大模型落地場景是諸多金融機構面臨的問題,需要重點考慮模型方案(如模型選擇、模型適配性、模型能力域及性能
20、、模型更新速度等),并面臨很多數據難題(如數據質量、數據可用性、數據安全及合規等)和業務難題(如業務需求、應用價值評估、以及ROI等),在此過程中也需要考慮應用場景的優先級及推進策略問題。同時,在應用路徑選擇方面,金融機構在推進大模型落地時,面向不同的應用場景有著不同的應用路徑,例如,自主開發和預訓練的金融大模型、優化基礎模型推進金融業務場景的落地、通過標準化SaaS模式接入GenAI應用,如何選擇適合金融機構的應用路徑,以及在推進大模型在具體場景應用時所需考慮的要素及所需具有的能力,這些都是金融機構亟需面對和解決的問題??傮w來說,生成式AI雖然可以提供低成本、高價值的解決方案,但在應用成本考
21、量、應用場景選擇、應用路徑選擇等方面仍面臨諸多問題。金融機構需綜合考慮應用場景選擇、成本控制、安全合規等多方面因素,采取科學、謹慎的策略,以實現技術創新與業務發展的雙贏。第三章落地進展大模型催生效率變革金融行業務實求效.大模型在金融行業的典型應用場景梳理金融行業生成式AI通用類應用場景梳理大模型/生成式AI在金融行業應用具有極高的潛力和價值,當前諸多金融機構正以大模型/生成式AI技術的工具輔助、信息處理、業務決策等特性,應用于內部運營類場景(文案、代碼、翻譯等通用類場景)、信息和業務處理類場景(智能化知識抽取、金融知識的理解和生成、政策研報解讀)、管理和業務決策類場景(信貸審批、理財投顧等決策
22、類場景),從而為金融機構帶來運營效率提升、產品/服務模式創新、客戶體驗提升等價值。根據IDC調研數據顯示,在當前,信息和業務處理類場景及內部運營類場景是當前金融機構主要的應用方向。而在未來個月,管理和業務決策類場景的應用比例有所提升,尤其是保險機構在該類場景的應用進程較銀行及證券機構相對更快。(如圖、圖)圖 目前,貴公司應用落地最多的大模型/GenAI用例是什么?銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨).%.%.%.%.%.%.%.%.%.%.%信息和業務助理類場景(智能化知識抽取、金融知識的理和生產、政策研報分析)內部運營類場景(文案、代碼、翻譯等通用類場景
23、)管理和業務決策類場景(信貸審批、理財投資等決策類場景)來源:IDC,同時,根據IDC調研數據顯示,目前及未來個月內,金融機構落地大模型/生成式AI的場景按照調研統計比例如下圖所示。其中,智能客服、內部運營(搜索與問答、知識管理/內容創作、輿情管理、HR等)、智能投顧/財富管理、智能營銷(內容營銷、產品營銷等)以及風險管理(風險評估、風險識別、風險預警等),是金融機構當前落地較成熟的場景(按照調研比例從高到低排序)。而在未來個月內,支付清算、智能投研、內部研發(代碼生成、測試等)、數據分析(報表生成與分析、數據建模、數據決策等)、欺詐/洗錢/威脅監測、資產管理(資產盡調、資產評估及定價等)是金
24、融機構主要的落地場景(按照調研比例從高到低排序)。圖 貴公司在未來個月內應用落地最多的大模型/GenAI用例是什么?.%.%.%.%.%.%.%.%.%.%.%信息和業務助理類場景(智能化知識抽取、金融知識的理和生產、政策研報分析)內部運營類場景(文案、代碼、翻譯等通用類場景)管理和業務決策類場景(信貸審批、理財投資等決策類場景)銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)來源:IDC,圖是IDC根據調研結果,并從復雜度/成本、部署進程維度列出了金融行業主要場景的分布圖。其中智能客服、智能辦公、智能營銷等場景落地復雜度較低、應用進程較快;而智能投研、智能投顧、智能
25、風控等場景落地復雜度較高,應用進程也較慢。圖 貴機構當前及未來個月內的大模型/生成式AI應用場景情況.%.%.%.%.%.%未來個月內落地已經落地內部運營內部研發數據分析智能營銷智能投顧智能投研智能客服支付清算資產管理風險管理監管合規監測欺詐/洗錢/威脅監測來源:IDC,銀行業生成式AI應用場景梳理IDC認為,生成式AI的行業應用往往都是循序漸進的過程,一般是逐漸從內部輔助運營到外部對客提效、從業務邊緣到核心;相應地,AI對金融機構的價值也逐漸增大。如下圖,IDC認為,銀行業生成式AI應用可以貫穿到銀行業務鏈條的各個環節,包括從面向員工的管理和支持到面向市場的數字營銷和運營自動化、從產品研發到
26、風險合規管理等環節。第一階段(年)的應用場景有:金融知識助手、財務健康分析、輿情監控、合規監測、網絡欺詐識別、現金流動性預測、個性化營銷等。以現金流動性預測為例,借助于GenAI,銀行可以快速識別、分析和解釋市場信號、走勢和評論(如監管/決策層的評論),將其轉化為準確、可靠和可操作的領先指標,從而為銀行/客戶提供投資、信貸、流動性和風險方面的建議和決策。圖 生成式AI在金融場景部署進程及應用復雜度概覽來源:IDC,智能風控復雜度/成本智能運維智能客服智能辦公智能營銷智能研發智能投研部署進程(數值越大,進程越快)-.智能投顧第二階段(年)的應用場景有:合成數據生成、客戶報告生成、智能客服、貸款專
27、員助手、客戶關系管理、SAR報告自動化等。以貸款專員助手為例,GenAI可以通過訪問客戶賬戶歷史記錄,評估其需求/偏好,并就未來的貸款和其他銀行產品提供營銷建議。貸款專員在通過多渠道為客戶提供信貸審核或信貸產品推薦時,商業銀行可以通過相關GenAI應用為其提供培訓工具和帶有風險提示及營銷策略的信息。第三階段(年及以后)的應用場景有:風險模型訓練、支付分析、信用風險識別、財務合同管理/財務預測、銷售合規等。以風險模型訓練為例,商業銀行通過使用包括開放、非結構化數據源、合成數據來預訓練或優化風險模型,以便為客戶群提供風險決策支持,最大化減少風險。例如,在智能投顧場景,借助于預訓練大模型能夠對金融文
28、本進行整體認知和理解,消除人為的主觀因素,提供客觀的投資建議,同時也能不斷演進和創新,減少對人工審核的依賴,給出風險警示和解決方案。保險業生成式AI應用場景梳理如圖,在保險行業,生成式AI的應用主要分為數字投資產品、數字風險服務、仿生操作、智能風控以及數字運營彈性等類別。其應用主要也分為三個階段。第一階段(年)的應用場景有:保險數據檢索&總結、保險元數據生成與標記、理賠員助手、承銷商助手以及自動化智能外呼和索賠欺詐監測等場景。以保險元數據生成與標記為例,GenAI通過解析和生成元數據層、掌握語義關系和主題標記,學習大量數據集的元數據模式,自動生成符合規范的元數據。這包括但不限于文檔標題、描述、
29、關鍵詞、分類標簽等,有效減輕了人工標注的負擔,提高了整體數據質量。圖 銀行業生成式AI應用路線圖來源:IDC,合規監控輿情監控社交網絡分析合作伙伴實時監控風險模型訓練信用風險識別財務合同管理支付分析銷售合規SAR報告自動化智能客服消費個性化借貸監管合規客戶報告生成客戶關系管理合成數據生成貸款專員輔助系統異常處理個性化營銷財務健康分析金融知識助手交叉營銷網絡欺詐識別流動性現金預測第一階段第二階段第三階段及以后合規與報告客戶溝通和支持員工管理和支持運營自動化風險管理與金融犯罪第二階段(年)的應用場景有:風險教育&助手、捆綁式保險產品營銷、網絡威脅建模與預防、會話質檢、動態按需提供服務等場景。以個性
30、化保險業務為例,保險機構通過開發出基于機器學習和GenAI評估單個商用車風險的工具,工作人員可以分析不同的數據,如車輛類型和事故歷史,進行細致的風險評估,從而實現個性化定價和個性化保險產品推薦。第三階段(年及以后)的應用場景有:私密數據合成&負責任的AI、合規自動化、風險偏好建模、虛擬代理以及基于證據的損失預防等場景。以虛擬代理為例,GenAI通過賦能數字助理提供量身定制的解決方案,徹底改變了個人和企業的風險管理。從評估財產和負債風險到優化投資,它都可以提供個性化的指導,使用戶能夠做出明智的決策,并有效地保障客戶的財產/資產。圖 保險行業生成式AI應用路線圖來源:IDC,索賠欺詐監測&承保欺詐
31、預防理賠員助手網絡威脅建模與預防動態按需提供服務風險教育&助手捆綁式保險產品營銷會話質檢個性化保險業務自動化外呼營銷保險元數據生成與標記保險數據檢索&總結承銷商助手銷售賦能風險偏好建模虛擬代理私密數據合成負責任的AI合規自動化基于證據的損失預防第一階段第二階段第三階段及以后數字投資產品數字風險服務仿生操作智能風控數字運營彈性證券與投資業生成式AI應用場景梳理如圖,生成式AI在證券與投資業的應用場景較為豐富,其主要分為合規與報告、客戶溝通和支持、員工管理和支持、運營自動化以及風險管理和金融犯罪等類別。在推進生成式AI應用過程中,也分為三個階段。在第一階段(年)的應用場景主要有:知識查詢、金融產品
32、適用性分析、超個性化金融培訓、客戶入職培訓助手、客戶報表生成、合成數據生成、信用風險建模助手等場景。以金融投資產品適用性分析為例,生成式人工智能可以幫助金融專業人員根據模擬場景分析客戶數據,例如歷史購買金融投資產品的對象特征及風險偏好,分析潛在的投資目標,同時幫助金融機構識別并控制投資風險,根據風險狀況生成量身定制的建議,并確保符合適用性法規。第二階段(年)的應用場景有:超個性化投資建議、客戶細分和客戶錨定、欺詐檢測和預防、合規檢測自動化、交易監控&市場監控、投資組合優化和資產配置自動化、客戶情緒分析、金融知識個性化生成,以及金融數據泄露預測與防范等場景。以投資組合優化和資產配置自動化為例,生
33、成式AI可以根據不同的市場狀況和歷史趨勢,并根據不同客戶的風險偏好、投資期限、流動性需求等,從而生成多樣化的投資組合建議。第三階段(年及以后)的應用場景有:金融證券交易策略、資產智能定價、情景化和個性化的客戶溝通、市場流動性預測建模,以及模擬談判輔導等場景。以資產智能定價為例,生成式AI通過分析市場數據、實時和歷史數據以及其他相關輸入來生成準確、動態的定價模型和高度精細的估值方法,從而實現智能資產定價。.生成式AI在金融行業場景應用流程梳理在大模型在金融行業落地中,場景選擇難是諸多金融機構的痛點,如何選擇GenAI應用場景,使AI能力與業務場景無縫融合,讓GenAI真正賦能于業務提效、成本節約
34、、業績提升或體驗升級,充分發揮GenAI應用潛力。IDC認為,金融行業生成式AI應用場景的落地可以從場景應用評估與選擇(如技術解決方案評估、項目管理及風險評估、投資回報分析)、以及面向場景的工程化落地(如模型選擇、技術路線、數據及算力準備、模型訓練及調優、以及系統集成與部署、組織協同等)分步推進。圖 證券與投資行業生成式AI應用路線圖來源:IDC,金融產品適用性分析金融證券交易策略風險模型訓練市場流動性預測建模模擬談判輔導情境化和個性化的客戶溝通場景測試個人財務管理支持超個性化投資建議客戶情緒分析交易監控市場監控欺詐檢測和預防合規檢測自動化ESG監測與報告生成投資組合優化和資產配置自動化金融數
35、據泄露預測與防范受監管人員監測金融知識個性化生成客戶細分和錨定知識查詢超個性化金融教育增強型企業資本敞口建??蛻羧肼毰嘤栔趾铣蓴祿煽蛻魣蟊矸治鲎詣赢惓L幚硇庞蔑L險建模、助手第一階段第二階段第三階段及以后合規與報告客戶溝通和支持員工管理和支持運營自動化風險管理與金融犯罪場景應用評估與選擇一般可以從技術解決方案、項目管理及風險評估、投資回報分析等角度評估與選擇GenAI的具體金融應用場景。但是從謹慎的角度,金融機構可遵循由簡單到復雜、由內而外、由點及面、逐步推進的原則選擇與推進金融大模型的應用場景。同時通過下述評估方法確定采用GenAI后在相關的金融場景能發揮哪些潛力,并明確自身的業務目標和
36、需求,例如提升客戶體驗、提高運營效率、降低成本等。技術解決方案評估:主要考慮現有技術可否實現該場景應用的業務目標或愿景,尤其是 GenAI 技術在場景中的應用還面臨著一些挑戰(如.節所述),在技術解決方案的評估方面,亦需重點考慮GenAI是否可以解決金融業務場景中的需求或痛點,現有技術或資源(如基礎設施資源、基礎模型資源、AI平臺資源等)可以解決哪些問題,哪些技術/模塊需要自建或外采,哪些需通過與技術合作伙伴共同構建,從而綜合考慮業務實施可行性即概念驗證、解決方案的試行版本、前期工作、創新方案。項目管理及風險評估:項目實施決策既要著眼于場景,也要考慮基于GenAI的實施方式,下列因素將有助于確
37、定某個項目或項目集是否行得通:與當前戰略的契合度、風險管理、成本及資源、數據及基礎設施資源、市場盈利潛力及長期價值,以及監管與合規挑戰等。投資回報分析(ROI):GenAI 在業務中的實際價值和 ROI 將取決于 GenAI 在實現成果方面的表現。但是,這些成果可能是有形的,即可以用特定KPI衡量的回報,也可以是無形成果,即成果比較抽象,難以通過 KPI 或收益來衡量,但通過網絡效應或其他方式帶來了可觀價值。以知識管理為例,某金融機構將金融和法律相關的數據和深度知識集成到一個基于數據的GenAI應用中,形成特定主體的數據和深度知識,呼叫中心的客服專員使用此工具可以直接回答客戶金融和法律領域幾乎
38、各方面的問題,因此縮短了平均處理時間,提高了首次呼叫解決率。該應用用到的數據集涵蓋數十萬份金融和法律文件,使個國家/地區的多達,名員工能夠即時訪問需要的數據。該解決方案還提高了員工對產品的了解,從而也提高了客服接觸點互動中的交叉銷售和追加銷售機會。圖 項目管理及風險評估維度來源:IDC,財務風險包括機會成本運營風險包括公關風險、法律風險和合規風險競爭風險競爭對手采用類似技術的影響盈利能力預期回報、凈利潤、投資回收期長期價值長期財務及ROI影響預估資本支出所需的預付資本運營費用維護/支持所需的日常支出人才資源現有團隊、新員工、GenAI專業人才、領導總擁有成本長期綜合成本戰略契合度評估與公司當前
39、戰略的契合度市場趨勢和客戶接受度是否符合市場發展趨勢,以及消費者或企業對 AI 的看法監管及合規挑戰GenAI面臨的具體挑戰,包括是否符合監管及合規標準數據和基礎設施資源可用的數據能力、基礎設施兼容性舊有系統的集成能力與現有技術的兼容性戰略契合度數據、基礎設施、集成能力監管與合規風險管理成本及資源市場價值與盈利能力面向場景的GenAI工程化落地IDC認為,GenAI的場景應用是一項系統工程,涉及模型選擇、技術路線選擇、數據及算力準備,以及模型訓練及調優、系統集成與部署、組織協同等工作。表 面向場景的GenAI工程化落地要素及要點類別描述要點金融機構根據自身業務需求和技術實力選擇生成式AI模型模
40、型選擇深度研發大模型、基于現有大模型進行工程化適配,或直接通過SaaS化模式使用大模型服務技術路線數據準備需高質量數據、定制化采標數據、合成數據及企業內部數據;算力資源需充足且穩定數據及算力準備扁平化組織架構、跨部門合作、靈活項目管理方法推動生成式AI應用將生成式AI/模型集成到業務流程或產品中,選擇合適的部署方式使用訓練平臺、開發工具、調優工具進行模型訓練,并通過微調、提示詞工程、RAG等方式優化模型訓練及調優系統集成與部署組織協同基礎大模型(如GPT系列)行業大模型特定場景下的定制化模型自主研發:自主性強,但需高投入工程化適配:快速響應,但定制化受限SaaS化:即插即用,但數據安全與定制化
41、需考量數據集多元化減少算法偏見大量定制化數據提升模型精度部署與模型適配的算力基礎設施調整超參數優化模型性能微調、提示詞工程等適應特定金融場景提供部署&推理工具保障模型運行促進快速創新與決策高效推動AI在各部門中的使用確保技術與業務需求緊密結合自動化、智能化生成式AI功能實現同時根據業務需求和技術環境選擇本地化部署或云托管等方式來源:IDC,第四章金融行業大模型的應用路徑與關鍵能力當前,不同類型的金融機構在推進大模型的落地中,有著不同的路徑選擇。有金融機構自主開發和預訓練的金融大模型;基于通用大模型并通過提示詞設計、模型微調、檢索增強生成等方法,優化基礎模型推進金融業務場景的落地;通過API按需
42、接入各類金融大模型或通過標準化SaaS模式接入GenAI應用。金融機構可根據自身戰略目標、業務需求、技術能力、資源稟賦、風險偏好來決定是否自主建設、基于已有模型微調,或是采用其他方式來利用GenAI能力。.、金融機構落地大模型的應用路徑路徑:金融機構自主主導開發和訓練大模型 該路徑往往需要金融機構投入較大的IT資源和人力資源,與之對應的金融應用場景也較為復雜,需要大模型在金融領域專業知識、術語及政策等方面具有專業的理解能力;這些場景對模型精度、模型安全,數據的可用性、豐富性、安全性,以及業務合規等都有較高的要求,故自主開發和專門訓練的金融垂類大模型可能會更好地滿足這些需求。根據IDC調研數據顯
43、示(如圖),金融機構考慮為GenAI構建自有模型的主要考慮因素有成本/花費、對數據隱私及安全顧慮以及所需數據的可得性。例如,某證券與投資服務公司,基于其海量的數據資源,如宏觀經濟數據、行業經濟數據、企業研究報告、上市公司信息披露等結構化和非結構化數據,以及交易所、政府部門、科研機構、高等院校、專業行業數據公司等機構提供的授權數據,同時為了提高模型的通用能力,該公司自主研發了大模型,從訓練語料、訓練框架到模型結構的設計,均從零開始、創新性地構建基礎模型及金融大模型,并且在預訓練階段就融合了金融領域的語料,而不是在微調階段。這種做法使得模型在知識學習上更為深入,能夠理解金融領域中的復雜關系和概念。
44、此外,為了加速AI能力面向各場景的深入落地,該公司構建了AI開放平臺,目前可面向客戶提供短視頻生成、文章生成、數字虛擬人、智能金融問答、智能語音、智能客服機器人、智能質檢機器人、會議轉寫系統、智能醫療輔助系統等多項AI產品及服務。.%.%.%.%.%.%.%.%.%.%成本/花費對數據隱私及安全的顧慮所需數據的可得性模型性能/模型參數是否有值得信賴的專業服務提供商基礎模型的迭代速度遵守負責任的AI原則是否符合國產適配要求是否有差異化的競爭潛力是否有完備的工具鏈是否有專業的模型開發團隊銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)圖 以下哪三項是貴機構考慮為GenAI
45、構建自有模型的主要因素?來源:IDC,路徑:基于通用大模型/開源模型,疊加金融服務領域數據,通過使用參數微調、提示詞工程/檢索增強生成等方式優化基礎模型推進金融業務場景的落地這種路徑是金融機構基于基礎模型,通過私域數據集進行模型訓練調優,以實現金融機構金融大模型的建設,該方式在特定任務上表現出來的性能和在特定領域知識的深度理解會更強。在IDC的調研中,金融機構為GenAI使用第三方現有模型的主要因素是成本/花費、模型性能/模型參數、以及數據可得性及數據隱私等(如圖)。尤其是在數據層面,向量數據的管理和合成數據生成是金融機構著需解決的問題。其中,向量數據庫等創新技術現在已成為 GenAI 數據價
46、值鏈的關鍵部分,包括數據管理流程的整個生命周期,已被用于檢索增強生成,因為它們可用于對存儲為高維數據的非結構化數據集執行搜索,可以輕松地與現有數據庫集成,從而為從LLM實施 GenAI 解決方案提供了一種更靈活、更高效的方式,以高效用于各種應用場景,例如產品推薦、異常檢測和業務分析等。而合成數據生成涉及創建模擬真實數據特征的人工數據集。在分析中,它用于解決隱私問題和數據稀缺問題,或模擬各種測試場景。通過生成代表性數據,可以在不泄露敏感信息的情況下開發和完善模型。這種方法可以加速創新,提高模型性能,尤其是在處理有限或敏感的數據集時,該方法特別適用。在模型訓練及調優方面主要通過微調、提示詞設計、檢
47、索增強生成(RAG)等方法,增強基礎模型輸出的準確性、知識實時性。微調:使用金融領域數據和人工監督來調整預訓練的模型,以提高金融領域的模型性能。選擇該方式的考慮因素:具有特定領域性能的高復雜性用例,例如智能投顧、支付分析、風險模型訓練等。檢索增強生成(RAG):將金融領域的文檔集合與預先訓練的模型相結合,使輸出情境化,而不涉及LLM。.%.%.%.%.%.%.%.%.%.%成本/花費模型性能/模型參數是否符合國產適配要求所需數據的可得性基礎模型的迭代速度對數據隱私及安全的顧慮是否有差異化的競爭潛力是否有值得信賴的專業服務提供商是否有專業的模型開發團隊是否有完備的工具鏈遵守負責任的AI原則銀行(
48、含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)圖 以下哪三項是貴機構考慮為GenAI使用第三方現有模型的主要因素?來源:IDC,選擇該方式的考慮因素:金融機構擁有該領域的專有數據和標簽數據。適用的應用場景包括內容搜索/金融知識問答、事實調查/欺詐識別/風險監控、內容生成/營銷助手等用例。提示工程:使用提示技術來影響預訓練模型生成輸出的準確性。選擇該方式的考慮因素:適用于不需要特定領域的上下文的用例,同時允許用戶級控制產生特定任務輸出的場景,以便客戶可以更加精準地獲得其想要的知識。未來,隨著諸多基座模型的開源,以及一系列低成本的微調/檢索增強生成等技術的出現,將有越來越多的
49、金融機構,會基于其需求定制專屬大模型。例如,某國有銀行從算力、數據、大模型、場景等維度推進大模型的落地:在算力層面,通過構建一體化云原生的異構算力平臺來管理和調度多元異構的AI算力資源;在數據層面,圍繞“采建管用”閉環,構建大模型訓練和持續提升的基礎數據閉環;在大模型方面,其基礎模型是采用第三方開源模型,包括業界主流的開源模型以及正在做共建和聯創的產業大模型,各個基礎模型之間可以無縫切換,具有靈活的適配性,而對于金融大模型平臺,包括NLP、CV、多模態等大模型,主要是通過組件化(例如微調組件、RAG組件等)方法快速優化各類開源模型和商業模型,以實現各類金融場景的接入,目前已在智能客服、智慧三農
50、、智能營銷、智能運營、智能風控等場景進行探索及應用。路徑:按需接入各類大模型API(按需付費的SaaS訂閱模式)這種路徑主要是以SaaS模式面向金融機構提供服務,通過將生成式AI模型能力封裝為API服務接口,金融機構以外采訂閱的形式,可以通過API將GenAI模型嵌入自研應用軟件增強智能化水平,或是基于API創建定制化的全新智能應用,通過嵌入式AIGC應用,進行場景變革或產品升級。選擇該路徑推進GenAI應用的場景往往是那些標準化程度較高的通用類場景,金融機構通過API接口的形式將第三方生成式AI內嵌于應用之中,可以開箱即用。比如,將生成式AI內置于HR SaaS軟件,實現以智能問答的交互形式
51、服務員工。例如,某金融機構通過使用某云廠商合作(即:金融機構外采模式),利用云廠商的全棧解決方案(從計算基礎設施到數據庫,再到金融場景服務)來幫助金融機構構建其GenAI支持的SaaS,所有這些都在云服務環境中完成。如此客戶就無需啟動大量工具和服務來開發GenAI功能。該方法在數據保護方面,主要是通過在第三方系統中托管數據庫以滿足金融機構對數據安全性及合規要求。路徑:與戰略合作伙伴協同推進GenAI的場景落地金融機構也可以與AI基礎大模型廠商、AI大模型平臺服務商、以及AI應用開發和集成服務商、咨詢/服務商等戰略合作伙伴合作推進GenAI的場景落地。例如,在與基礎大模型廠商合作方面,通過選擇與
52、業務應用場景相匹配的基礎大模型,例如如果金融機構需要將大模型應用在面向零售業務的智能客服場景,則其應優先選擇在自然語言處理方面有較大優勢的基礎大模型。在與大模型平臺服務商合作方面,通過與AI平臺服務商合作構建多種AI工具和能力(如自然語言處理、圖像識別等多種能力和工具),用于支持AI應用的開發與部署,并集中管理AI模型、運維和治理確保AI系統的穩定運行和合規性。在AI應用開發和集成服務商方面,通過選擇利用廠商在該領域的AI應用開發與集成能力,如計算機視覺(CV)、自然語言處理(NLP)、知識圖譜(KG)和文檔智能(Doc AI),結合具體場景來為金融機構大模型的落地提供應用開發與集成服務。綜合
53、來看,不同路徑的選擇對于金融機構內部人才、數據以及預算的要求等各不相同;同時,鑒于金融對專業性要求較高,且需要遵守各類流程和規范,每一種路徑對于戰略競爭優勢、模型控制以及安全和隱私等方面的影響均有不同。上述各個路徑所需考慮/執行的決策要點可以結合圖示例。圖 應用路徑的決策框架來源:IDC,生產力用例 功能用例行業用例獲取數據生成式AI基礎模型代碼視頻圖像結構音頻文本訓練調優推理運行內部人才數據和預算的要求高低低高微調現有模型評估對開源模型的需求構建自己的模型定制模型評估對私有/公有化部署的需求購買應用程序專注于服務協議戰略伙伴關系與支持大模型應用的技術提供商合作戰略競爭優勢、模型控制、治理、安
54、全、隱私.金融機構選擇或部署大模型時的關鍵能力要素IDC認為,金融機構在落地大模型的過程中,需要綜合考慮數據價值鏈管理、模型的選擇與部署、AI平臺搭建、以及AI治理等要素。數據價值鏈管理:提升數據可用性和數據質量金融機構的數據價值鏈管理是生成式AI在金融場景中有效發揮價值的基石,其核心目的是提升數據質量、數據可用性以及確保數據的合規獲取,有利于金融機構面向不同的應用場景快速構建高質量的數據集,并為后續金融大模型的規模應用奠定堅實的基礎。目前市場中已存在通過構建多模數據管理平臺DMS或是通過數據管理全流程解決方案,以更好地滿足大模型時代的用數需求。生成式AI數據價值鏈負責監督基礎模型、微調模型/
55、金融行業模型使用的訓練數據的獲取、生成、處理和管理,以確保全面、多樣化和高質量的訓練數據的可用性。同時,生成式AI數據價值鏈管理能夠顯著提升模型輸出的準確性和安全性。通常,數據價值鏈往往包括:數據采集、數據存儲、數據標注、數據精益、訓練數據生成、數據驗證、數據保護、數據監控、數據管理、數據分析等。表 數據價值鏈管理要素序號數據處理階段描述從各種內部和外部來源收集原始數據的過程,可能涉及收集大量文本、代碼、圖像或其他相關數據源。支持多種類型的存儲需求,包括結構化數據和非結構化數據(如圖像、音頻和視頻等)。需確??蓴U展性、性能、數據安全性和隱私保護。對選定的數據集進行注釋或標記,以加快監督式機器學
56、習過程。雖然不是所有生成式AI用例的必要步驟,但有助于確保數據整合和模型推理的準確性。確保嵌入到Prompts中的數據高質量、可靠、及時、準確、完整,并適用于其使用上下文。通過數據清洗和數據質量標準提升數據質量。準備訓練或轉換基礎模型的精選數據子集,確保數據質量和多樣性滿足訓練需求。采用人工審核、多渠道數據驗證和用戶反饋機制等方法,確保數據準確性,并糾正模型可能出現的準確性問題。在推理或模型轉換過程中,保護個人或公司敏感信息不被泄露。進行數據安全和隱私分類,確保隱私和安全,促進創新,并保持合規性。使用標準、策略和指標實時監控數據使用及流動情況,確保主要活動中的數據隱私和安全性。提供處理和訪問大
57、量數據的標準工具和技術,如數據管道、數據復制等。確定數據所有權,控制業務域、應用程序和分析中數據的訪問、使用和維護。運用數據挖掘、統計、商業智能和預測工具來理解數據,為AI開發人員和數據科學家提供重要支持。數據采集數據存儲數據標注數據精益訓練數據生成數據驗證數據保護數據監控數據管理數據分析來源:IDC,模型層面:模型的選擇與部署的考慮因素在模型選擇方面,往往涉及如下問題,例如是否選擇開源模型、選擇何種開源模型、選擇何種模型開發及模型優化方式、如何部署模型等,金融機構可以根據業務需求、任務類型、數據量級、以及業務場景的技術投入和其對安全合規等因素去選擇合適的模型。尤其是需要評估大型模型開發與金融
58、業務場景之間的匹配度,了解模型在實際場景中的應用方式及應用價值,確保其符合業務需求(具體可參考.節中關于應用場景選擇與評估的方法)。表 模型選擇與部署考慮因素選型方案考慮因素/優勢開源模型通常已經過驗證,可以快速部署和測試,能有效降低開發成本,提升開發速度,適用于場景驗證及成本投入不高的機構。而在開源模型選擇方面,通常需要根據具體需求選擇性能最優、功能最符合的模型,同時確保所選模型與現有技術棧和工具鏈兼容。開發成本較高,可滿足高定制化、安全性需求,例如金融行業部分應用場景對模型的透明度和可審計性有嚴格要求,這時可能需要閉源模型。金融機構可以根據業務類型,如貸款、投資、保險等,以及不同業務場景下
59、的模型應用需求及其對數據安全與合規要求等因素,考慮具體的模型部署方式。通常,私有化部署具有數據安全性高、自主可控性強、可定制化程度高等特點。公有云部署成本最低、靈活性高,但是數據安全性相對較低。金融機構在選擇提示詞設計、微調、檢索增強生成(RAG)等方法的考慮因素及場景選擇方面可以參考.節中相關內容的描述。開源模型閉源模型模型部署方式模型優化方式來源:IDC,AI平臺:從模型管理到應用搭建的一站式開發與服務平臺由于金融行業大模型應用場景豐富,隨著大模型與證券、保險、銀行業務的融合,將迸發出大量的GenAI應用開發需求,亟需AI平臺來提高模型構建及編排效率、應用開發部署效率。根據IDC調研數據顯
60、示(圖),大多數金融機構受訪者表示,他們已經選擇或正在評估使用GenAI平臺來幫助其開發、運營和管理GenAI模型及應用。領先的云供應商應在其AI平臺中添加多種模型,以滿足客戶對數據集、參數和開放的各種需求。在算法模型庫的建設方面,組織需要將開源的算法,自研的算法等都統一管理。在模型訓練方面,搭建基于CPU和GPU的分布式訓練框架。在模型推理方面,統一實現離線批量預測和在線預測的功能,包含推理加速、資源管圖 以下哪一項最能描述貴機構當前或預期使用GenAI平臺來幫助您開發、運營和管理GenAI模型及應用?來源:IDC,.%.%.%.%.%.%.%.%.%.%.%我們正在評估GenAl平臺,并將
61、在未來個月內進行選擇我們已經選擇了GenAl平臺,現在正在使用我們才剛剛開始評估GenAl平臺,并將在未來個月內進行選擇我們還沒有做任何評估和選擇我們沒有需求去選擇一個GenAI平臺不知道我們已經擁有或打算自建GenAI平臺銀行(含銀行金融科技子公司)保險 證券(含央行系機構、交易所、基金、期貨)理等?;谶@些基礎組件的能力,搭建一站式AI開發工作流,從特征篩選到特征處理、樣本構建、模型訓練調試評估、模型的部署和實驗,再到后期模型的運維監控,貫穿算法開發的整個流程。IDC認為,未來生成式AI開發平臺將向更普惠的MaaS演進,并加速生成式AI應用的落地。因此,搭建一套大模型工具鏈(包括提示詞管理
62、、多種 PEFT 微調方法的集成以及一鍵式RLHF訓練工具)以實現面向不同的應用場景實現模型優化,也是十分必要的。這些工具包含大模型優化及應用擴展能力,使大模型能夠更有針對性地服務特定應用。例如,某證券與投資公司,在推進大模型落地中所推出的AI開放平臺包含模型開發、模型調優、推理加速等能力,目前可面向客戶提供短視頻生成、文章生成、數字虛擬人、智能金融問答、智能語音、智能客服機器人、智能質檢機器人、會議轉寫系統、智能醫療輔助系統等多項AI產品及服務。同時,為了提高模型在具體業務場景中的推理準確性及安全性,推理時始終需要高質量、最新的數據,以提高模型返回內容的準確性和相關性。而且,在推理過程中,所
63、使用的信息流也存在暴露敏感信息(個人或公司)的可能,金融機構可通過AI插件來監控模型推理過程中的數據泄露問題。此外,為了更有效的推進大模型在金融業務場景中的應用,金融機構也可以自建或通過與外部廠商合作,提供面向場景共享復用、開箱即用的組件或能力,以及模型運行管理服務(例如模型更新和監測等),從而加速金融機構的GenAI應用。根據IDC調研數據顯示(如圖),大多數金融機構受訪者表示,預計在未來個月內將使用模型運行管理服務(例如模型更新和監測等)來推動大模型的應用落地。例如工商銀行就通過打造適配金融行業的“+X”工程化解決方案,其中“”是指智能中樞平臺,通過智能中樞的任務感知、決策、執行、反饋等能
64、力實現金融復雜場景的應用;沉淀“X”可共享復用的范式能力,包含多模態知識檢索、對話式數據分析、智能化文檔編寫、交互式智能搜索、陪伴式智能研發等多項金融即插即用的零代碼工程化解決方案,以高效賦能于金融業務。同時,金融機構在選擇外部服務商搭建GenAI平臺時,可以提供豐富的開箱即用的能力以支撐多樣場景的落地,GenAI平臺的可擴展性、安全性,以及在金融行業的大規模生成式AI落地經驗是其最看重的三項能力。目前,中電金信也幫助多家金融機構開發了GenAI平臺,例如其向某機構構建了企業級人工智能研發平臺和研發體系,通過沉淀AI原生應用的研發規范,打造AI場景應用的標桿,并建設基于大模型的服務管理平臺,在
65、已有數據中臺基礎之上集成公文文檔和外部情報數據,開發了信息情報工作站、智能公文寫作兩個場景應用;在另一個典型案例中,幫助某頭部城商行構建了人工智能融合中臺,通過建設大模型平臺,實現底層資源統一池化管理、提供一站式的數據工程、模型訓練調優、大模型評估、推理加速和提示詞工程等工具鏈能力,有效支撐了全行的大模型應用開發。圖 預計在未來個月內您所在的組織將使用哪種專業服務來推動大模型的應用落地?來源:IDC,.%.%.%.%.%.%.%.%.%模型運行管理服務(例如模型更新和監測等)商業咨詢(大模型應用規劃、建設規劃及相關政策)IT開發服務(應用程序開發和部署)銀行(含銀行金融科技子公司)保險 證券(
66、含央行系機構、交易所、基金、期貨)AI治理:構建大模型在金融場景穩定且安全的應用保障組織需要采用 度治理視圖,包括數據、人員、AI和使用案例。其主要包括模型治理、風險治理、以及滿足負責任的AI的要求。在模型治理方面,其需要解決模型幻覺、模型偏見以及模型的審計跟蹤及其可解釋性等問題。例如,可以通過增加數據多樣性和規模、改進模型結構、建立反饋機制等措施來應對模型幻覺;通過數據清洗和預處理、多樣化數據集、公平性評估等措施來應對模型偏見;通過記錄模型訓練過程、模型版本控制、輸出日志記錄等措施來加強審計跟蹤;通過使用基于prompting 范式的模型解釋、基于分類器進行探測等模型解釋工具、以及可視化技術
67、等方法來提高模型的可解釋性。在負責任的AI方面,IDC將負責任的人工智能(RAI)定義為以恪守嚴謹安全的監管要求、遵循公平透明的行業規則、維護用戶為先的價值取向的方式進行大模型和GenAI的設計、開發和部署。金融機構在推進大模型落地中,秉承負責任的AI原則,有助于確保所有操作符合法律法規,減少違規風險和潛在的法律訴訟,并輔助實現維護金融系統穩定的社會價值。金融機構在推進負責任的AI方面,一方面,在開發AI時注重公平性,避免偏見確保AI系統具有透明性,決策可以被解釋,另一方面,在AI系統造成傷害發生時,也應有相應的納入問責和補償機制。在大模型應用鏈條中的風險治理方面,在大模型的應用前先分析預判可
68、能存在的各項風險,金融機構可以將AI模型風險納入整體風險管理框架,并建立專門的AI監管報送平臺、流程和規范,集成多源數據,包括模型訓練數據、運行數據、監控數據等,實現數據的統一管理和分析,同時可以根據業務需求,將平臺劃分為不同的功能模塊,如數據采集模塊、風險識別模塊、報告生成模塊等,實現靈活配置和擴展,及時披露模型決策機理、運行邏輯和潛在風險。此外,金融機構也可以選擇合適的技術服務商,通過生態伙伴之間的能力協同,從而加速GenAI加速嵌入金融業務場景。例如,通過與技術服務商(如ISV)合作,加速構建GenAI應用,并通過相關的咨詢服務、模型建設及調優、應用二次開發、運營管理和培訓服務等一系列服
69、務,以幫助金融機構更好地利用AI技術,讓AI更好地在金融場景中見效。根據IDC調研結果顯示(圖),金融機構在面向大模型落地選擇技術服務商時,最看重的前三項能力是數據主權和合規體系的構建、金融安全解決方案優勢、以及服務產品和功能(如:大數據分析和數據治理等)。尤其是在數據主權和合規體系建設方面,由于在金融領域,數據的敏感性極高,直接關系到客戶隱私、商業機密乃至國家安全。因此,金融機構必須確保對其數據擁有絕對的控制權,即數據主權。技術服務商需能夠提供完善的數據管理機制,確保數據在采集、存儲、處理、傳輸等各個環節中都能被金融機構有效掌控。此外,隨著全球范圍內數據保護法規的不斷加強(如GDPR、中國網
70、絡安全法及個人信息保護法等),金融機構在選擇技術服務商時,會重點考察其是否具備構建和維護符合國內外法律法規要求的合規體系的能力。這包括數據加密、匿名化處理、訪問控制、審計追蹤等措施,以及及時響應監管要求的能力。圖 在選擇技術服務商方面,目前比較看中下列哪些方面能力?來源:IDC,數據主權和合規體系安全和合規服務產品及功能成本效益生成式AI項目落地案例數量服務產品及功能業內口碑和市場地位性能和可擴展性支持綠色可持續發展未來路線的一致性可用性和可靠性提供豐富的開箱即用的場景.%.%.%.%.%.%.%第五章展望未來金融行業大模型的發展趨勢.大模型技術創新與發展趨勢隨著大模型技術的發展,大模型的參數
71、規模也將顯著增長,如OpenAI的GPT系列模型、Google的PaLM,以及Meta的LLaMA。這些模型將具備更強的推理、生成和上下文理解能力。未來,這種趨勢也將繼續,其不僅能極大地提高大模型在具體場景中的應用性能,也能提高大模型在具體應用場景中的體驗。多模態模型也將在金融行業普遍應用。多模態模型能夠處理文本、圖像、音頻、視頻等多種類型的輸入,并且通過多模態融合與跨模態理解,可以更有效地用于各類復雜問題的求解,從而極大地豐富其應用場景。例如,OpenAI的CLIP(將圖像和文本映射到相同的向量空間)、DALL-E(通過文本生成圖像)、Meta的ImageBind(支持六種模態,包括圖像、音
72、頻、文本等)等。這些模型能夠在圖像識別、文本生成、音頻理解等多方面表現出色。這種多模態之間的融合也將使得AI大模型能更深刻地捕捉復雜場景背景、細節和情感,使其更快的感知和適應場景,并能應用于更加復雜的金融場景。AI智能體將迸發更大的應用潛力。AI Agent 是一種軟件程序或計算實體,它能夠通過傳感器或數據接口收集環境信息,運用算法處理數據,制定決策或規劃行動方案,并最終執行這些決策以影響環境,實現預定目標。AI智能體將成為下一代平臺,從Copilot副駕走向主駕,智能體的加速進化,有望完成“感知-認知-推理-決策-組織/行動”的閉環,其在數據處理、智能決策與自然交互等方面的卓越能力,預示著它
73、將在客戶服務、業務流程優化、市場預測等多個關鍵領域發揮核心作用,為金融機構帶來前所未有的價值創造。為了實現在復雜場景中的業務決策,金融機構也可以引入Agent系統,以處理那些單靠提示詞難以實現的復雜業務場景,進而達到高效的自動化決策。尤其是在智能客服、智能質檢/陪練等產品創新,以及風險評估、個性化金融咨詢以及智能評估場景,為用戶提供更加精準、高效的服務。開源服務與開放生態成為主流趨勢。國內外大模型開放平臺、開源模型/工具,能有效加速大模型技術演進,金融機構可以在開源基礎上進行二次開發,滿足其個性化需求,賦予中小金融機構使用前沿AI技術的能力,從而加速大模型在不同金融場景中的廣泛應用。IDC認為
74、,未來大模型在金融領域的生態化發展,例如通過構建大模型生態資源共享平臺,向金融機構提供大模型應用所需的全套資源,包含算力等基礎設施資源、通用大模型及各類專業領域小模型等多樣化的模型資源、金融業務的各類場景應用資源,以及連接金融產品和服務終端用戶,是金融機構大規模應用生成式AI的主要路徑之一。軟硬件、工具之間協同也能優化降低大模型開發和應用成本。金融機構可以充分利用硬件加速技術、優化軟件架構和構建靈活的工具鏈,有效提升計算效率,減少資源消耗。NVIDIA、Google、Apple等公司都在開發專用AI加速芯片,以提高大模型訓練和推理的效率。同時,通過分布式訓練、跨平臺部署以及端到端工具鏈,使得模
75、型能夠更加靈活地適配不同的硬件資源,并可以隨業務需求靈活擴展或縮減規模。例如,NVIDIA推出的CUDA和TensorRT配合GPU硬件,不僅加速了訓練過程,還在推理階段進一步提升了運行效率?;蛲ㄟ^硬件加速器(如TPU)和軟件框架支持的優化算法,模型可以在推理中以較低的計算量實現較高的性能,從而推動大模型高效訓練與部署。.行業應用場景的拓展趨勢 當前,阻礙大模型在金融行業應用的主要因素之一是高昂的算力成本。在訓練大模型或推理大模型過程中,金融機構需要消耗較大的算力。通過使用分布式計算、云計算資源及高效的硬件設施(如GPU/TPU),將大模型的訓練任務分配到多個GPU或TPU上,以并行處理的方式
76、加快訓練速度,可以降低模型訓練的時間和成本。同時,通過優化模型架構,精簡網絡結構、減少層數或神經元數量,降低不必要的復雜性,有助于節省資源。通過構建模型管理平臺,可以幫助金融機構以模塊化設計方式復用不同任務間的共享組件;通過構建可組合、可重用的模塊,不僅可以簡化訓練過程,還能夠方便地遷移模型到其他領域或任務場景中,進一步擴展應用場景、提升服務效能。未來,隨著大模型在預訓練及推理過程中算力成本的降低以及模型性能的提升、模型架構的優化,其在管理和業務決策類場景(例如信貸審批、理財投顧等決策類場景)中也將發揮出更大的應用價值,將作為業務決策的輔助決策者,與人類共同完成復雜的分析任務。通過模型提供的數
77、據洞察和決策建議,決策者可以更加客觀、數據驅動地做出判斷,提高整體決策水平。此外,通過大小模型協同也能驅動金融機構在更加多樣復雜的場景中的應用。金融機構應加強研究和推進大、小模型協同、生成式技術與傳統人工智能技術協同,大模型與小模型協同發展;大模型在自然語言處理、計算機視覺等領域展現出強大的能力,但同時面臨著高昂的計算資源需求;而小模型則通過精準的數據集和優化算法,能在特定任務上展現卓越性能,甚至超越某些大模型。尤其是在金融行業,大模型與小模型的結合也將為這些行業提供更全面、更高效的解決方案。大模型可以完成高維度、非結構化數據的初步處理,而小模型則在關鍵節點進行細化分析和快速決策,從而實現協同
78、工作。例如金融機構在反欺詐過程中,既需要識別復雜的欺詐模式,也需要在交易發生時實時做出快速決策。由于大量數據的復雜性,僅依靠大模型會帶來過高的計算成本和延遲。此時,如果通過大、小模型之間的協同,大模型對交易數據進行模式分析和風險評估,識別出潛在的欺詐特征;而小模型則在交易時進行快速篩查,驗證是否符合風險特征庫中的條件,從而進行實時預警,則可進一步實現風險控制和即時響應的平衡。第六章關于中電金信.中電金信公司介紹金融數智化轉型的領導者成立于年,中電金信是中國電子控股的二級企業,作為全球領先的金融數智化咨詢及軟件提供商,以及重點行業數智化轉型服務的專家,我們致力于利用數智科技創造更美好的世界。秉承
79、中國電子“打造國家網信事業戰略科技力量”的使命,中電金信通過持續的技術創新和參與國家重大工程,依托豐富的行業場景,構建了新型數字基礎設施“源啟”。我們為金融及重點行業的數智化轉型和安全發展提供全面的技術平臺、應用軟件和專業技術服務,將中國的數智化轉型最佳實踐推向全球。全球布局與專業團隊中電金信匯聚了萬名國內外員工,在全球個城市設立了交付中心。年的發展歷程中,我們始終專注于行業需求,通過保障安全、加速創新、升級體驗和優化運營,為客戶持續創造商業價值。我們已經與余家財富強企業建立了長期合作伙伴關系。合作共贏,聚焦成果轉化依托中國電子的核心技術優勢和組織平臺,中電金信聯合科技領域的生態伙伴,以市場為
80、導向,以研究院為載體,憑借強大的技術專家服務團隊,融合先進技術與創新基因。我們研發形成了從數字基礎設施、異構集群管理、AI智算底座到數智化應用的全方位解決方案,推動行業的可持續發展。國際化視野與服務經驗多年的國際化戰略布局和豐富的海外服務經驗賦予了中電金信卓越的國際視野。我們拉通海內外及行業間的技術體系和市場,引入國外的先進技術及標準流程,更好地支撐金融及重點行業的數智化轉型。同時,我們為中國企業走出去提供通道,以中國數智化轉型的最佳實踐服務全球。質量與安全管理中電金信堅持嚴格執行質量與安全管理原則,建立了符合國際標準的安全與質量管控體系。我們已通過CMMI ML、ISO、ISO、ISO等認證
81、,在軟件研發的項目管理、質量管理和工程管理等方面均保持行業一流水平。行業領導者地位憑借出色的行業服務能力,中電金信在行業中確立了領先地位。自年起,我們連續年位列IDC中國銀行業解決方案市場第一名,連續年入選IDC全球金融科技百強(IDC FinTech Rankings Top),連續年入選中國軟件和信息技術服務綜合競爭力百強企業。.中電金信人工智能產品及能力介紹中電金信面向金融、能源等重點行業,可提供智能平臺、智能模型和智能應用的整體解決方案,幫助企業智能化轉型升級。下圖是中電金信AI領域的整體能力全景圖,公司在人工智能領域重點圍繞人工智能平臺、金融大模型、計算機視覺、知識圖譜等幾大領域進行
82、布局,通過多年的研發和沉淀,相關AI產品和能力已在一大批銀行、保險、能源等行業客戶中應用落地。智能算力底座與基礎智算能力供給中電金信的智能算力底座是支撐人工智能應用和服務的基礎設施,提供高性能、高可靠性和高可擴展性的計算資源。它集成了多種硬件和軟件能力,并優化算力資源的接入、管理、調度和編排,形成了一個統一的計算平臺。該智算底座能夠為各種數據處理任務、訓練框架、推理服務、智能應用提供所需的計算資源和軟件能力,并顯著提升AI工作負載的運行效率。特色一 專注金融行業場景的AI技術與產品特色二 擁有完整的智能中臺解決方案特色三 專屬大模型更懂行業決策智能化運營智能化管理智能化渠道數智化行業人工智能平
83、臺知識圖譜平臺智能服務監管合規智能填報客服智能助手智能陪練智能營銷營銷文案生成企微智能回復客戶畫像生成智能風控監管合規問答盡調報告生成信貸經理助手智能運營智能視覺分析OCR識別系統渠道身份鑒偽智慧辦公合同智能審核企業知識問答智能公文寫作源啟金融大模型多模態智能鑒偽大模型工業視覺大模型來源:中電金信,“兩大平臺+三大模型+N應用領域”,提供智能平臺+智能模型+智能應用的整體解決方案能力金融級數字底座“源啟”在金融行業,智能算力底座的應用場景包括但不限于大規模的數據處理、智能模型訓練、實時推理服務等。它能夠為金融客戶提供快速響應市場變化的能力,推動智能化轉型。例如,在信貸審批、風險管理、智能投顧等
84、場景中,智能算力底座能夠提供強大的計算支持,實現秒級的決策響應,提升金融服務的效率和質量。來源:中電金信,運維與管理用戶管理權限、審計規格定義商品化及運營計量計費統計報表算力概覽網絡管理資源管理監控告警安全管理其他算力資源邊緣算力第三方加盟算力云服務算力數據中心算力異構硬件 NVIDIAAMD華為中科海光寒武紀天數智芯沐曦低延時、高吞吐網絡(NVLink、IB、RoCE等)服務編排與部署資源池化動態調度GPU虛擬化分區管理優先級/隊列管理裸金屬管理異構算力接入彈性伸縮云邊協同存儲對接配額管理監控分析云適配器資源抽象資源編排動態調度插件管理云服務適配、集成優化算力管理與調度服務與集成能力容器虛擬
85、化硬件虛擬化內置運行時租戶管理統一賬號基礎框架統一認證項目管理統一權限安全審計靈活擴展組件管理多集群管理接入標準部署適配云資源/服務能力Kubernetes容器引擎算力市場容器實例虛擬機實例算力集群 鏡像管理Serverless GPU控制臺SDK/APICLI與其他異構平臺集成源啟行業AI平臺(含大模型平臺)源啟行業AI平臺是企業級的具有AI模型集中化生產和運營管理的平臺型工具,幫助開發人員進行規?;P烷_發,實現企業對模型和資源的統一管理和維護。其中,中電金信大模型平臺涵蓋了大模型數據工程、模型開發調優、部署與服務管理的全生命周期能力,大幅度降低了企業引入大模型的門檻。該產品的核心亮點是:
86、支持完整和豐富的大模型數據工具鏈,支持大模型指令數據和偏好類標注;大模型推理加速引擎,吞吐量和響應速度大幅提升。來源:中電金信,模型服務管理平臺深度學習建模平臺大模型開發平臺機器學習建模平臺智能算力管理平臺加強底層能力包括數據工程工具鏈和大模型的訓練微調,提高大模型的準確性。融入大模型行業AI平臺融入了大模型的先進功能,確保模型能夠高效運行。優化應用性能通過推理加速和資源消耗的優化,實現了大模型更快的運行速度和更低的資源占用,提升整體性能。能力升級平臺支持兩種大模型訓練方式:SFT訓練和RLHF訓練。除常規訓練方式外,還提供斷點續訓和增量訓練功能,支持容災與模型能力的持續提升。平臺提供大模型語
87、義相似度評估與裁判員評估功能,利用高參數模型作為裁判員評估低參數模型的效果,幫助選擇高效、低成本的大模型。此外,平臺支持將大模型發布為在線服務,供業務應用調用,并支持大模型生命周期管理,包括模型文件、元信息和版本的統一管理。用戶還可以導入自己的模型進行服務發布。來源:中電金信,大模型應用場景大模型應用開發平臺大模型服務平臺大模型開發平臺AI算力平臺監管制度智能問答監督報送報告生成反洗錢報告生成貸后催收話術生成信貸盡調報告生成多模態智能鑒偽營銷內容生成公文寫作提示工程模型管理全流程數據工程學習框架推理框架大模型訓練服務發布與管理推理加速組件應用開發知識庫管理Prompt模板Prompt管理Pro
88、mpt評估大模型評估數據接入數據標注數據去重數據増強數據清洗數據分析數據脫敏數據標簽問答對抽取數據版本Lora微調斷點續訓QLora微調增量訓練RLHF微調過程可視化語義評估評估配置裁判員評估可視化報表模型納管版本管理外部模型導入模型資產管理模型元信息模型業務管理服務上下線服務測試資源監控白名單管理APIKey高并發緩存優化模型優化調度優化算力優化采樣優化國產算力適配Prompt廣場Prompt優化Prompt服務知識導入知識切片版本管理文檔解析知識更新召回測試預置組件組件規范組件元信息組件接入組件服務組件市場應用構建體驗配置應用發布開發模式管理記憶配置效果評估工作流串聯應用調試應用市場Tra
89、nsformerAI算力管理英偉達GPU異構計算資源管理任務調度彈性擴縮容TensorflowPytorch中電加速推理框架DeepSpeedVLLM華為昇騰沐曦天數飛騰能用上 能用起 廣泛用中電金信大模型開發工具鏈及數據標注服務是一套完善涵蓋大模型訓練、服務、應用開發的綜合大模型平臺,通過該平臺,可以大幅降低企業應用大模型的成本,加速大模型在企業內的業務應用孵化,實現大模型在企業內的正循環。源啟行業AI平臺在金融行業中可以應用于智能營銷、智能風控、智能運營、智慧管理和智能服務等應用中,支撐金融和能源等重點行業決策智能化、運營智能化、管理智能化和渠道數智化,為行業帶來全場景服務能力和全棧解決方
90、案,助力金融等重點行業數智化轉型。來源:中電金信,智能營銷客戶細分貸前風控RPA智能風控智能運營智能服務智能影音智能客服工業視覺貢獻度細分模型資產偏好細分模型渠道偏好細分模型客戶價值細分模型活躍度細分模型時間偏好細分模型客戶流失貴賓客戶流失模型非貴賓客戶流失模型申請評分模型風險評級模型申請欺詐模型(個人)授信、定價模型風險指數預測模型黑名單貸中風控行為評分模型提前還款模型重新定價模型交易欺詐模型(個人)頁面元素識別文本內容識別目標檢測營銷響應基金響應模型理財響應模型貸款產品響應模型產品推薦模型客戶提升貴賓客戶提升模型理財客戶提升模型代發客戶提升模型非貴賓客戶提升模型語音識別ASR意圖識別文本內
91、容生成客戶價值關聯風險運營管控智能寫稿系統中收潛力模型是否有房模型客戶價值等級模型是否有車模型客戶綜合價值模型是否有孩模型借貸行為關聯識別企業法人關聯識別經營關系關聯識別擔保關系關聯識別交易關系關聯識別投資關系關聯識別員工異常檢測模型賬務異常波動模型智能寫作智能翻譯貸后風控反欺詐/洗錢風催收模型催收響應模型損失預估模型申請網絡欺詐模型交易網絡欺詐模型反洗錢(關聯賬號)OCR智能外呼圖像質量檢測文字檢測文本識別ASR文本比對文本內容生成運營優化智能質檢財務預測經營優化決策語義分析語音識別視頻檢測安全管控智能巡檢缺陷檢測施工安全監管智能影音多語言翻譯人機對練培訓互聯網內容審核多模態理解智能雙錄虛擬
92、數字人源啟金融行業大模型源啟金融行業大模型是中電金信自主研發的L級金融大語言模型,采用主流的Decoder-only模型架構,并在自有金融數據集上進行多輪訓練迭代后得到。該模型能夠服務于信貸、證券、銀行、監管等多個金融業細分垂域,滿足用戶的問答、生成、計算等多種需求。源啟金融大模型的基本信息如上,億參數、窗口長度K,在金融領域具備以下特色:來源:中電金信,來源:中電金信,參數規模:B窗口長度:K模型結構:GQA盡調報告生成信貸業務知識問答監管合規查詢監管數據智能報送金融產品營銷助手網點運營助手賦能信貸業務新型架構搜索增強知識庫專注金融行業安全增強賦能監管合規賦能業務營銷源啟金融大模型金融的核心
93、需求如摘要、邏輯推理和計算能力,進行了定向增強;通過多路召回、文檔高效解析等技術,有效增強大模型知識回答實效性。定向能力增強模型優化,推理引擎加速,有效提升了模型的響應速度。大模型高效推理針對銀行等金融場景研制的金融大模型,經過特定金融文本增量訓練及數十萬金融指令數據調優,提升金融洞察能力,在信貸、監管合規、貿易金融領域更專精。行業大模型,領域問答更專精多版本滿足不同部署需求,適配多款國產算力,支持私有化部署。高效便捷部署特色源啟金融行業大模型在金融行業中可以應用于多元業務場景。通過提供金融單輪、多輪問答、金融文本生成、材料分析總結、推理等能力,源啟金融行業大模型能夠顯著提升金融服務的智能化水
94、平,為客戶提供更加精準和個性化的服務。源啟工業視覺場景大模型源啟工業視覺大模型使用了數十萬的工業標注數據,采用了ViT/CNN等多種網絡架構融合,訓練具有更強大的視覺描述能力的模型,通過添加低參數的任務頭網絡進行微調,從而實現高效的任務性能。這種預訓練微調的策略極大提高了視覺模型的性能,并且減少了訓練時間和計算資源的需求。源啟工業視覺大模型在工業領域中可以應用于質量檢測、預測性維護、安全生產監控等場景。通過提供通用的工業行業描述能力,結合微調方法與不同任務頭進行遷移學習,成功實現了在業務層面的實時報警分析和基于時序的結構化分析能力,顯著提升了工業智能化水平。來源:中電金信,源啟工業視覺大模型任
95、務頭能力場景分類與識別業務能力監控實時報警重點行為監控軌跡識別軌跡描述目標檢測與定位實時分析結構化分析語義分割與實例分割圖像生成與變換時序分析源啟多模態智能鑒偽大模型計算機視覺技術的快速發展顯著提升了深度偽造技術(如AI換臉、口型編輯、人臉重現等)的視覺效果,雖然為娛樂和媒體行業帶來便利,但也帶來了媒體文件造假和身份信息濫用的風險,這引發了學術界對媒體文件鑒偽的廣泛關注。早期的鑒偽模型主要針對圖像數據,采用空間域或頻域方法識別偽造痕跡。如今,媒體文件通常包含視覺、音頻和文本模態,單純依賴視覺模態無法準確識別真假。為此,中電金信與復旦大學合作,提出了R-MFDN多模態鑒偽方法,綜合分析視覺、音頻
96、和文本模態。R-MFDN由多模態特征提取器、特征融合層以及分類任務頭組成。多模態特征提取器包括視覺特征提取器、音頻特征提取器以及文本特征提取器;特征融合層則結合了自注意力機制、交叉注意力機制和前饋神經網絡層;分類任務頭包括二分類任務頭和多分類任務頭。來源:中電金信,其他場景金融機構場景自媒體場景圖像鑒偽服務|多模態視頻鑒偽模型數據接入模型服務核心功能KOL產品推廣、渠道推廣、投資者教育、運營、產品運營、招聘、企業代言宣傳、銷售運營遠程銀行、智能雙錄、身份認證、資產鑒定、網絡金融貸款辦理、信用卡激活APP、抖音、視頻號、公眾號、朋友圈場景應用實時流分析硬件支持國產/信創算力Nvidia GPU/
97、Intel CPU彈性調度資源監控推理加速負載均衡圖像鑒偽模型|無音頻鑒偽模型|多模態視頻鑒偽模型圖像解碼器音頻解碼器時序融合多模態融合視覺編碼器音頻編碼器異步文件分析實時同步請求數據庫讀取HTP接口調用對接安全設備源啟多模態鑒偽大模型綜合分析視覺、音頻和文本模態,通過多模態特征提取器、特征融合層以及分類任務頭組成。該模型能夠識別偽造內容,包括AI換臉、口型編輯、人臉重現等深度偽造技術,保障渠道金融業務安全。源啟多模態鑒偽大模型在金融行業中可以應用于防范金融欺詐、身份驗證等場景。通過識別偽造的音頻、視頻和文本內容,該模型能夠有效降低金融欺詐風險,保護客戶資產安全。知識圖譜平臺中電金信知識圖譜平
98、臺集圖譜構建與分析應用為一體的一站式解決方案,實現數據接入、圖譜構建、查詢探索、挖掘和服務的全流程管理。平臺結合自然語言處理技術,支持從結構化和非結構化數據中快速構建業務圖譜,具備可視化設計和拖拽式構建能力。來源:中電金信,業務人員業務應用圖服務業務系統現券交易圖質押式回購業務應用關系數據庫圖數據庫文件服務器實時流數據債券借貸交易圖API服務URL服務服務管理 圖分析 圖挖掘系統管理圖查詢統計分析可視化展示&配置路徑查找時序分析圖譜導出圖算法節點特征社區發現路徑分析子圖結構知識推理圖計算SparkGraphX建模工作流場景模板自定義算子場景調度場景挖掘 圖構建 圖存儲圖計算引擎適配模式匹配數據
99、導入查詢語言知識抽取&融合實體關系抽取屬性抽取實體對齊圖空間管理函數支持數據源導入開發接口多跳過濾查詢圖算法庫索引管理角色權限管理數據映射本體建模數據清洗轉換可視化數據映射可視化本體定義Schema導入導出Schema管理數據源管理任務調度用戶管理項目管理環境管理業務監控運維監控日志管理知識圖譜平臺在金融行業中可以應用于智能審計、反洗錢、反欺詐等業務,通過深度挖掘企業和個人間的關聯關系,提前識別風險,增強風控能力。在企業知識管理方面,平臺支持構建領域知識圖譜,提升內部知識搜索效率,優化決策流程。智能體平臺大模型Agent是基于大型語言模型(LLM)構建的智能體,利用大模型的理解能力調度外部工具
100、,彌補計算能力和知識更新的不足。Agent具有自主理解、決策和執行的能力,能夠根據場景和數據靈活調整策略,模擬獨立思考過程,逐步實現預設目標。在技術架構上,Agent從面向過程轉變為面向目標,通過感知、思考與行動的緊密結合完成復雜任務。智能體平臺中的Agent能賦能多種場景,如個人助理和自動化辦公,帶來效率提升、成本降低和體驗優化。通過集成大型語言模型、檢索增強生成技術、自動化數據處理與分析工具,以及定制化的任務規劃,Agent可以自動完成特定任務。智能體平臺在金融行業中可以應用于客戶服務、風險管理、內部審計等場景。例如,智能體可以作為客戶經理的助理,自動完成客戶信息的收集、風險評估和投資建議
101、的生成,提升客戶服務的效率和質量。RAG知識問答中電金信的知識問答系統,依托于強大的自然語言處理技術和大模型技術,能夠實現對非結構化信息的深度理解和智能問答。該系統通過自動化的文本數據標注、知識抽取、知識融合、圖譜存儲和圖譜分析,提供全流程的知識圖譜構建與服務能力。它能夠處理和理解大量的數據,進行復雜的推理和決策,尤其是在金融數據分析領域,能夠挖掘數據中的價值,提供革命性的升級。大模型RAG知識庫問答系統已廣泛應用于金融、能源、制造等行業,支持企業知識問答、智能客服、智能風控、投研支持和設備運維等場景。在金融領域,知識問答系統可以覆蓋金融機構營銷、渠道服務、風控、辦公、研發等前中后臺數字化經營
102、關鍵環節。例如,金融知識助手能夠提供即時的監管合規咨詢,智能風控系統能夠分析客戶信用和行為,提供信貸風險評估和反欺詐預警。此外,該系統還能支持數據查詢和投資建議,助力證券投研,以及幫助一線工程師精準運維、提高故障定位效率。智能報告寫作平臺中電金信的智能寫作平臺,基于自然語言處理和AI大模型技術,能夠自動實現文檔抽取、文檔比對、文檔摘要和文本審核等多種文本處理功能。該平臺能夠實時從海量文檔和政策法規中檢索最新、相關的素材,確保內容準確權威,提升寫作質量。來源:中電金信,前端交互知識問答知識管理問答助手配置大模型GienModel金融大模型知識庫配置對話管理敏感詞配置問答反饋評價管理語音問答文檔問
103、答知識檢索問答生成系統管理Query理解改寫擴寫Embedding圖譜召回多路融合reranker多輪對話敏感詞過濾FAQ問答富文本問答溯源展示幻覺處理租戶管理權限管理監控系統日志管理資源分配知識庫知識庫管理文檔管理解析配置文檔解析文檔分塊索引管理FAQFAQ管理智能抽取版本管理知識圖譜圖譜管理圖譜構建圖譜檢索増強GLMQwenBaichuan智能寫作平臺在金融業務中具有廣泛的應用。它能夠為公文寫作、營銷文案、信貸報告生成等提供智能化支持。例如,在公文寫作中,平臺能夠自動生成符合規范的文檔,如紅頭文件和條例細則,同時提供深度潤色和修改建議,提升公文質量。在營銷領域,智能寫作能夠根據市場動態和客
104、戶數據,生成個性化的營銷內容,提升營銷效率和效果。來源:中電金信,公文通知公告意見請示會議紀要營銷節日問候產品話術海報宣傳活動話術軟文創作通用文案AI寫作內容提示詞幫寫按大綱寫作AI潤色大綱編輯關聯素材寫作AI擴縮寫AI生成大綱素材溯源分段生成智能審核字詞審校文法審校內容規范審核標點審??谡Z化審核敏感詞審核文檔管理文檔創建Word導出歷史文檔文檔查詢模板管理文檔分享金融信貸貸前盡調報告行業分析貸中風險報告財務分析其他情報總結新聞稿貸后檢查報告企業風險分析應用場景功能模塊上傳素材素材庫管理文檔解析素材列表素材預覽素材共享場景配置場景列表AI幫寫提示詞場景詳情查詢公文格式預覽場景分類管理格式排版場
105、景管理素材管理.中電金信AI大模型在金融行業的服務案例案例一:某股份制銀行模型運行管理平臺項目在數字化轉型的浪潮中,某股份制銀行面臨著模型管理的挑戰,需要構建一個全行統一的模型服務平臺,以提升數字化經營能力。中電金信憑借其在金融AI領域的深厚積累,中標該銀行模型運行管理平臺項目,致力于打造一個敏捷部署、統一管理、集中監控的模型服務平臺。實施思路與方案項目的核心目標是構建一個企業級的模型運行管理平臺,實現模型的全生命周期管理。中電金信采用了源啟行業AI平臺,整合了AI算力平臺、AI計算框架、AI開發平臺以及AI服務平臺四大產品組件,為銀行提供了一個集中化生產和運營管理的平臺型工具。通過該平臺,銀
106、行能夠實現模型的快速開發、部署、監控和優化,同時支持模型的統一管理和資源的高效調度。來源:中電金信,用戶模型運行管理平臺模型業務人員模型部署人員模型管理人員應用管理員模型資產管理(復用)批量模型實施在線智能發布資產大盤模型管理(復用)模型報告模型詳情模型包上傳模型鏡像制作推理任務創建模型評審(擴展)批量模型監控系統管理優化批量模型運行穩定性監控物理資源監控模型鏡像管理調度任務流量復制鏡像組管理鏡像模型比較在線推理自定義模型報表模型監控與預警在線服務推理API調用統計推理適配實時服務管理API測試一二級服務注冊上、下線管理服務運行查詢推理接口采集穩定性監控服務資源監控預警條件配置模型性能監控監控
107、任務管理預警渠道推送調用API監控監控大盤閾值修改表現性監控調用監控工作流配置任務運行定時調度任務重跑數據源管理日志管理角色管理租戶管理租戶資源隔離權限管理租戶間模型共享租戶間共享查詢自定義指標指標計算自定義模型報表特征適配獲取入模特征特征轉換智能服務平臺對接在實施過程中,中電金信首先對銀行的現有技術架構和業務流程進行了深入分析,確保新平臺能夠與現有系統無縫集成。隨后,通過源啟行業AI平臺的模型開發工具鏈及數據標注服務,幫助銀行構建了專屬的金融能力評測集Gien-FinData評測數據集,進一步提升了模型的準確性和適用性。此外,中電金信還提供了模型性能監控和優化服務,確保模型在實際業務中的穩定
108、運行和持續優化。落地效應及價值項目的成功實施,使得該股份制銀行在模型管理方面實現了質的飛躍。模型管理平臺的建成,不僅提升了銀行的數字化經營能力,還為進一步深化合作打下了堅實的基礎。通過集中化的模型管理和監控,銀行能夠更快速地響應市場變化,提高決策的效率和準確性。同時,模型的統一管理和資源的高效調度,也為銀行節約了大量的運營成本。此外,通過Gien-FinData評測數據集的應用,銀行的模型準確率和響應速度得到了顯著提升,客戶體驗也因此得到了改善。案例二:某頭部城商行AI人工智能融合中臺項目隨著AI技術的發展,某頭部城商行尋求通過AI中臺實現AI能力的全生命周期管理,以提升銀行的智能化服務水平。
109、中電金信憑借其在金融大模型領域的技術優勢,承接該行AI人工智能融合中臺項目,助力銀行實現AI能力的全面提升。實施思路與方案項目的整體定位為全行級AI中臺,旨在實現AI能力的全生命周期管理,包括底層資源管理、數據融合管理、模型建模功能、能力融合層、場景運行層、AI門戶等功能。在實施過程中,中電金信首先對銀行的業務需求進行了深入的調研和分析,確保AI中臺能夠覆蓋銀行的所有業務場景。隨后,通過源啟行業AI平臺的AI算力平臺和AI計算框架,為銀行提供了強大的計算支持和模型訓練能力。同時,通過AI開發平臺和AI服務平臺,銀行能夠實現模型的快速開發、部署和監控,以及模型服務的統一管理和調度。來源:中電金信
110、,模型部署平臺運維管理平臺AI安全中心實時預估服務批量預估服務實例彈性伸縮樣本管理數據增強數據自動清洗數據權限管理樣本審核數據接入模型運行監控模型預警體系自主進化學習滾動更新模型部署灰度發布服務限流服務注冊服務配置數據管理平臺自動特征工程AutoML建模高維計算框架超參最優搜索Python、R代碼建模開源計算框架模型選擇/架構搜索可視化建模算子平臺模型訓練評估Github集成框架兼容模型開發平臺分布式調度引擎模型納管模型優化版本管理模型評估模型共享模型適配統一管理平臺金融算法庫信貸應用算法營銷應用算法復雜風控算法銷量預測算法任務調度資源調度服務調度資源管理工作流管理用戶管理權限管理監控系統告警
111、管理日志管理模型安全防護AI可解釋性中電金信AI平臺提供數據管理、特征工程、模型開發、模型評估、模型部署、服務發布、模型監控、迭代更新等模型生命周期全流程功能,能夠有效地支持客戶數據創新場景應用開發與上線,應用包括全渠道拓客能力提升、客戶滿意度調研問卷詞云分析、樓盤均價合理性評估等,內容包括數據集成與清洗、數據模型開發與應用集成等。落地效應及價值項目的實施,使得該城商行在AI能力方面實現了質的飛躍。AI中臺的建成,不僅提升了銀行的服務效率和質量,還為銀行的業務創新提供了強大的技術支持。通過AI能力的全生命周期管理,銀行能夠更快速地響應市場變化,提高決策的效率和準確性。同時,AI中臺的建成也為銀
112、行節約了大量的運營成本,提升了銀行的市場競爭力。此外,通過AI技術的深度應用,銀行的客戶體驗也得到了顯著提升,增強了客戶的忠誠度和滿意度。案例三:某省級城商行金融大模型項目在數字化轉型的大背景下,某城市商業銀行(以下簡稱“城商行”)面臨著激烈的市場競爭和日益多樣化的客戶需求。為了提升銀行的數據處理和分析能力、客戶服務水平、風險管理精度以及監管合規效率,城商行決定引入中電金信的金融大模型解決方案。該方案旨在構建一個集數據處理、智能分析、客戶服務和風險管理于一體的綜合性大模型應用平臺,以提高銀行的整體運營效率和市場競爭力,為客戶提供更安全、更便捷、更智能的金融服務。實施思路與方案城商行的項目實施分
113、為三個主要階段:數據構建、模型訓練和部署推理。數據構建:城商行與中電金信合作,從多個來源收集包括交易數據、客戶互動記錄、市場分析報告等在內的專業領域數據集。另外,通過數據質量過濾、去重、隱私脫敏等步驟提升數據質量,確保模型訓練的語料庫既豐富又準確。模型訓練:采用基于Decode-only架構的專業大模型,通過模型微調方法進一步提升模型在金融領域的特定任務表現。同時利用分布式訓練技術,提高計算效率,滿足大模型訓練對算力的需求。部署推理:通過模型壓縮和加速方案,優化模型以適應資源受限的設備環境,提高推理速度并降低資源消耗。在監管問答平臺的開發上,城商行利用中電金信的技術,結合檢索增強生成技術(RA
114、G),構建了一個集知識管理、知識檢索問答和系統管理于一體的智能問答系統。該系統能夠提供即時、準確的合規咨詢服務,支持上下文理解,并直接索引到對應文檔知識段落,確保答案的真實性和透明度。落地效應及價值通過中電金信金融大模型的成功落地,城商行在多個關鍵領域實現了顯著的改進:運營成本得以降低,業務處理效率和客戶響應速度大幅提升,進而推動了收入的增長;同時,風險管理能力的提升有效預防了潛在的金融風險,確保了銀行業務的穩健運行。此外,該項目還為銀行培養了一批金融科技人才,為行業的數字化轉型樹立了新的標桿,展現了金融大模型在提升銀行競爭力和創新服務中的重要作用。來源:中電金信,意圖識別語義解析改寫擴寫向量
115、召回文本召回相關性排序多輪問答溯源引用問答反饋模型評估部署推理訓練微調指令集構建數據預處理文本解析OCR識別表格提取分級標題分割配置標簽分類知識庫管理文件管理導入管理監管問答助手智能決策支持系統應用層服務層數據層專業大模型服務知識問答服務知識管理服務query解析召回排序問答生成文檔解析文檔切割數據管理通用數據行業數據領域數據注:本次調研樣本量為,其中國有商業銀行樣本量是,股份制商業銀行樣本量是,城商行/區域性商業銀行的樣本量是,證券機構樣本量是,保險機構樣本量是。調研對象是金融機構高管、AI部門/數據部門負責人、IT部門相關人員(產品經理、算法工程師、云工程師等)。關于 IDC國際數據公司(
116、IDC)是在信息技術、電信行業和消費科技領域,全球領先的專業的市場調查、咨詢服務及會展活動提供商。IDC幫助IT專業人士、業務主管和投資機構制定以事實為基礎的技術采購決策和業務發展戰略。IDC在全球擁有超過名分析師,他們針對多個國家的技術和行業發展機遇和趨勢,提供全球化、區域性和本地化的專業意見。在IDC超過年的發展歷史中,眾多企業客戶借助IDC的戰略分析實現了其關鍵業務目標。IDC是IDG旗下子公司,IDG是全球領先的媒體出版、會展服務及研究咨詢公司。IDC ChinaIDC中國(北京):中國北京市東城區北三環東路號環球貿易中心E座室郵編:+.Twitter:IDC版權聲明凡是在廣告、新聞發布稿或促銷材料中使用IDC信息或提及IDC都需要預先獲得IDC的書面許可。如需獲取許可,請致信。翻譯或本地化本文檔需要IDC額外的許可。獲取更多信息請訪問,更多有關IDCGMS信息,請訪問https:/ IDC。未經許可,不得復制。保留所有權利。