喬帥-大模型驅動金融產品創新：從新質生產力到業務價值.pdf

《喬帥-大模型驅動金融產品創新：從新質生產力到業務價值.pdf》由會員分享，可在線閱讀，更多相關《喬帥-大模型驅動金融產品創新：從新質生產力到業務價值.pdf（25頁珍藏版）》請在三個皮匠報告上搜索。

1、喬帥百川智能產品總監大模型驅動金融產品創新從新質生產力到業務價值2024 全球產品經理大會1百川智能公司介紹百川產品研發思路百川產品認知思考百川金融產品實戰2百川靈魂人物：0-100 打造國民級產品3在搜索競爭中以后發者力居第二，市場份額18%締造 國民級應用搜狗輸入法用戶規模居互聯網公司第四位，僅次于騰訊、阿里、百度構建商業體系，年收入超70億，互聯網廣告行業第六位2017年帶領搜狗上市，市值超50億美金創立“三級火箭”模式，被眾多互聯網企業效仿推動 阿里、騰訊 兩大巨頭先后投資搜狗推動騰訊將搜索業務并入搜狗，并為騰訊提供搜索服務與 清華 共建天工智能計算研究院王小川創始人、CEO搜狗創始人

2、兼CEO國際信息學奧賽金牌清華大學天工智能計算研究院聯席院長清華大學計算機系博士技術決斷力與前瞻性“當機器掌握語言，通用人工智能時代就到來了?！碑a品創造商業操盤聯盟構建 王小川，2018堅持“語言 AI”為中心的“自然交互+知識計算”戰略18年通用搜索引擎研發，深度理解信息與知識 -組織近20位奧賽集訓隊和高考狀元啟動研發 -百度之外中國唯一全棧自研的通用搜索引擎 -國內率先應用 DNN(2016)、Bert(2019)和語義檢索(2020)16年輸入法研發，不斷探索語言與智能 -首創將整個中文互聯網壓縮成輸入法詞庫與句法規則 -最大語音識別引擎，日均調用14億次 -基于深度學習的智能輸入預測

3、、措辭優化、智能糾錯提出“搜索的未來是問答”，從獲取信息升級到獲取知識 -2018年國內首家上線搜索問答 -2021年發布百億參數大模型，CLUE 排第一，服務搜索問答百川智能戰略級規劃，聚焦健康醫療與金融服務百川醫療大模型百川戰略級規劃醫療醫療生命大模型AI全科醫生金融+金融大模型AI行業顧問百川金融大模型頭部大模型公司中唯一專注醫療領域堅定深耕金融行業的戰略選擇百小應助手（Multi-Agents 平臺）+百川基座模型（Baichuan）更純粹的大模型企業不受短期業務波動影響，確保長期發展目標一致性和連貫性，資源更集中，決策更高效。4金融評測綜合能力評級A，金融知識評級A+Baichuan

4、大模型百川金融大模型金融知識金融專家經驗金融業務規范通用大模型（全學科本科生）金融知識對齊（金融博士生）金融思維激活及業務能力訓練各類任務能力對齊（具體崗位）千億以上模型，廣泛了解金融基礎知識數千億+Token的金融知識增強達到優秀的金融畢業生水平數十萬高質量標注的任務對齊指令金融思維對齊，拆解金融思維邏輯經濟學-金融學-投資學全鏈路知識穿透，達到頂級金融專家水平金融知識百科基金從業資格知識投顧應用泛投顧問答證券從業資格知識基金分析銀行從業資格知識投研應用宏觀分析保險從業資格CICE知識個股分析經濟師知識市場解讀精算師行業分析理財規劃師知識公司點評期貨從業資格知識財報點評稅務師知識合規與風控管

5、理金融合規注冊會計師(CPA)知識風險管理應用金融理解認知金融文件總結摘要金融信息實體抽取金融情緒判斷金融數理計算數據計算邏輯分析基礎能力應用能力SuperCLUE-Fin金融大模型測評基準56在金融行業的具體場景中尋找突破口產品設計業務理解用戶需求商業價值計劃管理任務拆解技術需求合規風控深入理解業務需求，在細化需求中尋找到核心矛盾并解決金融行業專業知識應用落地場景基座模型（三要素）應用開發能力場景應用是否真正達到智能的評判標準是否對客戶有用？是否真正解決了有價值的業務問題？比起人工客服、可視化看板等方式讓客戶的使用舒適度提升？對話理解的準確性對話流程的自然性服務的專業性情感互動的恰當性可參考

6、的科學度量指標智能化評估維度智能化定義意圖識別準確率平均響應時間單次服務完成率/自動解決率凈推薦值客戶滿意度服務的個性化IQEQ7“專家級的數字員工”“顧問型的服務模式”應該適配實際業務場景實際需求應該考慮業務發展現狀和數字化現狀小尺寸LLM單一任務（高響應）Baichuan 2BBaichuan 7BBaichuan 編程小尺寸LLM傳統ML模型復雜任務（重邏輯計算）大尺寸LLMBaichuan 33BBaichuan MOEBaichuan 177B8小模型優先，大模型兜底大尺寸LLM(快思考)大尺寸LLM(慢思考)產品推薦知識查詢產品問答任務辦理其他復雜任務不同階段的場景有不同的實驗方式

7、和態度可行性論證PoC驗證多點實驗31停止2暫?？焖僭陀脩魷y試場景選擇技術驗證可行性驗證應用設計商業驗證成效驗證業務研發需求定義場景分析迭代實現用戶反饋產品/服務演進9需要長期的業務積累與技術積累作為基礎對客戶有用提升使用舒適度高效的業務操作支持深厚的行業知識積累知識與技術的快速更新個性化方案與定制服務市場變化中的穩健保障日?；拥某掷m優化用戶體驗業務積累技術突破顯性隱形冰山模型10大模型的應用，需要完備的端到端解決方案基建算力與調度層基礎模型層模型訓練層產品層應用層企業主體工程實施經驗安全知識庫工具鏈經驗數據專家隊伍模型效果模型尺寸大規模集群管理供應鏈安全性性能指標資源利用率團隊行業經驗股

8、東背景戰略規劃經營理念工程產品訓練模型算力企業11百川大模型應用建設的全套支持方案12算力工具箱智能體系統變更部署工具、發布策略、系統回退安全管控訪問控制、安全審計、數據安全高可用負載均衡、同城多活、異地災備、系統備份應急處理服務限流、服務熔斷、故障解決工具系統監控運行指標、安全指標、線上神秘人基座模型33B 百億大模型百川大模型矩陣177B 千億大模型2B 十億大模型Baichuan 多模態大模型Baichuan 編程大模型第三方大模型第三方開源大模型第三方閉源大模型產品組件搜索增強安全模塊知識庫領域增強模型工具鏈數據管理模型管理預訓練工具微調工具提示詞工程B端強化模型金融系列模型醫療系列模

9、型.解決方案規劃智能客服智能數據分析師智能客戶經理智能財報分析師API算力采購MOE 1020B大模型算力服務算力租賃一體機英偉達服務器國產信創服務器算力適配工具記憶行動.大模型+搜索構成完整技術棧Prompt用戶意圖理解與轉換復雜意圖拆分與延展文檔意圖理解 doc2query意圖理解將Prompt與搜索查詢對齊如何將用戶連續多輪、口語化、需求復雜的Prompt精換為更符符搜索引擎理解的查詢？如何實現高召回準確的搜索系統，并與大模型更好地融合？如何提高大模型在超長文本上推理、信息提取的表現？搜索引擎將搜索引擎與大模型適配192K長窗口大模型支持豐富多樣搜索結果相比只使用Embedding檢索的

10、開源方案（對目標文檔的召回率均低于80%），效果有質的提升。未經私有化數據微調的Embedding模型可以做到86%，而在結合了稀疏檢索模型后，甚至可以做到95%。向量檢索稀疏檢索模型自省技術剔除不相關結果搜索結果1搜索結果2搜索結果n192K長窗口難點13鏈式驗證-并行檢索的搜索友好型查詢分析某電動車公司的的投資價值某電動車公司基本情況和市場前景電動汽車行業的競爭力和市場環境某電動車公司的財務表現和未來預測查詢公司基本信息行業競爭力和市場環境分析某電動車公司歷史財務表現和未來財務預測某電動車公司管理團隊和戰略方向的評價某電動車公司股份有限公司，成立于1995年，是一家綜合性汽車制造商電動汽車

11、行業正處于高速發展階段，得益于全球減碳趨勢和政府的政策支持.某電動車公司近幾年的財務報告顯示，公司的收入和利潤均呈上升趨勢.某電動車公司的管理團隊由XXX領導，他在電動汽車.在深入分析了某電動車公司的基本情況、市場前景、管理團隊背景以及潛在的風險與機遇之后，綜合評估如下：市場領導者地位：通過比較行業數據和競爭對手分析，模型確認某電動車公司在電動汽車和電池技術領域內的領先地位，尤其在中國市場的深厚影響力，為其在全球市場擴張提供了堅實的基礎進一步思考鏈式驗證點子查詢資料未知未知未知查詢查詢查詢查詢某電動車公司潛在風險與機遇某電動車公司的管理團隊由XXX領導，他在電動汽車.查詢進一步思考模型輸出提示

12、詞14Self-Critique大模型自省技術可以從相關性、可用性等角度對檢索內容自省，最終篩選出最優質的內容。請提供關于加密貨幣市場最新的監管政策。向量庫+索引庫檢索到7篇文檔有效政策文檔：根據2023年金融監管年度報告，為了提升市場透明度，監管要求所有加密貨幣交易所每季度提交詳細過時建議：金融監管機構應繼續實施2017年設立的加密貨幣交易框架。（該框架已由更嚴格的2021年政策所替代。）不準確信息：目前加密貨幣市場無需受到任何監管。（與全球主要金融市場的實際監管態勢不符，大多數國家已經建立了嚴格的監管機制。）不相關信息：加密貨幣的普及使其成為了購買日常商品和服務的流行方式。（此信息與監管政

13、策無直接關聯，不適用于政策討論。）過時研究論文：一篇2008年的研究推薦在無法有效監管的情況下應禁止加密貨幣交易。（鑒于技術和監管環境的發展，這一建議已不再適用。）錯誤指導：加密貨幣交易因其匿名性質而完全免稅。（許多國家要求加密貨幣交易必須報稅，且交易記錄需透明。）跨領域錯誤應用：金融科技的發展表明，加密貨幣將很快被實體銀行作為主要貨幣接受。（該預測尚未廣泛接受，且與監管政策無直接關聯。）根據2023年發布的金融監管年度報告，針對加密貨幣交易所的監管措施已明顯加強以適應市場的快速發展和新出現的風險。最新的監管政策明確要求所有加密貨幣交易所不僅需要每季度向監管機構提交詳細的合規性報告，還必須實現

14、全面的交易透明度，確保所有交易活動都能被追蹤和審計。此外，這些交易所被要求建立健全的客戶身份識別（KYC）程序和反洗錢（AML）系統，以防止和識別非法資金流動。特別是在國際交易中保留剔除剔除剔除剔除剔除剔除模型自省模型推理1516選擇“AI+”還是“+AI”的路線+AI大模型廠商（百川）隨著大模型技術的爆發，以百川為代表的大模型廠商公司迅速崛起，大模型及后續調優及適配技術能力強，借助語言+多模態大模型切入市場成為剛需。軟件服務商（伙伴）數字化企服能力伴隨著中國數字化發展而來，企業服務在軟件建設，數智化升級領域具備相當豐富的經驗，和大模型企業形成優勢互補。垂類領域企業自建垂類企業在自身的領域已經

15、積累了大量的專業數據、具有明確的行業護城河，可直接借助第三方或者自建AI技術，構建垂直的大模型或應用。AI+智能金融客戶經理的核心矛盾和方案核心能力應用場景賬戶管理轉賬匯款財富管理貸款業務服務客服能力支撐工具箱系統監控系統變更安全管控應急處理高可用搜索增強微調訓練工具提示詞工具API 平臺工具鏈基礎組件BC文檔解析處理平臺BC金融指標查詢平臺BC知識庫平臺Agent平臺工作流配置智能體創建智能體管理插件管理Agent能力OCR識別文檔解析數據分析指令遵循基礎能力大模型底座Baichuan-33BBaichuan MoEBaichuan 177B覆蓋更廣泛的普惠和下沉客戶群體服務人群主動式場景服

16、務實時響應客戶需求服務模式融合知識、規則和數據提供專業服務能力服務能力服務供給不足基礎客戶無法滿足服務需求服務模式受限只能盡量將客戶推離，降低服務需求場景主動服務不足容易造成問題后置，問題堆積甚至激化矛盾復雜問題能力有限現場無法針對客戶個性數據和問題及時回答傳統客戶模式智能客戶經理如何對長尾客戶提供一對一服務?客戶基本信息個人信息賬戶信息交易記錄客戶交互記錄電話咨詢在線聊天外部數據源信用評分機構社交媒體公開金融數據客戶行為分析歷史交易記錄判斷行為模式預測未來行為/需求客戶價值評估當前/潛在價值高價值客戶有流失風險的客戶客戶滿意度分析分析交互記錄/反饋評估忠誠/滿意度個性化服務推薦行為分析價值評

17、估產品/服務推薦風險預警和管理監測客戶行為/交易識別潛在風險/欺詐提供預警/處理建議客戶關系維護制定維護策略提升忠誠/滿意度實時服務響應實時獲取客戶信息和分析結果，提供高效精準的服務。行動計劃制定根據分析結果和客戶需求，制定個性化的行動計劃，提高客戶滿意度和忠誠度。數據源數據處理分析 智能決策推薦客戶服務執行17案例1：某行養老理財產品營銷助手通過AI智能問答，實現多輪對話和主動詢問，快速提升客戶服務效率與體驗。提供自動化信息查詢和人機協同處理復雜問題，智能推薦個性化方案，提升滿意度。18案例1：用戶實際中會問到的養老理財問題19如果我購買XX理財固收增強最短持有200天A款A產品100萬，會

18、產生哪些費用，分別是多少？假如我的養老規劃中配置了四款產品，即 XX理財固定收益純債最短持有28天理財產品A款，XX理財固定收益純債型XX理財產品1號，XX 1981號A款三層看漲個人結構性存款，XX 1980號B款三層看漲個人結構性存款，如果市場發生變化，我的養老規劃會受到怎樣的影響？假如我有100萬，XX理財固定收益純債最短持有28天理財產品A款投資30萬，XX理財固定收益純債型XX理財產品1號投資30萬，XX 1981號A款三層看漲個人結構性存款投資20萬，XX 1980號B款三層看漲個人結構性存款投資20萬，請問1年后我能獲得的收益是多少？假設未來央行加息的話，請問對我的投資組合XX理

19、財固定收益純債最短持有28天理財產品A款投資30萬，XX理財固定收益純債型XX理財產品1號投資30萬，XX1981號A款三層看漲個人結構性存款投資20萬，XX1980號B款三層看漲個人結構性存款投資20萬有何影響，收益變高還是變低？XX1981號A款是與中證500指數掛鉤，預期未來股市下跌，這款收益會增高還是下跌？XX理財固定收益純債最短持有28天理財產品A款產品有多個份額，請問各份額間的差異是什么？案例2：某行情報收集機器人-情報分析維度20企業基本情況1.企業管理：企業股東和實控人？企業發展歷程？集團架構、管理架構、決策鏈條？2.業務布局：主營業務是什么？布局了哪些板塊？營收和利潤的業務構

20、成？3.戰略規劃：未來業務增長點和改革重點在哪？是否有新設、并購、重組等計劃？有無戰略投資引入計劃？企業主營業務企業資金結算輿情信息市場行業情況企業財務情況1.產品和服務：主營業務是什么？提供什么產品和服務？2.盈利模式：主要成本是什么？盈利方式？盈利水平在同業如何，趨勢及可持續性如何？3.競爭力：核心競爭力是什么？例如成本、技術、渠道？是否可持續？1.采購：主要供應商有哪些？采購內容、方式、規模、周期？付款方式、賬款和賬期？2.銷售：主要客戶有哪些？銷售模式和渠道？訂單內容、方式、規模、周期？收款方式、賬款和賬期？1.資產分析2.負債分析3.利潤分析4.現金流分析1.行業趨勢：行業成長性、市

21、場容量、增量空間、技術路線、相關政策2.行業地位：企業的行業排名、市場份額、變化趨勢、所處生命周期3.同業對比1.風險輿情點：處罰性問詢、非處罰性問詢、高管變動或異常、會計違規、立案調查、媒體質疑、審計預警、失信預警、訴訟仲裁、業績暴雷、債券違約案例3：某保司壽險營銷機器人21服務咨詢講解產品信息查詢問答多產品比較產品重點分析個性化方案規劃個性化產品推薦分析案例4：某金融機構智能問數助手22案例4：NL2SQL 對比 NL2API23 準確率低企業級（千/萬張表）數據查詢 準確率約50%性能存在風險大模型寫出的SQL未經優化，可能導致長查詢的占比較多，性能不好甚至導致數據銀行服務異常，多表關聯

22、的真實查詢 性能不可控 學習成本高預訓練大模型未掌握企業客戶數據與數據格式定義，當數據源過大時，大模型對表的結構學習成本高（增量預訓練、長窗口、functioncall等）數據安全存在風險大模型直接對接數據查詢，缺少數據權限管控，隱私與安全性風險較高，用戶可通過問詢獲取非用戶權限內的數據 能力單一很多高級的分析問題，單純靠大模型生成SQL 無法解決 數據可信，準確率明顯提升預設數據指標的定義與管理，避免業務理解對不齊借助思維鏈分析與歧義反問，提升泛化性，避免直接從文本到SQL指標語義層助力，準確率提升至 90%+性能提升且穩定基于自研的數據查詢加速引擎，智能優化查詢語句Top95 可實現 從檢

23、索到回答的 秒級出數 學習成本低指標的數據樣本可通過大模型輔助生成全流程白盒，企業客戶用業務語言描述查詢過程，方便快速排查 數據安全可保障利用指標分析平臺的權限管理能力，結合RBAC基礎，對數據與指標進行精細化的權限管控，實現數據查詢的安全可控 能力覆蓋更全高級數據分析問題，可通過精準的指標進行關聯與展示，實現單項數據可查、報表可展示、總結報告可生成大模型直接生成SQL的標準方案結合數據指標與大語言模型24案例4：數據體系構建+任務拆解實現對話式BI數據湖數據應用指標平臺能力數據倉庫指標呈現原始數據表1維度表1原始數據表3事實明細表2事實明細表1原始數據表2支付單量22000PV（w）1500數據大屏可視化支付單量22000BI工具銷售渠道維度產品品類月至今統計周期昨日規范化加工原子指標、維度等積木式組裝派生和衍生指標昨日天貓電視支付單量昨日天貓電視瀏覽量昨日天貓電視PV轉化率PV轉化率上周環比指標API服務支付單量原子指標瀏覽量元數據信息支付單量22000Copilot助手指標語義層：指標字段所需維度統計周期聚合方式約束條件統計步長維度表2原始數據表4大模型Agent能力LLM技能工具任務規劃指標查詢/數據運算/圖表繪制/解讀等思維鏈/任務拆解/分步指令執行意圖理解總結推理25