1、中國市場大模型落地進展與趨勢洞察Jul.2023目錄Contents中國市場大模型進展與趨勢大模型在企業用戶落地進展大模型在科技廠商落地進展中國大模型市場全景地圖國產大模型市場機會企業落地大模型路徑企業用戶對大模型的預期大模型在行業落地進展大模型在企業落地方式大模型對科技廠商的價值大模型在數據分析、營銷、辦公的落地案例02.03.01.10中國大模型市場全景地圖國產大模型市場機會企業落地大模型路徑中國大模型市場進展與趨勢大模型定義大模型：參數量超過10億、具備泛化能力的模型，可以被稱為大模型。大模型小模型AI建模方法深度學習、自然語言處理、多模態技術機器學習、深度學習、自然語言處理、計算機視覺

2、等參數量參數量規模在10億以上參數量規模是幾萬至幾百萬參數應用場景泛語言類場景（自然語言、編程語言等）、多模態場景（文本、圖像、音頻、視頻）場景更加多樣，但生成類場景效果差，不具備多模態泛化能力強，處理多任務效果好弱，處理多任務效果差可解釋性弱強訓練冷啟動成本低任務對齊成本高冷啟動成本高任務對齊成本低推理反饋速度慢準確率低反饋速度快準確率高大模型當前以生成類應用為主，多模態是未來重點發展方向生成類應用對話式交互內容生成代碼開發虛擬專家智能體決策類應用輔助決策：描述、診斷智能決策：預測、指導多模態應用圖像、語音、視頻、結構化數據企業用戶是從應用視角出發，分成生成類應用、決策類應用和多模態應用。受

3、限于模型能力、應用效果等因素，當前階段以生成類應用為主。理解生成推理大模型能力對比美國市場，中國市場在模型層和應用層發展迅速通用大模型應層模型層基礎層AI芯片高速網絡存儲向量數據庫云平臺行業大模型領域大模型企業大模型中間層大模型應用開發工具數據標注工具提示詞工程工具金融能源教育出海傳媒電商醫療政務客服營銷應用開發數據分析MSP運維服務商ISV獨軟件服務商SI系統集成商任務大模型三大要素，驅動中國“OpenAI”（通用大模型）必定出現國產化：從IT基礎設施到上層應用軟件的國產化、自主可控需求強烈。銀行、大型央國企在內部明確限制員工使用ChatGPT用于內部辦公、生產場景，5家銀行在1年內有明確采

4、購國產大模型服務的計劃?？腿禾卣鳎阂匝雵蟮燃瘓F型企業為主的客群，集團層面要進行大模型能力建設，有明確購買/自研通用大模型的需求。本地部署：從數據安全角度出發，銀行、大型央國企如果將大模型用于生產，必須要進行本地部署。根據愛分析調研，除了部分企業基于開源自研之外，絕大部分國內企業用戶和應用廠商，都在等國產大模型的商業化落地，這是國產大模型最核心的驅動力。本地部署國產化國產化服務支持本地部署市場成熟度、監管要求、數據安全等因素推動行業/領域大模型發展監管要求：C端應用短期不會放開，更多應用場景在B端。數據安全：大型甲方企業數據安全考慮，特定場景的SFT數據獲取存在一定難度。FT數據量不大，但需要

5、有很深的行業know-how，獲取難度不低。通用大模型優先訓練通用場景FT數據，特定場景積累需要時間。市場成熟度：很多甲方企業在23-24年有明確上線大模型需求，當前國產通用大模型能力不足。服務支持：中國企業客戶需要端到端服務，傾向于采購行業大模型+業務應用，幾乎不可能直接采購通用大模型，需要有很強的區域服務支持能力。監管要求市場成熟度數據安全服務支持大模型能力建設和應用場景探索是當前企業用戶落地大模型的主要路徑基礎設施建設芯片（算力）大模型訓練模型選型模型訓練與微調大模型應用模型壓縮大模型與小模型結合集團企業重點是大模型能力建設，一般企業/部門重點是應用場景探索。大模型能力建設分成三個層面：

6、基礎設施建設、大模型訓練和大模型應用，當前以基礎設施建設和大模型訓練為主。綜合成本和安全性考慮，智算中心會成為解決算力問題的重要方式自建集群成本高AI團隊要求高安全性高云服務租用性價比高安全性差智算中心成本低于云服務安全性強安全性投入產出比智算中心云服務租用自建集群當前以SFT為主，未來預訓練會成為主流SFT預訓練投入算力成本低算力成本高團隊需要具備模型訓練經驗數據集SFT精標數據SFT精標數據大量無標注數據集模型能力受限于模型本身能力能力增強，但可能出現災難性遺忘安全性受限于模型自身數據集，只能盡可能彌補安全問題很大程度上解決安全性問題未來發展遷移成本低受限于基礎大模型，遷移成本高SFT試錯

7、成本低，成為多數企業的選擇。未來隨著基礎/通用模型成熟和算力持續降低，模型預訓練成為主流方式。當前以小模型為主，模型級聯是未來主要應用方向分成三種形式，現階段以（1）和（2）為主：1）小模型為主，大模型提升小模型的開發效率；2）大模型與小模型級聯，小模型連接應用，大模型增強小模型能力；3）大模型與小模型融合以小模型為主大模型提升小模型訓練效率降低數據標注成本大模型與小模型級聯安全性、性價比、準確度大模型提升小模型的理解和生成能力大模型與小模型融合當前主要探索方向20企業用戶對大模型的預期大模型在行業落地進展大模型在企業落地方式大模型在企業用戶落地進展多數企業認為大模型將帶來變革性價值，但應用場

8、景尚需挖掘調研行業分布72%28%關注不關注15%85%高層部門中層在金融、消費品零售、能源、汽車等重點行業，對大模型現狀進行了摸排調研是否關注需求及來源能源、金融、消費品零售、汽車等行業最為關注大模型大型央企等控股集團從高層推動，其他企業多從IT等部門自下而上推動45%39%16%0%觀望學習探索可研試點應用全面應用43%40%12%5%變革性高中低當前階段預期業務價值大模型上線應用以內部生產力工具為主，對客應用囿于監管和大模型技術成熟度，尚需時日大多數企業對大模型預期業務價值抱有高期待1%1%1%1%3%4%4%6%7%9%16%43%咨詢化工交通地產媒體信息技術央國企制造汽車能源消費品零

9、售金融附錄：預期業務價值釋義高預期業務價值由高向低創造新的業務模式，并實現新的業務收入來源在既有業務模式下，業務價值得以顯著增強或業務流程得以重塑，從而明顯增加收入或者降低成本在既有業務模式下，業務流程有所改善，并帶來收入增長或成本下降用戶體驗改善等業務微調，難以與收入增長或成本下降直接關聯變革性中低大模型可分為生成和決策兩類應用場景，決策場景預期業務價值更高生成場景決策場景通過數據分析建模，由系統直接給出能達成預期業務目標的行動方案典型場景：智能決策系統通過數據分析發現業務現象背后的原因，實現業務可診斷典型場景：數據分析通過數據采集和展示，描述業務正在發生什么，實現業務可視化典型場景：數據大

10、屏通過數據分析，判斷業務未來會可能會發生什么，實現業務結果可預測典型場景：機器學習平臺輔助決策智能決策通過自然語言與用戶進行交互典型場景：聊天機器人在特定領域，通過對大量的非結構化數據總結，為用戶提供專業意見典型場景：智能客服生成用戶需要的文字、圖片、音頻、視頻、3D模型等典型場景：AI繪畫對已有代碼檢查、修正，或根據要求生成代碼典型場景：代碼生成通過對話，調用內外部數據，滿足用戶目標，短期內難實現典型場景：Auto-GPT虛擬專家內容生成代碼開發智能體指導診斷描述預測對話式交互基于大模型構建的AI原生應用，有望創造變革性價值預期業務價值高或中在既有業務模式下，增強或改善業務流程，帶來收入增長

11、或者成本下降預期業務價值變革性基于大模型，創造全新業務模式，并實現新的業務收入來源。只有大模型才具備涌現能力、泛化能力，從而跳脫出在系統中的模塊局限。小模型時代，系統中只有部分模塊為AI替代。AI應用場景切割的很細，工行1,000+場景、3,000+模型。大模型時代，整體系統具備AI能力，創造全新業務。能源、銀行兩大行業，大模型落地進展最快所處階段觀望學習探索可研試點應用全面上線場景豐富度高中低制造智能問答研發設計輔助主機廠自動駕駛智能座艙消費品零售智能客服千人千面文案營銷圖片生成導購賦能媒體摘要生成寫作助手智能問答銀行智能問答智能客服數字營業廳貸后報告生成沉睡客戶喚醒金融產品推薦證券智能投顧

12、智能投研智能客服智能風控審計助手智能營銷藥企藥物研發能源智能客服設備運檢知識助手檢修文檔生成電力系統仿真平臺電力負荷預測出海智能客服能源企業生成類場景落地速度快，高價值應用聚焦決策類場景主流采納時間1年內實現1-3年實現3年以上實現生成類大模型帶來的場景價值變化決策類原生應用注：主流采納時間，指被行業內企業用戶主流采納應用的時間。場景價值變革性高中低設備故障維修資金歸集設備預測性維護電力負荷預測新能源規劃設計電力系統仿真平臺設備運檢知識助手智能客服/虛擬營業廳檢修文檔生成大模型基于設備日志等運行信息進行故障定位，有望成為首個中價值場景設備運檢知識助手場景價值案例對比 過去：基于NLP技術構建結

13、構化知識庫 現在：利用大模型構建運檢助手 預期：效率改善 實際：提取效率和效果、交互方式有優化智能客服/虛擬營業廳場景價值案例對比 過去：基于Bert模型的智能客服 現在：利用大模型改善智能客服的用戶體驗 預期：用戶體驗改善 實際：意圖理解更準確、語言更擬人化檢修文檔生成場景價值案例對比 過去：模板式文檔填寫 現在：利用大模型快速自動生成文檔 預期：效率提升 實際：尚未實現，未知設備故障維修場景價值案例對比 過去：傳統故障檢修方法難度大、耗時耗力 現在：大模型快速定位故障原因，提供檢修建議和方案 預期：故障快速定位與修復 實際：尚未實現，未知預測類決策場景是未來高價值場景新能源規劃設計場景價值

14、案例對比 過去：新能源供電不穩定，分配不同類型新能源電站強依賴專家經驗 現在：利用大模型規劃電站建設最優解 預期：提高供給側規劃準確率 實際：尚未實現，未知設備預測性維護場景價值案例對比 過去：AI算法故障預測能力弱 現在：大模型可以提取潛在故障特征，實現對電力設備故障預測 預期：提高設備故障預測準確率 實際：尚未實現，未知電力系統仿真平臺場景價值案例對比 過去：MATLAB等電力仿真工具 現在：利用大模型自動實現仿真樣本補充和樣本分布改造 預期：豐富仿真樣本庫 實際：尚未實現，未知電力負荷預測場景價值案例對比 過去：負荷預測考慮實時影響因素少 現在：納入更多影響因素實時預測負荷 預期：提高預

15、測準確率 實際：尚未實現，未知銀行重視大模型在營銷、風控、運營三個方向應用價值主流采納時間1年內實現1-3年實現3年以上實現生成類大模型帶來的場景價值變化決策類原生應用注：主流采納時間，指被行業內企業用戶主流采納應用的時間。場景價值變革性高中低沉睡客戶喚醒金融產品推薦營銷圖片自動生成個性化資產配置申請/交易反欺詐智能問答助手智能客服貸后報告撰寫數字營業廳智能客服場景價值案例對比 過去：智能陪練題庫少，缺少針對性 現在：基于大模型生產個性化題庫 預期：改善培訓效果 實際：測試中，預期可以縮短培訓周期營銷圖片自動生成場景價值案例對比 過去：設計師在素材庫中選取并設計，耗時天級別 現在：Midjou

16、rney自動生成 預期：降低成本 實際：版權成本以及人力成本下降銀行積極探索智能客服場景，強監管環境下尚難以實現面客業務沉睡客戶喚醒場景價值案例對比 過去：沉睡客戶分組、喚醒渠道、文案撰寫、喚醒時間等一系列人工策略 現在：利用大模型自動生成策略 預期：端到端策略改善喚醒效果 實際：尚未實現，未知數字營業廳場景價值案例對比 過去：3D營業廳以功能展示為主 現在：大模型支持的數字人幫助客戶辦理業務、推薦產品完成交易 預期：獨立于APP之外的新渠道 實際：尚未實現，未知品牌商AI原生應用多點開花，虛擬導購寄予厚望變革性高中低1年內實現1-3年實現3年以上實現千人千面文案場景價值主流采納時間CDP渠道

17、數字化智能客服營銷圖片生成全渠道一盤貨智慧門店導購賦能實時價格優化MA智能商品運營虛擬導購代碼生成生成類大模型帶來的場景價值變化決策類原生應用注：主流采納時間，指被行業內企業用戶主流采納應用的時間。大模型的降本價值在營銷圖片生成場景顯著千人千面文案場景價值案例對比 過去：千篇一律的模板式郵件文案 現在：出海企業可基于不同用戶生成個性化郵件文案 預期：改善客訴率，降低拒付率 實際：客訴率難改善，拒付率下降約1場景價值案例對比 過去：基于一組標簽的用戶組撰寫營銷文案 現在：基于每個用戶生產個性化營銷文案 預期：提高銷售轉化率 實際：客戶體驗改善，銷售轉化率無變化營銷圖片生成場景價值案例對比 過去：

18、品牌商外采采購營銷圖片 現在：基于大模型自動生成營銷圖片 預期：降低成本 實際：降低面向供應商的采購成本智能客服場景價值案例對比 過去：基于Bert的NLP智能客服 現在：基于通用大模型，客服機器人的交互能力、推理能力更強 預期：提升一次接通成功解決率 實際：測試場景表現強，無訓練成本大模型長期將對虛擬導購、代碼生成場景帶來變革性價值虛擬導購場景價值案例對比 過去：傳統貨架式電商、直播電商 現在：對話式電商，實現商品推薦、選擇、下單等購物全流程 預期：收入增長 實際：未知，取決于消費者接受度、用戶體驗等場景價值案例對比 過去：直播電商以真人帶貨為主 現在：基于大模型的新一代數字人虛擬導購 預期

19、：收入增長 實際：未知，取決于消費者接受度、用戶體驗等代碼生成場景價值案例對比 過去：Kite等上一代AI代碼補全工具 現在：GitHub Copilot可補全代碼 預期：提高撰寫代碼效率 實際：測試場景，代碼量10%左右可自動補全場景價值案例對比 過去：Gerrit等代碼評審工具 現在：基于大模型可低成本評審全量代碼 預期：保證代碼規范性 實際：全量代碼規范性審核車企大模型車機端應用預期高，智能座艙優先投入變革性高中低1年內實現1-3年實現3年以上實現千人千面文案場景價值主流采納時間智能客服營銷圖片生成智能座艙導購賦能自動駕駛生成類大模型帶來的場景價值變化決策類原生應用注：主流采納時間，指被

20、行業內企業用戶主流采納應用的時間。大模型在自動駕駛中尚處于輔助角色智能座艙場景價值案例對比 過去：人車互動限于特定娛樂、駕駛場景 現在：人車互動場景擴展至開放域 預期：改善體驗，基于互動產生新收入 實際：新收入來源尚未實現自動駕駛場景價值案例對比 過去：人工標注數據覆蓋 現在：大模型自動完成標準 預期：降低成本 實際：數據標注外包成本下降場景價值案例對比 過去：仿真庫基于歷史數據持續積累 現在：大模型自動生成仿真場景，覆蓋Corner Case 預期：低成本豐富仿真庫 實際：測試進程中，尚未落地藥物研發依然藥企場景中的皇冠明珠生成類大模型帶來的場景價值變化決策類原生應用注：主流采納時間，指被行

21、業內企業用戶主流采納應用的時間。變革性高中低1年內實現1-3年實現3年以上實現場景價值主流采納時間臨床應用規劃及推薦AI藥物研發臨床試驗文檔管理虛擬醫生AI藥物研發場景價值案例 基于大模型進行靶點發現、藥物分子篩選、藥物分子優化等，預測藥物與靶點蛋白的相互作用 預期：提高研發效率，降低研發成本 實際：尚未實現，未知虛擬醫生場景價值案例 過去：虛擬醫生做簡單導診 現在：大模型基于病例給予診療建議 預期：輔助不發達地區醫生診療 實際：尚未實現，未知大模型對藥物研發帶來跨越式價值提升，商業化落地仍需時間臨床試驗文檔管理場景價值案例 過去：人工撰寫eTMF 現在：利用大模型自動生成臨床試驗文檔 預期：

22、提升效率 實際：尚未實現，未知臨床應用規劃及推薦場景價值案例 過去：基于人工經驗進行規劃 現在：基于大模型生成藥物臨床試驗設計思路、統計方法等 預期：輔助專家提高效率 實際：尚未實現，未知大模型在企業內部落地形式，當前以直接調用通用大模型能力為主通用大模型中間層Prompt+思維鏈指令微調（SFT）應用層SaaS應用/傳統軟件工具+服務團隊行業大模型中間層Prompt+思維鏈指令微調（SFT）應用層SaaS應用/傳統軟件工具+服務團隊基礎大模型行業/企業知識庫目前在企業內部有兩種落地方式：1）直接調用通用大模型的能力；2）用行業數據集訓練基礎大模型，形成行業大模型。如何決定落地場景、測試性能、

23、本地化部署均是重要關切問題AI/大模型應用場景梳理場景落地順序規劃首批測試場景的大模型性能測試API調取/本地化部署決策提示詞工程（預處理）大模型與小模型結合應用測試與上線關切問題1：如何決定場景落地順序？關切問題2：如何進行性能測試？關切問題3：本地化部署大模型如何選型？性能合規性價Vicuna-13B性能合規性價BloomZ-7B性能合規性價GLM-6B企業內部業務與IT加速融合，加快數字化落地進展企業數字化建設更加敏捷高效IT部門分化成兩個部分：1）深入業務的ITBP；2）更新維護大模型等基礎設施業務部門1IT部門IT開發團隊ITBP1大模型+零代碼平臺產品經理/項目經理業務部門2業務部

24、門3業務部門1業務部門2業務部門3ITBP2ITBP3IT部門30大模型對科技廠商的價值大模型在數據分析、營銷、辦公的落地進展及案例大模型在科技廠商的落地進展大模型對于科技廠商有三方面價值提升內部生產力增強產品能力重塑產品和商業模式n 研發：代碼生成，數據標注n 營銷：營銷內容生成n 交付：代碼生成n 培訓：知識庫問答n 優化產品功能和易用性，提升客戶體驗和滿意度n 自然語言交互降低用戶門檻，拓展用戶群體n 開發新功能，拓展能力邊界和客群n 發掘大模型原生應用場景需求，開發全新產品n 基于新產品，實現按調用量收費等新商業模式大模型能力當前普遍處于前兩個階段，更大價值預期在大模型原生應用當前進展

25、潛在價值RPABI知識管理低代碼機器學習大模型生成能力對于提升科技廠商內部生產力價值明確：圖片、文本等營銷內容生成，代碼生成，數據標注與數據合成。大模型增強產品能力有初步進展：1）Copilot 類應用成為“標配”：利用大模型對話、生成等能力的 AI 助手，降低用戶使用門檻，提升產品易用性；2）增強小模型效果：AI 廠商（如智能客服、知識管理）借助大模型在文本等任務中的優異表現，增強產品能力；3）開發新應用：AIGC 廠商（如數字辦公）利用自研或外部大模型能力，開發新的 AIGC 應用。新商業模式處于探索階段，預期在大模型原生應用1）現有產品能力增強不足以產生新訂單和提升客單價，需要開發大模型

26、原生應用產品；2）AI 對服務效果和效率提升預期顯著的應用（客服、營銷等），未來有機會產生新的商業化收入；3）能夠幫助企業節省算力投入的AI基礎軟件，未來有機會產生新的商業模式。營銷客服AIGC辦公HRIT運維BI：對話式交互促進數據分析平民化，智能洞察將進一步提升價值通用大模型自然語言交互業務用戶SQL 生成BI平臺行業大模型Prompt+思維鏈指令微調+模型蒸餾當前進展應用場景：對話式交互：傳統 NLP to SQL 準確性不足，大模型增強后，增加對常識的理解，避免顯而易見的答非所問，提升了用戶意圖識別準確性。預期價值：顯著增強對話式交互能力，降低 BI 使用門檻，促進數據分析平民化，增加

27、用戶數量。實際價值：功能可實現，但企業用戶額外付費意愿較低。潛在價值智能洞察：利用大模型的理解和生成能力，輔助業務人員，對查詢的數據進行分析并生成業務洞察，提升數據分析能力和效率。報告生成用戶數據源低代碼平臺：智能開發助手進一步提升效率，應用生成實現周期長通用大模型智能開發助手Prompt+思維鏈自然語言交互業務人員API 調用低代碼平臺拖拉拽/編寫代碼專業/半專業開發者數據模型生成表單生成腳本代碼生成自動化配置提示內容生成組件當前進展應用場景：智能開發助手：基于大模型的生成能力，在使用開發過程中提供自動生成數據模型、表單、腳本代碼，以及基于對用戶意圖的理解自動推薦配置等能力。預期價值：提升專

28、業開發者的開發效率。進一步降低門檻，普通業務用戶無需培訓即可使用低代碼搭建簡單應用。實際價值：可實現部分功能，企業用戶額外付費意愿較低。潛在價值應用生成：利用大模型的理解和生成能力，理解復雜應用開發需求文檔，調用低代碼平臺組件化能力直接生成復雜系統。當前大模型的尚不滿足所需推理能力，實現周期較長。營銷：內容生成顯著降低服務成本，千人千面效果有待提升企業知識庫（商品、素材）市場人員提示詞Prompt通用大模型理解查詢反饋生成內容用戶用戶A用戶B用戶C用戶D品牌商素材A素材B素材C素材D當前進展應用場景：營銷內容生成：傳統模式下需要設計師根據客戶需求在素材庫中搜索素材，并進行設計?；诖竽Ｐ臀纳鷪D

29、能力，可以根據需求描述查詢所需素材并自動生成不同風格的營銷內容。預期價值：降低服務成本。實際價值：顯著降低設計師人天服務成本，提升產能。潛在價值面向消費者的個性化營銷內容，傳統方式是基于一組標簽的用戶群創作文案、圖片等營銷內容?；诖竽Ｐ偷睦斫夂蜕赡芰洼^低的成本，未來可以實現基于每個用戶生產個性化的營銷內容，提升銷售轉化率。當前落地來看，效果提升尚不明顯，需要進一步優化?？头捍竽Ｐ驮鰪娊换ツ芰?，未來有望重塑客服產品形態當前進展應用場景：交互能力增強：相比基于傳統 NLP 技術的智能客服，基于 GPT 類大模型的客服機器人的交互能力和推理能力更強，回答更精準、更詳細。預期價值：提升一次接通

30、成功解決率等指標，提升客戶體驗。實際價值：測試表現優于傳統智能客服，且無需訓練成本，但出于合規考量尚不能開放對客服務。潛在價值完全基于大模型能力的新一代智能客服產品。傳統 NLP 技術大模型人工知識構建企業知識庫對話交互對話交互問答問答用戶用戶訓練導入通用大模型中間層 Copilot/助手Prompt+思維鏈自然語言交互API 調用用戶文檔會議IM自動執行自動調度辦公：生成能力賦能辦公全流程，革新交互體驗輔助內容創作會議紀要生成會話摘要生成問答機器人自動待辦日程當前進展應用場景：基于大模型更強的生成能力，提供一系列內容生成功能組件?；谧匀徽Z言交互的辦公自動化與工作流集成，根據辦公流程自動調度

31、各類應用。預期價值：提升用戶內容創作類工作的產能與質量。提升用戶辦公效率。實際價值：預覽版功能體驗良好，但普遍尚未開放給所有用戶使用，海量用戶開放使用將帶來較大成本開銷。海外市場大模型原生應用案例：對話式電商CDP+MALLMWhatsApp個性化營銷內容導購收銀智能客服OpenAI GPT 3.5自然語言交互理解對話生成數據+業務邏輯 應用：基于大模型對話式交互能力的零售新渠道，營銷互動、導購收銀、客服一站式服務。解決方案：底層調用大語言模型實現對話理解和生成，并與 CDP 和 MA 系統對接，實現與用戶數據和業務邏輯的打通，前端交互基于社交平臺。商業模式：基礎模塊訂閱費用+按交互對話輪次計費，ARPU 數萬美元（對應數萬會員量）。碼上關注，獲取更多信息聯 系 我 們 Contact Us135 2162 李喆：158 1093 張揚：Jul 2023專 注 數 字 化