《選型寶：2024中國企業AI大模型落地應用現狀調研報告（32頁）.pdf》由會員分享，可在線閱讀，更多相關《選型寶：2024中國企業AI大模型落地應用現狀調研報告（32頁）.pdf（32頁珍藏版）》請在三個皮匠報告上搜索。

1、2024中國企業AI大模型應用現狀2024年4-7月，選型寶聯合亞馬遜云科技發起了“2024中國企業AI大模型應用現狀調查”期待這份140+CIO參與的調研報告，對于探索中的您有所啟發！AI大模型是真正的生產力革命，還是曇花一現的資本泡沫？已經落地AI大模型的企業，是否感受到清晰的業務價值？大模型的落地場景，有怎樣的共性特征？AI大模型落地過程中，探索者正在經歷怎樣的挑戰？2024年8月調研報告01 調研簡介02 樣本概況03 總體判斷04 落地場景05 落地路徑06 落地挑戰07 投入計劃目 錄CONTENTS01.調研簡介2024年，AI大模型掀起的技術革命愈演愈烈！或許是擔心錯過下一個浪

2、潮，全球范圍內，各行業頭部企業紛紛開啟了AI大模型的落地探索之旅。與此同時，業界也有一些不同聲音，由于AI大模型在生成內容時依然存在”幻覺“等問題，因此擔心AI大模型無法提供準確輸出，從而無法在企業市場創造價值。是真正的生產力革命，還是曇花一現的資本泡沫？已經落地AI大模型的企業，是否感受到清晰的業務價值？大模型的落地場景和創造價值的邏輯，有怎樣的共性特征？AI大模型落地過程中，探索者正在經歷怎樣的挑戰？帶著這些問題，2024年4月，選型寶與亞馬遜云科技聯合發起了“2024中國企業大模型應用現狀調查”，過去3個月，我們共發放問卷超過10000份，回收141份有效問卷。經過1個月的數據處理，現在

3、，我們把這份調研報告呈現給業界。期待這份調研報告，對于探索中的您有所啟發！調研背景結論1：AI大模型落地總體上仍處在探索孵化階段，滲透率不足1%，這些企業是市場的“嘗鮮者”。結論2：已部署AI大模型的用戶中，55%的認為“已看到清晰價值”。結論3：更多真實案例呈現出來，吸引更多“觀望者”入局，成為未來市場破局的關鍵。結論4：CIO往往優先選擇：知識密集+服務對象的重要性高的場景切入。結論5：降本增效、改善體驗、孵化創新是AI大模型創造價值的三種主要模式。結論6：AI大模型依然存在“幻覺”等問題，落地工程的目標，關鍵是解決“價值對齊”的問題。結論7：落地過程中，CIO最關心AI大模型在輸出內容質

4、量、安全、性能等三方面的表現。結論8：CIO認為AI大模型落地，主要挑戰來自于成本、技術、人才、行業方案等方面。結論9：“嘗鮮者”對AI大模型的投入態度是“積極且謹慎”，即愿意投入但控制規模。調研結論02.樣本概況關詞調研用戶行業分布本次調研共收集到有效問卷141份，主要來自9個行業。其中制造、金融、教育、零售、等行業占比較高。這些在數字化建設與轉型上投入積極的行 業，在 A I 大 模 型 的 應 用 上，也 相 對更加關注。制造38人,27.0%軟件24人,17.0%金融服務 17人,12.1%零售電商13人,9.2%教育10人,7.1%汽車7人,5.0%醫療保健5人,3.5%游戲、媒體娛

5、樂6人,4.3%其他 21人,14.9%從行業角度看，調研用戶來自制造、金融、零售等數字化投入積極的行業關詞被調研企業規模分布主要在中大型以上從企業人員規模的視角看，本次參與調研用戶300人以上企業規模占比超三分之二，也具有相當的代表性。其中：300人以上企業 占比66.7%1000人以上的企業 占比38.2%3000人以上規模的企業 占比20.5%10000人以上規模的企業 占比12.1%300人以下 47家，33.3%300-1000人40家，28.4%1000-3000人 25家，17.7%3000-10000人 12家，8.5%10000-50000人 10家，7.1%50000人以上

6、 7家，5%調研用戶企業規模分布公 司職 位姓 名美的集團金融科技總監李明德中石化集團業務主管劉 碩海瀾之家戰略信息中心負責人華 挺五礦發展戰略投資部部長賀宗春海通期貨股份有限公司IT技術經理汪盛強華藥集團信息中心主任蘇國良哈藥集團股份有限公司信息技術部門經理滕青蔓人民銀行安慶市分行開發人員/工程師程聶松上海人壽客戶聯絡中心負責人唐霄欽北京燕莎友誼商城CIO馬愛杰光大永明數據分析趙文坤德華安顧人壽保險有限公司IT技術經理曹國明珠江投資控股集團IT技術經理李 生施耐德（北京）中壓電器有限公司項目管理Tony特別鳴謝：部分參與調研的用戶名單03.總體判斷回收問卷量：141份回收問卷率：1.4%已部

7、署49家,34.8%未部署92家,65.2%發放問卷10000份，僅回收問卷141份 說明：參與調研的141家企業中已部署大模型的企業49家，占比34.8%未部署AI大模型的企業92家，占比65.2%參與調研的141家企業中，35%已部署AI大模型應用階段：AI大模型落地總體上仍處在探索孵化階段，滲透率不足1%參 考 美 國 著 名 學 者 埃 弗 雷特羅杰斯編撰的創新的擴散 一 書 中 對 創 新 階 段 的 界定，我們可以看出當前 AI大模 型 落 地 總 體 處 在 早 期 市場探索孵化階段。應用階段：AI大模型落地總體上仍處在探索孵化階段，滲透率不足1%49家已部署AI大模型的企業中5

8、5.1%認為已看到清晰價值 已看到清晰業務價值27家,55.1%還在探索22家,44.9%已看到清晰 的業務價值18家,51%還在探索17家,49%35家已部署AI大模型的傳統行業企業中51%認為已看到清晰價值 排除其中的14家軟件企業后解讀：在已經部署AI大模型的49家企業中，有27家認為“已經清晰的業務價值”，占比超過55%，初步說明AI大模型創造的業務價值是真實的、可感知的。這49家中，包含了14家軟件類企業，考慮到他們有可能出于營銷的目的，夸大AI大模型對其產品加持后的效果。研究團隊將這14家軟件公司排除后，進一步分析后，發現35家傳統企業中，有18家認為“已看到清晰的業務價值”，占比

9、達到51%，其他49%的企業表示“還在探索”，因此可以得出“AI大模型已經初步讓企業用戶看到業務價值”的結論。用戶感受：已部署AI大模型的用戶中，55%的認為“已看到清晰價值”有興趣嘗試52家,56.5%等待同行案例，再嘗試 39家,42.4%完全不看好1家,1.1%參與調研但未部署AI大模型的92家企業，他們是否有計劃部署？解讀：在尚未部署AI大模型的92家企業中，有52家認為“有興趣嘗試”，占比超過56.5%；有3 9 家 打 算”等 待 同行案例，再嘗試“，占比達到42.4%?！耙呀洸渴稹钡?9家加上“有興趣嘗試”的52家，這101家企業屬于AI大模型技術的“愛好者”，他們可以在業務價值

10、尚不清晰的情況下，投入部署AI大模型，并開啟探索之路，但是他們占比很低，約1%。更多企業則需要看到同行業企業“有清晰業務價值的案例”，才有可能扣動扳機，因此下階段大模型廠商通過真實案例的方式向用戶展示價值，將是實現市場破局的關鍵。未來市場破局關鍵：更多真實案例呈現出來，吸引觀望者入局04.應用場景您認為,AI大模型落地應該應用在哪些場景下？p 在選擇落地場景時，CIO有怎樣的共性思考邏輯？首先是聚焦在知識密集的場景：營銷內容生成、客服、知識庫等場景，這些場景會沉淀大量知識，同時 也 需 要 通 過 輸 出 知 識 提 供 服 務，更 容 易 發 揮 A I大模型的能力。第二是，按服務對象的重要

11、性排序：例如客戶（營銷及客服）、員工（知識庫）、老板（分析場景）這些用戶需要的場景優先級相對靠前。由此可見，盡管AI大模型落地目前仍處在探索階段，客 戶 對 于 它 帶 來 的 業 務 價 值，是 有 比 較 急 迫 的 期 待的！希望通過AI大模型的落地，快速看到業務價值，而不是簡單的“趕時髦”。1家,0.7%3家,2.1%5家,3.5%6家,4.3%7家,5.0%10家,7.1%16家,11.3%20家,14.2%22家,15.6%25家,17.7%人力招聘風控財務報告撰寫運維銷售場景生產場景，通過圖像識別等提高生產效率分析場景企業知識庫，服務員工客服場景營銷場景生成營銷內容場景選擇：知識

12、密集+服務對象的重要性高，成為CIO優先選擇的落地場景 創 造 價 值 的 方 式創 造 價 值 的 邏 輯場 景 示 例降 本 增 效手 段：把 大 模 型 的 內 容 生 成 能 力+自 然 語 言 交 互 特 征 用 在 企 業 內 部 流程價 值：提 高 員 工 效 率、流 程 自 動 化輔 助 決 策、降 低 用 工 成 本 等降 本：用 A I 大 模 型 的 文 檔 生 成、圖 片 生 成、視 頻 生 成，降 低 用 工 成 本。增 效：（1）建 立 企 業 知 識 庫，并 通 過 智 能 助 手，回 答 員 工 的 各 種 問 題，提 高 效 率；（2）自 動 生 成 會 議

13、紀 要、輔 助 文 檔 處 理、數 據 增 強、代 碼 補 全 等。流 程 自 動 化：通 過 A I A g e n t 的 能 力，基 于 目 標 自 動 拆 解 工 作 任 務，實 現 流 程 的 簡 化、自 動 化 執 行。輔 助 決 策：輔 助 預 測 需 求、優 化 庫 存 策 略；分 析 場 景 下，輔 助 數 據 探 索、讓 業 務 人 員用 自 然 語 言 使 用 B I 工 具 的 能 力 等。改 善 體 驗手 段：把 大 模 型 的 內 容 生 成 能 力+自 然 語 言 交 互 特 征 用 在 企 業 外 部 流程價 值：提 升 客 戶 復 購 率、使 用 頻 度、滿

14、意 度 等 關 鍵 業 務 指 標交 互 革 命：（1)不 間 斷 的 提 供 類 似 人 類 的 自 然 語 言 對 話 能 力；(2)文 字、圖 片、視 頻等 多 豐 富 的 內 容 形 態；（3）覆 蓋 售 前、售 中、售 后 等 多 個 客 戶 服 務 觸 點。個 性 化 服 務：根 據 每 個 客 戶、用 戶、學 生、患 者 的 具 體 情 況，提 供 個 性 化 的 服 務 內 容。虛 擬 陪 伴：在 情 感 支 持、學 習 陪 伴 等 場 景 下，提 升 自 然 語 言 交 互 能 力，優 化 陪 伴 體 驗。孵 化 創 新手 段：打 破 瓶 頸，增 加 供 給價 值：降 低 創

15、 意 門 檻、提 高 創 新 速度，孵 化 創 新教 育 行 業：突 破 教 師 資 源 瓶 頸，通 過 A I 教 學 助 手，在 教 學、練 習、考 試 全 過 程 與 學 生完 成 互 動，更 接 近“因 材 施 教”的 教 育 目 標。電 商、營 銷 場 景：通 過 大 模 型 文 生 圖、文 生 視 頻 的 能 力，極 大 的 降 低 了 創 新 的 門 檻，豐 富 了 內 容 供 給，普 通 人 也 可 以 通 過 A I，把 創 意 變 成 內 容。醫 藥 行 業：通 過 生 成 式 A I，可 以 極 大 的 提 高 藥 物 分 子 篩 選 的 效 率，提 升 藥 物 創 新

16、的 可能 性。選型寶把AI大模型創造價值的模式，總結三種方式：降本增效、改善體驗、孵化創新AI大模型落地業務場景后，創造價值有哪幾種共性模式？05.落地路徑AI大模型的落地路徑1.AI大模型生產內容的存在的問題2.AI大模型產生效果的3H原則AI大模型落地的目標3.AI大模型落地路徑 1.幻覺：指大模型的輸出有時缺乏精確性，給出看似深入但實際上是淺顯的答案，甚至“一本正經的胡說八道”。2.專業性不強：大模型預訓練的涉及行業及企業知識不多，因此無法給出專業性的答案，導致”無用“，無法解決企業用戶的問題。3.知識毒性：大模型可能從數據中學習到有害、偏見、歧視性、倫理問題的內容，從而產生”毒性知識“

17、。4.一致性：指大模型在針對相同問題，在不同時間、不同環境下，輸出結果不穩定、不一致。AI大模型生成內容的原理是：基于注意力機制，通過詞與詞的關聯度，基于概率選擇，而非真理解知識。因此大模型生成內容時，可能會存在以下問題：AI大模型在生產內容時，可能會出現那些問題？AI大模型落地的關鍵：是針對大模型生產內容時可能出現的幻覺、專業性不強等問題，采取各種技術手段，對大模型進行“培育”，讓大模型生產的內容，產生業務價值，即實現“價值對齊”。大模型產生效果，應該遵循“3H原則”：3HHelpful:內容有幫助、可用Harmless:內容合規、無害處Honest:內容準確，無幻覺AI大模型產生效果的3H

18、原則培育路徑提示詞工程：通過針對性的設計提示詞，來引導大模型產生特定場景所需的輸出。搜索增強（RAG)：通是指在不改變大模型參數的基礎上，通過外掛企業自身知識庫的方式，把自身數據切片、向量化，為模型提供特定領域的數據信息，實現更準確的信息檢索和生成。模型精調（或微調）：通是指在已經訓練好的大模型的基礎上，通過特定數據集，進一步調整大模型部分參數，將行業知識內化為模型參數，使模型更好的適應業務場景，準確高效的完成特定任務。預訓練：全面調整或者從頭構建大模型，適用于通用大模型缺乏目標任務所缺的相關知識和能力。為了讓大模型輸出的內容產生價值，企業需要對大模型進行適配，一共有4條技術路徑，技術難度從易

19、到難分別為：提示詞工程、搜索增強、精調、預訓練企業“培育”大模型的幾條路徑提示詞工程 Prompt Engineering檢索增強生成RAG模型微調 Fine-tuning預訓練優化思路通過設計提示詞優化大模型輸出通過外掛企業知識庫，優化大模型輸出通過行業知識內化為部分參數，優化大模型輸出全面調整或者從頭構建大模型是否需要調整模型參數不要不需要需要需要代表技術零樣本提升Zero-shot少樣本提升Few-shot思維鏈提示COT文本嵌入Text Embedding向量數據庫有監督微調SFT低秩調整LORA無監督學習 UL自監督學習 SSL人類反饋強化學習 RLHF技術難度逐漸加大、資源投入逐漸

20、提高、模型能力逐漸提升無論哪種路徑，最終的目的是為了讓AI生產的內容符合“3H”原則，帶來業務價值,企業的選擇邏輯，應該是在達到業務價值的前提下，盡量選擇技術投入小的路徑。企業“培育”大模型幾條路徑的比較06.落地挑戰您最關注基于AI大模型在哪些方面的表現?(多選)0人,0.0%72人,51.1%74人,52.5%85人,60.3%97人,68.8%101人,71.6%其他系統的可擴展性和彈性系統的響應速度和并發能力安全合規和數據隱私保護問答和生成內容的相關性檢索的準確性和召回率C I O 們 認 為：大 模 型 落 地 挑 戰，首 先 來 自 大 模 型 自 身表現，體現在以下方面：內 容

21、質 量：大 模 型 產 生 業 務 價 值 的 前 提 是 生 成 高 質量 的 內 容，C I O 們 最 關 注 大 模 型 在 檢 索 準 確 性 和 召回率、生成和回答內容的相關性。安 全：大 模 型 訓 練 和 推 理 過 程 中，可 能 涉 及 到 企 業數 據 泄 露 的 風 險，C I O 們 比 較 關 注 安 全 合 規 和 隱 私保護的問題。性 能：C I O 們 關 心 大 模 型 服 務 的 速 度，包 括 大 模 型的 訓 練 速 度，推 理 時 的 響 應 速 度、生 成 速 度 等。此外還關注可擴展性和彈性。1.來自模型自身的挑戰：內容質量、安全、性能 能否達到

22、預期效果？AI大模型的落地挑戰65人,46.1%76人,53.9%77人,54.6%78人,55.3%89人,63.1%91人,64.5%缺乏行業的解決方案AI人才缺乏 模型微調和部署的復雜度高知識庫內容結構化程度 過于復雜訓練數據質量和規模過大 計算資源和成本需求過高CIO認為：大模型落地挑戰，其次來自資源和能力，體現在以下方面：成本：用戶擔心大模型訓練和推理過程中，可能對計算資源需求較高，因此會帶來較高的成本。技術:用戶認為大模型落地中，數據訓練量較大、模型微調和部署的復雜度較高，知識庫建設過程過于復雜。人才：用戶認為AI人才的缺乏，會給AI大模型落地帶來挑戰。行業方案：用戶認為市場上缺少

23、針對行業的整體或者局部的解決方案，自己探索挑戰頗大。AI大模型的落地挑戰2.來自資源和能力的挑戰：成本、技術、人才、行業方案AI大模型落地中，您面臨那些資源挑戰?(多選)2人,1.4%41人,29.1%73人,51.8%92人,65.2%92人,65.2%97人,68.8%其他員工培訓和變更管理系統部署運維和體驗優化咨詢規劃和架構設計知識庫內容治理與準備大模型訓練和系統開發用戶最需要外部支持：解決落地中的各種技術工程挑戰 大模型的訓練和系統開發 知識庫的治理和準備 咨詢規劃和架構設計 系統部署運維和體驗優化用戶最需要的外部支持：大模型的訓練與開發、知識庫的建設等在推動AI大模型落地應用的過程中

24、，您認為最需要哪些外部支持?(多選)07.投入計劃貴司計劃在什么時間內，構建或升級AI大模型知識庫系統？3個月以內 15家,10.6%3-6個月23家,16.3%6-12個月 37家,26.2%12個月以上 19家,13.5%暫無計劃 47家,33.3%被調研企業普遍是中國各行業的領導者，他們在大模型投入上表現出了更積極的態度：計劃在3個月內投入的 占比 超過 10%計劃在6個月內投入的 占比 達到 26.9%計劃在1年內投入的 占比 達到 53.1%有投入計劃的企業，占比接近70%被調研企業對AI大模型的投入態度是：“積極且謹慎”積極：53.1%的被調研企業，計劃在1年內投入大模型建設5%以

25、下 31家,22.0%5%-10%40家,28.4%10-20%17家,12.1%20%以上11家,7.8%暫無計劃 42家,29.8%被調研企業盡管投入態度積極，但是投入金額普遍謹慎：在IT預算占比中 低于5%的 占22%在IT預算占比中 低于10%的 占50.4%在IT預算占比中 低于20%的 占62.5%如果貴司計劃構建或升級AI大模型,預計投入占IT總預算的比重為?被調研企業的對AI大模型的投入態度是：“積極且謹慎”謹慎：50.4%的被調研企業，計劃投入不高于10%的IT預算08.報告結語如果說2023年是AI大模型元年的話，2024年就是AI大模型企業落地應用的元年。多個行業的頭部企業在沒有看到案例的前提下，紛紛下場，擁抱大模型。然而由于大模型自身仍存在“幻覺”等問題，對于大模型最終是否能創造真實價值，業界仍有不少爭議。好消息是，本次調研結果顯示，55%已部署大模型的企業認為“業務價值明顯”。期待下半年有更多AI大模型落地并的真實案例被報道出來！選型寶將會持續關注這個領域，歡迎關注選型寶公眾號、加入選型寶微信群，獲得更多精彩內容！掃描二維碼關注選型寶公眾號號添加選型寶小秘書加入萬人CIO群號 報告結語