《火山引擎&IDC：2025大模型應用落地白皮書（74頁）.pdf》由會員分享，可在線閱讀，更多相關《火山引擎&IDC：2025大模型應用落地白皮書（74頁）.pdf（74頁珍藏版）》請在三個皮匠報告上搜索。

1、大模型應用落地白皮書企業 轉型行動指南 CONTENTS目錄核心觀點第一章：祛魅務實，大模型加速從探索走向落地1.1 業務驅動，大模型助力效率飛躍，實現融合的體驗創新1.2 百舸爭流，大模型服務商競逐AI浪潮新時代第二章：知易行難，企業落地面臨的挑戰與機遇2.1 大模型落地面臨多重挑戰2.2 領先企業已從大模型成功落地中率先獲益第三章：加快AI轉型，構建全方位的大模型業務落地能力3.1 大模型業務落地能建設三階段3.2 破除落地大模型的思維誤區第四章：頭雁效應，大模型深入眾多應用場景4.1 大模型應用場景不斷擴寬，應用日漸成熟4.2 眾多行業企業深入大模型落地實踐第五章：攻克有徑，跨越大模型落

2、地技術難題5.1 大模型落地部署技術步驟5.2 精準選模、高效落地、持續挖掘落地三要素01020306080913171923252630505155第六章：信賴之選，火山引擎大模型服務助力省心AI轉型6.1 豆包大模型6.2 火山方舟大模型服務平臺6.3 扣子6.4 HiAgent結語及未來展望585961646669核心觀點大模型技術已經邁入與業務深度融合的階段如同云與機器學習、深度學習等AI小模型一樣，當前大模型技術也進入了與業務深度整合的關鍵時期。64%的中國企業預計其對AI的投資將增長10-30%，各企業正基于具體的業務場景，積極探索大模型技術的實際部署與應用潛力，以促進業務發展。大

3、模型在企業落地的周期和應用速度超出預期大模型能夠大幅提升企業生產力、驅動業務創新和增長，是具有突破性和顛覆性的技術。盡管將大模型技術與業務深度結合是一個復雜的專業過程，但在專業技術服務商的持續支持下，企業實現大模型部署的周期已縮短至平均6-12個月，尤其在數字化領先的企業中，這一過程更為迅速。企業正致力于深化業務場景探索，以期釋放大模型落地帶來的價值為了充分利用大模型帶來的商業機遇，企業正不懈探索技術與業務結合的新模式，逐步打造與自身發展戰略相契合的大模型應用實踐，以期通過大模型技術的創新應用為企業帶來更大的商業價值。大模型產品和服務的選擇和技術伙伴能讓企業落地大模型事半功倍超過47%的企業認

4、為，與領先的大模型廠商建立可靠的合作關系是項目成功的關鍵。為提升大模型在企業側的落地效率，企業應根據自身業務需求和發展規劃，重點考慮具備AI大模型全棧開發能力、模型及插件工具豐富、內嵌垂直場景經驗模板的廠商，并選擇可以提供事前、事中、事后全周期咨詢和切實可行實踐方案的服務商通過制定全局周密的策略，并結合個性化的業務實踐經驗，企業將能夠更有效地推動大模型的成功落地，加快AI轉型。01祛魅務實大模型加速從探索走向落地大模型技術已經成為人工智能領域的焦點，驅動了AI應用的升級和創新?；诖笠幠祿念A訓練，讓模型具備了高效處理復雜語言結構、視覺模式以及多模態信息的能力，促使人工智能在認知理解與決策

5、支持方面邁向更高的階段。在產業應用方面，大模型的實施正在改變企業業務開展、產品服務、運營管理的傳統模式，為各行業的智能化升級提供了強有力的支撐。企業端對大模型的應用也已從初步的技術探索與創新嘗試，逐漸步入以實現商業價值為核心的新時代。眾多企業正加快步伐，尋找能夠迅速構建商業閉環、驗證價值的應用場景，期望借助大模型實現運營效率的飛躍、用戶體驗的創新，以及生產力的提升。1.1.1 加碼投資，企業擴大試點加大投入力度，AI大模型的關注度持續攀升。AI大模型在提升流程效率、增強創新能力方面發揮著關鍵作用，并為企業在市場競爭中贏得優勢，例如在個性化營銷內容創作、產品設計創新、用戶體驗優化、員工助手打造以

6、及知識專家系統開發等方面。IDC全球調研數據顯示，37.7%的受訪企業正在重點投資AI大模型，并預計在未來三年內引入AI軟件及相關培訓和服務。此外，64%的中國企業預計其對AI的投資將增長10-30%。這一顯著的投資增長反映了業界對AI大模型巨大潛力的日益認可。拓展試點范圍，企業正積極探索AI的應用潛力。企業在AI大模型的應用上展現出極高的興趣和參與度，他們通過內部研發、聯合創新、跨界合作等多種模式，積極探索AI技術的實際應用場景和潛在爆發力。IDC調研數據顯示，在過去一年里，全球范圍內平均對AI大模型項目進行了34次概念驗證（POC）測試，這一數字遠超其他IT項目，且企業對AI大模型測試的滿

7、意度高達70%。這一數據表明，AI大模型在解決企業需求、優化運營流程、輔助業務拓展方面具有顯著效1.1 業務驅動，大模型助力效率飛躍，實現融合 的體驗創新03果。此外，大多數CXO級別的高管表示，他們將繼續增加對AI大模型的各項投入，以加強企業在AI轉型方面的能力建設。1.1.2 多維價值，堅定企業探索大模型潛力的決心IDC研究認為，大模型技術對于企業價值的貢獻可從對內賦能與對外服務兩大維度進行闡釋。具體而言，該價值可細化為針對企業員工、用戶群體、營業收入及市場拓展四個方面，進而構建出一個全面的“AI大模型價值圖譜”。此圖譜詳細描繪了大模型技術在不同維度上對企業產生的深遠影響和價值增值，包括工

8、作效率提升、業務引導助理、知識數據洞察、用戶體驗創新、生產工具賦能、產品服務升級、管理方式變革、市場營銷決策8大方向。圖1 AI大模型價值圖譜來源：IDC大模型價值研究，2024年對內賦能AI大模型員工用戶營收市場員工用戶營收市場工作效率提升知識數據洞察生產工具賦能管理方式變革對外服務業務引導助理用戶體驗創新產品服務升級市場營銷決策04面向員工：一是利用AI大模型提供的辦公軟件、流程管理軟件、開發設計軟件來提高員工工作效率、縮短重復和復雜工作時間；二是利用企業內部知識、經驗等無形資產和員工培訓、企業規范、服務規則等文本材料，打造具備企業記憶的專屬AI智能體。面向用戶：一是對用戶信息、消費習慣、

9、興趣愛好等信息進行綜合分析，更好地總結、對比、預測用戶數據變化和趨勢；二是提供全新的使用交互體驗，如借助智能客服、數字人等，更好地理解用戶意圖并進行產品推薦。面向營收：一是為設計、編程、制造等工作人員的生產工具賦能，自動生成并創新產品內容，加快產品的迭代周期和創新速度；二是創新產品形式，從產品管理、價值創新、上市計劃、價格管理等方面更好地賦能業務。面向市場：一是主動分析外部市場變化和內部經營數據，進行合規管理、風險預測、潛在效益分析和建模；二是預測整體市場表現、各地區競爭分析、供應商能力和相關風險，幫助制定策略，并自動生成相關宣傳物料。從AI大模型價值圖譜可見，大模型以其強大的能力和廣闊的應用

10、前景，有望深入到眾多領域，釋放出巨大的企業應用空間和潛力。此外，根據IDC針對企業用戶的大模型調研數據可以看出，無論是優化用戶體驗、加速企業決策，減少重復勞動、提升員工生產效率，或是推動產品創新與服務個性化，大部分的受訪企業都普遍對大模型帶來的價值抱有高度期待。這一預期進一步提升了企業將大模型技術轉化為實際應用的動力。企業普遍認為大模型在推動業務增長、構建核心競爭力、提升用戶體驗等方面扮演著關鍵角色。因此，也有越來越多的用戶更加積極地投入到這場技術革命中，深挖其背后的商業潛力。05在企業用戶持續增加的投資和日益增長的業務需求推動下，大模型服務商們紛紛加快步伐，競相推動這一技術從創新突破走向企業

11、應用的實際轉化，致力于將大模型從服務商自身的的探索階段推向企業落地，以滿足各行各業對智能化轉型的迫切需求。這一趨勢不僅促進了大模型技術的快速成熟，也為企業用戶帶來了更加豐富和高效的應用解決方案，助推了大模型落地需求端和大模型技術服務供給端的雙向循環發展。一方面，大模型技術服務在產品服務和技術層面實現了諸多的創新突破。為降低企業的使用門檻，領先的大模型廠商已經成功構建了從零到一的端到端解決方案，極大地減少了重復開發的必要性。企業可以借助這些既有模型和服務，避免“重新造輪子”的投入，從而將更多資源和精力集中在業務創新上，加速智能化轉型的步伐。例如火山引擎持續豐富豆包大模型家族，基于基礎底座大模型最

12、新1.2 百舸爭流，大模型服務商競逐AI浪潮新時代圖2 采用AI大模型給企業帶來的價值數據來源：IDC大模型企業落地進展調研，N=100，2024年8月優化用戶體驗加速企業決策，減少重復勞動提升員工效率工作流整合，方便使用多個程序創新產品形式/業務價值為員工創造定制化提升優化員工工作體驗57%53%46%34%32%29%14%0.0%10.0%20.0%30.0%40.0%50.0%60.0%06發布視頻生成、文生圖、圖生圖、語音合成、聲音復刻、音樂、同聲傳譯等更貼合實際場景的模型，將模型能力進一步專業細化。此外，為加速企業搭建內部智能體的進度，火山引擎還打造了HiAgent一個企業專屬的A

13、I創新應用平臺；它允許業務人員利用提示詞、知識庫、插件等工具，以低代碼方式實現AI落地，集成內部數據，降低AI開發的難度、積累AI中臺的厚度。另一方面，大模型技術服務商也在不斷地進行能力全面升級，深度服務業務場景。為了幫助企業更有效地落地大模型技術，技術服務商們不遺余力地采用了多種手段來升級自身的服務能力，深入挖掘各種契合企業業務場景的需求。除了持續的技術研發、優化算法、提升數據處理能力之外，他們還積極加強對行業知識的積累，確保為企業提供能落地、高效率的解決方案。一些大模型技術服務商還通過構建行業大模型落地聯盟、提供專業咨詢和培訓服務、加強落地場景探索等，全方位地提升自身在幫助企業應用大模型過

14、程中的專業性和實用性，從而確保AI大模型能夠真正融入企業的核心業務，發揮出最大的價值。如：火山引擎圍繞行業需求場景，構建大模型應用生態，連續成立汽車大模型生態聯盟、智能終端大模型聯盟、零售大模型生態聯盟，聯合業界頭部企業、技術廠商和合作伙伴，幫助企業能夠以極低的試錯成本將大模型技術應用落地到業務場景，共同探索AI驅動未來發展，提升運營和開發效率，全面創新用戶體驗。07知易行難企業落地面臨的挑戰與機遇挑戰1：高成本、復雜投入下的投資收益挑戰IDC調研顯示，算力成本、隱形的機會成本、投資回報的長周期以及不足的人才儲備是企業落地大模型遇到的第一道難題，具體包括：算力成本：算力資源的消耗是當下阻礙AI

15、大模型落地的最主要因素，這一成本對不少企業的財務狀況構成了較大的壓力。調研數據顯示，92%的企業認為在大模型工程化落地階段，缺少算力資源是最大的挑戰；細分來看，89%的高管認為模型訓練成本高，81%的高管認為模型推理成本高。對比而言，模型的調優成本已經相對低價，僅有35%的企業認為模型調優（Fine-tun-ing/Prompt）成本高。這些成本無疑是企業財務投入的重要考量點，使得企業在做出是否引入大模型的相關決策時顯得猶豫不決，不得不權衡預算和投資回報之間的比重。在評估大模型的商業潛力時，企業和技術服務商都普遍持樂觀態度，并認識到這一技術有望開啟新的商業機遇。然而，將大模型的潛力轉化為實際業

16、務效益的過程，無疑充滿了諸多挑戰。在此次革命性的大模型轉型旅程中，企業不僅要擁抱創新帶來的效率和效能提升，還需精心應對成本控制、人才短缺、技術復雜性以及信息安全等一系列考驗。2.1 大模型落地面臨多重挑戰圖3 算力資源是企業落地大模型最大的挑戰數據來源：IDC大模型企業落地進展調研，N=100，2024年8月缺少算力資源模型訓練成本高模型推理成本高92.0%89.0%81.0%09選擇錯誤下的機會成本：機會成本，雖然并非直接的經濟支出，但它同樣是企業在是否引入大模型決策時不可忽視的成本之一。它代表了企業為了選擇某一方案而放棄的、可能是更佳替代方案的價值。尤其在瞬息萬變的市場環境中，企業抓住機遇

17、的時間窗口極為有限；一旦錯失或在大模型初始的選擇時對其性能、適配度、應用能力等方面欠考慮，企業可能面臨巨大的機會成本，甚至可能要承受數倍的額外負擔，如后期不得不進行的模型切換、基礎設施的改造升級等。實際與預期回報仍有差距：根據IDC的調研，雖然企業對AI大模型項目抱有極高的期望，普遍期待能夠實現1-3倍的投資回報率（ROI），但現實情況卻與這些美好愿景有所偏差。目前，大多數企業觀察到的投資回報實際上低于50%，這一數據與其對大模型的高度關注和前期投資預期形成了較大的落差。面對這樣的現狀，企業在投入AI大模型項目時，普遍較為審慎，且在內部投資決策時受到較大的阻力。多方面人才積累不足：目前多數企業

18、在AI人才方面的儲備尚顯不足。企業落地大模型不僅亟需專業的大模型開發人才，還需要具備算法優化、數據處理、計算能力、測試驗證等技能的實用型人才。由于AI大模型的全方位開發人才難以在短期內迅速積累，企業在探索和實施大模型應用的過程中，內部人才不足，而外部招聘難覓懂自身業務又了解大模型落地的專業人才，使得落地受阻。挑戰2：模型選配難題精準匹配難，適配挑戰加劇 部分場景下模型效果接受度低：87%的企業認為模型精度還不能滿足落地要求，無法衡量具體效果；具體表現在涉及用戶信息、面向生產和決策的任務中，對模型的邏輯推理、任務執行要求更高，而當前大模型的泛化性使得企業在模型優化上面臨更大的挑戰。10大模型選型

19、困難：在模型的選擇方面，IDC調研顯示，62%的企業認為市場上模型選擇太多，缺乏選擇的標準和評判依據。企業通常參考模型準確率排行榜、社區口碑推薦來選擇模型，并自行搭建內部業務數據測試集來簡單評測效果，而這一過程又缺少完整、科學、豐富的評估體系和標準。通用模型能力與專業需求不匹配：IDC調研顯示，50%的企業認為模型能力與業務需求不匹配，原因是通用大模型無法滿足專有場景的需求。模型上線性能難以保證：正式上線后的服務響應時間、穩定性、并發數、高吞吐、可擴展性往往不可預測，而這些正是企業最關心的問題。挑戰3：模型部署落地：細節挑戰遍布，每一步都是考驗效果調優路徑多、執行難：59%的企業認為模型調優（

20、Prompt Engineer-ing/Fine-tuning）是大模型開發中投入最多且挑戰更大的工作之一。由于模型優化方式、路徑、調整程度選擇多樣且企業缺少足夠經驗和技術支撐，導致該過程復雜且耗時，使得經驗欠缺的企業在執行過程中面臨眾多困難。分裂的開發環節造成事倍功半：企業在實施大模型的落地過程中，涉及從開發到部署的多個復雜步驟，包括但不限于二次訓練、數據管理、參數優化、圖4 公司落地大模型面臨的挑戰-模型層數據來源：IDC大模型企業落地進展調研，N=100，2024年8月模型精度還不能滿足落地要求，不能衡量效果市場上模型太多，沒有選擇標準和評判依據模型能力與業務需求不匹配模型調優和推理部署

21、復雜，缺少高效工具87%62%50%39%0.0%10.0%20.0%30.0%40.0%50.0%60.0%70.0%80.0%90.0%11效果精細調整、Prompt工程、RAG（檢索增強生成）、生態插件集成、模型性能評估、模型剪枝與蒸餾、模型維護管理以及算力資源調度等十余個關鍵環節，每個環節都涵蓋了眾多細致的工程化任務，對技術團隊和開發人員來說是一項復雜而繁瑣的挑戰。沒有穩定的數據底座則無法發揮最大價值：在推進大模型應用的過程中，數據的作用至關重要。多模態數據的實時采集、處理、分析，以及確保數據的質量、安全和有效管理，是企業在實施大模型時必須優先考慮的核心問題。IDC調研顯示，企業在數據

22、資產管理、構建數據架構以及數據維護等方面遇到了不少挑戰。特別是在開發AI應用時，有68%的企業高管認為有必要對內部數據資產進行整理，66%的高管期望建立如數據湖的支撐性架構，還有62%的高管認為需要投入資源構建知識管理體系，并對數據進行清洗和標注。挑戰4：潛在安全風險與可解釋性的雙重挑戰缺少全周期安全可信方案：大模型服務擁有更長的鏈條，涉及全周期的數據和模型管理、模型調優、使用交互、查詢調用等，因此需要考慮為大模型搭建專門的安全模塊。模型生成內容準確性和可解釋性不足：8%的企業表示希望提高模型和數據的可解釋性，這需要大模型學習、鏈接關鍵業務信息，并在模型微調提高精度的同時，確保關鍵信息不泄露、

23、不被模型學習了解，以及數據不可隨意被查看和問詢。122.2 領先企業已從大模型成功落地中率先獲益在積極探索和落地大模型的過程中，企業雖然面臨不同程度的挑戰，但整體來看，先行擁抱和落地AI大模型的企業已經展現了清晰的收益曲線，不少率先解鎖大模型紅利的先鋒實踐案例為期待大模型為自身業務帶來變革的觀望者注入了落地的動力。2.2.1大模型落地收益曲線IDC以如下收益曲線以描述市場情況，橫縱坐標分別表示企業擁抱AI的程度和企業獲得的收益。在企業跨過前期探索和正式投資建設后，AI大模型的部署和落地可以為企業帶來明顯可見的收益，包括工作效率的提升、用戶體驗的升級和市場競爭力的增強。但投資回報與前期投入持平的

24、時間點并不是固定的；企業對大模型擁抱程度越高、資源投入和落地范圍越大、應用深度越深，這個時間點也會越早到來，企業收益也會更明顯。圖5 大模型收益曲線來源：IDC，2024企業收益企業擁抱AI程度P1:廠商POC驗證P2:應用部署上線S1:小范圍測試階段S2:規?；剿鏖_發階段S3:企業落地與持續更新階段P3:臨界點大規模收益與S1+S2投入平衡大部分企業所在階段市場呈紡錘結構t13S1：小范圍測試階段即開始嘗試探索AI大模型應用階段。該階段資源投入較少，可明顯為企業帶來新的體驗和價值增長；但由于僅處在小范圍驗證階段，所以增益空間有限。S2：規?；_發階段即進入大模型服務規?；度腚A段。由于需要

25、整體架構的開發和服務解決方案的落地和時間驗證，企業所獲得的收益并不明顯；但隨著大模型應用的部署上線，帶來的收益也隨之增長。S3：企業落地與持續更新階段即不斷完善更新大模型服務來增加收益階段。該收益得益于內部成本降低、人員效率提高，以及外部產品服務創新升級帶來的市場競爭優勢。P1：廠商POC驗證該點表示為企業在經歷大模型小范圍探索后進行大規模資源投入前的廠商服務驗證POC時刻。P2：應用部署上線該點表示為AI應用大規模部署上線的時刻。P3：盈虧平衡臨界點該點表示大模型帶來的收益與投入支出平衡的時刻。142.2.2 搶跑AI時代：先鋒企業率先解鎖大模型紅利 實例揭示，AI大模型在企業應用中的成效顯

26、現。大模型具備可以快速落地、不用重復進行基礎工作建設的優勢，因此對企業而言落地更快、更易見效。IDC調研顯示，大模型的落地周期多在6-12個月（48.5%）和12-18個月之間（30.3%）。相比于其他IT解決方案，AI大模型應用可以更快地上線；尤其是對于互聯網企業或是已有AI應用基礎的企業，新的AI大模型能力、垂直場景應用的上線時間更短，最快可1個月內完成落地。因此，率先落地的先鋒企業已經收獲大模型落地的紅利。上汽乘用車利用豆包大模型更快聆聽反饋“用戶之聲”。上汽乘用車通過引入豆包大模型，可以快速處理來自公域和私域的“用戶之聲”，并精確理解每條內容，在服務反饋、熱點事件跟蹤和質量改進等領域取

27、得顯著成效，為用戶帶來更加優質的體驗和服務?；鹕揭嬷χ袊w鶴落地AI技術?；鹕揭嫣峁〩iAgent平臺，針對企業級市場進行深度定制，通過段位劃分策略，幫助企業員工逐步掌握HiAgent使用，同時通過原廠咨詢、內置最佳實踐應用效果評測確保達到生產級標準。平臺將AI技術融入各個業務流程中，從而提升整體運營效率和市場競爭力，為數字化轉型提供了堅實基礎；在某智能問答項目中，能夠處理廣泛的消費者咨詢，實現100%的問答響應率，同時保持了超過95%的高準確率?；鹕揭鏀y手中手游為仙劍世界打造AI NPC。利用火山引擎RAG方案，中手游打造游戲精靈“圓滿”，使其具備更智能的輔助功能，其可以根據玩家的行

28、為數據和游戲內的進程，提供最適合玩家角色當前狀態的支持，如任務推薦、玩法說明等，從而減少玩家在游戲中的阻礙感，提升游戲樂趣?；鹕椒街燮脚_充分滿足中手游對對游戲的的高RPM/TPM要求，通過按需調整配額，保障游戲在超大流量下的服務穩定性，并打造極致性價比，助力降低技術、資金與人力成本。15企業CXO普遍預計，未來一年大模型服務將會帶來更多的效益改善。面向未來，隨著AI的進一步能力升級和服務范圍擴大，企業內高管預期大模型會從多個維度帶來實際效益。IDC數據顯示，預計未來一年大模型可幫助企業降低18%成本、增加2%收入、縮短24%流程時間、提高17%員工工作效率、提高7%資產利用率、提高19%產品創

29、新水平、提升6%業務洞察力、提升2%高管決策速度。圖6 未來一年AI大模型給企業帶來的效益數據來源：IDC大模型企業落地進展調研，N=100，2024年8月17%2%提高員工生產、研發效率提升決策速度24%6%縮短流程時間提升洞察力18%7%降低成本提高資產利用率2%19%增加收入創新定制化、精細化產品與服務水平16加快AI轉型構建全方位的大模型業務落地能力在當前大模型技術迅猛發展的背景下，企業適時、科學地引入大模型對其長遠發展至關重要。無論企業目標如何，處于哪個發展階段，把握大模型機遇都是必要的。企業管理者需從戰略高度規劃大模型的落地，這不僅是一次技術革新，也是企業管理理念的升級，關乎企業未

30、來市場競爭力和可持續的經營發展。來源：IDC，2024初始意愿階段一 計劃準備階段二 模型部署階段三 迭代優化戰略驅動戰略投入場景尚不明確戰略分析資源、能力整合場景試點策略業務場景結合業務分析業務場景、流程結合業務驅動部署目標清晰應用場景明確應用智能體應用開發與部署上線橫向業務場景拓展對內縱向業務場景拓展持續優化、應用協作業務拓展戰略規劃應用測試、效果評估、項目延展將大模型的應用覆蓋更多的場景企業IT架構對外競爭力的改變將大模型由小范圍、簡單任務擴展至多節點、復雜任務工具鏈、流程、數據、場景模型調優聯合創新降本增效競爭力數據資產盤點資源、能力整合數據評估數據要素的準備度搭建團隊業務、技術、流程

31、融合性能安全測試效果調優模型接入應用上線模型選擇效果評估應用建設路徑算力儲備開發平臺搭建資源投入計劃模型部署18提前做好計劃準備、扎實推進模型部署、持續優化迭代三大階段對企業建設全方位的大模型業務落地能力、實現AI轉型至關重要。具體來看：階段一：計劃準備階段首先明確初始意愿。企業高管在了解AI大模型解決方案時切忌盲目跟從技術潮流，而是需要從企業整體的層面明確落地AI大模型的原始驅動力，分析與AI結合的可能性、行動路線并做好預期收益的管理：戰略驅動：即企業可能沒有明確的AI+場景落地計劃，但考慮企業的發展環境、行業趨勢、競爭態勢，有必要將大模型落地作為戰略性規劃的一環。從戰略布局出發，分析內外部

32、發展環境，盤點企業內部資源和能力，制定場景試點策略，制定篩選場景的標準和路徑。業務驅動：企業已經有了非常明確的業務場景，迫切地需要引入大模型的能力來進行應用場景的改造，以實現降本增效、提升效率、優化體驗等目標；執行切實可行的業務分析策略，了解場景現狀、預期目標、數據的就緒度、梳理業務流程；深入探索業務場景結合點和需求程度，將大模型解決方案與特定的業務環境、業務流程或業務需求緊密聯系起來。其次剖析目標任務，了解就緒度。在確定需求和目標后，從資源盤點、流程梳理、能力自查三個方面來考慮并拆解目標，充分參考了解大模型落地所需的企業資源投入，制定詳細周密的時間和建設計劃：一是資源盤點，在最短時間內梳理內

33、部資源，如數據資源、算力資源，并分析資源整合的可能性和優先級，確定可為AI大模型的落地提供完備的后續支撐；了解是否數據充足、治理水平如何、是否有大量未清洗數據、是否需要外部購買數據、有無數據獲取渠道、算力資源如何購買以及計費方式；3.1 大模型業務落地能力建設三階段19二是流程梳理，AI的搭建、應用并不是點對點的數據傳輸，在模型調優、模型管理、查詢調用、內容生成的過程中，均涉及企業、部門、團隊內外的多個組織方和參與方，只有明晰AI執行的過程方式，才可以更好地進行開發建設和運營管理；三是能力自查，大模型的建設需要大量專業人才和業務人才共同合作，因此企業應重點考慮評估人才資源基礎和經驗知識儲備，制

34、定研發創新的人才投入形式，是否需要低代碼、輕量化的開發平臺，以及是否需要外部合作來進行定制化開發。最后，搭建跨部門團隊確保大模型落地的推進。大模型是對企業人員、市場、產品、業務場景的賦能，不僅僅是“底座”“中臺”等概念；其需求的提出和最終實現均來源于使用方，而非僅靠數據部門、科技部門的采購開發就可以落地。企業應充分獲得高級管理者的支持，搭建跨部門協作團隊，制定人、財、物資源的管理和監管制度，確保資源的即時響應和快速供給，實現資源的有效整合和優化配置，從而推動大模型在企業的深入融合和高效運行。確定關鍵考慮指標制定安全規則測試大模型水平組建跨部門團隊梳理場景需求梳理內部數據確定投入預算及周期建立評

35、估體系招募專業人才尋求外部專家團隊咨詢45%40%38%31%30%28%18%27%29%14%0.0%10.0%20.0%30.0%40.0%50.0%圖7 您認為開發大模型時前期準備工作的重要性數據來源：IDC大模型企業落地進展調研，N=100，2024年8月20階段二：模型部署階段模型部署是最核心的落地環節，將直接影響企業應用AI大模型的實現效果，因此需要按照科學的路徑進行開發建設。此過程包括如下重點步驟：資源投入計劃：明確開發AI大模型落地過程中所需要的專業人才、資金投入、數據準備和管理，以及業務領域所需的知識經驗；模型選擇：結合具體的需求從模型精度、效果、參數規模、場景匹配度來篩選

36、適合自身的模型；效果預測：預測AI大模型上線后的實際效果，包括準確率、用戶體驗、響應時間、TPM、RPM（TPM：Tokens Per Minute每分鐘Tokens數量；RPM：Requests Per Minute每分鐘請求數）；應用建設路徑：規劃AI大模型的建設周期、落地具體場景、覆蓋使用廣度、垂直場景應用深度；算力準備：考慮推理與計算成本和使用方式，以及購買的規模、服務的選擇；開發平臺搭建：為AI大模型的應用率先搭建好底層開發平臺，覆蓋LLMOps全流程，接入豐富的Agent工具鏈、API管理服務和數據引擎平臺；可以重點考慮提供低代碼、全流程大模型開發能力的廠商；模型接入方式：即考慮模

37、型接入和部署應用的方式，包括云端接入、API管理、線下部署；面向簡易快速上線以及企業級、部門級應用定制化開發，挑選可以提供多產品選擇的服務；效果調優：即提升模型效果使其更滿足自身業務需求，主要可通過Prompt工程、RAG增強檢索生成、有監督調優、基于人類反饋優化等；性能安全測試：即在模型上線前確保性能穩定和安全可信；21應用上線：即考慮應用上線范圍和管理，包括跨平臺、系統部署、跨數據源生成、多版本管理。階段三：迭代優化階段AI大模型在應用測試和效果評估后可正式上線，但這并不是整個流程的結束，企業還應重點考慮模型的可成長性。隨著使用量和使用方向的增多，應進一步開展調優訓練和知識管理，達到“越用

38、越好”的效果。因此，模型的部署完成并非終點，企業仍需持續關注并致力于大模型在三個關鍵層面的迭代與優化：智能體應用效能的提升、跨業務領域的拓展應用，以及對企業整體戰略規劃的對內和對外的影響：智能體優化，即針對基于大模型的智能體的能力和水平的持續提升。對于開發上線的AI智能體應用，企業可以持續提升模型的精度、改善用戶體驗，例如通過AB測試評估調優后的效果，并針對在應用服務過程中遇到的工具缺失、流程混亂、數據管理困難、場景需求升級等問題進行優化完善，以保證其發揮最大的價值和效果。業務擴展，即將已成功的基于大模型的應用擴展至相關或更復雜的業務領域以挖掘更多的價值。橫向業務拓展：在實際應用AI大模型中，

39、企業往往會首先選擇1-2個易于落地、急需改善的場景進行項目試點，當完成項目上線并評估可持續投資后，可結合積累的技術、開發、流程、管理經驗，共享同一套平臺、工具和資源，進一步將模型應用到其他場景中，服務不同的人員，打通、管理更多的數據和實踐經驗?？v向場景延伸：知識管理、對話問答、查詢分析是AI大模型最先落地的場景，隨著模型的升級和應用需求的加深，企業應考慮將小范圍、簡單任務擴展至多層次、復雜任務，打造可以同時滿足多個任務的智能體，探索、擴大大模型的服務深度和邊界。22戰略規劃，即從企業整體的視角評估大模型部署落地后對企業整體競爭力的改變，同時關注其對IT基礎設施的影響。持續關注企業對外的差異化競

40、爭優勢：當AI大模型應用上線后，企業應重點考慮競爭環境，了解其他企業與AI的結合深度和布局計劃，評估、判斷自身企業在當前和未來的競爭力和優勢對比，從而制定、明確AI大模型下一輪的投資和開發計劃，以促進應用和產品的迭代，形成長期差異化競爭優勢。對內關注企業整體數字化基礎設施的能力：大模型上線后，企業IT基礎設施面臨一系列的變化，包括計算資源需求、服務器負載、存儲空間、數據管理、安全性和隱私保護等。因而企業需要關注現有IT系統的升級和優化，以確保大模型的高效運行。3.2 破除落地大模型的思維誤區對大模型落地這一新的企業課題，在準備、實施和優化三大階段中，企業容易產生認知誤區。這些誤區如同迷霧，籠罩

41、在企業前進的道路上。為幫助猶豫觀望的企業梳理發展路徑，避免在大模型落地過程中走不必要的彎路，我們歸納了先行者在探索過程中常見的思維陷阱：23把技術指標（參數量、數據訓練規模）等當作商業應用成功與否的指標，而忽略了大模型的實際效果。技術指標商業應用VS大模型的訓練確實需要大量的計算資源和資金，但并不意味著企業用戶需要承擔大模型全部的費用和成本投入。目前，大模型技術服務商已經通過預訓練、模型微調、算法優化等技術降本的方式，使企業以相對合理的成本享受大模型的技術優勢。企業用戶可以直接選擇成熟的預訓練模型，不需要從0開始訓練。成本需負擔的成本VS開發大模型不是需要用戶獨立建立開發流程、實現端到端開發，

42、技術供應商能提供全周期的開發平臺和流程推薦，并提供插件、測試、數據管理等“開箱即用”和低代碼的工具組件，幫助企業更加敏捷、快速地應用AI。開發流程全生命周期的開發工具VS關注短期內大模型帶來的價值產出，而忽略長效投入下的價值收益。模型上線不等于AI應用落地的結束，還需要長期的投入。僅關注短期產出，可能將忽略數據飛輪效應的長遠收益。短期產出長期投入VS擔心引入大模型會伴隨著產生數據隱私和數據安全的風險，而忽略了大模型落地對現有數據資產和數據價值發揮的推動作用。實際上，大模型技術供應商圍繞大模型開發和使用提供了全棧安全可信解決方案，可保證全流程的模型和數據安全。安全隱私大模型商業價值VS來源：ID

43、C，202424頭雁效應大模型深入眾多應用場景隨著大模型在眾多企業中的落地實踐不斷取得成功，其應用場景正逐步拓寬。這些企業在不同業務場景中的積極探索和驗證，使得大模型的能力得到了廣泛認可。從最初的業務試點到如今的深度融入，大模型的應用范圍不斷擴展，涵蓋了生產、管理、營銷等眾多領域。IDC研究總結了十大核心能力和十大應用領域，每個應用領域下梳理十個細分場景，梳理了AI大模型落地應用場景全景圖，并分析其落地成熟度和發展潛力，以期為市場和企業提供參考，幫助企業選擇最合適落地的場景和服務。十大核心能力：包括文本生成、圖像生成、視頻生成、推薦搜索、數據分析、智能決策、會話問答、知識管理、多模態、邏輯推理

44、；十大應用領域：包括金融、互聯網、零售消費、醫藥健康、智能終端、游戲、企業服務、文化娛樂、教育科研、汽車；4.1 大模型應用場景不斷擴寬，應用日漸成熟26圖8 AI大模型落地應用場景全景圖來源：IDC，2024汽車教育科研智能座艙自動駕駛產品設計仿真模擬市場營銷客群分析供應鏈管理智能制造銷量預測企業服務財富顧問市場營銷智能客服研報分析市場預測展業拓客金融產品創新金融風控數字員工代客交易情感陪伴搜索問答商品推薦廣告推送數字人交互智能客服營銷文案生成教育培訓辦公輔助設計研發智慧門店銷量預測供應鏈管理用戶行為分析廣告個性化商品搜索推薦數字員工售前售后客服文案視頻設計商品介紹生成論文助手實驗仿真科研結

45、果創新教學設計機器人輔助虛擬教師作業出題批改教案生成行政管理助手學生培養文化娛樂新聞撰稿視頻生成輿情分析內容審核圖片生成音頻創作興趣愛好推薦回話問答虛擬人形象版權保護醫藥健康藥物研發論文總結專利分析智能導診分診手術機器人用藥推薦醫生助手個人健康助手診后回訪監測患者問答金融互聯網企業服務企業知識問答會議助手辦公流程輔助財會管理商業智能產品設計數字人客服辦公軟件供應鏈管理人力資源管理游戲角色對話任務劇情設計輿情分控任務動作建模游戲素材推薦用戶數據分析智能體角色屬性生成游戲客服廣告視頻生成任務規劃個人助手對話陪聊語音控制視覺感知交互產品排產工廠機器人廣告推薦終端設備研發營銷文案生成游戲智能終端零售消

46、費生成式AI知識管理搜索推薦多模態視頻生成會話問答智能決策數據分析邏輯推理文本生成圖像生成落地成熟度 L1 L2 L3 L4發展潛力 低 中 高27金融當前AI大模型落地場景重點是在知識管理以及智能服務相關領域，例如智能客服、內部知識管理、研報分析、市場營銷。從部署方式上看，也更傾向于私有化部署。但AI大模型依然存在生成內容不準確、邏輯判斷差等技術不足，且其核心業務是為客戶提供理財和財富管理服務，數據安全保密性要求高?；ヂ摼W互聯網對AI大模型的接受程度最高，企業希望實現運營成本的降低和產品設計創新，如搜索問答、廣告推送、商品推薦、營銷文案生成、教育培訓、辦公輔助等已開始規?；涞貞?。此外，情

47、感陪伴也表現出了更大的用戶潛力。零售消費圖文生成能力已廣泛應用于商品介紹生成、售前售后客服場景，大幅降低人力成本并保證內容準確性。此外，銷量分析和預測、用戶行為分析等數據分析功能，也通過BI升級的形式來服務更多人員。醫藥健康當前AI大模型主要用于輔助場景，如藥物研發中靶點發現、分子合成，以及智能問診助手、導診分診等。另外，養老場景中也有較大的應用潛力，例如，利用AI實現視頻安全監控、文化娛樂、情感陪伴、出行輔助等功能，可以為用戶提供更智能更有溫度的服務。28智能終端以手機、電腦、智能家居為主的終端設備在積極融合AI能力，開發智能對話、任務控制等基礎能力。面向未來，手機有著明顯的優勢可移動，AP

48、P功能豐富，應用生態底座全面，SoC芯片持續升級且具備攝像頭拍攝能力，可作為大模型的個性化開發底座來進行問答、執行、控制。筆記本電腦則更多圍繞系統工具的升級來實現輔助辦公、代碼開發、視覺感知和控制等功能。智能家居在對話理解和語音控制的過程中，可以給人更自然的體驗，而不僅是關鍵詞識別和觸發。另外，同時具備多模態感知和可移動能力的智能眼鏡、AR設備也是大模型落地的熱點領域。游戲優質游戲的開發成本巨大，成功后也會帶來明顯回報。對于優質內容和游戲玩法的設計、數值策劃、闖關類型、人機匹配等，大模型尚不能完全替代；如當前大部分設計策劃仍由人來設計測試，不需要復雜的算法介入，人機匹配則大多是機器學習領域的強

49、化學習和模仿學習。目前AI大模型多用于2D圖像生成、語音生成、智能客服、違規詞監測、3D人物和動作生成，以及智能客服、辦公輔助等場景。企業服務這一賽道的企業已經將“AI+”列為2024年重點目標，投資動力明顯，更新路徑也從基礎的內容生成、數據分析、知識問答，延伸至個人助理、跨模態生成、跨數據檢索、多輪對話、長文生成等能力。29文化娛樂新聞生成、圖片素材生成、音樂生成等單模態能力已在現實生活中廣泛應用。隨著GPT-4o的發布，視頻生成領域、圖片生成視頻、文字生成視頻、視頻自動剪輯生成等方向，也開始在互娛領域快速落地。教育科研頭部教育機構擁有足夠的題庫積累，覆蓋幼兒教育、學前教育、小學教育、初中教

50、育、高中教育、職業培訓、大學和考公考研全年齡段，依靠AI生成能力來提供試題生成、批卷打分、口語分析、虛擬教師等功能。大模型已在英語培訓市場展現出巨大的商業機會。汽車汽車與AI大模型的結合主要分成四個模塊，包括智能座艙、企業服務、自動駕駛和智能制造。目前多家車企已上線智能座艙和企業服務，如車內控制、導航娛樂、知識管理、市場營銷等，通過語音對話、意圖識別、RAG檢索、指令生成、Function Call、API調用、插件調用、內容整理和生成這一流程完成駕艙控制。4.2 眾多行業企業深入大模型落地實踐隨著大模型應用場景的不斷拓展和應用的日益成熟，我們看到了越來越多的大模型成功落地案例。這些案例如同路

51、標，為眾多企業指明了落地的方向，提供了實實在在的參考。企業可以從中了解到先進的技術應用經驗，感受到大模型帶來的實際效益，從而更加堅定地在自身業務中推進大模型的應用。30賽力斯：攜手豆包大模型提升用戶滿意度企業介紹賽力斯始創于1986年，是一家以新能源汽車為核心業務的技術科技型汽車企業，旗下主要產品包括AITO問界系列高端智慧新能源汽車、藍電新能源汽車、瑞馳電動商用車等，秉承著“推動汽車能源變革，創享智慧移動生活”的使命，專注技術自研，在三電技術、增程技術、電子電氣架構和超級電驅智能技術平臺方面處于行業領先地位。需求驅動力主要需求：提升用戶反饋閉環效率，優化業務部門決策支持提升用戶反饋閉環效率：

52、通過優化從收集、分析到響應用戶反饋的整個流程，加快用戶問題解決速度，提高用戶滿意度；優化業務部門決策支持：基于對用戶反饋的及時處理與準確判斷，提升相關業務部門的業務決策效率。賽力斯與火山引擎合作重點賽力斯工作重點：厘清用戶反饋處理流程中各項工作環節，借助豆包大模型建設用戶之聲管理平臺（VOC：Voice of Customers）；梳理公私域平臺有關用戶反饋的數據源頭，打通企業工單系統，同時對接內部協同辦公軟件，如飛書、釘釘、企微等，依托火山引擎提供的數據采集與分析能力，為業務部門提供第一手高質量用戶反饋信息?；鹕揭娼鉀Q方案：火山引擎基于豆包大模型的理解、分類與總結能力，攜手賽力斯共創用戶之

53、聲管理平臺，實現了用戶反饋分析、處理工作由人工承接轉為模型承接，達成用戶反饋閉環的智能化升級。情緒正負向判定：豆包大模型可對反饋內容做上下文理解，輸出“正向”、“中立”、“負向”標簽，避免人工主觀漏判/誤判，該類標簽可用于報表聚類展示；31內容標簽提?。涸诨鹕揭?00+“開箱即用”的汽車行業標簽支持下，豆包大模型可基于客戶預設的標簽體系對內容打標，包含品牌、車系、車型、維度、觀點等，輸出結果定位對應業務部門；內容觀點總結：豆包大模型能提取用戶反饋內容中的主要觀點，例如其可將一篇3,000字的反饋精簡至200-300字，并結構化地提煉核心觀點，從而幫助運營大幅提升對于內容的理解處理效率；實時數

54、據采集與分析：火山引擎數據產品助力用戶之聲管理平臺，可實時采集公私域數據，包含資訊、評價、投訴、建議等多個維度的圖文、視頻信息，并支持品牌、車系、車型的下鉆分析，維度涵蓋用戶聲量監測、來源渠道分布等。落地效果在豆包大模型的幫助下，VOC管理平臺有效提升了賽力斯的用戶反饋閉環效率，縮短了處理時長，實現了用戶滿意度的提升；基于火山引擎提供的數據分析能力，賽力斯的風險監控水準得以進一步提升，并推動各個業務部門基于用戶反饋及時制定決策與實施，從而優化企業運營。32上汽乘用車：有效提升“用戶之聲”的反饋處理效率企業介紹上海汽車集團股份有限公司（簡稱“上汽集團”）作為國內規模領先的汽車上市公司，努力把握產

55、業發展趨勢，加快創新轉型，正在從傳統的制造型企業，轉變為面向消費者提供移動出行服務與產品的綜合供應商。需求驅動力主要需求：高效處理海量數據，精準分析用戶反饋，快速響應市場變化高效處理海量數據：需要快速處理和分析大量用戶的反饋信息，以確保不會錯失任何重要的用戶聲音；精準分析用戶反饋：需要能夠準確識別和理解用戶反饋中的關鍵點和情感傾向，以便更好地滿足用戶需求；快速響應市場變化：需要通過高效的數據處理和精準的反饋分析，獲得及時且有價值的洞察，以支持快速的業務決策，從而在競爭激烈的市場中保持領先。上汽乘用車與火山引擎合作重點上汽乘用車工作重點：整合來自各類垂直媒體、論壇、微博、企業APP等渠道的用戶反

56、饋數據，為豆包大模型的分析理解提供素材；根據豆包大模型對各個來源用戶反饋信息的分析結果，進行下一步的產品改進、服務優化和市場策略調整?；鹕揭娼鉀Q方案：針對社交媒體、論壇、新聞網站等公域平臺上大量的用戶評論與反饋，豆包大模型提供優秀的自然語言理解能力，可以快速篩選、分類和分析這些數據，提取出用戶的主要關注點和情感傾向；33豆包大模型在理解能力方面不斷升級，可通過對用戶反饋的深入分析，更準確地識別出產品和服務中的不足之處，還可針對長篇文章評論，實現文章深層次表達主題的識別，精煉提取用戶的反饋和訴求；豆包大模型以更強模型優勢、豐富的模型能力，助力上汽乘用車全面提升服務反饋、熱點事件跟蹤和質量改進等

57、。落地效果引入豆包大模型技術之后，上汽乘用車在處理來自公域和私域的“用戶之聲”時，既實現了對大量信息的快速處理，同時又做到了對每一條內容的精確理解；在豆包大模型強大能力的幫助下，上汽乘用車在服務反饋、熱點事件跟蹤和質量改進等領域取得顯著成效，為用戶帶來了更加優質的體驗和服務。34海爾消金：豆包大模型為信貸資產管理提質增效企業介紹海爾消費金融成立于2014年，是由海爾集團發起設立的持牌金融機構，經銀保監批準設立的全國性持牌消費金融公司，旗下擁有“海爾消費金融”“夠花”兩款APP,通過科技金融為用戶提供消費信貸服務。需求驅動力場景智能化升級：大模型可以應用到金融業的貸前、貸中、貸后等各個環節，通過

58、多模態數據識別客戶信貸風險、客服小結標準化、降低客訴意愿、提升客戶滿意度等方面，提升效率。提高員工效率：提升客服坐席效率、減少人工錄入時間、降低錯誤率，以提高效率降低成本。當前坐席摘錄人均每天200余次、記錄耗時2+小時，解決描述不準確、表達口語化等問題。改善服務體驗：在客戶服務的全生命周期中，積極引入大模型智能化支持手段。借助音色復刻、RTC（Real-time Communication）等先進技術，全力打造智能化服務體系，顯著提升客戶的體驗感與滿意度。海爾消金與火山引擎合作重點海爾消金工作重點：整理貸款知識、客戶信息、員工手冊等內容，做好數據安全管理后，與豆包大模型連接，提升關鍵詞查詢和

59、模糊匹配生成的準確率；組織員工培訓，學習大模型使用方式和建議，建立生成Prompt模板。通過扣子搭建適合不同業務人員的智能體?；鹕揭娼鉀Q方案：基于字節跳動豆包大模型精調的大模型，能夠滿足海爾消金90%以上的智能化場景需求，包括風控、客戶服務、貸后資產管理、意愿度識別等；火山引擎提供了火山方舟大模型服務平臺、扣子AI原生應用開發服務平臺、算力管理平臺等全棧式大模型工具；35提供完善的模型應用數據治理體系，提供豐富多樣的獨享技術方案，嚴格遵循安全合規的要求，確保安全、合理地使用大模型。落地效果在資產管理過程中，通過與火山引擎的合作，引入豆包大模型能力，在初始應用階段，效果提升達到15-20%；海

60、爾消費金融坐席助手摘錄過程中可達到超過95%的準確率。每天節約坐席專員1-3小時，同時提升智能問答系統的準確率。后續支持海爾消金與火山引擎共同成立金融大模型聯合創新實驗室，致力于構建消費金融垂直大模型，并在精準營銷、智能客服、貸后管理、風控等業務場景中持續探索大模型的創新應用，加速海爾消金的智能化轉型進程；未來將聯合研發智能客服機器人，利用多模態智能服務、自動質檢、情感分析等，自動摘錄，提升客戶整體的服務效率和體驗?！霸谝氪竽Ｐ秃?，現在實際的落地效果非常顯著，最典型的要數海爾消金的貸后管理工作。此外在客服領域里邊，也對客戶意圖進行識別，可以更精準地理解客戶的意圖，還便于事后對客戶進行管理?！?/p>

61、海爾消金CIO 梁樹峰36中國飛鶴：利用AI實現企業全面的AI轉型升級企業介紹作為全國乳品行業龍頭企業，中國飛鶴1962年創立于趙光農場，迄今已有60多年歷史，是中國最早的奶粉企業之一。根據第三方調研機構全新數據，2019年-2023年度，飛鶴連續5年銷量位居全國首位。同時，飛鶴奶粉連續兩年全球銷量第一，旗下星飛帆系列已連續3年成為全球第一大單品。截至2023年1月，中國飛鶴在嬰幼兒奶粉中市占率達21.5%，穩居市場第一。需求驅動力全面智能化：將AI技術深度整合到企業的數字化轉型中，從數字人、智能推薦、內容分析等試點項目逐步擴展至全面的能力建設和最終的全局AI應用實施；優化用戶體驗：銷售員工水

62、平參差不齊，業務效率和客戶交互提升潛力巨大，需要打造統一的AI助手幫助解答用戶問題，優化購物體驗。飛鶴與火山引擎合作重點飛鶴工作重點：重塑基礎設施能力，攜手火山引擎搭建先進的云架構、業務中臺和數據中臺，確保數據處理的高效性和業務流程的靈活性，支撐上層AI應用運行；選擇AI能力中臺核心組成部分，面向實際業務場景和需求，重點建設大模型能力、數字人、數字孿生、智能推薦、音視頻、VR/AR等；將應用場景分成用戶運營觸達、渠道銷售和企業管理三大類，每個類別下重點建設具體應用場景，如追溯回答、消費者咨詢、優選客服等，以滿足不同環節的需求?；鹕揭娼鉀Q方案：基于飛鶴信息化建設“3+3+2”的戰略藍圖，飛鶴聚

63、焦搭建集成基礎設施層、能力層、接入層、場景層全覆蓋的AI能力中臺。通過明晰業務需求、愿景及資源狀況，火山引擎為飛鶴AI能力中臺做整體規劃，制定分步實施策略，促使中臺成功落地；37圍繞HiAgent平臺，火山引擎針對企業級市場進行深度定制，提供成熟解決方案，通過段位劃分策略，幫助企業員工逐步掌握HiAgent使用，同時通過原廠輕咨詢、內置最佳實踐和應用效果評測，確保達到生產級標準。落地效果HiAgent平臺發揮了核心作用，將AI技術融入各個業務流程中，從而提升整體運營效率和市場競爭力，為數字化轉型提供了堅實基礎；某智能問答項目能夠處理廣泛的消費者咨詢，實現100%的問答響應率，同時保持了超過95

64、%的高準確率?！癆I大模型已在消費者服務、線下活動檢核、企業辦公、導購培訓、數據分析和智慧農牧等多個業務場景中廣泛應用，為飛鶴的創新發展注入新動力?！憋w鶴副總裁 馮海龍38中手游：為仙劍世界打造豐富的AI NPC生態企業介紹中手游是領先的全球化IP游戲運營商，以IP為核心，通過自主研發和聯合研發，為全球玩家提供精品IP游戲。圍繞自有IP仙劍奇俠傳，持續為粉絲創造精品內容和互動體驗，打造世界級IP，并將仙劍世界打造成全球首個國風仙俠虛擬世界。需求驅動力主要需求：為仙劍世界打造AI NPC，落地RAG技術，保障游戲服務穩定為仙劍世界打造AI NPC：基于大模型搭建豐富的AI玩法，打造具有長期記憶和

65、成長能力的AI NPC；落地RAG技術：通過RAG技術進一步提升模型的推理效果，優化AI游戲內容的表現；保障游戲服務穩定：借助模型及系統穩定強大的推理QPS保障能力，保障游戲服務穩定運行。中手游與火山引擎合作重點中手游工作重點：針對仙劍世界游戲中可落地大模型的場景進行了深入探索，如意圖識別、情緒識別；對基座大模型、RAG解決方案中的向量數據庫等關鍵組件，進行了大量評估，并搭建開發框架?；鹕揭娼鉀Q方案：提供豆包角色扮演模型，助力中手游打造行為獨立、可對玩家的行為做出個性化的反應游戲氛圍NPC；基于豆包大模型能力幫助中手游打造玩家專屬劍靈“圓滿”，其可為玩家提供問題解答、任務引導、功能喚起、智能

66、傳送、戰斗BUFF、時辰播報等功能；通過召回能力優秀的豆包向量化模型、P90延時僅18.2ms的向量數據庫VikingDB等組件，搭建一站式RAG解決方案，為中手游建設游戲RAG知識庫提供技術支撐；39“目前大模型已經在中手游項目開發流程中的多個環節投入應用?；鹕揭孢@樣一位高效、值得信賴的云服務商伙伴，在這中間扮演著至關重要的角色?！敝惺钟渭夹g中心總監提供依托火山引擎充沛公有云GPU資源池打造，底層算力充足，且支持分鐘級完成千卡擴縮容的大模型服務平臺火山方舟。落地效果基于豆包大模型打造的AI NPC生態在仙劍世界游戲中被全面應用，塑造了一個對于玩家而言陪伴感更強的游戲世界；火山引擎RAG解決

67、方案，幫助游戲精靈“圓滿”具備了更智能的輔助功能，例如其可以根據玩家的行為數據和游戲內的進程，提供最適合玩家角色當前狀態的支持，如任務推薦、玩法說明等，從而減少玩家在游戲中的阻礙感，提升游戲樂趣；火山方舟平臺充分滿足了中手游對于游戲的高RPM/TPM要求，通過按需調整配額，保障游戲在超大流量下的服務穩定性，同時提供全面的算法與工程優化能力，支撐豆包大模型在更加細分場景中的快速落地，并打造極致性價比，助力中手游降低模型使用時的技術、資金與人力成本。40浙江大學信息技術中心：落地全方位大模型應用體系，構造智能化教育環境浙江大學介紹浙江大學是一所特色鮮明、在海內外有較大影響的綜合型、研究型、創新型大

68、學，設有7個學部、40個專業學院（系）、1個工程師學院、2個中外合作辦學學院、7家直屬附屬醫院。截至2023年底，學校有全日制學生67656人、國際學生5514人、教職工9557人。2022年，浙江大學入選第二輪“雙一流”建設高校。需求驅動與創新驅動主要需求：融合大模型能力，獲得跨越式發展融合模型能力：大模型時代技術背景下，校園教學、科研、管理、服務等系統，亟待融入大模型能力，使得各系統更加智能化，各系統組成的校園系統更加智能化；融合模型能力：在政策背景下，全校師生亟待平臺支持，以實踐人工智能的學習；獲得跨越式發展：浙大西湖之光算力聯盟已經建成了良好的基礎設施，由火山引擎大模型方案構建的AI應

69、用，將繼續推動自身的發展和基礎設施的發展。浙江大學信息技術中心與火山引擎合作重點浙江大學工作重點：圍繞教學、科研、教務、校園服務、本地生活等需求，建設體系化解決方案；解決場景多、多方協作、時間緊、效果要求高的全方位挑戰?；鹕揭娼鉀Q方案：火山引擎HiAgent平臺為建設“浙大先生”門戶及AI科學家等系列智能體場景應用，提供了四大能力支持：多模型接入和多維數據整合：實施多模型接入策略，根據不同場景應用需求精選最合適的模型，以多維數據整合能力有效處理不同數據庫的多樣化業務數據，為各場景應用提供可靠的數據支持；41集成化工作空間協同開發：高效構建并利用集成化工作空間，實現多供應商之間無縫的數據流轉與

70、深度協同開發，減少“數據孤島”信息摩擦，確保整個開發鏈路每個環節都能基于最新、最準確的數據決策行動，提升應用開發的迭代效率和質量；靈活的發布與集成機制：通過靈活地發布和集成Chatbot、Copilot、Agent多種形式的AI應用，實現“浙大先生”大模型應用體系的多元化，幫助師生按需自動化處理日常任務；模型應用自動化調測優化：提供效果評測、應用Tracing、Debugging等能力，支持工作流與智能體的快速調試，支持通過評測集、評測任務方式自動化驗證應用效果與問題發現，加速應用的迭代優化，確保應用在實際場景中的穩定性和可靠性。落地效果僅花7天時間，就實現了“浙大先生”大模型應用體系的完整、

71、高效構建，讓AI應用走進課堂、校園、實驗室等場景，為超過6萬名在校師生等打造了更智能化的教學教務、科研創新、校園生活等全新體驗；在大模型能力支持下，“浙大先生”應用體系為用戶提供高度定制化的AI服務與支持，全面促進浙江大學教學、教務、科研智能化升級與效率提升：門戶：無縫對接浙大統一身份認證系統，師生可憑校園賬號輕松登錄并享受相關服務AI科學家：提供全學科數據庫、知識庫、通用AI科研助手等工具，快速鏈接算力平臺、模型庫、算法庫，大幅提升科研效率課堂智能問答：深度融合大模型與向量數據庫，精準處理教案、考試要求等課堂資料，即時解答學生疑問、提升學習效率與質量教務咨詢：以智能交互提供專業教育咨詢，強化

72、政策文件檢索與理解，助力學生高效掌握教務信息百事通助手：整合超600項網上服務事項，覆蓋學習、生活、行政等多個場景，為師生提供全方位辦事指引本地生活助手：精準捕捉意圖，為師生篩選、推薦貼合需求的餐飲，并提供頁面地址及推薦理由，滿足多樣化用餐生活需求慧學外語：提供豐富多樣、高效使用的課程信息與學習對話體驗，助力外語學習42蘇泊爾：構建AI驅動的“居家食養健康”物聯場景生態企業介紹蘇泊爾成立于1994年，2004年在深交所上市，是中國炊具行業首家上市公司。蘇泊爾擁有6大研發制造基地，分布在杭州、武漢、紹興、玉環、柯橋和越南，通過持續創新和對品質的始終堅持，在小家電行業保持領先地位。產品涵蓋烹飪用具

73、、廚房電器、家居與個人護理電器等多個領域。云饌平臺是蘇泊爾旗下的智慧生活共創平臺，為消費者居家健康烹飪全場景提供了領先的解決方案。需求驅動力主要需求：提供個性化健康食譜，增強蘇泊爾APP使用體驗，建設智能炒菜機生態提供個性化健康食譜：提升廚房烹飪品類電器的內容生產效率，同時滿足消費者對于個性化專屬譜的需求；增強APP體驗：提供多場景中食譜智能檢索和推薦體驗；建設智能炒菜機生態：提升智能炒菜機生態服務能力，為炒菜機用戶提供一日三餐“居家食養健康”主題的配餐服務。蘇泊爾與火山引擎合作重點蘇泊爾工作重點:基于扣子專業版，打造云撰食譜創作、云饌AI尋味、云饌居家食養健康等智能體；優化以往PaaS-Sa

74、aS-APP的軟件架構模式，借助“Agent as API”方式實現智能體與蘇泊爾APP、蘇泊爾IoT產品直連，提升開發效率和用戶體驗?；鹕揭娼鉀Q方案：火山引擎扣子專業版提供了靈活編排搭建AI智能體的能力，加速蘇泊爾云饌系列智能體的構建；扣子平臺靈活的API支持，令蘇泊爾以“Agent as API”的方式應用智能體成為可能：云撰食譜創作：結合用戶綁定的廚電產品及家庭飲食情況，智能體可借助豆包大模型和文生圖能力，為用戶生成專屬的個性化健康食譜；43“蘇泊爾聯合豆包大模型與扣子AI智能體平臺，深入居家健康烹飪等多領域，以Agent as API直連產品，優化了IoT平臺架構，提效研發且用戶體驗

75、得以優化。憑技術創新構建居家食養健康物聯生態，賦予烹飪電器人格化體驗，給消費者帶來智能便捷的健康烹飪新生活?！碧K泊爾AIOT中心總監 張作強*數據取自蘇泊爾云饌平臺，2024年10月至今。云饌AI尋味：可在扣子專業版的智能體編排技術支持下，于蘇泊爾APP尋味欄目中，實現多場景食譜智能檢索和推薦等功能；云饌居家食養健康：借助扣子平臺智能體語音交互OpenAPI、音色克隆、音色合成API等能力，提升蘇泊爾智能炒菜機的服務水平，為消費者提供每日三餐“配餐式”的健康美食日歷服務。落地效果云饌食譜創作智能體針對蘇泊爾旗下電飯煲、電壓力鍋、烤箱、空氣炸鍋等重點品類，月均服務超15萬蘇泊爾APP會員，好評度

76、逐步提升。云饌AI尋味智能體日均服務蘇泊爾APP會員一日三餐2萬多次。44海底撈：基于智能化客戶評價分析，打造更好餐飲服務企業介紹海底撈品牌創建于1994年，歷經二十多年的發展，海底撈已經成長為國際知名的餐飲企業。截至2022年12月底，海底撈擁有上千家直營餐廳。海底撈多年來歷經市場和顧客的檢驗，成功地打造出信譽度高、融匯各地火鍋特色于一體的優質火鍋品牌。2018年9月，海底撈于港交所掛牌上市。需求驅動力主要需求：高效完成客戶評價分析高效完成客戶評價分析：海底撈自有及三方平臺門店已累計超千萬條用戶評價，以人工方式對評價進行分類分析成本高、效率低，海底撈希望提效用戶評價分析過程，加速沉淀產出總結

77、報告。海底撈與火山引擎合作重點海底撈工作重點：建設數據中臺，整合顧客餐后評價、投訴工單、第三方餐飲平臺點評與評價等反饋；打造后端環境進行數據治理，過濾無效內容，將有效評價推送至大語言模型?；鹕揭娼鉀Q方案：基于豆包大模型，火山引擎為海底撈搭建了用戶評價分析模型，通過對用戶評價進行情緒、觀點的高效智能抽取，形成服務質量、菜品質量洞察。豆包大模型具有更強性能，可通過語言處理能力，對顧客評價中有關環境、菜品、服務等不同維度內容進行抽取，同時判斷顧客評價時正向/負向情緒：從全局角度，對顧客評論給出“好中差”整體評價結論；提供進一步精細化分析能力，從服務、產品、衛生、性價比等多個角度判斷顧客情緒。提供不

78、同顆粒度總結報告，以直觀、數字可視化形式呈現在海底撈數據中臺，方便查閱。45落地效果在火山引擎豆包大模型能力幫助下，海底撈實現了高效、精準的用戶評價分析，為門店績效管理及后續經營管理的持續迭代與優化提供了指導?！癆I在餐飲行業的應用，不能一味地考慮邊際效用，也需要結合服務體驗，海底撈是以服務立足的企業，在AI方案的選擇上，也一直在追求“以人為本，體驗第一”的原則?！焙５讚菩畔⒖萍疾慨a品負責人 楊炫之46更多企業落地案例實踐招商銀行落地智能體，形成更全面AI能力客戶需求：加速智能化轉型：推動AI創新從高性能基礎設施向智能體多元場景拓展；提供更智能化、個性化客戶服務：以自然流暢語言交互方式，滿足金

79、融行業用戶多樣化個性需求。解決方案：火山引擎為招商銀行的智能化創新提供了擁有低門檻智能體構建能力的扣子平臺，以豐富的企業級插件、靈活的集成機制、多模型適配能力，加速招商銀行AI能力落地應用：以扣子平臺為依托，招商銀行舉辦了為期三個月、范圍覆蓋全行的“大模型應用創新大賽”，加速大模型及智能體技術在金融行業的融合應用，推動更多金融智能體項目涌現；依托扣子平臺打造的“掌上生活優惠”及“財富看點”等智能體，為用戶提供生活優惠查詢以及市場行情分析等一系列服務。落地效果：打造的智能助手以更自然的交互方式，以及更智能化、個性化的服務，提升用戶滿意度及粘性；招商銀行內部大模型及智能體技術的普及，為后續更多貼合

80、自身業務需求的AI智能體構建奠定了基礎。領克汽車將AI打造成銷售顧問的得力助手客戶需求：產品知識培訓：優化內訓流程，強化銷售顧問知識體系，理解客戶需求；增強銷售技巧：提升服務技能，增強銷售顧問服務、溝通技巧和跟進策略；智能化工具助理：智能化建檔，匹配現代消費者購買行為，豐富銷售工具，建立健全現代化工具。解決方案：火山引擎與領克汽車構建了同SalesCopilot技術深度融合的豆包大模型銷售助理，以及實時對練和評級系統、用車知識工具等：豆包大模型銷售助理：通過豆包大模型，銷售顧問可以獲取關于本品和競品汽車產品的深度知識，以及市場趨勢的即時更新，更好地理解客戶需求和優化銷售策略；實時對練和評級系統

81、：SalesCopilot提供的對練系統能夠模擬各種銷售場景，讓銷售顧問在實際接待和跟進客戶前，能夠充分練習并提升應對各種問題的能力；用車知識工具：銷售顧問可以通過這一工具快速訪問到關于汽車維護、操作和功能的詳細信息，并可以通過客戶手冊，查閱以視頻等方式輸出的豐富內容，從而獲得準確而詳細的產品知識。落地效果：更精準地滿足客戶需求，提供個性化、更高效的服務，助力銷售業績成功達成，打造業務增長新空間；靈活的底層算力支持，使得領克汽車能夠以極低成本快速落地大模型，降低端側推理成本。47想法流基于模型多模態能力保障更強用戶互動客戶需求：提升用戶互動性：打造嚴格遵循人設要求，且具備基本常識對話問答能力的

82、AI角色，以主動開啟新話題等方式推進聊天進展，增加用戶粘性；多場景支持：希望獲得對多個細分專業場景中、用戶不同交互行為的支持；服務穩定：為保證更好的對話體驗，提升用戶留存率，需要延時穩定在40-50ms，并保障RPM&TPM請求。解決方案：火山引擎為想法流提供了效果更強的豆包大模型，以多模態AI能力，幫助平臺為用戶提供豐富奇妙的內容體驗：以提供PE提示詞調優方式協助AI游戲的制作，并將制作指南開放提供給PGC創作者參考；通過豆包大模型語音合成、圖片人臉合成等多模態能力，支持多場景中不同交互行為需求；通過MoE架構模型和充足資源保障，滿足客戶對延時和RPM/TPM的要求。落地效果：通過接入豆包大

83、模型，想法流獲得了用戶每日互動次數1.5-2.5倍、人均互動輪次1.5-3.5倍于其他模型的增長，部分內容場景中人均對話高達150輪以上。同時，在火山引擎千萬級TPM資源保障下，平臺線上請求成功率達99.95%，token間時延平均控制在40-50ms內。深維智信借大模型獲營銷能力、培訓效率雙提升客戶需求：營銷機會洞察：基于語義進行智能化客戶畫像提取，對銷售會話數據進行準實時的AI分析，實現更精準企業營銷；員工培訓引導：基于大模型能力，為企業培訓提供貼近實戰的高效對練服務。解決方案：火山引擎為深維智信提供了豆包大模型，以模型能力對運營數據分析過程進行提效，同時以模型能力加持、實現更智能的對話模

84、擬，幫助提升客服能力：火山引擎提供豆包多種窗口尺寸模型及角色扮演模型，滿足多場景需求；分析銷售會話數據，提供基于語義的智能質檢配置和分析，識別客戶異議、卡點分析、關鍵矛盾、交易復盤，實現銷售過程透視，服務銷售管理；通過AI提煉高頻問題、真實需求、客戶畫像，從客戶聲音出發，科學制定銷售策略，借助精準營銷提升轉化效率。落地效果：語義分析的召回率相對于常規質檢工具提升55%以上，幫助客戶將新人入職培訓時間縮短50%，平均成單時長減少22%，平均人效提升31%。48和府撈面以模型能力提效用戶評論分析客戶需求：用戶評論分析：分析用戶評論數據，識別情感傾向并對其進行分類；經營策略調整：基于用戶對菜品口味、

85、門店服務質量的評價，調整經營策略。解決方案：扣子專業版提供低代碼開發環境，使得沒有編程基礎的業務人員也能輕松完成智能體的開發。和府的業務人員借助扣子產品的強大編排能力和豐富的插件功能，結合豆包大模型的技術支持，實現了更高效、更精準的用戶點評分析：通過豆包大模型的強大文本分析能力，對用戶評論數據進行情感分析，精準識別正面、負面、中性等情感傾向；基于模型的多層次理解，結合環境、服務、菜品等關鍵詞，對評論進行智能分類，并提取相關標簽，綜合準確率超過95%。分析結果以JSON格式輸出，便于開發團隊進行后續數據的處理和應用。落地效果：和府撈面打造的“顧客點評分析”智能體，能夠替代人工、高效完成顧客點評工

86、作，為門店建立對顧客的高效洞察，并為其在菜品、服務等方面進行策略調整提供了有力依據。中和農信借助扣子完成抖音生態內容質檢客戶需求：將人工抽檢變成AI全檢：高效全量地提取抖音視頻內容；實現自動化質檢分析：高效分析內容效果并及時更新調整。解決方案：借助扣子專業版強大的編排能力和豐富的插件能力，中和農信在沒有耗費研發人力資源的情況下，實現了質檢智能體的開發上線，完成了過去單靠人力無法做到的工作。借助扣子單Agent（LLM模式）搭建，并將智能體發布為API，實現了每天都通過API來自動獲取員工自媒體賬號的視頻內容并進行效果分析；智能體主要依靠視頻理解插件和豆包大模型的能力進行信息獲取和處理等批量、自

87、動化場景，免除了意圖識別、工具調用的時間延遲。落地效果：扣子提供的低代碼搭建環境、豐富的插件和強大的workflow組件，使得中和農信智能體的開發過程中幾乎沒有耗費研發資源，2人經過3天的開發和調試就達到了滿意效果，成功上線。49攻克有徑跨越大模型落地技術難題基于對眾多企業應用實踐的總結分析和對技術應用的研究，IDC總結了大模型部署落地的技術路徑。這套路徑融合了實際操作中的寶貴經驗，為企業引入和應用大模型提供了清晰的指南，確保了大模型技術落地的高效性和穩定性，助力企業的智能化轉型。企業在落地大模型應用時，建議重點考慮可提供全棧一體、低代碼、垂直賦能能力的開發平臺和服務。這些平臺和服務商可以將完

88、整、科學的AI部署步驟聯系起來，同時其內置的豐富的經驗模板和插件，能使企業快速、高效、準確地搭建落地目標場景并達到預期效果。此外，在面對不同投入周期、資源、場景、環境時應提供多樣化的選擇空間，允許企業以更靈活、類似插件搭積木的方式來創新AI。5.1 大模型落地部署技術步驟來源：IDC，2024資源投入計劃模型選擇效果評估應用建設路徑算力準備開發平臺搭建模型接入效果調優性能安全測試應用上線人才資金數據經驗性能測試安全測試風控測試PromptRAGSFTRLHF云端接入API管理線下部署LLMOpsAgentAPI管理數據平臺模型精度模型效果參數規模場景匹配度指標達成率響應時間TPMRPM建設周期

89、落地場景覆蓋廣度創新深度購買規模使用方式服務選擇跨平臺/系統跨數據源版本管理51資源投入計劃：確定團隊建設路徑，整合大模型開發人才、調優人才、數據人才、業務人才，重點考慮是否需要引入外部人才或展開外部合作，保證大模型開發應用各環節的充足人才儲備；保證資金階段性的持續投入，并制定里程碑，讓每項成果都能被看到；盤點內部數據，制定數據采集、數據清洗和數據治理計劃，使其更好服務于AI大模型的訓練和推理；考慮企業內部是否有可以直接學習和引用的模板和經驗沉淀，打造差異化壁壘。模型選擇：了解大模型市場提供產品的功能特性和應用效果，面向需求定制，使用內部和外部測試集來測試模型效果，并充分體現評估集對業務指標的

90、考量，選擇評測指標達到業務需求的模型；從模型實際落地的效果、可參考的實踐案例和demo來挑選模型；從訓練和推理效率、延遲以及調用成本方面挑選最合適規格的大模型，可參考模型大小、硬件支持水平、服務SLA水平；重點考慮該模型與企業目標業務場景的匹配度，是否需要調優或經過簡單調優即可上線應用來解決問題。效果評估：在選擇模型后，企業應考慮從具體落地的場景和使用效果出發，來預測模型上線后的業務指標達成率、實際體驗效果、各功能平均時延、最大吞吐等工程指標；52預估需要調整優化的投入和開發難度，確保使用者擁有最好的AI應用體驗，實際效果和響應時間的長短會極大影響用戶的感受和留存率。應用建設路徑：明確建設周期

91、，制定詳細的時間計劃和關鍵時間節點，做到多線程統一管理；了解大模型的應用邊界，從賦能方向、使用人群等確定大模型的落地場景；在明確落地場景后，需要進一步考慮大模型的覆蓋廣度和創新深度，劃分大模型可以服務的業務、市場、開發等部門人員和外部客戶群體，并考慮如何在現有大模型的基礎上進行內容和服務創新。算力準備：隨著大模型應用廣度和深度的增加，大模型的覆蓋范圍和使用頻率會規?；嵘?，推理時算力資源的消耗額度也將同步增加；企業應重點考慮算力購買規模，制定階段化、梯度上升的算力準備策略；明確算力資源的使用消耗方式，傾向選擇可以實現瞬時響應和擴縮容的服務；算力有公有云、私有云等多種方式，應根據自身業務體量和實

92、際需求挑選成本最優、服務最合適的方案。開發平臺搭建：搭建LLMOps平臺，保證AI大模型的開發建設和管理擁有完整的工具鏈條，具備全棧平臺能力；利用外部AI廠商成熟的Agent工具實現AI大模型的快速開發和應用，直接使用預置的豐富垂直場景化模板和工具；53隨著模型版本、上線應用場景的增多，做好統一API接口的管理；為AI大模型采集、產生和使用的多模態數據搭建可靠的數據平臺底座，實現文本、圖像、視頻等多樣化數據的一體化管理。模型接入：從場景安全需求、數據隱私保護需求、管理便捷程度、成本等方面來選擇模型的接入方式，如云端接入、API管理或線下部署；重點考慮后續調優的成本以及模型更新的代價；目前來看，

93、云端接入是多數企業的選擇，且在后續模型版本更新后也能通過更低的成本實現無縫銜接。效果調優：可選擇Prompt工程、RAG知識庫等簡單、低代碼、無代碼方式進行效果調優，需重點考慮AI廠商是否具備豐富的經驗沉淀、算法模型和模板預置，如RAG過程中提供成熟的嵌入、檢索和重排序模型；選擇SFT、RLHF等復雜方式進行調優；這一過程需要更高水平的開發人員對大模型的架構、參數和訓練數據進行調整。性能安全測試：在模型上線前最關鍵的步驟是進行性能安全測試，包括性能、安全、風控測試，對內容生成效率、數據內容泄露風險、敏感詞等進行測試；例如TPM（Tokens Per Minute每分鐘Tokens數量）、RPM

94、（Requests Per Minute每分鐘請求數），保證大流量、高并發場景下運行穩定；重點考慮互聯網場景應用更深、服務人數更廣的AI廠商，其擁有更多的數據和經驗，在測試時水平更高，可以有效避免安全和敏感問題。54應用上線：根據業務場景重點考慮AI大模型的跨平臺、跨系統上線，統計應用上線出口，明確是否需要開發額外的用戶界面、客戶端，還是與已有服務界面融合即可；做好底層數據的管理，保證模型上線后不同使用群體、不同問題和任務可以在既定的規則和使用范圍下應用數據，同時保護用戶的數據隱私；做好版本管理，以應對模型應用的增多、測試和更新。5.2 精準選模、高效落地、持續挖掘 落地三要素在大模型落地的眾

95、多技術步驟與細節之中，精準選模、開發平臺、伙伴與同行這三個方面顯得尤為關鍵。精準選模確保了所選模型與業務需求的高度匹配，為后續應用打下堅實基礎；開發平臺則是模型訓練與優化的關鍵場所，直接影響到模型的性能發揮與落地效率；而伙伴與同行則關乎技術支持、資源共享與協同創新，對于模型的成功落地同樣至關重要。5.2.1 模型的選擇：企業實現AI轉型的關鍵充分的業務場景論證將保證商業應用的成功。實驗室環境下的模型水平與實際業務落地存在一定認知差距，企業需要重點考慮該模型背后是否有更大的使用量、有充分的業務場景論證；更多的模型使用可以保證更快的迭代升級，包括通用基礎模型和多場景的模型家族，能帶來更好的、更貼合

96、業務場景的、可以帶來真正商業價值的AI服務。55多模型家族給企業更多的選擇空間和更緊密的匹配度。面向不同業務場景，企業需要文生文、文生圖、聲音復刻、語音合成、語音識別、視頻生成等多樣化、多模態模型，并實現多源數據的同時接收、判斷、思考、處理、檢索、生成需要的內容，以選擇與業務高度適配的大模型服務體系。模型應具備廣泛塑造、即時可用的靈活性。大模型作為企業創新提效工具，需要具備可塑造性。企業應關注該模型在利用不同方式調優時的難易程度，以及模型廠商是否提供了更簡單、自動化的工具模板，將模型不可變的基礎部分進行封裝，針對適合企業進行調整的架構和參數提供高代碼、低代碼工具。同時，即時可用、便捷插拔、彈性

97、擴縮容也是實際業務中需關注的因素。5.2.2 一站式大模型服務平臺：解決模型部署的復雜難題選擇提供全?；?、自動化、智能化使用體驗的大模型服務平臺。AI大模型不同于傳統的計算機視覺、自然語言處理等小模型，大參數模型所使用的開發、調優工具更多、更復雜，對平臺功能的一體化要求也更高，導致企業很難依賴過去自建的開發流程和平臺。平臺不僅需要覆蓋從場景分析、模型選型、數據集管理、RAG、工具插件、數據評估、效果調優、測試評估、部署上線、監控優化的全開發鏈路，還需要提供自動化的流程和工具，減少人員重復、不必要的工作負擔，讓其專注于模型的效果優化。例如，火山方舟在提供多樣化且易于使用的調優框架的基礎上，準備了

98、豐富的實踐案例和落地指南，并圍繞RLHF開發了獎勵函數更易實現的低成本方案。保證從POC到上線運營的全生命周期數據和安全。企業CXO高管需意識到，大模型的安全可信不同于傳統的安全概念，涉及數據輸入、知識管理、問答處理、記憶檢索、輸出監控的全鏈條周期，這些都會影響大模型本身和生成內容的安全和可信。例如，火山引擎的數據加密服務可實現對話過程的全鏈路加密、純內存、零日志，加密密鑰掌握在客戶自己手中。56考慮AI廠商團隊是否能提供專業的技術服務支持和咨詢保障。調研顯示，有28%的企業認為內部缺乏AI大模型相關技能和人才，26%的企業擔心生成結果不準確或內容幻覺問題。而企業自身的人才團隊和經驗無法保證平

99、臺以最優路徑搭建，需要外部AI廠商的專業支持，輔助、引導其搭建適合自身業務的、定制化的、滿足實際個性化需求的大模型服務平臺。因此，可以從團隊服務規模、案例數量、目標場景經驗積累、技術相應程度、客戶評價等方面來挑選合適的廠商。5.2.3 合作伙伴：持續挖掘大模型應用潛力的關鍵選擇好的技術服務商可以為企業帶來更大的直接價值和潛在收益。IDC調研數據顯示，47%的企業認為與AI大模型伙伴建立良好的合作關系來推動項目落地是能否取得成功的最重要因素。服務領先的AI廠商可以給項目帶來效率提升、產品創新、收益增加和成本降低等價值，大幅提升企業生產力、驅動業務創新和增長。同時，選擇好的技術服務商也可以享受后續

100、模型更新、持續專業服務、業務咨詢指導、生態圈交流、社區知識共享等更大收益。頭部AI廠商已經先行探索并積累大量經驗。大模型的落地需要專業的伙伴和長時間檢驗，頭部AI廠商已經在汽車、零售、教育、泛互聯網等多個行業服務并有了豐富的實踐指導和案例參考；計劃采購AI服務的企業則可借此對大模型有更充分的了解并知悉如何發展自身業務，避免重復試錯帶來的成本，避免重復建設、反復調優、多輪驗證帶來的時間消耗和市場機會的錯失。57信賴之選火山引擎大模型服務加速企業AI轉型火山引擎作為國內大模型領域的重要技術服務商之一，憑借其豆包大模型，火山方舟大模型服務平臺，如扣子、HiAgent等多樣的企業級智能體開發平臺，及其

101、在眾多行業的成功落地經驗和高效的服務響應，成為企業AI轉型中值得選擇的優質服務商。業務驅動模型效果持續增強自火山引擎2024年5月發布豆包大模型以來，依托企業內部真實業務場景數據、外部案例合作以及實際場景中的工程化問題，豆包大模型架構和參數不斷優化和增加，其模型效果已獲得眾多企業認可。截至9月，豆包大模型的日均tokens使用量已經超過1.3萬億，4個月的時間里tokens整體增長超過10倍。6.1 豆包大模型模型家族適配多場景需求豆包持續強化大語言模型、語音大模型、視覺大模型的能力水平，并在通用模型的基礎上，面向行業領域不斷豐富模型家族，多樣化的垂直場景細分模型可適配客戶的專業需求，更加專業

102、和深入的案例實踐可以加速垂直場景模型優化迭代。豆包通用模型pro為自研大語言模型專業版本，支持256k長文本，具備更強的理解、生成、邏輯等綜合能力，適配問答、總結、創作、分類等場景。與pro版本對應的是lite輕量化版本，可為企業提供更低token成本和更低延遲。豆包模型家族的視頻生成、角色扮演、語音合成、語音復刻、文生圖、圖生圖模型已廣泛在內外部場景應用，例如電商營銷、動畫教育、城市文旅、音樂MV、微電影、短劇、沉浸式聽書、陪伴式AI交互、視頻配音、電商產品配圖等。59來源：火山引擎，2024適配多種業務場景，驅動業務增長字節跳動自研LLM模型專業版，支持256K長文本，全系列可精調，具備更

103、強的理解、生成、邏輯等綜合能力，適配問答、總結、創作、分類等豐富場景。豆包通用模型pro通過精準語義理解、強大動態及運鏡能力創作高質量視頻，支持文本和圖片生成兩種模式。豆包視頻生成模型快速生成精美寫真，支持50余種風格變換，并對圖片實現擴圖、重繪、涂抹等創意延展。豆包圖生圖模型更高的準確率及靈敏度，更低的語音識別延遲，支持多語種的正確識別。豆包語音識別模型字節跳動自研LLM模型輕量版，對比專業版提供更低token成本、更低延遲，為企業提供靈活經濟的模型選擇。豆包通用模型lite更精美的文字理解能力，圖文匹配更準確，畫面效果更優美，擅長對中國文化元素的創作。豆包文生圖模型提供超低延時且自然高質量

104、的實時翻譯，支持跨語言同音色翻譯，打破溝通中的語言壁壘。豆包同聲傳譯模型提供自然生動的語音合成能力，善于表達多種情緒，演繹多種場景。豆包語音合成模型5秒即可實現聲音1:1克隆，對音色相似度和自然度進行高度還原，支持聲音的跨語種遷移。豆包聲音復刻模型個性化的角色創作能力，更強的上下文感知和劇情推動能力，滿足靈活的角色扮演需求。豆包角色扮演模型以圖片、靈感、寫詞的方式快速生成高品質音樂，歌詞更精準，旋律更多樣，演唱更真實。豆包音樂模型提供更加準確的功能識別和參數抽取能力，適合復雜工具調用的場景。豆包Function Call模型聚焦向量檢索的使用場景，為LLM知識庫提供核心理解能力，支持多語言。豆

105、包向量化模型大語言模型視覺大模型語音大模型60強勁的系統承載力保證大模型應用發揮乘數效應?；鹕揭嫣峁╊I先的算力充沛供給、推理層優化策略和高水平系統調度能力，保證企業面臨大模型需求涌現時可以擁有瞬時可用、極致彈性的海量資源。在面對科研、汽車、教育等不同場景下的高并發需求時，豆包通用模型pro可最高支持10k RPM和800k TPM，遠超同行水平，并且可以根據實際需求進一步擴容，幫助大型企業在生產環境中落地大模型。6.2 火山方舟大模型服務平臺來源：火山引擎，2024功能全景圖大模型全生命周期能力智能體模型廣場火山引擎云基礎機器學習平臺智能體廣場教育娛樂聊天客服代碼.體驗中心模型精調模型測評模

106、型服務模型治理和安全監控與告警高代碼開發工具扣子專業版自研插件聯網插件內容插件RAG 知識庫插件插件廣場ChatGLMMoonshotMistral 7BMistral 8x7BSDXL 1.0高代碼開發 SDKAssistantAPI運行與托管調試扣子插件專區計算器網頁解析低代碼搭建多渠道分發運行與托管豆包通用模型 pro豆包通用模型 lite豆包視頻生成模型豆包文生圖模型豆包圖生圖模型豆包同聲傳譯模型豆包語音識別模型豆包語音合成模型豆包聲音復刻模型豆包角色扮演模型豆包Function Call模型豆包向量化模型61全周期安全可信方案幫助企業構建大模型安全“堡壘”?；鹕揭娉掷m升級安全可信解

107、決方案，面向企業關心的身份認證、數據保密、環境隔離、信息無痕、操作可審計等問題進行能力專項持續優化，如在任務結束后，沙箱會自動銷毀數據，保證用戶會話全程無痕；通過領先的可信容器沙箱技術，杜絕外部風險入侵和內部數據泄露。同時，面向推理、精調安全審計，火山引擎可全周期、全覆蓋監控接入訪問、KMS訪問、沙箱登錄、沙箱連接、沙箱容器逃逸、vArmor攔截日志，保證數據可保護、可審計、可追溯。豐富的插件生態使得企業更好對接外部內容?；鹕椒街圩匝新摼W插件、內容插件和RAG知識庫插件，將運營內容和技術積累共享給企業，以增強模型落地效果。例如，聯網插件提供頭條、抖音同款搜索能力，可實時連接獲取互聯網海量優質可

108、信數據，大幅提升用戶的意圖識別檢索水平；內容插件可對接更多新聞、視頻和垂類內容信息；RAG知識庫插件基于飛書文檔解析技術，可自動將輸入文檔內容切片、歸類、嵌入，并達到百億數據的毫秒級檢索，大幅提高企業內部知識搜索的相關性和準確性?！案鼘崟r”聯網插件頭條抖音同款搜索能力，毫秒級相應，大幅提升模型的搜索能力實時連接海量優質數據實時獲取并更新互聯網上海量信息源文本、圖像、語音等多模態交互強大的意圖識別檢索能力“更生動”內容插件字節優質內容庫，頭條抖音同源海量內容，幫助大模型深入理解、檢索和生成內容海量精彩內容高質量視頻互動基于意圖的相關內容信息檢索內容策略定制“更專業”RAG知識庫插件百億數據毫秒級

109、檢索，提高大模型搜索的相關性和準確性檢索性能強毫秒級百億規模高性能檢索索引更新快秒級流失知識庫索引更新搜索相關性高內嵌豆包向量化模型飛書同款文檔解析能力來源：火山引擎，202462長期持續釋放的服務價值。不同于一次性交付服務，AI大模型作為企業的動態資產，只有不斷地學習新知識和快速迭代，其作用和價值才可持續發揮。為此，火山方舟打造客戶全周期服務鏈條，總結實踐經驗形成方法論，幫助客戶理解大模型應用邊界和落地預期，提供場景咨詢、評測體系建立、目標規劃、ROI計算、模型選擇、應用落地、效果達標、業務分析、服務優化、新能力測試、增購擴容支持。IDC觀察到，企業在初步落地大模型應用后，在持續更新模型能力

110、的同時，還會加大對IT和業務數字化轉型的投入，包括云服務、數據管理、開發工具、流程軟件等，這些也是火山引擎所具備的。來源：火山引擎，2024服務價值釋放客戶的獨有數據價值場景落地的最后一公里助力客戶成功服務案例：在某汽車廠商的智能座艙場景，字節跳動的算法工程師輔助客戶共建大模型的解決方案，包括建立評測集、Prompt Engineering（提示工程）、精調數據建設、模型調優、聯網，并在角色扮演、知識庫問答等模型上基于業務場景進行效果優化。輔助構建完善的模型評測體系分析模型在業務場景中表現優化模型效果并持續改進字節跳動專業算法服務636.3 扣子降低開發難度，更好地服務企業用戶。面向AI應用開

111、發人員不足、服務穩定性要求高的企業，為降低大模型應用的開發門檻，支持用戶快速搭建AI應用，進一步縮短從構思到落地實踐的時間，火山引擎發布扣子專業版，以專業級的穩定支撐、火山方舟模型資源快速接入、更好的團隊資源配額為核心價值，滿足企業對高并發、高穩定性的要求，將應用開發周期縮短95%以上，同時加強數據安全和資產安全保護。豐富的插件和流程智能化管理，快速打造企業級超級應用?？圩訉I版定位為企業級應用打造平臺，鏈接插件、工作流、圖像流、知識庫、數據庫等一系列工具，無縫銜接擁有更強模型效果的豆包大模型家族，以及企業精調模型與開源模型，加強團隊緊密合作和開發流程化管理，實現邏輯串聯和多技能并行，面向企業

112、用戶提供自身積累沉淀的、豐富的應用模板，以及調測、發布、集成、觀測的全周期服務。例如使用新聞插件，可以快速打造上線一個能夠播報最新時事新聞的AI播音員。來源：火山引擎，202464上線扣子專業版模板商城，快速復用AI優秀實踐模板。為解決市場上無參考、用戶尋找模板困難、個性化修改過程復雜的問題，扣子專業版新推出了模板商城。通過有效的分類和搜索功能，以及展示熱門數據、官方推薦和專題，用戶可以精準地了解和接觸目標領域和其他領域的模板，從而激發創作靈感、跨界開發應用。目前商城已經上線了智能客服助手、圖文創作助手、雅思口語專家、名畫寫真、作業批改等優秀模板，在火山引擎內部和外部客戶中被大量使用和認可?；?/p>

113、山引擎仍在不斷優化模板商城生態，幫助用戶在0-1階段，以低成本、低代碼方式更好地搭建出實用的POC方案并快速上線。656.4 HiAgent更懂AI轉型的專屬應用創新平臺，助力更多企業快速創新落地。HiAgent定位為企業專屬的AI應用創新平臺，目的是幫助企業能夠用零代碼或低代碼的方式走完從模型到應用的“最后十公里”。HiAgent可以向下兼容多種模型，原生整合豆包大模型的同時還能兼容第三方的閉源或者開源模型，并通過提示詞工程、知識庫、插件、工作流編排四要素來輔助輕松構建智能體，預置豐富的模板和插件，并給予自定義的自由空間。目前HiAgent已經為招商銀行、海爾集團、中國國際航空等500強企業

114、和浙江大學等頂尖985高校提供服務，落地200+場景，打造Agent 500+款，惠及數百萬終端用戶，持續沉淀豐富的行業模板為更多企業提供服務。同時，提供端到端的AI咨詢服務以及切實可行的AI轉型實踐方案，助力企業輕松落地AI創新業務。66四大特性助力企業構建專屬AI應用創新平臺來源：火山引擎，2024支持私有化部署，保護企業的數字資產和知識產權。專屬部署模式專屬應用插件支持私有化部署云原生輕量級架構實現私有部署企業私有數據不出域員工信息、產品信息、經營數據、知識庫按需訪問外網增強效果通過插件訪問外網，如搜索增強、內容增強等，在保證安全性的前提下提升應用效果私有插件流程系統類 數據系統類 內部

115、三方系統類通用插件新聞閱讀類 照片攝影類 實用工具類 便利生活類網頁搜索類 科學教育類 社交類 游戲類 金融商業類貼合您的業務需求，通過插件機制擴展企業的“手和腳”，支持通過工作流自定義流程，實現企業流程自動化與 AI 的有機結合。專屬功能定制豐富的應用模板提供企業級應用模板，更快速開箱即用，傳遞最佳實踐應用效果評測體系優質的應用效果評測體系，支持企業按照要求調試&效果優化按照行業屬性和企業特點定制專屬應用，并通過優質的效果應用評測體系保障效果。專屬集成方案支持多模型接入，包括商業模型、主流開源模型及企業自研大模型，企業可按需使用。提供豐富的智能體集成機制，輕松集成到企業業務系統中，讓AI在工

116、作中無處不在。角色扮演長文本理解文案生成意圖識別文本嵌入方舟托管模型開源模型商業模型Chatbot類型發布即時體驗Copilot-web嵌入業務系統嵌入AgentAPI調用企業集成企業辦公平臺媒體/社區內部業務系統模型/Prompt效果對比 應用Debugging&Tracing智能客服 員工培訓 編輯審核 智能導購 營銷文案 習題解析飛書 企微 釘釘豆包APP 微信公眾號CRM HR ERP67更靈活適配企業業務，將豐富的模型選擇、行業插件與業務系統深入集成。HiAgent提供了更加豐富、面向垂直領域的模型家族和一站式服務，聯合金融、教育、消費、醫療健康等行業頭部ISV打造了100+行業插件

117、，并支持插件可定制，幫助企業無縫銜接現有業務系統。企業可以利用AI專屬平臺提升創新速度、加深知識密度、增加能力厚度。HiAgent支持專屬部署模式、專屬應用插件、專屬集成方案和專屬功能定制，幫助企業搭建具備自身特色的、定制化的應用創新平臺，為企業提供一系列具備專業流程的模板，引導用戶通過簡單操作即可完成知識切片、提示詞編寫、多Agent調用管理。此外，在豐富的“開箱即用”功能集市基礎上，沉淀積累融合企業內部數據、經驗、流程的能力，將雜亂的數據和信息變成有用的知識，打通各部門系統流程，做厚AI中臺能力、做到舉一反三，發揮飛輪效應。更強的安全保障讓企業大模型安心落地。HiAgent支持RAG知識庫

118、和大模型全棧私有化部署，為知識庫提供數據安全防護，并提供覆蓋Agent全生命周期的安全保障，同時面向安全隱私，集成HiAgent、知識庫、大模型的全棧私有化部署解決方案，可以實現事前、事中、事后的全周期保護，消除惡意代碼注入、幻覺輸出，實現知識庫數據保護、細粒度訪問控制。68結語及未來展望當下，大模型及其落地處在一個快速變化和不斷演進的過程中。大模型技術服務商既要緊密貼合企業實際業務需求，又要不斷突破技術革新的邊界。在這個動態發展的過程中，只有將市場需求與技術發展緊密融合，相互激發，才能確保大模型的發展在未來既順應市場潮流，又保持技術的前瞻性。從企業側來看，企業對AI大模型充滿期待，且更加依賴

119、AI頭部廠商IDC調研顯示，整體市場與經濟環境穩中向好，有22.2%的受訪用戶認為未來1年不會減少對AI和自動化的投資預算，且受訪企業一致同意AI大模型需要更多的投入和伙伴。大模型能力的快速迭代以及低代碼工具生態的豐富，讓企業會更加傾向于選擇模型直接應用，并不進行復雜的調優。對此，擁有更多數據和行業實踐經驗的AI頭部廠商將更具優勢，也具備更多的人才和資源與企業陪跑，助其完成持續迭代和業務創新。從技術本身來看，模型效果持續增強，將解決更復雜的開放式任務Scaling Law（規模定律）將長期存在；隨著數據量的持續上漲和任務復雜度的提升，基座模型的效果將會隨著訓練和調優持續增強，大模型的能力和專業

120、性也將進一步提升，例如數學邏輯推理、高維計算、視頻任務、多模態生成。小參數模型的能力因任務和應用領域不同而差異化明顯，大型模型則更加通用，在復雜、開放式任務中的表現水平更高，在面向特定應用和服務需求時的可遷移性、可塑造性也更加優越。69垂類模型、多模態、智能體是AI大模型突破應用邊界的關鍵當前，大模型的模型應用正在從圖片、文本生成，走向視頻、多模態交互方向。隨著越來越多的企業應用大模型并創新個性化的模型服務，行業領域垂直、細分業務的模型家族將會更加豐富，并出現高水平的模型和高質量的生成內容，提升使用滿意度。同時值得更多關注的是，Agent智能體的開發將是增加大模型服務廣度和深度的關鍵，使其可以

121、同時處理多項實際任務和問題，執行復雜的操作并給出更加滿意的結果。雖然目前大模型在數學、邏輯推理和優質內容生成上仍有較大發展空間，但隨著頭部AI廠商融合更多行業落地實踐，創新思維鏈、邏輯鏈，大模型也將會更好地服務企業快速實現AI轉型。70關于 IDC國際數據公司（IDC）是在信息技術、電信行業和消費科技領域，全球領先的專業的市場調查、咨詢服務及會展活動提供商。IDC幫助IT專業人士、業務主管和投資機構制定以事實為基礎的技術采購決策和業務發展戰略。IDC在全球擁有超過名分析師，他們針對多個國家的技術和行業發展機遇和趨勢，提供全球化、區域性和本地化的專業意見。在IDC超過年的發展歷史中，眾多企業客戶借助IDC的戰略分析實現了其關鍵業務目標。IDC是IDG旗下子公司，IDG是全球領先的媒體出版、會展服務及研究咨詢公司。IDC ChinaIDC中國（北京）：中國北京市東城區北三環東路號環球貿易中心E座室郵編：+.Twitter:IDC版權聲明凡是在廣告、新聞發布稿或促銷材料中使用IDC信息或提及IDC都需要預先獲得IDC的書面許可。如需獲取許可，請致信。翻譯或本地化本文檔需要IDC額外的許可。獲取更多信息請訪問，更多有關IDCGMS信息，請訪問https:/ IDC。未經許可，不得復制。保留所有權利。