OMDIA：2024科技趨勢報告生成式人工智能（12頁）.pdf

1、Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCEden Zoller,Chief Analyst,Applied IntelligenceNatalia Modjeska,Research Director,AI and Intelligent AutomationLian Jye Su,Chief Analyst,Applied IntelligenceAlexander Harrowell Principal Analyst,Advanced Computing for AI

2、Andrew Brosnan,Principal Analyst,AI Applications in Life S2024 科技趨勢：生成式人工智能Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLC“生成式人工智能可以帶來變革，但前提是必須建立在堅實的數據基礎之上，謹慎執行，并提供真正有價值的應用。不要把生成式人工智能當成速效救心丸，也不要指望它能把一件壞事變成好事。Eden Zoller人工智能首席分析師2024科技趨勢：生成式人工智能Copyright 2024.All rig

3、hts reserved.Informa Tech,a trading division of Informa PLCPage 3Information Classification:General內容大綱 Omdia 觀點 主要信息 主要建議 從規?；蕉鄻有?，開源人工智能引來新變革 對人工智能推理來說，輸入輸出(I/O)比計算更重要 生成式人工智能將引發對企業數據質量、管理和數據治理的新一輪投資熱潮 基于生成式人工智能的聊天機器人和語音助手將引來爆炸式增長 生成式人工智能在醫療保健領域的應用將在2024年加速發展 本地化需求將推動亞太地區生成式人工智能發展 附錄如果您對更詳細的報告內容感興

4、趣，請與我們取得聯系2024科技趨勢：生成式人工智能Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 4Information Classification:General從規?；蕉鄻有?，開源人工智能引來新變革 2023 年見證了強大的人工智能大模型（如 GPT-4）的誕生，而LLaMA 的開源引發了 50至500 億參數模型的創新爆炸。開源模型的發展也帶來了新的訓練和微調技術，讓特定領域的人工智能系統大量涌現。盡管取得了不錯的進展，但生成式人工智能的治理框架部署進度參差

5、不齊 盡管歐盟人工智能法案已經發布，但其需要到2025 年才會正式實施，從現在到實施之日將出現治理框架上的空白，無法應付不斷涌現的新倫理問題。另外，2024 年的美國總統大選可能會讓新的領導人修改或廢除目前關于人工智能的行政命令。自發的人工智能安全準則會或多或少填補監管上的空白，但這些準則僅僅相當于自我監管的道德標準。.主要信息對人工智能推理來說，輸入輸出(I/O)比計算更重要 在實際部署中，人工智能推理服務正變得越來越重要，這導致企業更加關注哪種處理器更適合進行推理。人工智能訓練傾向于使用強大的計算能力和片上內存；人工智能推理則更關注內存帶寬、高密度封裝和南北向接口。企業數據質量、管理和治理

6、的新一輪投資熱潮隨著生成式人工智能最初的熱潮逐漸消退，企業對該技術的挖掘越來越深入，許多人意識到數據對人工智能的重要性。而那些以前沒有投資于可擴展、安全、可靠和可信的數據基礎設施和治理的企業將會落后。這將激勵企業更加積極地在這一領域進行投資。12342024科技趨勢：生成式人工智能Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 5Information Classification:General生成式人工智能將在醫療保健領域加速發展2024 年，生成式人工智能在醫療保健

7、領域的應用將如雨后春筍般的冒出來。Omdia預計，從2023 年到 2028 年，醫療保健領域對生成式人工智能的投資將增加 10 倍。企業用戶應做好準備，制定穩健的部署計劃和風險控制策略，而供應商則應專注于易用性和定制化的咨詢服務?；谏墒饺斯ぶ悄艿牧奶鞕C器人和語音助手將引來爆炸式增長新一代多模態生成式人工智能將為聊天機器人和語音助手提供低門檻的定制服務，注入一劑急需的強心針，提高語音助手的個性化程度并擴大其應用范圍。主要信息本地化需求將推動亞太地區的生成式人工智能發展 中國、韓國和日本的供應商已經推出了符合當地文化、語言和價值觀的本地化生成式人工智能解決方案。與此同時，新加坡政府正在為本土

8、人工智能開發商提供激勵措施。東南亞和南亞市場將出現更多本地化的大模型，重點支援當地語言甚至地域方言。5672024科技趨勢：生成式人工智能Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 6Information Classification:General主要建議給企業用戶的建議 抓住時機，定制適合自身業務的人工智能。QLORA (Quantized LoRA)等技術正在大幅降低人工智能的開發門檻。企業應抓住機遇，在自己的業務中使用專有的數據資產和專業知識，部署獨特的人工

9、智能服務，避免與對手進行同質化競爭。人工智能的開發與部署有著截然不同的技術要求。在日常業務中部署的人工智能較少涉及核心訓練，而更多涉及推理。企業用戶更偏向使用成熟的模型對數據進行預測或生成輸出。在網絡交互方面側重的是南北向而不是東西向，在計算方面在乎的更多的是延遲而不是純算力。面對轉型技術的加速創新，企業必須專注于基本要素。這些基本要素包括人員、流程和技術，同時發展其治理政策和風險控制策略。堅實的基本要素將使企業能夠敏捷地采用新技術，并迅速進行風險干預以降低風險。給企業用戶的建議(continued)謹防跟風心態。與其問團隊我們如何利用這項新技術賺錢，不如聚焦于業務挑戰以及生成式人工智能與這些

10、挑戰的關聯性，從使用案例和企業戰略入手，進而實現概念驗證之外的可持續商業價值。投資于數據質量、管理和數據治理。第三方的生成式人工智能模型需要以企業自身數據為基礎，才能實現業務價值。鑒于大模型的幻覺傾向，高質量的數據和人工智能治理對發展企業的生成式人工智能至關重要。2024科技趨勢：生成式人工智能Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 7Information Classification:General給供應商的建議 服務亞太市場的供應商應優先考慮提升本地化生成式

11、人工智能能力。在2024年，亞太市場對能夠理解當地環境的特定領域生成式人工智能模型的需求將會大幅度增加。由于這些市場具有獨特的語言偏好、風俗習慣和價值體系，因此妥善處理并完全掌握地區獨特性至關重要。只有當生成式人工智能模型能夠很好地融入當地文化時，客戶才會對其持開放態度。提供具有清晰信息的強大技術路線圖。業界已經見證了生成式人工智能的第一波浪潮，供應商需要以清晰的技術路線圖來支持下一波的發展。這將使客戶能夠明確未來的服務和發展法相，對現有解決方案進行進一步的投資和修正。盡早為新的生成式人工智能法規做好準備，并為進一步的變化做好準備。生成式人工智能治理非常復雜，有時會引起爭議，而且仍在不斷演變。

12、供應商必須給自己充足的時間來了解需求，這可能需要進一步投資或者修正現有解決方案。主要建議給供應商的建議(continued)不要假設旗艦GPU 的增長會永遠持續下去。當開源模型出現時，最先進的人工智能模型（SOTA）規模的增長已經放緩，競爭的焦點將從萬億參數模型的轉到 50至500億參數級別?？紤]模型的可擴展性，并確保您對新技術和新應用的支持。在人工智能訓練的熱潮達到頂峰后從旗艦GPU轉向多用途、可擴展處理器。需要同時重視人工智能推理以及訓練，另外，較小模型的微調的重要性也日益增加。幫助您的客戶為生成式人工智能構建堅實的實施基礎。幫助客戶打造可靠、健壯、安全可控、可擴展且值得信賴的數據基礎設施

13、。比如，在合同語言中明確說明用于微調模型的客戶數據和提示詞將在何處處理，何處存儲。數據和人工智能治理越來越像對供應商盡職調查，客戶采購團隊可能缺乏關鍵人工智能技能和知識，而供應商則面臨著客戶在試驗時快速行動的壓力。2024科技趨勢：生成式人工智能Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 8Information Classification:General主要建議給運營商的建議 少數亞洲電信運營商正在建立自己的大模型，但對大多數電信運營商來說并不是最優選擇。從頭開始

14、構建一個大模型確實可以提供最大程度的控制，但這是一項艱巨的任務，需要深厚的人工智能專業知識和資金。對大多數運營商來說，微調現有的大模型更為可行，即通過調整預建的成熟的大模型，讓其適應特定垂直領域和特定任務的需要。尋求現成的解決方案。電信運營商可將內部工作與現成的生成式人工智能解決方案相結合，這些現成方案包括針對電信運營商自身業務以及適用于大多數垂直行業應用。這是部署生成式人工智能的低門檻、低成本和更快的途徑。亞洲電信運營商應選擇真正了解地區復雜性的解決方案提供商。這些供應商應在亞太多個市場具備良好運營記錄并清楚了解當地法規和需求。生成式人工智能不僅涉及數據和計算，其部署還需要與當地市場實踐一致

15、。AppendixPage 9Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCCopyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 9如果您對更詳細的報告內容感興趣，請與我們取得聯系2024科技趨勢：生成式人工智能Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa

16、 PLCPage 10Information Classification:GeneralMethodologyThe Trends to Watch predictions in this report is draws on primary data and analysis from Omdia AI related trackers,forecasts,consumer and enterprise surveys and research reports.The Trends to Watch predictions also benefit from insights from A

17、I stakeholders and the wider Omdia analyst network.Further reading Artificial Intelligence Software Market Forecasts 2H23 Data(November 2023)Telco positioning in the generative AI ecosystem(November 2023)Consumer AI Survey:2023 Generative AI Analysis(August 2023)AI Processors for Cloud and Data Cent

18、er Forecast Report 2023 Database(August 2023)AI Market Maturity 2023:Data(April 2023)Generative AI:Tech Provider Viewpoints(March 2023)Generative AI:Market Landscape 2023(March 2023)The Rise of Generative AI:A Primer(February 2023)AuthorEden Zoller,Chief Analyst,Applied IAppendix2024科技趨勢：生成式人工智能Copy

19、right 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 11Information Classification:GeneralOmdia ConsultingWe hope that this analysis will help you make informed and imaginative business decisions.If you have further requirements,Omdias consulting team may be able to help

20、you.For more information about Omdias consulting capabilities,please contact us directly at .Citation PolicyRequest external citation and usage of Omdia research and data via .Appendix如果您對更詳細的報告內容感興趣，請與我們取得聯系Copyright 2024.All rights reserved.Informa Tech,a trading division of Informa PLCPage 12Get

21、in touchA08:00 18:00 GMT-5Europe,Middle East&A8:00 18:00 GMTAsia P08:00 18:00 GMT+8DisclaimerThe Omdia research,data and information referenced herein(the“Omdia Materials”)are the copyrighted property of Informa Tech and its subsidiaries or affiliates(together“Informa Tech”)or its third party data p

22、roviders and represent data,research,opinions,or viewpoints published by Informa Tech,and are not representations of fact.The Omdia Materials reflect information and opinions from the original publication date and not from the date of this document.The information and opinions expressed in the Omdia

23、 Materials are subject to change without notice and Informa Tech does not have any duty or responsibility to update the Omdia Materials or this publication as a result.Omdia Materials are delivered on an“as-is”and“as-available”basis.No representation or warranty,express or implied,is made as to the

24、fairness,accuracy,completeness,or correctness of the information,opinions,and conclusions contained in Omdia Materials.To the maximum extent permitted by law,Informa Tech and its affiliates,officers,directors,employees,agents,and third party data providers disclaim any liability(including,without li

25、mitation,any liability arising from fault or negligence)as to the accuracy or completeness or use of the Omdia Materials.Informa Tech will not,under any circumstance whatsoever,be liable for any trading,investment,commercial,or other decisions based on or made in reliance of the Omdia Materials.如果您對更詳細的報告內容感興趣，請與我們取得聯系