《華為:邁向智能世界白皮書2024-全面智能化(24頁).pdf》由會員分享,可在線閱讀,更多相關《華為:邁向智能世界白皮書2024-全面智能化(24頁).pdf(24頁珍藏版)》請在三個皮匠報告上搜索。
1、2提綱AI商業落地迎來新一波快速發展01企業如何抓住全面智能化機遇02 對全面智能化企業的憧憬 價值場景驅動,對準企業價值創造 構建可持續滿足企業AI應用的基礎設施 以自動駕駛網絡,重塑企業網絡體驗和運維AI對運營商網絡的影響03 Network4AI:AI應用發展對運營商網絡提出新需求 AI4Network:開啟L4自治網絡征程,實現高價值躍升3AI商業落地迎來新一波快速發展014 大模型基礎能力持續提升 多模態:支持語音、文字、圖片等多模態推理,語音互動體驗達到人與人交互水平(時延百萬億級*華為GIV預測數據關鍵方向構建可持續滿足企業AI應用的基礎設施云14企業可以從以下幾個維度思考產生更
2、多高質量數據供企業AI使用 數據覺醒:激活業務冷數據和喚醒歷史歸檔數據,這些數據通常數據量大,含有豐富的信息,如企業檔案、歷史記錄等。全數字化:企業活動全面數字化,包括業務對象數字化、規則數字化、過程數字化等,并在采集數據的頻率、格式、清晰度等更多維度充分考慮 AI的應用需求,做到“能采盡采”。合成數據:通過算法、統計模型或生成式人工智能生成企業需要的數據。合成數據具有無限量生成、隱私保護、減少偏差等優勢,Gartner預測在2026年75%的企業將會用到合成數據,而在2023年僅有小于5%的企業用到合成數據。數據留存:數據之前被留存主要目的是作為存檔以備后續查閱以及法規遵從要求,現在數據需要
3、被留存的周期需要充分考慮 AI的發展來重新審視設定,做到“能存久存”。數據留存數據合成數據覺醒全數字化產生高質量、更豐富的企業數據15 高擴展性:支持Scaling Law可持續發展,提供規模算力,滿足AI算力持續增長需求。高可用:面向超大規模集群設計,支持任務穩定、有效的長時間運行。高線性度:面向計算事務端到端設計,最小化資源開銷,實現超大規模集群有效性能的線性擴展。高利用率:各種算力、內存和設備資源池化,統一資源調度和業務處理,支持超大規模集群。DC as a Computer:統一網絡和總線,采用內存語義通信,做DC級計算機。高能效:通過液冷等系統設計,降低算力基礎設施能耗。打造智能原生
4、的企業算力基礎設施高利用率高線性度高能效高擴展性高可用DC as a Computer構建可持續滿足企業AI應用的算力基礎設施需考慮以下幾方面關鍵特征AI大模型時代的算力基礎設施16 極致性能:全閃存是提升數據處理效率的最優解,結合架構創新實現大于10倍的性能提升。高擴展性:基于存算分離架構,實現EB級的存儲容量擴展,性能隨容量線性增長。數據韌性:通過架構冗余設計以及多層安全保護機制,實現99.9999%高可用,99.99%防勒索保護,秒級CKPT數據恢復。數據編織:構建全局數據地圖,實現海量多源異構數據可視可管可用。新數據范式:使能向量、KV-Cache等新的數據范式,優化數據訪問語義,為推
5、理提供終生記憶,以及高精度、高性能檢索。綠色節能:存儲介質應用創新和整機硬件創新相結合,實現1PB/U的存儲密度。打造智能原生的企業數據基礎設施數據編織數據韌性綠色節能極致性能高擴展性新數據范式構建可持續滿足企業AI應用的數據基礎設施需考慮以下幾方面關鍵特征AI大模型時代的數據基礎設施17企業/領域大模型AI Agent企業應用開源大模型第三方大模型企業自有領域知識庫(RAG)微調(LoRA/全參)增量預訓練/二次預訓練一站式AI模型開發和應用使能平臺Agent開發工具鏈大模型開發工具鏈數據工程工具鏈AI開發基礎平臺構建一站式AI模型開發和應用使能平臺考慮業界基礎模型在不斷快速迭代演進,企業一
6、般通過引入第三方閉源模型、開源模型以及自研模型等多種方式構建基礎模型庫,然后根據企業不同領域業務場景需求以及數據準備度構建企業/領域大模型;AI Agent是大模型應用的理想形態,基于企業大模型構建AI Agent是當前企業AI落地探索的熱點方向,企業應用一般會組合使用這些能力,而實現這些企業需要構建一站式AI模型開發和應用使能平臺。一站式AI模型開發和應用使能平臺包括:通過AI開發基礎平臺使能企業自有模型開發和管理;通過數據工程工具鏈和大模型開發工具鏈使能企業基于基礎大模型和企業高質量數據快速構建和部署企業/領域大模型,包括微調、二次訓練等方式;通過Agent開發工具鏈使能企業快速地開發各類
7、AI Agent應用?;A模型庫(NLP/CV/多模態/預測/科學計算等)18通過引入通信大模型以及網絡數字孿生,打造基于企業場景的Agent和基于角色的Copilot,實現:總部辦公園區Internet生產園區企業私有云DC分支園區公有云DCN分支網絡總部辦公網絡生產網絡分支互聯聯接多云分支互聯全網運行狀態實時可視,主動發現和消除網絡隱患,非硬件類故障自恢復網絡優化Agent網絡故障Agent智能客服Copilot配置生成Agent安全輔助Copilot業務零卡頓任何用戶、任何設備、任何應用確定性體驗網絡零中斷開通零等待安全零風險自動生成網絡配置和仿真驗證,新業務部署實時開通持續提升變種病毒
8、和未知威脅檢出能力,安全威脅自動處置全無線化辦公,應用云化、視頻化、協作化、智能化,員工辦公體驗難以全面保障企業辦公、生產、數據中心、分支及聯接多云等網絡規模越來越大,設備種類越來越多,日常維護范圍和復雜度持續增大業務部署涉及多個網絡域,從設計、集成到驗證開通周期長病毒變種數量指數級增長,攻擊智能化,安全運營和未知威脅挑戰增大以自動駕駛網絡,重塑企業網絡體驗和運維企業網絡面臨的挑戰19 Network4AI:AI應用發展對運營商網絡提出新需求 AI4Network:開啟L4自治網絡征程,實現高價值躍升AI對運營商網絡的影響0320AI應用E2E網絡時延上行速率下行速率流量人的聯接AI各類助手:
9、實時多模態交互(達到”近人級、真人級”體驗)70200ms20Mbps-新流量AI生成更多高質量內容(高清/4k/8k,并通過AI推薦進一步促進內容消費)-假設8K視頻100Mbps流量增加物品3D展示(3D模型即點即開)-80400Mbps流量增加車/物的聯接自動駕駛Robotaxi(安全監控、遠程接管、數據上傳)100ms1224Mbps-新流量IoT設備:多模態感知-1Mbps-新流量企業聯接企業訓練樣本數據上傳-10Gbps(彈性帶寬)-從人、車、物、企業的聯接來看,目前看到的AI應用對網絡的需求主要如下:人的聯接:AI助手實時多模態交互要達到“近人級”、”真人級”體驗,對網絡時延和上
10、行帶寬提出新的需求,比如“真人級”極致體驗400ms,除掉應用側和端側時延留給E2E網絡的時延70ms;APP或者網頁物品通過AI生成3D模型展示,如果需要達到即點即開的需要根據模型大小需要80400Mbps的下行帶寬;AIGC生成更多高質量視頻,通過AI推薦促進視頻的分發和觀看,提升視頻清晰度和視頻觀看時長,帶來網絡流量增長。車的聯接:Robotaxi安全監控、遠程接管場景對網絡時延以及上行提出新的需求,比如蘿卜快跑在必要時遠程接管駕駛需通過5G網絡上傳6路攝像頭視頻(1224Mbps),網絡E2E時延如果大于100ms會對操控精度帶來較大影響。物的聯接:越來越多支持多模態感知的IoT設備,
11、對網絡帶來上行的需求和新的流量。企業聯接:訓練樣本數據上傳,對網絡專線帶寬提出萬兆以上、彈性的需求,實現支持海量樣本數據的“極速達”。Omdia預測在AI驅動的應用影響下,包括AI-upgraded應用Net new AI應用,未來全球網絡流量年復合增長率將達25%。05001,0001,5002,0002,500202220232024202520262027202820292030Net new AI applicationsAI-upgraded applicationsConventional(non-AI)trafficSource:Omdia 2023 OmdiaProjected
12、 global network traffic growth,20232030(Exabytes per month)Network4AI,AI應用發展對網絡提出新需求21超大規模智算中心面臨電力供應難題規模十萬卡五十萬卡百萬卡功耗100 MW500 MW1000MW DCI網絡“0”丟包:AI訓練對網絡丟包的敏感度高,即使是0.1%丟包率,也可能導致訓練效率降低50%,嚴重影響協同訓練效果 提升解決網絡利用率:大象流會導致網絡中的傳統基于五元組的負載分擔方法失效,鏈路負載不均衡,從使整網利用率低 解決流量突發問題:在萬卡集群中,由于業務高突發、高并發,極端情況下流量瞬時并發可達上千TbpsD
13、CIDCNDCNAI訓練步入十萬卡時代,受機房環境、用電等因素影響,單個智算中心規模受限,提出AI算力跨DC部署,協同訓練,已形成更大AI算力規模的需求,對DC間互聯網絡帶來挑戰。AI訓練步入十萬卡時代,跨DC協同訓練對網絡帶來挑戰222024年是5.5G商用元年,運營商通過打造移動、家庭、園區“三個萬兆”接入網絡,更好地滿足智能無處不在的接入需求;基于IP+光實現城域、骨干廣域網絡超高速、低時延、智能彈性的聯接,保障AI應用體驗;基于IP+光實現DCI超高速、高可靠互聯以及智能調度,滿足超大規模AI算力跨DC訓練需求。400/800GE400/800G/400/800G/400/800GEF
14、TTR萬兆園區萬兆家庭萬兆移動50G PON5.5GF5.5GNet5.5G400/800GE400/800G/DCDCDCDCI核心網UPF開啟5.5G時代,使能最佳AI應用體驗接入城域骨干數據中心互聯23 2024年6月,TM Forum正式發布AN L4產業藍圖白皮書,提出基于高價值場景實現AN L4的指導原則,明確首批15個AN L4高價值場景,并給出AN L4參考架構。運營商可考慮把AN L4作為新的起點,制定適合自己的戰略和場景選擇,結合AI Agent,Copilot APP重構業務流程,盡量減少對組織的影響,首先實現“快贏”,通過持續迭代推進。AN L4 高價值場景成效指標1O
15、perations運營移動業務保障用戶投訴率,業務可用率2移動業務投訴處理投訴處理及時率3HBB業務保障用戶投訴率,業務可用率4HBB投訴處理投訴處理及時率,入戶維修時長5專線業務發放自動化率6專線業務保障SLA達成率7-11Maintenance維護無線網絡/固定接入網絡/核心網/IP網絡/光傳送網絡 5個域的故障處理故障工單數量MTTR外線自服務12核心網絡變更零重大事故13Optimization優化無線網絡優化自動化率、網絡指標14無線網路節能每GB能耗降低/年15IP網絡優化自動化率、網絡指標RAN自治域FAN自治域網元網元Copilot APPsCopilot APPs業務運營(O
16、SS)資源運營(EMS)網絡數字孿生通信大模型Agent 框架網絡數字孿生通信大模型Agent框架網絡數字孿生通信大模型Agent框架AI Agents資源閉環業務閉環資源運營(EMS)Copilot APPsAI Agents資源閉環AI4Network,開啟自治網絡L4征程,實現高價值躍升AI AgentsAPIsAPIsCopyright2024 Huawei Technologies Co.,Ltd.All Rights Reserved.The information in this document may contain predictive statements includi
17、ng,without limitation,statements regarding the future financial and operating results,future product portfolio,new technology,etc.There are a number of factors that could cause actual results and developments to differ materially from those expressed or implied in the predictive statements.Therefore
18、,such information is provided for reference purpose only and constitutes neither an offer nor an acceptance.Huawei may change the information at any time without notice.把數字世界帶入每個人、每個家庭、每個組織,構建萬物互聯的智能世界。Bring digital to every person,home and organization for a fully connected,intelligent world.Thank you.