賽迪前瞻:2025大模型時代主要國家破解算力困局的做法及建議(13頁).pdf

編號:490460 PDF  DOCX 13頁 710.99KB 下載積分:VIP專享
下載報告請您先登錄!

賽迪前瞻:2025大模型時代主要國家破解算力困局的做法及建議(13頁).pdf

1、 -1-2025 年 1 月 3 日 第2025 年 1 月 3 日 第1 1期 總第 882 期期 總第 882 期 大模型時代主要國家大模型時代主要國家 破解算力困局的做法及建議破解算力困局的做法及建議 2024 年 9 月,英特爾發布至強 6 性能核處理器,可為 AI、數據分析、科學計算等計算密集型業務提供更卓越性能。此前,為應對新一輪 AI 熱潮下智能算力需求暴增,美、德、日、韓等國在 AI 芯片研發、計算網絡建設、算力生態建設等方面進行了積極探索。當前,我國應學習和借鑒國外經驗,在高性能算力芯片研發、全國一體化算力網絡建設、算力產業新生態構建方面下功夫,提升我國智能算力供給水平,加快

2、大模型產業發展。-2-一、主要國家應對大模型時代智能算力困局的主要做法一、主要國家應對大模型時代智能算力困局的主要做法 隨著 AI 技術的不斷進步和應用的持續深化,全球算力需求呈現爆發式增長。據測算,OpenAI 的 GPT-3 模型參數達 1746億個,一次訓練所需算力約為 3640PFlops1。IDC 報告顯示,全球數據量年均增長約 60%,但算力年均增速僅為 10%,算力供給與需求存在巨大差距2。為更好平衡算力需求與供給,各國紛紛出臺政策,支持算力產業發展。重視高性能芯片研發和生產,以更好地滿足大模型產業重視高性能芯片研發和生產,以更好地滿足大模型產業對對高性能、高彈性、高穩定性智能算

3、力的需求。高性能、高彈性、高穩定性智能算力的需求。近年來,美、日、德、韓致力于加強芯片制造和研發能力,以保持大模型產業國際競爭力。2023 年,美國政府宣布向“國家先進封裝制造計劃”(NAPMP)投入 30 億美元,圍繞封裝基板和材料、工藝裝備與方法、供電與熱管理、光子器件與連接器、小芯片生態系統,以及測試、修復、安全性、互操作性和可靠性的協同設計等 6個領域提供項目資助3。日本經濟產業省提出約 230 億美元基金 1 大國 AI 博弈正酣,切勿輕言算力過剩.新浪科技.2024-10-31.2 大模型需求涌現,算力如何跟上節奏?https:/ 3 美國發布先進封裝制造計劃愿景及資助重點.htt

4、p:/ -3-預算,支持半導體行業發展4。德國德國計劃撥款 200 億歐元,用于補貼半導體制造業,增強其在全球半導體產業中的話語權。2024 年,韓國產業通商資源部韓國產業通商資源部計劃在 2025 年至 2031 年間投資2744 億韓元,與包括三星電子、SK 海力士、LG 化學、韓亞微米、韓美半導體等 10 家半導體相關企業和機構聯合,開發半導體封裝先進技術。支持高性能計算能力建設。支持高性能計算能力建設。大帶寬、高利用率且信息無損的高性能算力網絡是大模型時代提升算力的重要保障。美國美國先后制定高性能計算和通信計劃 網絡和信息技術研發計劃國家戰略計算計劃等文件,不斷改進、優化高性能計算能力

5、建設。2020 年,德國德國更新國家人工智能戰略,提出追加20 億歐元支持 AI 研究,推進高性能計算中心網絡建設,對 8個高校的計算中心進行為期 10 年、每年 6250 萬歐元的資助5。韓國韓國計劃從 2023 起至 2025 年,每年投入 20 億韓元,支持高麗大學主導建立一個擁有 35Peta FLOPS 規模的 AI 創新數據中心,為 Hyper Modal(開發同時理解多種數據的超大深度學習 4 日媒:日政府擬大手筆補貼半導體產業.https:/ 5 德國強化人工智能能力建設 加大高性能計算網絡投資.中華人民共和國商務部中國服務貿易指南網.-4-技術)等 12 項高風險、挑戰型 A

6、I 研究提供支撐6。2023 年,日本經濟產業省日本經濟產業省提出,要承擔 50%的費用支援 Sakura Internet公司配備超級計算機,幫助國內初創企業開發生成式 AI7。重視算力產業生態建設。美國政府提出,重視算力產業生態建設。美國政府提出,要將政府、學術界、非營利組織和行業部門等共同納入先進計算生態系統計劃,通過匯聚各方面力量、建立協同增效機制、規范共享計算協議等措施,強化本國戰略計算能力8。2023 年,韓國政府韓國政府公布 AI 大模型競爭力提升方案,計劃構筑由民間企業主導、政府支援的超大型 AI 合作生態系統,推動醫療、法律、咨詢等領域的 AI 應用服務升級,截至 2026

7、年將培育 10000 家 SaaS企業9。歐盟歐盟成立歐洲高性能計算聯合委員會,通過匯集歐盟、歐洲國家和私人合作伙伴資源,并加大算力基礎設施建設和配套關鍵技術研發投入,助力歐洲開發世界一流的智能計算生態系統。二、我國破解算力困局需在三方面下功夫二、我國破解算力困局需在三方面下功夫 6 韓國要聞韓國依托高校設立“人工智能創新數據中心”促進研究數據的便捷共享.https:/ 日本支援超級計算機建設 為生成式 AI 開發提供算力幫助.https:/ 美多舉提升戰略計算能力.光明網.2023-04-03.9 韓國構建大模型合作生態圈.中國經濟網.2024-02-03.-5-當前,我國大模型產業發展仍面

8、臨高性能算力芯片供給不足、互聯帶寬和能源消耗約束大、算力調度體系不完善等挑戰,一定程度上阻礙了大模型產業發展壯大。高性能算力芯片供給端仍然短缺。高性能算力芯片供給端仍然短缺。大模型運行過程中需要大量計算能力,對高性能算力芯片等硬件設備的性能要求高。據海關總署數據顯示,2024 年 1-9 月,集成電路進口數量高達4077 億個,較去年同期增長 14.55%10。高性能算力芯片主要包括圖形處理器(GPU)、現場可編程門陣列(FPGA)、專用集成電路(ASIC)等。目前,我國高性能算力芯片對外依存度仍相對較高,短缺問題短期內難以解決。GPU 芯片方面,芯片方面,GPU為通用型芯片,國產 GPU 芯

9、片與國際巨頭相比,在大模型訓練、軟件和生態建設等方面差距較大。FPGA 芯片方面,芯片方面,FPGA為半定制芯片,90%以上的市場份額由美國的賽靈思和阿爾特拉兩家公司占據,其余大部分被美高森美、萊迪思、快輯半導體三家美國公司占據11,我國在 FPGA 領域尚處于起步階段,10(14)2023 年 9 月進口主要商品量值表(人民幣值).海關總署.11 華為也難國產化的 FPGA 芯片,我國處于什么階段?https:/ 芯片方面,芯片方面,為全定制型 AI 芯片,ASIC能根據產品特定需求進行設定,但研發成本高、可復制性一般,我國 ASIC 技術與世界領先水平差距較小,但英偉達的 CUDA平臺已建

10、立強大的軟件生態系統,極大提升其芯片的通用性與易用性,是國產芯片廠商面臨的一大難題。算力需求引發對互聯帶寬、能源消耗的更高要求。算力需求引發對互聯帶寬、能源消耗的更高要求。一是算一是算力互聯需要足夠的網絡帶寬。力互聯需要足夠的網絡帶寬。據悉,千億、萬億參數規模的大模型,訓練過程中通信需求占比最大可達 50%,傳統使用的無鏈接網絡技術和向上收斂的網絡架構,在通信連接、算力調度、穩定性等方面仍有諸多問題,丟包、重傳等問題頻繁出現,對智算中心模型訓練可能會帶來致命問題。相關數據顯示,0.1%的網絡丟包可能導致 50%的算力損失,極易造成算力資源浪費13。二是二是算力對水電的消耗巨大。算力對水電的消耗

11、巨大。據中國算力平臺統計測算,2023 年,中國數據中心用電量約 1500 億度,占全社會用電量的 1.6%,數據中心用電年增速約 15%,據預測,預計到 2030 年,全國算力 12 FPGA 背后的芯片江湖:華為是最大客戶,但國產率不足 5%,依賴進口.https:/ 助攻 AI 大模型,騰訊云星脈高性能計算網絡首次完整披露.https:/ 3000 億千瓦時14。此外,高算力也會帶來水資源的大量消耗。研究指出,數據中心冷卻需耗費 401 噸水,約合10 萬個家庭用水量。制造 2 克重的計算機芯片約需 32 公斤水,制造 8 寸晶圓每小時耗水約 250 噸,12 寸晶圓則可達 500 噸1

12、5。算力調度體系難以滿足算力調度體系難以滿足 AI 大模型訓練需要。大模型訓練需要。研究人員通常采用并行計算和分布式訓練方法應對 AI大模型的計算挑戰,但因智能算力尚未實現精細化調度,導致該方法實際操作難度較大。從跨區域調度來看,東西部從跨區域調度來看,東西部算力資源分配不均、供需不算力資源分配不均、供需不平。平。東部地區應用需求大,但能耗指標緊張、電成本高,大規模發展數據中心難度和局限性大;西部地區可再生能源豐富、氣候適宜,但網絡寬帶小、跨省數據傳輸費用高,無法有效承接東部需求,算力供需難以高效匹配。從跨設備調度來看,各從跨設備調度來看,各算力中心相互獨立,缺少高效協同機制。算力中心相互獨立

13、,缺少高效協同機制。大型算力數據傳輸依靠傳統方式,算力即時調度與應用難度大。智能算力資源即時調度受數據時延不敏感、單通道傳輸帶寬有限、通道寬帶數量 14 兩個體系,雙向奔赴:算電協同還有三大挑戰待破.https:/ 耗電又耗水,誰能拯救 AI 能耗之傷?https:/ 等各類智能算力芯片產生的算力,在精度、形態等方面有諸多差異,導致智能算力統一調度和按需分配難度較大17。三、幾點思考三、幾點思考 以智能算力需求為導向,強化高性能算力芯片供給。以智能算力需求為導向,強化高性能算力芯片供給。一是一是強化高性能芯片技術攻關。強化高性能芯片技術攻關。鼓勵芯片產業鏈上龍頭企業聯合鏈上創新主體,聚焦 GP

14、U、FPGA、ASIC 等高性能芯片設計、生產和封裝測試等環節,從核心原材料、生產設備、制造工藝等各方面,開展關鍵核心技術協同攻關。二是加快高性能芯片生二是加快高性能芯片生產和推廣應用。產和推廣應用。鼓勵芯片廠商加大對工作負荷、芯片性能、成本、兼容性等高性能芯片需求關鍵指標的調查摸底,有針對性地研發生產能夠滿足分布式大模型訓練、多模態處理等應用性能需求的芯片,加速高性能芯片產業化應用。16 2022 中國算力服務市場發展研究報告.https:/ 17 同上 -9-以支撐算力應用為核心,加快推進全國一體化算力網絡建以支撐算力應用為核心,加快推進全國一體化算力網絡建設。設。以算力基礎設施高質量發展

15、行動計劃深入實施“東數西算”工程 加快構建全國一體化算力網的實施意見等為路線圖,加快構建全國一體化算力網絡,支撐大模型產業發展。一是建立直連超寬帶光網絡,為算力應用提供高效的一是建立直連超寬帶光網絡,為算力應用提供高效的網絡通信網絡通信連接。連接。建立直連超寬帶光網絡,將算力節點和樞紐用光網絡連接,提供滿足需求的傳輸帶寬,為算力傳輸提供有力支撐。二二是完善算力聯網統一調度體系,破解異構算力調度問題。是完善算力聯網統一調度體系,破解異構算力調度問題。鼓勵各方建立多層次算力調度體系,探索建立云原生網絡等多種方式,推動云算力、智能算力、超算算力、混合算力等一體化調度應用,實現算力生產、運營、管理等與

16、行業應用有效適配。以綠色化發展為方向,推進算力中心低碳化建設與改造。以綠色化發展為方向,推進算力中心低碳化建設與改造。一是嚴格新上算力中心項目能效水效要求。一是嚴格新上算力中心項目能效水效要求。鼓勵各地區結合實際對新上算力中心項目能效提出更高要求,穩步提升新建算力中心單位算力能效水平。鼓勵地方通過“上大壓小”“遷舊建新”等方式,加強優質算力中心項目用能用水保障。二是推進存量算力二是推進存量算力中心項目節能降碳改造。中心項目節能降碳改造。加快推進低效算力中心節能降碳改造 -10-和“老舊小散”算力中心整合改造。推進設備布局、制冷架構、氣流組織、外圍護結構、供配電方式、單機柜功率密度及系統智能運行

17、策略等方面的技術改造和優化升級。三是提升可再生能源在三是提升可再生能源在算力中心項目建設中的應用。算力中心項目建設中的應用。引導新建數據中心與可再生能源發電協同布局,鼓勵存量數據中心通過參與綠電綠證交易等提高可再生能源利用率。四是推廣應用節能技術裝備。四是推廣應用節能技術裝備。鼓勵推廣高效制冷散熱、AI 節能等技術應用,提高自然冷源利用率的同時,促進算力中心算存運的高效協同聯動。推廣高效節能的算力中心建設相關產品設備。以培育鏈主企業為抓手,打造算力產業新生態。以培育鏈主企業為抓手,打造算力產業新生態。一是梯次一是梯次培育一批優質算力產業鏈主企業。培育一批優質算力產業鏈主企業。培育一批計算生態主

18、導型企業,鼓勵其開放技術能力、供應鏈資源,支持創新型先進計算中小企業圍繞細分領域向價值鏈高端延伸,基于大企業生產需求提升配套能力,強化硬件、基礎軟件、應用軟件等適配協同,持續完善上下游多方協同的算力產業生態體系。二是完善算力二是完善算力產業配套服務。產業配套服務。圍繞先進計算重點領域,布局一批國家級、省級創新中心。布局 AI 開源開放平臺,建立健全開源運營機制,-11-鼓勵企業開放源代碼、硬件設計和應用服務。三是強化算力產三是強化算力產業人才儲備培優。業人才儲備培優。建立完善算力產業專業人才和專家庫,圍繞先進計算重點方向,設立一批國家級重點實驗室、工程技術研究中心等,建立產業人才培養教育基地。本文作者:賽迪研究院 魯金萍 聯系方式:13810363962 電子郵件:

友情提示

1、下載報告失敗解決辦法
2、PDF文件下載后,可能會被瀏覽器默認打開,此種情況可以點擊瀏覽器菜單,保存網頁到桌面,就可以正常下載了。
3、本站不支持迅雷下載,請使用電腦自帶的IE瀏覽器,或者360瀏覽器、谷歌瀏覽器下載即可。
4、本站報告下載后的文檔和圖紙-無水印,預覽文檔經過壓縮,下載后原文更清晰。

本文(賽迪前瞻:2025大模型時代主要國家破解算力困局的做法及建議(13頁).pdf)為本站 (三生有幸) 主動上傳,三個皮匠報告文庫僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對上載內容本身不做任何修改或編輯。 若此文所含內容侵犯了您的版權或隱私,請立即通知三個皮匠報告文庫(點擊聯系客服),我們立即給予刪除!

溫馨提示:如果因為網速或其他原因下載失敗請重新下載,重復下載不扣分。
客服
商務合作
小程序
服務號
折疊
午夜网日韩中文字幕,日韩Av中文字幕久久,亚洲中文字幕在线一区二区,最新中文字幕在线视频网站