1、 1/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 行業研究報告 慧博智能投研 AI服務器服務器行業行業深度:深度:驅動因素、市場空間、驅動因素、市場空間、相關機遇、相關機遇、產業鏈及相關公司深度梳理產業鏈及相關公司深度梳理 受益于 AI 等相關新興領域的應用以及“東數西算”政策下云計算、超算中心的蓬勃發展,數據計算、存儲需求呈幾何級增長,而算力激增下,服務器等算力基礎設施成為剛需。據我們測算,AI 訓練服務器方面,單個大語言模型訓練驅動 AI 訓練服務器需求約 2 億美元。AI 推理服務器方面,單個 AI 應用如ChatGPT 在初期便可帶動推理服務器需求
2、約 45 億美元。圍繞 AI 服務器,我們從以下幾個問題作為切入點進行探討:AI 服務器發展的驅動因素有哪些,相關分類及成本測算是怎樣的,國內外競爭格局如何,市場空間有多大,產業鏈及相關公司都有哪些,目前面臨的挑戰及相關機遇都有哪些,未來 AI 服務器的發展前景如何?目錄目錄 一、AI 服務器驅動因素.1 二、AI 服務器概述.3 三、AI 服務器競爭格局.6 四、AI 服務器市場空間.10 五、AI 服務器產業鏈梳理.12 六、AI 服務器相關公司.13 七、相關機遇與挑戰.14 八、未來展望.16 九、參考文獻.22 一、一、AI 服務器驅動因素服務器驅動因素 1.算力需求激增,推動算力基
3、礎設施迎增長新周期算力需求激增,推動算力基礎設施迎增長新周期 受益于 AI 等相關新興領域的應用以及“東數西算”政策下云計算、超算中心的蓬勃發展,數據計算、存儲需求呈幾何級增長,算力需求持續釋放帶動算力基礎設施產業迎來增長新周期。據 IDC,AI 的應用與普及促使 2022 年我國智能算力規模近乎翻倍,達到 268EFLOPS,超過通用算力規模,2026 年我國智能算力規模將達 1271.4EFLOPS,21-26 年復合增長率預計達 52.3%;硬件占 AI 支出比重 49.8%,其中最大投資是服務器,占 AI 硬件支出比重 84%以上,AI 將成為未來服務器市場新一輪快速增長的主要推動力。
4、2/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 2.單個大語言模型訓練驅動單個大語言模型訓練驅動 AI 訓練服務器市場訓練服務器市場 AI 訓練服務器方面,單個大語言模型訓練驅動 AI 訓練服務器市場約 2 億美元需求。據英偉達測算,要完成一次 10000 億參數大語言模型的訓練,使用 4096 顆 A100GPU 約需 4 周時間,使用 4096 顆H100GPU 約需 1 周時間。按每臺服務器配備 8 顆 H100GPU 計算,則完成一次萬億參數的大語言模型訓練需約 500 臺服務器,配備 8 個 H100GPU 的服務器價格約為 40 萬美元,則單個
5、大語言模型訓練驅動 AI 訓練服務器約 2 億美元需求。3.ChatGPT 驅動驅動 AI 推理服務器市場需求推理服務器市場需求 AI 推理服務器方面,單個 AI 應用如 ChatGPT 在初期便可帶動推理服務器需求達 45 億美元。據Similarweb 數據,ChatGPT 官網在 2023 年 1 月 27 日-2 月 3 日一周內吸引的每日訪客數量高達 2500FZaXlYkW8WnUvUvUqZ7NcM7NmOoOoMnOfQqQqMjMsQsRaQmNoOMYnMnRuOoOqN 3/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 萬,假設平均針對
6、 50 字的提問生成 400 字的響應(即 450 字,對應 600token),根據 OneFlow 的數據和Scaling Laws for Neural Language Models,在推理過程中每個 token 的計算成本約為2NFlops,其中 N 為模型參數數量,則在 ChatGPT4 一萬億參數中每個 token 需算力 2 萬億 Flops,且據 Chowdhery 等測算 GPT-3 訓練期間 FLOPS 利用率為 21.3%,則可得每人每次提問需算力5.6PetaFlops(2 萬億 Flops*600token/21.3%)。假設每日 2500 萬人訪問量,每人提問 1
7、0 次,且一天內平均分攤,則每秒算力需求約 16302PetaFlops,假定訪問峰值是一天均值的 5 倍,則每秒算力需求約81508PetaFlops。目前 AI 推理所使用的主流 GPU 是英偉達 T4,一塊英偉達 T4GPU 可提供的混合精度算力為 65TFlops,則需約 125 萬個 T4GPU 方可滿足單日對 ChatGPT 的訪問,對應 15.67 萬臺 8*T4的服務器,一臺 8*T4 服務器的價格約 29000 美元,則僅單個如 ChatGPT 的 AI 應用在初期便帶來推理服務器需求約 45 億美元。二、二、AI 服務器概述服務器概述 1.AI 服務器服務器 服務器隨場景需
8、求經歷通用服務器-云服務器-邊緣服務器-AI 服務器四種模式,AI 服務器采用 GPU 增強其并行計算能力。CPU+GPU 是 AI 服務器的核心部件。4/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 2.分類分類(1)按應用場景可分為訓練和推理,訓練對算力要求更高按應用場景可分為訓練和推理,訓練對算力要求更高 AI 服務器按應用場景可分為訓練和推理兩種,2021 年中國 AI 服務器推理負載占比約 55.5%,未來有望持續提高;訓練對芯片算力要求更高,推理對算力的要求偏低;5/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告
9、 (2)按芯片類型可分為按芯片類型可分為 GPU、FPGA、ASIC 等等 AI 服務器采用異構形式,按芯片類型可分為 CPU+GPU、CPU+FPGA、CPU+ASIC 等組合;目前 GPU依然是實現數據中心加速的首選,其他非 GPU 芯片應用逐漸增多,IDC 預計到 2025 年其他非 GPU 芯片占比超過 20%;一般來說,ASIC 的性能最好,但是可編程性和靈活性較弱;在訓練或者通用情況下,GPU 則是更好的選擇。3.成本成本(1)GPU+CPU+存儲存儲三大件占比三大件占比 80%AI 服務器價值量的構成核心在于昂貴的 GPU 加速卡、CPU 和存儲配置,同時對于 PCB、電源管理、
10、信號傳輸等多方面均有更高需求,亦帶來大幅的價值量提升。根據浪潮服務器和浪潮信息官網信息,對于NF5468A5GPU 服務器,可以搭載至多 2 顆 CPU 和 8 顆 GPU 加速卡,以京東報價來看,AMD7543CPU 單價約 2.5 萬元,英偉達 A10040GBGPU 單價約 6 萬元,根據 ZOL 中關村在線報價,6/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 32GBDDR4RDIMM 售價約為 2000 元以上,同時結合三星官網信息,1.92TBNVMe 硬盤售價預計超過3000 元,考慮到通常會配備 2 顆 CPU 以及數顆 GPU,因此在 C
11、PU 和 GPU 層面就會占據極大價值量。根據愛采購官網信息,1 臺配置 2 顆英偉達 40GBA100GPU 和 2 顆 AMD7502CPU(單價約 2 萬元)的服務器售價約為 30 萬元,其中 GPU 和 CPU 的合計價值量約占據 53%(2*6 萬元+2*2 萬元=16 萬元),若考慮內存和硬盤價值量占比較大,以及實際情況下可能單機會盡量滿配 GPU 數量,預計高性能 AI 服務器 GPU+CPU+存儲三大件占比有望超過 80%。(2)FPGA 在大模型領域在大模型領域有潛在有潛在提升空間提升空間 當前 AI 加速計算卡除了 GPU 之外還有部分 FPGA 產品,FPGA 具備低延遲
12、、易燒錄等優點,FPGA 通常用于推理階段,關注未來 FPGA 在大模型領域潛在的滲透率提升空間。目前,我們在 AI 計算平臺使用最廣泛的兩種加速部件是 GPU 和 FPGA。GPU 可適用于具備計算密集、高并行、SIMD(Single Instruction Multiple Data,單指令多數據流)應用等特點的深度學習訓練模型領域,并且 GPU 創建了包含 CNN、DNN、RNN、LSTM 以及強化學習網絡等算法在內的應用加速平臺和生態系統。GPU 在深度學習算法模型訓練上非常高效,但在推理時對于小批量數據,并行計算的優勢不能發揮出來。而FPGA 同時擁有流水線并行和數據并行,因此處理任
13、務時候延遲更低,同時 FPGA 是可編程芯片,算法燒錄更加靈活,根據浪潮 AIHPC 公眾號預測,未來至少 95%的機器學習計算都是用于推斷,只有不到5%是用于模型訓練,而 FPGA 正是強在推斷,大幅提升推斷效率的同時,還能最小限度損失精確性,這正是 FPGA 的強項。三、三、AI 服務器競爭格局服務器競爭格局 1.海內外服務器市場持續增長,國內市場一超多強海內外服務器市場持續增長,國內市場一超多強 7/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 全球方面,根據 IDC 數據,2022 年全球服務器出貨量突破 1,516 萬臺,同比增長 12%,產值達
14、1,215.8億美元,預計未來四年內仍保持增長,2026 年全球服務器出貨量達 1885.1 萬臺,2022-2026 年全球服務器出貨量 CAGR 為 5.59%,產值有望達到 1664.95 億美元,2022-2026 產值 CAGR 為 8.18%。中國方面,據智研咨詢數據,2022 年中國服務器出貨量為 434.1 萬臺,同比增長 5.36%。據 IDC,2022 年中國服務器市場規模為 273.4 億美元(1888.37 億人民幣),同比增長 9.1%。據中商情報網預測,2023 年中國服務器出貨量有望達到 449 萬臺,同比增長 3.43%;中國服務器市場規模有望達到308 億美元
15、,同比增長 12.66%。從市場份額(按營業收入統計)上看,據 IDC,浪潮、新華三、超聚浪潮、新華三、超聚變、寧暢、中興變、寧暢、中興位居 2022 年中國服務器市場前五,市場份額占比分別為28.1%/17.2%/10.1%/6.2%/5.3%,同比變動-2.7pct/-0.3pct/+6.9pct/0pct/+2.2pct。2.AI 服務器有望迎高速增長,海內外云巨頭加大服務器有望迎高速增長,海內外云巨頭加大 AI 服務器采購服務器采購 ChatGPT、文心一言等 AIGC 大模型帶來計算資源需求井噴,催生 AI 服務器需求增長,疊加配置升級帶動單臺 AI 服務器價值較通用型成倍增長,量價
16、齊升。據 TrendForce 預測,2023 年全球 AI 服務器出貨量同比增速可達 8%,20222026 年復合增長率將達 10.8%。據 IDC 數據,2021 年全球 AI 服務器市場規模 156 億美元,預計到 2025 年全球 AI 服務器市場將達到 318 億美元,21-25CAGR 為 19.5%;2021 年中國 AI 服務器市場規模達 350 億元,預計 2025 年中國 AI 服務器市場規模將達到 702 億元,8/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 21-25CAGR 為 19.0%。從 AI 服務器的采購量來看,據 Tr
17、endForce 統計,2022 年 AI 服務器采購量中,北美四大云端供應商 Microsoft、Google、Meta、AWS 合計占比約 66%,而中國近年來 AI 建設浪潮持續升溫,字節跳動年采購占比達 6.2%,騰訊、阿里巴巴、百度緊接其后,分別約為 2.3%、1.5%與 1.5%。海外云巨頭對 AI 服務器的需求更大,但隨著國內 AI 大模型的開發及應用拉動更多 AI 服務器需求,中國 AI 服務器市場空間有望進一步提升。3.英偉達:全球英偉達:全球 GPU 龍頭,產品需求量價齊升龍頭,產品需求量價齊升 全球 GPU 龍頭開拓 AI 市場,助力服務器核心算力硬件性能提升。英偉達作為
18、一家以 GPU 為主營業務的半導體設計公司,在 AI 行業發展初期就前瞻布局。2022 年公司數據中心產品營業收入 150.05 億美元,同比增長 41.38%,2020-2022CAGR 高達 49.70%,增勢迅猛。2023 年 3 月 22 日,公司發布針對AI 基礎架構的最新 AI 服務器系統 NVIDIADGXH100 以及 NVLINK 架構,為 AI 訓練與推理提供高速算力。ChatGPT 發布引爆市場、GoogleAI 對話模型 Bard 開放公測、百度發布“文心一言”大模型等一系列互聯網巨頭紛紛發力 AI 領域,催生 AI 服務器需求增長。據 TrendForce 預測,20
19、23 年 AI 服務器出貨量同比增速可達 8%,20222026 年 CAGR 將達 10.8%。公司有望受益于 AIGC 帶來的核心算力硬件性能需求大幅提升,AI 服務器系統業務未來將成為公司數據中心產品營業收入的新增長點。GPU 性能領先全球,H100 拓展市場領先地位。公司深耕 GPU 芯片多年,據英偉達在 IEEE 會議公布數據顯示,從 2012 年的 K20X 到 2020 年的 A100,GPU 的推理性能提高了 317 倍,遠超摩爾定律的發展速度。A100 作為當前 AI 服務器 GPU 中的高端產品,性能相比上一代 VoltaGPU 提升 20 倍,其 AI推理性能是 CPU
20、的 249 倍,打破 16 項性能 AI 記錄,在 AI、數據分析、高性能計算上應用廣泛,目前仍是 AI 領域所用的主力 GPU,被 AWS、微軟 Azure 和百度云等全球領先的云提供商以及 Dell、HPE、浪潮和超微等數十家主要服務器制造商廣泛采用。公司發布的新一代服務器 GPU 產品 H100,其 AI 訓練速度達到 A100 的 9 倍,大語言模型的推理速度達到 A100 的 30 倍,高性能計算性能相比 A100 提升7 倍,性價比是 A100 的 2 倍。戴爾、浪潮、新華三、源訊戴爾、浪潮、新華三、源訊等全球領先的服務器廠商均計劃推出采用H100 的服務器,未來 H100 有望被
21、服務器廠商和云服務商廣泛采用,推動公司業績新一輪成長。9/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 算力需求迅猛增長,服務器 GPU 業務有望迎來量價齊升。AIGC 產品與應用的逐步落地催生了巨大的算力需求,據 OpenAI 測算,自 2012 年以來,全球頭部 AI 模型訓練算力需求 3-4 個月提升一倍,每年頭部訓練模型所需算力增長幅度高達 10 倍。作為 AI 時代的算力核心,GPU 需求旺盛。同時,芯片性能的大幅提升帶動 GPU 價格不斷增長,英偉達 V100/A100/H100 三代 GPU 價格分別為10000/15000/36500 美元。
22、作為服務器 GPU 領導者,英偉達將直接受益于 AIGC 大熱帶來的核心算力硬件性能需求提升,服務器 GPU 業務有望迎來量價齊升。4.華為:服務器產業深耕多年,打造華為:服務器產業深耕多年,打造“鯤鵬鯤鵬+昇騰昇騰”雙引擎戰略布局雙引擎戰略布局 擴展服務器產業多年,打造“鯤鵬+昇騰”雙引擎戰略布局。華為從 2008 年開始對外提供服務器產品,目前形成了通用計算(鯤鵬)和 AI 計算(昇騰)兩大業務布局。據 IDC 數據,華為 2021 年 H1 在中國服務器市場的份額為 11.2%。據 counterpoint 數據,2021 年全年華為服務器業務收入 43.43 億美元,全球市場份額占比
23、4.5%。由于美國將華為列入實體清單,限制 x86 架構的芯片供給,華為在 2021 年 12 月出售了 x86 服務器業務。原本主營 x86 服務器業務的子公司超聚變分離后仍然穩定發展,2022 年國內市占率位列第三,達到 10.1%。目前華為致力于打造以“Arm 架構的鯤鵬+達芬奇架構的昇騰”為根基的雙引擎戰略布局,借助自研芯片優勢,持續拓展服務器業務布局。堅持計算產業戰略,積極布局 AI 服務器領域。華為創新處理器架構“達芬奇”以匹配算力的增速,推出全場景處理器族,其中面向通用計算的鯤鵬系列與面向 AI 計算的昇騰系列主要應用于服務器產品,已服務政府、金融、運營商、電力、交通、醫療、教育
24、、電力、油氣、制造等領域,為全球合作伙伴開發服務器應用及解決方案。其中,采用鯤鵬 920/916 處理器的 TaiShan 服務器包括 2280E 邊緣型、1280 高 10/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 密型、2280 均衡型、2480 高性能型、5280 存儲型和 X6000 高密型等產品,適配高性能計算、數據庫、云計算等各種應用場景,現已應用于中科大千萬億次“瀚海 20 超級計算系統”。最高配置 2480 高端服務器基于鯤鵬 920 處理器,最高提供 256 核、3.0GHz 主頻的計算能力和最多 25 個 SSD 硬盤。此外,昇騰系列
25、 AI 服務器包括 Atlas800 推理服務器與 Atlas800 訓練服務器,廣泛應用于中心側 AI 推理、深度學習模型開發和訓練場景。Atlas800 推理服務器搭載 64 核架構的鯤鵬 920 處理器,支持 8 張Atlas300I 推理卡,整機可提供 640 路高清視頻實時分析(1080P25FPS),Atlas800 訓練服務器達到4U 高度,最高可提供 2.24PFLOPSFP16 的算力,為 AI 推理、深度學習模型開發和訓練提供超強算力支持。四、四、AI 服務器服務器市場空間市場空間 1.國內外廠商布局大模型,千億級參數量推動算力需求增長國內外廠商布局大模型,千億級參數量推動
26、算力需求增長 參數量與算力需求呈正比,據 ARKInvest 預測,GPT-4 參數量最高達 15000 億個,則 GPT-4 算力需求最高可達 31271PFlop/s-day;與此同時,國內外廠商加速布局大模型,其參數量均達到千億級別,同步帶動算力需求爆發式增長。2.隨著訓練需求占比下降,推理需求有望進一隨著訓練需求占比下降,推理需求有望進一步提升步提升 據 IDC 預測,2023 年 AI 服務器訓練需求占比達 41.5%,隨著大模型的應用,該比例在 2025 年將降低至 39.2%;將 GPT-4 的推算結果作為訓練需求,進一步推算 2023/2025 年推理需求最高達44081/48
27、502PFlop/s-day。11/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 3.以以 GPT-4 為例,為滿足算力需要近千臺浪潮為例,為滿足算力需要近千臺浪潮 NF5688M6 服務器服務器 4.全球全球 AI 服務器出貨量和市場規模保持快速增長服務器出貨量和市場規模保持快速增長 據 IDC 預測,2023 年全球 AI 服務器市場規模為 211 億美元,預計 2025 年達 317.9 億美元,2023-2025 年 CAGR 為 22.7%;據 TrendForce 預測,2026 年全球 AI 服務器出貨量將進一步提升,2022-2026 年 C
28、AGR 達到 10.8%;12/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 5.中國中國 AI 服務器出貨量和市場規模保持快速增長服務器出貨量和市場規模保持快速增長 據 IDC 統計,2021 年中國 AI 服務器市場規模為 53.9 億美元,預計 2025 年達到 103.4 億美元,2021-2025 年 CAGR 達 17.7%;2021 年中國智能算力規模為 155.2EFLOPS,預計 2025 年達 922.8EFLOPS,2021-2025 年 CAGR 達 56.15%。五、五、AI 服務器產業鏈梳理服務器產業鏈梳理 13/22 2023
29、年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 服務器產業鏈的上游主要是零部件供應商,中游是服務器品牌商和 OEM/ODM 廠商,服務器的下游客戶是互聯網和云服務廠商、運營商等客戶群體。1.上游上游 服務器上游:主要包括芯片、PCB、連接器、線纜、電源和各類接口等。此處的服務器上游主要是從硬件層面對服務器進行拆解,得到的服務器內部核心零部件供應商領域,主要包括 GPU、CPU、存儲、PCB/載板、連接器、線纜、散熱、電源、模擬芯片、接口類芯片、BMC 芯片、RAID 卡、各類接口、被動元件和功率器件等,建議關注全球核心 GPU 供應商英偉達英偉達的業績表現,以及英偉達產業鏈相
30、關受益標的。2.中游中游 服務器中游:主要包括服務器品牌上和 OEM/ODM 廠商,未來 OEM/ODM 或將逐步向 JDM 模式轉變。傳統服務器行業的供應模式是 OEM/ODM 到品牌商再到客戶,未來隨著終端客戶對于服務器的定制化需求逐步增強,OEM/ODM 廠商或將逐步加強與終端客戶的直接聯系以滿足終端客戶的定制化需求,或將逐步向 JDM 轉變。3.下游下游 服務器下游:主要是采購服務器的各類客戶群體。此處列舉的服務器下游終端客戶群體主要是 B 端和 G端客戶,主要包括互聯網廠商、云服務商、運營商、政府機構、金融機構等。六、六、AI 服務器服務器相關公司相關公司 1.浪潮信息:市場份額多年
31、第一,浪潮信息:市場份額多年第一,AI 服務器產品優勢顯著服務器產品優勢顯著 浪潮信息是全球領先的服務器生產商,2021 年全球 AI 服務器市場份額第一;擁有全面的 AI 計算產品陣列以及性能領先的 Transformer 訓練服務器,具備從芯片、板卡、整機到平臺軟件的全棧 AI 計算方案提供能力;2022 年 MLPerf 基準評測中浪潮 AI 服務器獲超半數賽道的冠軍;浪潮 NF5688M6 是目前公司算力最強的 AI 服務器之一,主要用于超大規模數據中心;14/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 2.中科曙光:國內高性能計算領域領軍企業,布
32、局超算和智算中心建設中科曙光:國內高性能計算領域領軍企業,布局超算和智算中心建設 中科曙光是國內高性能計算領域的領軍企業,亞洲第一大高性能計算機廠商,大力發展云計算、大數據、人工智能、邊緣計算等先進計算業務,構建了完整的 AI 計算服務體系,參建國內多家超算中心和智算中心;中科曙光目前 AI 服務器分為訓練和推理兩種,主要采用海光/寒武紀芯片,目前已和百度“文心一言”展開合作,為其產業化應用提供算力支持。3.拓維信息:與華為昇騰拓維信息:與華為昇騰 AI 深度合作,支持云邊端全棧全場景應用深度合作,支持云邊端全棧全場景應用 拓維信息是華為昇騰 AI 戰略合作伙伴、華為全方位戰略合作伙伴,在“鴻
33、蒙+鯤鵬+昇騰”基礎軟硬件領域和華為構建全面合作;其中兆瀚系列 AI 服務器是基于華為達芬奇架構 3DCube 技術的昇騰 AI 處理器;兆瀚 AI 服務器涵蓋訓練、推理等領域,目前廣泛應用于智慧城市、運營商等行業的數據中心、算力中心相關場景;4.神州數碼:云計算產業國內領先,華為鯤鵬生態重要實踐者神州數碼:云計算產業國內領先,華為鯤鵬生態重要實踐者 神州數碼擁有國內領先的云計算產業相關服務技術優勢和國內最大的 ToB 銷售網絡渠道,云管理服務已經覆蓋全球五大公有云,形成了全面的云和數字化生態整合能力;并率先提出“數云融合”理念,并將“數云融合”作為企業數字化轉型的方法框架;神州鯤泰系列 AI
34、 服務器覆蓋訓練、推理和邊緣三種類型,均采用鯤鵬 920 處理器,成為鯤鵬產業生態的重要實踐者,積極布局基于“鯤鵬+昇騰”的自有品牌體系;5.工業富聯:云計算服務器出貨量全球第一,有望受益于海外工業富聯:云計算服務器出貨量全球第一,有望受益于海外 AI 服務器服務器需求需求 工業富聯在云計算服務器出貨量持續全球第一,并推出新一代云計算基礎設施解決方案(模塊化服務器、高效運算 HPC)以解決 AIGC 算力井噴需求;其客戶布及全球,覆蓋微軟、谷歌、英偉達、英特爾等海外頭部大廠;工業富聯云計算產品涉及云服務器、高性能服務器、AI 服務器、邊緣服務器及云儲存設備等;6.紫光股份:國內紫光股份:國內
35、ICT 行業龍頭,推進收購新華三加碼智慧計算行業龍頭,推進收購新華三加碼智慧計算 紫光股份致力于打造“云網”產業鏈,向云計算、移動互聯網和大數據處理等信息技術的行業應用領域全面深入,目前核心業務基本覆蓋 IT 服務的重要領域;紫光股份對子公司新華三剩余 49%的股權收購有望能在今年內完成,正持續推進;新華三是目前國內前三、全球前十的 AI 服務器廠商,其相關產品包括 UniServerAI 一體機和一系列 AI 服務器等,新華三 AI 服務器在 MLPerf 訓練及推理測試中共斬獲86 項世界第一,具備深厚技術積淀和領先實力。七、相關機遇與挑戰七、相關機遇與挑戰 1.美國限制向中國出口先進美國
36、限制向中國出口先進 GPU,可購買削弱帶寬的,可購買削弱帶寬的 A800 英偉達推出的三代 GPU 芯片 V100、A100 和 H100 可用于 AI 模型訓練和推理,最新一代的 H100 較A100 計算速度快約 3 倍(67/19.5);2022 年 8 月,美國要求英偉達停止向中國企業出售 A100 和 15/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 H100 兩款 GPU 計算芯片,目前中國企業僅能購買特供的 A800 芯片,該芯片較 A100 在互聯帶寬方面被削弱 1/3,成為當前可行的替代方案。暫時未被禁售的 V100 工藝為 12nm,難
37、以滿足目前計算需求。2.國產國產 GPU 單卡指標接近英偉達,推理應用更具競爭力單卡指標接近英偉達,推理應用更具競爭力 國產算力 GPU 的主要廠商包括海光信息、寒武紀、平頭哥、華為昇騰、天海光信息、寒武紀、平頭哥、華為昇騰、天數智芯、燧原科技、摩爾線數智芯、燧原科技、摩爾線程、壁仞科技、沐曦程、壁仞科技、沐曦等公司,部分產品的單卡指標和參數已經與英偉達產品接近或持平。目前國產算力GPU 芯片在推理場景應用較多且具備一定競爭力,如含光 800、思元 370、MTTS3000 等等。3.國產廠商全球市場份額占比超國產廠商全球市場份額占比超 35%,浪潮信息位列國內外榜首,浪潮信息位列國內外榜首
38、16/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 八、八、未來展望未來展望 1.超算中心建設加速,服務器需求進一步提升超算中心建設加速,服務器需求進一步提升(1)超級計算市場未來可期,超算超級計算市場未來可期,超算+云計算帶來服務器新增長云計算帶來服務器新增長 隨著 AIGC、云計算技術及應用模式的進一步拓展,超級計算的需求及應用場景持續增長,多地超算中心建設升級項目興起,助推超級計算市場迅速增長。據華經產業研究院數據,2021 年我國超算服務市場規模達 196.6 億元,預計 2025 年可達 466 億元,2021-2025 年 CAGR 達 24.1
39、%。同時,得益于超算服務與云服務市場的擴大,我國超算云服務市場迎來快速增長階段。據華經產業研究院數據,2016-2021 年間,市場規模從 1.5 億元增長至 20.7 億元,CAGR 高達 69.1%;預計在市場需求的刺激下我國超算云服務市場將繼續高增長態勢,市場規模有望于 2025 年達到 111.9 億,2021-2025 年 CAGR 為52.4%。未來超級計算中心與云計算、互聯網技術融合,從精密研制、信息安全、石油勘探、航空航天 17/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 和科學計算領域向制藥、基因測序、動漫渲染、數字電影、數據挖掘、金融分
40、析及互聯網服務等領域拓展應用,超級計算中心在服務器上的大量需求有望成為服務器市場的新增長點。(2)單臺超算中心超級計算機算力可敵單臺超算中心超級計算機算力可敵 200 多萬臺普通計算機,有望推動高端服務多萬臺普通計算機,有望推動高端服務器市場提升器市場提升 構成超算中心的超級計算機每秒運算速度高達 10 億億次,其計算能力相當于 200 多萬臺普通計算機,能計算普通計算機和服務器不能完成的大型復雜計算。相比于數據中心分布式運行、以軟件實現其擴展的模式,超算中心采用集中式的集群邏輯,耦合度高,單機性能好,其應用主要集中于高性能計算領域,目前主要提供國家高科技領域和尖端技術研究所需的運算速度和存儲
41、容量,專用性更高,因此對服務器有更高的要求,隨著超級計算中心的不斷擴展,高端服務器有望拉動服務器市場進一步增長。2.云邊協同發展,增添服務器需求動能云邊協同發展,增添服務器需求動能(1)邊緣邊緣計算優勢顯著,云邊協同大勢所趨,邊緣計算將進一步帶動服務器需求計算優勢顯著,云邊協同大勢所趨,邊緣計算將進一步帶動服務器需求 相比于云計算的集中部署、距離用戶側較遠的特點,邊緣計算是一種分布式的基礎設施,距離用戶側或數據源更近,能有效解決帶寬成本高、時延較長、流量匯集過大等問題,更好支持實時性強和帶寬密集型業務。因而,邊緣計算適用于局部性、實時和短周期的數據處理與分析,云計算擅長于全局性、非實時、長周期
42、的大數據處理與分析,兩者互補、相輔相成。Gartner 預測,2025 年將有 75%的數據在邊緣側進行處理,企業關鍵數據有 50%以上將在數據中心以外或云以外的地點創建和處理。2023 年,將有42.4%的企業采用邊緣+核心的組合架構建立和運行數據庫,設備架構向“云-邊-端”三級架構演進迭代。由于數據的產生更多來自端側和邊緣,邊緣數據中心將會成為理想的承載基礎設施去處理更多對時延要求更高的業務,據 IDC 預測,全球邊緣服務器的支出金額占總體服務器比重將從 2021 年的 14.4%增長至 2025 年的 24.9%。根據信通院預測,未來邊緣市場規模將超萬億,有望成為與云計算平分秋色的新興市
43、場,廣闊市場空間將帶給整個數據中心產業界帶來無限的想象空間和嶄新的發展機遇,邊緣數據中 18/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 心發展大勢所趨。全球企業和服務提供商在邊緣解決方案硬件、軟件和服務上的支出未來將繼續保持高速增長,據 IDC 數據,全球 2023 年度邊緣計算支出預計將達 2080 億美元,相比 2022 年增長 13.1%,這一增速將維持至 2026 年,屆時邊緣計算支出將達到 3170 億美元。(2)云服務商不斷向邊緣滲透云服務商不斷向邊緣滲透 依靠云計算技術的先發優勢,云巨頭公司將云計算技術下沉到邊緣側,大力發展邊緣計算。全球方
44、面,亞馬遜在 2016 年就開始將 AWS 擴展到間歇連接的邊緣設備。谷歌在 2021 年推出分布式云邊緣,將谷歌云基礎設施擴展到邊緣。國內方面,BAT 等巨頭也緊抓邊緣計算市場契機。阿里云 2018 年就開始進軍邊緣計算技術領域,將云計算、人工智能、IoT 的優勢拓展到邊緣計算上,打造云、邊、端一體化的協同計算服務,陸續推出了邊緣云節點 ENS、軟硬一體的物聯網邊緣計算節點,把云端能力下沉到邊緣,用云端能力解決本地的問題,降低時延和成本。百度打造了由邊緣計算框架和云端管理套件組成的智能邊緣,并提供邊緣計算服務器和邊緣計算節點兩類產品。騰訊從設備和平臺兩方面打造了邊緣計算機器ECM 和物聯網邊
45、緣計算平臺 IECP 的邊緣計算布局。華為推出智能邊緣平臺 IEF、智能邊緣云 IEC、智能邊緣小站 IES、IoT 邊緣。19/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告(3)除云服務商外,各垂直行業企業也已開始邊除云服務商外,各垂直行業企業也已開始邊緣計算領域的布局緣計算領域的布局 邊緣計算產業鏈上的軟硬件服務商、服務提供商以及第三方應用和內容提供商等企業也在垂直領域開始邊緣計算布局。在民生改善上,供熱行業作為保障民生的重要行業還存在管理系統落后、自動化程度低等問題,中環寰慧的智能供熱新模式將每個換熱站與邊緣網關對接,統一數據匯聚,可以將云端經過大數據
46、分析和全網智能調節算法策略,下發到邊緣側,完成邊緣設備上的推斷和計算,隨著使用時長和數據的累計,在深度學習算法的支撐下,整套供熱系統的調控會越來越精準。在傳媒場景上,新華三通過邊緣云計算節點的部署為華數集團搭建了分布式云計算平臺,實現了廣電行業分布式云計算架構的首次落地,邊緣節點與中心節點實現了云邊協同,資源和服務可以在云邊端智能調度。在城市治理上,英特爾攜手百度,通過人工智能和邊緣計算解決方案,對蘇州的環衛渣土車進行實時畫像收集與分析,能在第一時間通知車輛、人員對垃圾拋灑滴露等問題進行處理,全面監管保潔作業效果。許多企業在其他垂直領域也進行了業務部署:云學堂通過不同區域的邊緣節點服務器群對學
47、習內容進行加速,實現了邊緣計算在教育場景中的應用;中國農業銀行搭建了基于邊緣計算的技術框架,著力構建基于云邊協同的邊緣計算體系的建設;國家電網建設邊緣數據中心,邊緣計算已經服務支撐新一代變電集控站部署,助力新型電力系統建設。(4)邊緣計算產業鏈上游是軟硬件基礎設施提供商,邊緣計算產業鏈協同發展,我國邊緣計算產業鏈上游是軟硬件基礎設施提供商,邊緣計算產業鏈協同發展,我國邊緣計算服務器市場邊緣計算服務器市場 21-26CAGR 超超 20%邊緣計算產業鏈上游是軟硬件服務商如華為、中興通訊、浪潮信息、中科曙光、凌華科技等企業,中游是運營商以及服務提供商,下游是第三方應用和內容提供商。此外,還有 Av
48、nu 聯盟等多個產業聯盟、中國信通院等核心研究機構和企業。2016 年 11 月 30 日邊緣計算產業聯盟(Edge Computing Consortium,ECC)成立,目的是全面促進產業深度協同,加速邊緣計算在各行業的數字化創新和行業應用落地,目前已有超過 330 個網絡聯接、數據聚合、芯片、傳感、行業應用等多個領域的公司和機構加入。硬件基礎設施提供商主要是提供邊緣服務器、邊緣網關、智能邊緣一體機等,如華為、中興通訊、浪潮信息、中科曙光、凌華科技等企業,軟件基礎設施提供商主要提供邊緣操作平臺、邊緣應用軟件等,如思科、谷歌等。智能邊緣一體機將計算、存儲、網絡、虛擬化和環境動力等產品有機集成
49、到一個機柜中,在出廠時完成預安裝和與連線,只需連接電源即可快速完成初始配置,具有業務遠程部署、集中運維、管理簡單等特點。邊緣網關是部署在垂直行業現場實現網絡接入、協議轉換、數據采集與分析處理的設備,可在園區物聯網和工業物聯網等場景進行應用。同時邊緣網關在不同場景下有不同形態要求,例如在園區物聯網接入中需要具有溫度、濕度、煙霧探測等傳感器能力,在工業物聯網接入中需承擔設備信息、告警信息收集和上報的功能。邊緣服務器是邊緣計算和邊緣數據中心的主要計算載體,有三方面需求。首先,需支持 ARM/GPU/NPU 等異構計算以滿足不同業務應用需求,其次,需擁有統一的運維管理接口、業務自動部署能力和有效可靠的
50、故障處理能力以滿足邊緣服務器部署運維需求。第三,需擁有較強溫度適應能力以匹配較為復雜的環境空間。以目前已建成投入運營的雄安城市計算中心為例,現已由 700 臺服務器搭建成 6 個邊緣計算節點,形成 1.4 萬核算力、27P 存儲,平均一個邊緣計算節點需要 117 臺服務器。隨著智慧城市建設與發展對城市數據及時計算的需求增加,將帶動邊緣計算服務器市場空間的拓展。據 IDC 預計,2021-2026 年中國邊緣計算服務器整體市場規模年復合增長率將達到23.1%,高于全球的 22.2%。20/22 2023 年年 4 月月 21 日日 行業行業|深度深度|研究報告研究報告 3.AIGC 推動推動 G
51、PU 服服務器市場持續擴張務器市場持續擴張 隨著人工智能技術的快速演進賦能各個行業,支撐創新服務發展,未來基于 AIGC 帶動的云計算需求將會是 IaaS 領域增長的持續驅動力,各大云計算廠商均著力布局人工智能以把握未來趨勢。目前,亞馬遜 AWS 已形成了 AI 平臺、AI 服務、AI 基礎設施的全方位布局,并與英偉達合作,致力于大型機器學習模型訓練和生成式 AI 應用程序構建;微軟依托 ChatGPT,推出 Microsorft365Copilot、NewBing、Security Copilot 一系列應用;Google 研發 LaMDA 大語言模型,推出 AI 產品 Bard。未來,計算
52、平臺將逐步由通用走向專用,以 AI 為代表的新興應用將長期驅動服務器市場的增長,目前的單機或小型服務器可提供的算力難以滿足 AI 產品的需求,傳統數據中心使用的 CPU 也存在 Cache 占據較大空間、計算能力浪費等問題。GPU 服務器的出現突破了傳統服務器的效率瓶頸,其具有實時高速的并行計算和浮點計算能力,適用于 3D 圖形應用程序、視頻解碼、深度學習、科學計算等應用場景,逐漸在人工智能方面取代 CPU 服務器。為支持 ChatGPT 的算力需求,微軟部署了超過 1 萬張英偉達A100GPU,據 Trendforce 預測,未來 GPT 商業化所需的 GPU 芯片數量超過 3 萬枚,生成式
53、 AI 的發展將帶動 GPU 需求顯著提升。目前,各巨頭正在加大對 GPU 的投入,2022 年 12 月英特爾重組 GPU 部門,旨在擴大 GPU 領域的影響力,在 GPU 加速計算團隊加入了數據中心和 AI 組;2023 年 3 月 21 日,英偉達發布 ChatGPT 專用 GPUH100NVL,一臺 8 卡的 H100NVL 的速度是目前標配 8 卡 A100 服務器的 10 倍;三星也計劃基于 AMDRDNA 開發 GPU,巨頭的投入將有力推動 GPU 服務器市場擴張。4.服務器品牌與白牌之爭白熱化,促進服務器服務器品牌與白牌之爭白熱化,促進服務器市場優勝劣汰市場優勝劣汰(1)白牌服
54、務器廠商備受青睞加劇市場競爭,市場競爭格局重塑白牌服務器廠商備受青睞加劇市場競爭,市場競爭格局重塑 從標準層面來看,2012 年 Facebook 啟動 OCP(開放計算項目)項目,旨在改變傳統的服務器,打破傳統計算組件,使其重構為模塊化系統,此后微軟、谷歌等云計算廠商紛紛加入 OCP 聯盟。目前國外的OCP 聯盟與國內 BAT 引領的 ODCC(開放計算中心委員會)聯盟都在加快制定標準化服務器的規則,由于云服務提供商大多為技術實力雄厚的互聯網巨頭,對服務器了解程度較高,云巨頭的入局令白牌服務器的影響與日俱增。從技術層面來看,虛擬化和開源軟件的迅猛發展打破了過去軟硬一體的局面。IaaS 廠商讓
55、算力從物理實體中解放出來,用戶可以通過云平臺和第三方開源程序來運行和管理自己的后臺服務,進一步促進軟件和硬件的分裂。從需求層面來看,云計算數據中心的建設是近年來全球服務器增長的主要驅動力,云計算弱化了對單臺服務器性能指標的要求,擁有服務器設計能力的互聯網巨頭更傾向于尋求 ODM 廠商直接生產服務器以節省成本,白牌服務器憑借低廉的價格備受云巨頭青睞。21/22 2023 年年 4 月月 21 日日行業行業|深度深度|研究報告研究報告(2)白牌與品牌廠商各有其長,適應下游需求者為王)白牌與品牌廠商各有其長,適應下游需求者為王白牌服務器 ODM 廠商與傳統品牌服務器廠商的區別在于,前者聚焦生產制造,
56、后者聚焦于產品設計。白牌和品牌服務器廠商由于其固有的優勢領域不同,兩者均都有其業務邊界。品牌廠商積累了大量技術專利和架構設計經驗,在產品性能、穩定性以及客戶響應速度方面具備優勢;而白牌服務器廠商在成本控制能力、大規模生產制造能力方面更略勝一籌。因此無論是品牌廠商還是 ODM 廠商,只有不斷適應下游客戶需求,才能獲得長期持續的發展動能,在 AIGC 推動芯片及服務器快速迭代發展的環境下,快速響應能力、技術跟進能力、成本控制能力等考驗白牌與品牌廠商優勝劣汰,競爭或進一步白熱化。5.提升芯片配置或成服務器廠商制勝關鍵提升芯片配置或成服務器廠商制勝關鍵IDC 認為,中期來看 X86 架構仍然會是主流的
57、服務器市場,未來將會形成以 X86 為核心多種架構并存的豐富算力市場。另外,隨著互聯網、云服務、電信、銀行等各行業超大規??蛻舨粩鄶U張和升級擴容對于服務器的強勁需求,以硬件為中心的集成硬件與軟件支持多樣化工作負載的解決方案將成為服務器廠商制勝未來的關鍵。當前服務器產業正往技術多樣化、服務定制化、軟件定義、異構計算與邊緣計算方向發展。當前,我國服務器芯片自主研發主要有以下幾種方向:X86 架構,主要包括上海兆芯、天津海光上海兆芯、天津海光等公司;ARM 架構,華為海思華為海思麒麟系列產品在移動領域已與國際水平同步;MIPS 架構與 Alpha 架構,其中龍芯、申威龍芯、申威分別獲得 MIPS 架
58、構和 ALPHA 架構的授權,并自主研發處理器內核,也對相關架構指令集進行拓展;RISC-V 架構,國內已有 40+企業加入 RISC-V 國際基金會,平頭哥、華為海思、兆易創新、華米科技、全志科技、芯來科技、格蘭仕、晶心科技平頭哥、華為海思、兆易創新、華米科技、全志科技、芯來科技、格蘭仕、晶心科技等眾多技術廠商紛紛入局,成為 RISC-V 重要力量。芯片作為服務器算力的載體,與服務器整體性能緊密相關。傳統服務器芯片組僅由 2 顆 CPU 構成,價格在 800-850 美元/顆,而 AI 服務器芯片組通常需要搭載 2 顆 1000-1100 美元/顆的 CPU,訓練 AI 服務器與推理 AI
59、服務器還分別需要增加 8/4 顆 GPU 以提升服務器的綜合算力。目前完整規格的英偉達HGXH100AI 服務器搭載配備 8 個 H100GPU,總計 8 個 GPC 圖形集群,72 個 TPC 紋理集群,144 個SM 流式多處理器,共計 18432 個 FP32CUDA 核心,每組 SM 配備 4 個專用于 AI 訓練的第四代張量核心 TensorCore,共計 528 個。相較于同等 GPU 數量配置的 A100,H100 在 HPC 和 AI 計算(FP64/TF32/FP16/INT8)上由 156TF/2.5PF/5PF/10POPS 提升至 480TF/8PF/32PF/32PO
60、PS,在多專家(MoE)模型訓練速度上提升了 9 倍,大幅度提升萬億參數的 AI 大模型應用效率。在 AIGC 快速發展背景下,服務器芯片配置或成服務器廠商制勝關鍵。22/22 2023 年年 4 月月 21 日日行業行業|深度深度|研究報告研究報告 九、參考文獻九、參考文獻 1.光大證券-AI 行業跟蹤報告之十一:服務器,AIGC 拉動算力需求,AI 服務器加速成長2.廣發證券-“AI 奇點時刻”系列(三):策略對話電子,AI 服務器需求牽引3.廣發證券-電子行業:“AI 的 iPhone 時刻”系列 11,AI 服務器需求風起,PCB 升級浪潮已至4.中泰證券-電子行業 AIGC 發展給電子帶來的投資機遇:AI 服務器拆解,產業鏈核心受益梳理5.浙商證券-AI 服務器行業報告:大模型算力需求驅動 AI 服務器行業高景氣6.華金證券-半導體行業:AI 服務器催化+移動端復蘇,存儲價格或筑底企穩7.國信證券-電子行業算力芯片及 AI 服務器專題:AI 的 iPhone 時刻到來,電子的 AI 機遇興起8.招商證券-電子行業 AI 算力供應鏈系列報告:大模型時代 AI 服務器需求提升,算力市場打開長線空間免責聲明:以上內容僅供學習交流,不構成投資建議。