1、2024年AI 服務器和AI PC趨勢解讀電子發燒友網副主編章鷹1電子發燒友網編輯電子發燒友網2024.07.012024.07.01目錄目錄數據中心、數據中心、AIAI服務器市場趨勢服務器市場趨勢AI PCAI PC市場規模和趨勢市場規模和趨勢AIAI PCPC終端廠商和上游產業鏈終端廠商和上游產業鏈總結總結AI PCAI PC產業應用和生態產業應用和生態AIAI服務器的發展挑戰和質量檢測服務器的發展挑戰和質量檢測2數據中心、數據中心、AIAI服務器市場趨勢服務器市場趨勢數據中心4數據中心按照算力可以分為三類：云數據中心、智算中心和超算中心。云數據中心面向眾多應用場景和應用層級擴張；智算中心

2、以AI專用芯片為計算算力底座，以促進AI產業化和智能化為目標，面向AI典型應用場景；超算中心主要支持科學計算和工程計算，主要由國家科技部布局建設。國內數據中心建設較全球起步晚，目前處于云中心深化階段，向智能算力中心轉型，總體處于成長期。電子發燒友根據公開資料制圖生成式AIAI支出高速增長5國際調研機構IDC統計，2023年全球生成式AI支出的市場規模預計為387.9億美元，2027年全球生成式AI支出將達1454.2億美元，2023-2027年CAGR為55.3%。中國生成式AI支出將達到35.3億美元，2027年預計中國生成式AI支持將達到129.3億美元，2023-2027年CAGR為54

3、.1%。海外企業應用生成式AI意愿強烈。OpenAI首席運營官Brad Lightcap預測2024年是AI應用元年，目前已有超過60萬人注冊使用ChatGPT企業版。6月11日，OpenAI在官網宣布與蘋果達成技術合作，將 ChatGPT 深度集成在蘋果產品矩陣中，包括最新的iOS、iPadOS和macOS。蘋果將AI大語言模型集成到iPhone、iPad、Mac等設備中，算力從云端向終端轉移趨勢出現。數據來自IDC，電子發燒友制圖數據來自IDC，電子發燒友制圖全球需求快速增長，國內AIAI服務器處于增長期6根據Trendforce 測算，2023 年全球 AI 服務器出貨量逾120.8萬臺

4、，同比增長超過37.7%。這家機構預測，2024年全球AI服務器整機出貨量將達167.2萬臺，同比增長38.4%。臺積電在Q1法說會上表示，AI需求的增長將以50%的復合增長率持續至2028年，AI服務器需求增長也有望以較高速度持續至2028年。國際數據公司（IDC）與浪潮信息聯合發布報告顯示，2023年，中國人工智能服務器市場規模將達91億美元，同比增長82.5%；智能算力規模預計達到414.1EFLOPS（每秒百億億次浮點運算），同比增長59.3%，2022年到2027年，年復合增長率達到33.9%。數據來自Trendforce,電子發燒友制圖圖片：臺積電Q1財報AIAI 服務器分類7按照

5、用途區分，AI服務器分為訓練和推理兩大類別。訓練用服務器對存儲空間、帶寬和算力的要求較高，主要采用8-GPU 設計；推理用服務器對算力、存儲和帶寬的要求相對較低，取決于業務場景，可以采用 GPU、NPU、CPU 等不同芯片承擔推理任務，可以采用PCLe接口的AI加速器實現推理任務。服務器隨場景需求經歷通用服務器-云服務器-邊緣服務器-AI服務器四種模式，AI服務器采用GPU增強其并行計算能力。CPU+GPU是AI服務器的核心部件。機柜級解決方案有望成為未來 AI 服務器出貨主流形式之一。電子發燒友拍攝圖片來自慧博智能投研AIAI 服務器-上游產業鏈構成（一）8CPU+GPUCPU+GPU英特爾

6、AMD龍芯中科HDD/SSDHDD/SSD三星金士頓威剛DRAMDRAM內存內存三星、SK海力士美光Auras TechnologySunon;AVC Technology電源電源冷卻方案冷卻方案AI 服務器產業鏈上游為基礎設施供應商，包括芯片CPU、GPU，存儲（內存DRAM和內存接口及HBM，本地存儲SSD），被動元器件、智能網卡、機箱、主板、散熱、電源等。臺達電子艾默生光寶科技中國長城歐陸通英偉達AMD英特爾寒武紀CPUGPUAIAI 服務器-上游產業鏈構成（二）9固態硬盤固態硬盤三星金士頓威剛PCBPCB鵬鼎控股東山精密健鼎科技被動元器件被動元器件村田TDK太陽誘電散熱器散熱器互聯網接

7、口互聯網接口臺達電子富士康AEC質量檢測質量檢測蔡司是德科技愛德萬測試福祿克英偉達TIADIAI服務器中游和下游中游：ODM廠商國外廠商：Wiwynn、Supermicro國內廠商：工業富聯、廣達、英業達、緯創、技嘉中游：AI服務器廠商國外廠商：戴爾、思科、富士通、甲骨文（Oracle）國內廠商：聯想、浪潮、華為、新華三、寶德、思騰合力AI服務器下游-應用市場企業類型：互聯網企業、云計算企業、電信運營商、金融機構其他類型：政府部門、數據中心服務商、醫療領域10AI服務器服務器廠商廠商戴爾戴爾Power Edge XE968001中科曙光中科曙光Text here04新華三新華三H3C Unis

8、erver R5360 G606聯想聯想03浪潮浪潮02華為華為Atlas 800 AI服務器05六大六大AI服務器廠商服務器廠商AI 服務器的品牌廠商，包括戴爾、浪潮、聯想、中科曙光、新華三、華為、寶德、安擎和工業富聯等。ThinkSystem SR670 V2 AI服務器NF5468M6AIAI服務器的發展挑戰和質量檢測服務器的發展挑戰和質量檢測AIAI 服務器發展的三大挑戰13AI服務器有五大硬件板塊：CPU母板組、GPU板組、電源模組、硬盤和配件（機殼、機架、連接器和電感）。今年，隨著大模型部署加速，AI算力需求飆升，英偉達GB200服務器下半年出貨，帶動液冷、GPU板組上的PCB需求

9、的增加。三大挑戰：一、先進的GPU加速卡需要使用多層高階HDI板，PCB的材料和產品質量如何保證；二、AI服務器對傳輸速度要求較高，高速連接器正朝向“56G112G224G”的方向發展，高速和高密度背板連接器如何滿足AI算力釋放需求，這都需要工業檢測領域的有效方案來護航。三、智能算中心走向高密度，單顆高性能AI芯片的熱設計功耗將突破1000W，達到了傳統風冷散熱的極限，液冷技術成為主要趨勢。圖：聯想ThinkSystem SR670 V2 AI服務器，來自聯想官網圖片來自網絡數據中心與AIAI服務器的生產制造品質更高要求14AI服務器具有高功率、高速運算和數據傳輸等特點，以及不間斷運行的高價值

10、設備，因此對于各方面的元器件的質量要求更高，要在生產制造各個環節的檢測有更高的技術支持。支持更強算力的支持更強算力的AI服務器會用到：服務器會用到：1、多層高階HDI PCB板 更多層，更高的線路密度2、高功率機架3、多相電源供電系統4、采用更好的被動元件，如疊層片式鐵氧體磁珠5、高速的背板服務器6、固態硬盤、光模塊7、液體冷卻系統等。對于這類產品的對于這類產品的失效性分析、質量檢查的品質要求更高失效性分析、質量檢查的品質要求更高就目前的數據中心硬件方面，蔡司已識別出5個應用場景和7個新趨勢點，如何做好質量控制，以及一系列的失效分析檢查才是保證數據中心發揮最大效能的關鍵點。例如：通過檢查層片式

11、鐵氧體磁珠，可以使用蔡司工業顯微鏡去直觀的發現失效點，通常我們使用電鏡去觀察，使用Sigma電鏡去且無需額外的消磁處理即可放大到1萬倍去觀測磁珠表面的情況數據中心數據中心IT IT 算力設備AI AI 服務器多相電源疊層片式鐵氧體磁珠多層高階HDI板高速背板連接器高功率機架固態硬盤通信設備交換機核心交換機光模塊路由器散熱制冷系統液體冷卻系統液冷板圖片來源于網絡AIAI服務器5 5個新趨勢，1010個重點應用15散熱制冷系統 冷板冷卻是數據中心主流的液體冷卻解決方案數據中心能耗組成PUE是國內外數據中心普遍接受和采用的一種衡量數據中心基礎設施能效的指標.到2025年，全國新建大型、超大型數據中心

12、電能利用效率（PUE）降到1.3以下。制冷設備占非IT設備能耗的大部分。冷板直接安裝在熱源的頂部，中間有一層熱界面材料以增強傳熱。在冷板內部，液體流過微觀結構并流出到某種形式的熱交換器。圖片來源于網絡圖片來源于網絡IT設備制冷設備電源系統照明系統其它16平面度和孔間距測量。采用GOM藍光技術和立體攝像原理，提供高精度三維數據。小巧，可移動，超級易用。搭配Zeiss Inspect軟件，輕松處理檢測過程中的簡單和復雜的任務。樣品樣品測試要求測試要求價值主張價值主張GOM Scan 1AIAI服務器的液冷板尺寸測量17行業常用的生產制造的檢測方案18行業檢測解決方案包括CMM&VMM檢測，光學系統

13、AOI檢測，能夠穿透元器件及產品內部的X射線檢測，以及各種工業顯微鏡。圖片來源：蔡司ZEISS官網算力從云端向終端遷移19隨著生成式AI的飛速普及和計算需求的日益增長，云經濟難以支持生成式AI規?；瘮U展，云端必須與終端側協同運行AI應用。端側AI部署成為AI實現規?；瘮U展及應用落地的關鍵。數據中心服務器低功耗低帶寬計算效率邊緣設備手機PC汽車AI PCAI PC市場規模和趨勢市場規模和趨勢PCPC市場現狀：全球PCPC疲軟，中國市場企穩回暖21IDC預測，2024年全球PC市場與2023年持平，出貨量達到2.602億臺。盡管帶有NPU，有能力運行端側生成式AI功能的AI PC集中在下半年上市，

14、暫時未能顯著帶動PC市場的出貨量。2024年，中國整體PC市場轉好，2024年出貨量同比去年增長 3.8%。Q1全球PC市場回暖，六大PC廠商聯想、惠普、戴爾、蘋果、宏碁和華碩業績出現分化。今年將成為中國AI PC快速發展的第一年，預計20242024年整體年整體PCPC市場市場AI PCAI PC占比將達到占比將達到55%55%，而，而20272027年將達到年將達到85%85%。AI PC在中小企業市場發展最快，2024年將超過60%；消費市場受游戲場景和學習創作場景帶動，2024年將達到55.4%。大企業受到安全因素影響，初期部署較慢，估計到2027年，AI PC在大客戶市場的占比將達到

15、76.8%。PC市場目前以存量市場為主，用戶換機周期長。AI PC的上市能夠實現PC的新升級，有望拉動PC的換機需求。圖來自IDCAIAI PCPC 的定義22英特爾和微軟聯手定義AI PCAI PC：PC除了需要CPU、GPU、NPU之外，鍵盤上還有物理的Microsoft Copilot鍵，能夠在本地運行Copilot。目標：目標：與傳統PC不同，AI PC最重要的是嵌入了AI芯片，形成“CPU+GPU+NPU”的異構方案，可以支持本地化AI模型，能夠更快地執行AI任務，并且無需將數據（尤其是敏感數據）發送到基于云的AI服務器進行處理。圖：華碩靈耀14雙屏，搭載Intel Ultra9，電

16、子發燒友拍攝圖片：來自網絡AIAI PCPC市場規模展望232024是AI PC發展元年。IDC 預測，到2028年中國下一代AI PC年出貨量將是2024年的60倍。摩根士丹利認為，AI PC將從今年下半年開始劇增，預計將從1000美元以上的筆記型電腦開始普及，最終將下降到500美元的價格區間。調研機構Canalys數據顯示，2024年下半年，AI PC的廣泛推出將推動市場發展，為暫緩購買的用戶提供創新性和吸引力的產品。2024年全球AI PC出貨量將達到4800萬臺，占個人電腦總出貨量的18%。5 5月底，微軟月底，微軟CopilotCopilot發布端側模型，基于本地算力可以為用戶提供本

17、地大模型的訓練和功能計算。相比云端，端側模型具備發布端側模型，基于本地算力可以為用戶提供本地大模型的訓練和功能計算。相比云端，端側模型具備較高安全性和及時性，是下一代較高安全性和及時性，是下一代PCPC必不可少部分。必不可少部分。微軟CopilotCopilot+PCPC 技術亮點241、算力升級、算力升級NPU達到40Tops+16GB RAM配置，新一代Copilot PC運行速度比蘋果MacBook Air快38%。2、回溯記憶（、回溯記憶（Recall）在在GPT-4o加持下，加持下，這項功能允許截取設備使用情況的屏幕截屏，并且存儲在本地，加強隱私保護。3、渲染交互、渲染交互實時交互能

18、力，尤其在圖像生成、視頻剪輯、游戲渲染方面為物體和人物強化視覺效果。4、實時字幕、實時字幕在強大算力和語言模型幫助下，機器將40多種語言的實時字幕翻譯成英語。AI PCAI PC終端廠商和上游產業鏈終端廠商和上游產業鏈公司名稱公司名稱產品型號產品型號處理器處理器發布時間發布時間模型模型價格價格（元）（元）AI功能功能聯想ThinkPad X1 CarbonIntel 酷睿 Ultra 7Q4,2023支持200億參數大模型1199916999AI智能會議、智能降噪、AI個人助理Idea Pad ProIntel 酷睿i5 Q2,2024支持200億參數語言大模型1299歐元生成式AI創作，圖文

19、轉換YOGA Book 9i Intel 酷睿 Ultra 7Q2,2024支持200億參數語言大模型15999配備 Yoga CreatorZone 軟件Dell 新 XPS 14Intel 酷睿Ultra 7 165HQ1,2024支持200億參數大模型14999-19999AI 能效提升、文本生成、語言翻譯，運行AI軟件華碩靈耀14雙屏Intel酷睿Ultra 9185H Q4,2023支持200億參數語言大模型14999AI圖像生成，運行大模型，適配10款國內大模型Zenbook 14Intel酷睿Ultra 9185H Q1,2024支持200億參數語言大模型1000美金AI圖像處理

20、、視頻編輯、AI降噪宏碁Swift Go14Intel酷睿Ultra 9185H Q1,2024支持200億參數語言大模型5499元起AI降噪、圖形優化部分國際廠商部分國際廠商AI PC終端產品（一）終端產品（一）電子發燒友根據公開資料整理26公司名公司名稱稱產品型號產品型號處理器處理器發布時間發布時間模型模型價格（元）價格（元）AI功能功能惠普幽靈Spectrex360 16英寸Intel 酷睿 Ultra 7155HQ1,2024支持200億參數語言模型14999AI增強視覺、AI輔助，AI音頻體驗優化星Book Pro14 AIIntel酷睿 Ultra 5Q1,2024支持200億參數

21、語言模型5399-7099生成式AI創作、AI助手OMEN TranscendIntel酷睿 Ultra 9185H Q2,2024支持200億參數語言模型6499-13999AI輔助內容創作，AI降噪微軟Surface Pro11版驍龍 X EliteQ2,2024支持端側運行130億參數的語言大模型8688-16088Recall功能，實時翻譯、支持文生圖、語音交互Surface Laptop 7驍龍 X EliteQ2,2024支持端側運行130億參數的語言大模型11188-15388Recall功能，實時翻譯、支持文生圖、語音交互榮耀MagicBook Pro 16Intel酷睿 Ul

22、tra 5Q1,2024支持200億參數語言模型9299文本生成、語言翻譯，運行AI軟件部分國際廠商部分國際廠商AI PC終端產品（二）終端產品（二）電子發燒友根據公開資料整理27聯想AIAI PCPC產品陸續上市284月，聯想YOGA Book 9i AI正式上市，搭載酷睿Ultra 7 155U處理器，集顯性翻倍體驗，保證了其在處理各種復雜任務時的流暢性和高效性。6月26日，聯想集團宣布推出基于高通驍龍X Elite平臺的YOGA Air 14s驍龍AI元啟，以及YOGA Air 14c AI元啟和拯救者Y9000P AI元啟三款AI PC。YOGA Air 14s驍龍AI元啟基于高通驍龍

23、X Elite平臺，NPU算力高達每秒45萬億次，搭配聯想小天，文檔總結速度提升22%，生圖速度提升45%，可輕松駕馭Office文檔處理、瀏覽網頁、PS作圖的多任務并行狀態，續航長達24小時。圖片來自聯想搭配驍龍X X系列的2020款AIAI PCPC29。圖片來自高通AIAI PCPC處理器芯片30AI PC芯片廠商：Windows On ARM應用拐點到來，全新Arm版Surface具備高性能和低功耗。目前，高通、蘋果都已經推出ARM架構的PC處理器芯片,聯發科攜手英偉達推進Arm PC處理器開發。X86芯片迭代更新，性能持續提升。英特爾Meteor Lake首次集成NPU，Lunar

24、Lake和Arrow Lake加速提高處理器性能，已經20多臺型號搭載驍龍X系列的Copilot+PC開始接受預訂。Snapdragon X EliteIntel宣布與主流OEM伙伴推出230余款機型，開啟AI PC新紀元。Intel Core Ultra6月，AMD推出Ryzen AI 300,50Tops算力。HP、Lenovo、Dell預計7月推出含該款芯片的PC新品。AMD Ryzen AI 300公司名稱公司名稱產品型號產品型號NPU制程制程發布時間發布時間合作品牌合作品牌高通Snapdragon X Elite45Tops4nmQ3.2023宏碁、華碩、戴爾、惠普、聯想、微軟和三星

25、Snapdragon X PLus45Tops4nmQ2.2024宏碁、華碩、戴爾、惠普、聯想、微軟和三星Intel酷睿Ultra 7 155H34TOPSIntel 4Q4.2023聯想、Dell、惠普、華碩、宏碁、榮耀、新華三Lunar Lake40TopsIntel 18AQ3,2024/Arrow Lake/預計2025年/AMDRyzen 805040Tops4nmQ2.2024/Ryzen AI 30050Tops4nmQ2.2024惠普、華碩、聯想計劃7月推出帶有AMD的AI PC國際廠商推出國際廠商推出Copilot PC處理器芯片處理器芯片31AIAI PCPC 產業鏈-上游

26、硬件32CPUCPUX86X86架構架構Intel、AMD、兆芯龍芯中科ARM架構高通蘋果華為聯發科GPUGPU英偉達AMD摩爾線程內存內存三星、SK海力士美光江波龍長鑫主板主板BOE三星DellHP電源電源顯示器顯示器華碩ECSAI PC產業鏈上游為基礎設施供應商，包括CPU芯片、GPU芯片、EC芯片、存儲芯片、操作系統、顯示器等。1、AI PC拉動存儲需求上升，對大容量存儲需求增多，驅動DDR5成為主流需求。2、伴隨 AI PC 對數據傳輸速率及功耗提出更高要求，高頻高速 PCB 是未來發展必然趨勢。新普德賽電池欣旺達珠海冠宇AIAI PCPC 產業鏈-軟件33操作系統操作系統Micros

27、oftMicrosoft統信軟件蘋果IOS、麒麟軟件數據庫管理系統數據庫管理系統Oracle甲骨文IBMOCEAN BASE社交應用社交應用微信微博QQ辦公應用辦公應用嗶哩嗶哩抖音快手支付應用支付應用微信支付支付寶招行APP華為支付娛樂應用娛樂應用釘釘企業微信WPS中游為AI整機廠，包括鴻?？萍?、廣達、仁寶、華勤技術、聞泰科技、LCFC聯寶科技、英業達，下游是品牌廠商，包括聯想、惠普、DELL、HONOR、華為等。AI PCAI PC產業應用和生態產業應用和生態AIAI PCPC的六大應用場景351、AI Chatbot（AI聊天機器人）,Chatbot將面向特定行業和領域進行定向優化，帶來專

28、業問答體驗；2、AI PC助理，可以簡化用戶對PC的各種操作，管理PC上的數據和個人文檔。3、AI Office助手，以Office插件的形態出現，提升辦公軟件使用效率。4、AI 本地知識庫，AI PC將個人或企業的文件轉換成運行在設備上的知識庫，幫助用戶進行快速的文檔處理。5、AI圖像視頻處理，通過用戶輸入的提示詞生成多媒體內容，包括圖像、視頻、音頻以及后期處理。6、AI PC管理，用戶在AI幫助下實現對AI PC的遠程管理、安全防護、跨設備IT管理和運維等功能。圖片來自聯想傳統PCPC VSVS AIAI PCPC產業生態36傳統PC傳統PC生態以操作系統為基礎，用戶通過系統界面直接與計算

29、機交互，執行各項操作和任務。在傳統PC生態中，用戶根據自己的喜好，選擇軟件，個體定制屬性較弱。主導權在B端企業對用戶的喜好了解范圍內，用戶的個性化需求尚待提高。AI PCAI PC產業中，個人智能體成為第一入口，在大模型和應用生態的支持下，準確定義產業中，個人智能體成為第一入口，在大模型和應用生態的支持下，準確定義用戶指令，給出恰當反饋，跨應用角度用戶指令，給出恰當反饋，跨應用角度。模型、應用、算力廠商都必須圍繞AI PC終端形態下的個人需求做出改變，在研發中要對AI的高效運行給予支持。從AI PC場景端來看，目前已發布的AI PC產品聚焦在辦公場景、專業創作場景和教育場景的應用，隨著AI P

30、C性能的提升。預計2025年起廠商在場景的競爭將會更細分化和垂直化方向發展，包括游戲場景、細分行業定制場景等?？偨Y總結3712345算力從云端向終端轉移，端側AI部署成為AI實現規?；瘮U展及應用落地的關鍵。AI 手機、AI PC、AI大模型汽車都成為端側落地的重要途徑。今年下半年，在AI 大模型拉動下，海外云廠商擴大資本支出，AI服務器有望迎來出貨爆發期。AI PC有望成為今年PC更新換代的驅動力。AI PC的創新產品將配備AI計算和私有基礎模型。具備文生圖、AI創作、AI智能會議、AI降噪、實時翻譯等多種功能。高算力、低功耗是 AI PC 發展趨勢。X86架構的英特爾芯片是AI PC主處理器芯片。Windows on ARM 拐點已至，Arm 架構 AI PC 滲透率有望快速提升。包括AI服務器和AI PC的整機產品將推動PC產業生態發生顯著變革。以個人智能體為入口的AI PC，硬件和軟件廠商都要圍繞AI PC做出改變。AI PC的出貨量成長帶動內存、PCB、電池和散熱方案的全面升級。謝謝觀看謝謝觀看38