《通信行業數字經濟“算力網絡”系列9:AI推動液冷從0到1產業鏈共振邁入新技術周期-230616(32頁).pdf》由會員分享,可在線閱讀,更多相關《通信行業數字經濟“算力網絡”系列9:AI推動液冷從0到1產業鏈共振邁入新技術周期-230616(32頁).pdf(32頁珍藏版)》請在三個皮匠報告上搜索。
1、 敬請閱讀末頁的重要說明 證券研究報告|行業深度報告 2023 年 06 月 16 日 推薦推薦(維持)(維持)數字經濟“算力網絡”系列數字經濟“算力網絡”系列 9 9:TMT 及中小盤/通信 本篇報告主要分析了當前本篇報告主要分析了當前 IDC 液冷液冷產業鏈各環節的液冷技術儲備產業鏈各環節的液冷技術儲備及進展情及進展情況況。我們認為,隨著算力需求的持續提升,數據中心各環節加速布局液冷技術。我們認為,隨著算力需求的持續提升,數據中心各環節加速布局液冷技術以應對功耗增長、以應對功耗增長、PUE 監管趨嚴,并提升整體機房運營效率。隨著液冷滲透率監管趨嚴,并提升整體機房運營效率。隨著液冷滲透率的快
2、速提升,將為液冷的快速提升,將為液冷溫控溫控市場帶來市場帶來百億級百億級增量增量訂單訂單,維持“推薦”投資評維持“推薦”投資評級級。后摩爾定律時代芯片算力與功耗同步大幅提升,后摩爾定律時代芯片算力與功耗同步大幅提升,CPU、GPU 配備方案產配備方案產品。品。Intel、NVIDIA 為首的主流 CPU、GPU 廠商選擇加裝冷卻器、對接液冷系統,實現芯片的液冷散熱。當前,Intel 已與其合作伙伴共同設計冷板式液冷解決方案、并通過自研、合作模式開展服務器浸沒式液冷研究;2022 年 5月,NVIDIA 宣布其將在 A100、H100 系列產品中引入直接芯片液冷技術,于 A100 80GB PC
3、Ie 尾部安置接口,以對接液冷系統。服務器層面,冷板式液冷對服務器整體改動較小,浸沒式液冷對于服務器本服務器層面,冷板式液冷對服務器整體改動較小,浸沒式液冷對于服務器本身要求較高。身要求較高。冷板式液冷主要通過加裝液冷模塊,將熱量間接傳遞給冷卻液,而浸沒式液冷對于服務器本身設計及浸沒腔體都有較高要求,中科曙光運用刀片服務器形式構建浸沒式液冷系統,為行業提供有效思路。當前,隨著算力需求持續提升,AI 服務器滲透率持續走高,國內主流服務器廠商中科曙光、中興通訊、紫光股份、浪潮信息等皆積極布局服務器液冷解決方案,以滿足高性能計算、大模型訓練等高算力場景的實際需求。第三方第三方 IDC 企業、互聯網廠
4、商、運營商等持續推進液冷數據中心改造與建企業、互聯網廠商、運營商等持續推進液冷數據中心改造與建設。設。當前主流第三方 IDC 廠商為應對數據中心單機柜密度提升,開始逐步交付液冷機柜、構建液冷數據中心集群?;ヂ摼W廠商方面,阿里、京東、華為、百度等與產業鏈玩家等共同研發液冷技術,加速液冷數據中心布局。三大運營商將采取“技術驗證-規模試驗-領先標桿”的漸進模式構筑自身液冷生態鏈,解耦交付方案將在液冷規?;l展過程中展現明顯優勢。市場空間測算:市場空間測算:預計 2025 年國內 IDC 液冷市場規模將達到 132.8 億元,其中 AI 服務器液冷市場規模達 100 億元、通用服務器液冷市場規模達 3
5、2.8 億元;預計 2028 年國內 IDC 液冷市場規模將達到 250 億元,其中 AI 服務器液冷市場規模達 212 億元、通用服務器液冷市場規模達 37.7 億元;產業鏈標的梳理:產業鏈標的梳理:(1)國內液冷溫控解決方案供應商打開液冷 0-1 市場空間,建議關注:【英維克】、【高瀾股份】、【同飛股份】(中小盤聯合覆蓋)、【申菱環【英維克】、【高瀾股份】、【同飛股份】(中小盤聯合覆蓋)、【申菱環境】(家電組覆蓋)、境】(家電組覆蓋)、【佳力圖】、【依米康】【佳力圖】、【依米康】、【網宿科技】、【網宿科技】、【川潤股【川潤股份】份】(機械組機械組覆蓋)覆蓋)、【銀輪股份】【銀輪股份】(汽車
6、汽車組組覆蓋)、【覆蓋)、【飛龍飛龍股份】股份】(汽車汽車組組覆蓋)覆蓋)等在數據中心液冷解決方案均有研發儲備和一定進展;(2)服務器及 IDC 廠商有望通過加裝液冷模塊/采用液冷解決方案提升對下游客戶的議價能力和盈利能力,建議關注:【中興通訊】、【紫光股份】、【中興通訊】、【紫光股份】、【浪潮信息】(計算機組覆蓋)、【潤澤科技】、【奧飛數據】、【寶信軟【浪潮信息】(計算機組覆蓋)、【潤澤科技】、【奧飛數據】、【寶信軟件】等件】等 風險提示:風險提示:算力投資不及預期、產業競爭加劇風險、算力投資不及預期、產業競爭加劇風險、液冷技術進展不及預期液冷技術進展不及預期 行業規模行業規模 占比%股票家
7、數(只)189 3.8 總市值(億元)30278 3.6 流 通 市 值(億元)21768 3.1 行業指數行業指數%1m 6m 12m 絕對表現 18.5 38.9 39.4 相對表現 20.3 39.6 47.7 資料來源:公司數據、招商證券 相關相關報告報告 1、【招商通信】電力信息化:發改委擬修訂電力需求側及負荷管理辦法,電力信息化建設有望加速2023-05-23 2、運營商行業系列報告 4:當大國央企賦能科技革命2023-05-08 3、數字經濟“算力網絡”系列8:AI 拉動多少需求,光模塊彈性空間量化測算2023-04-18 梁程加梁程加 S1090522060001 孫嘉擎孫嘉擎
8、 S1090523040001 -40-200204060Jun/22Oct/22Jan/23May/23(%)通信滬深300AIAI 推動液冷推動液冷從從 0 0 到到 1 1,產業鏈,產業鏈共振邁入新技術周期共振邁入新技術周期 敬請閱讀末頁的重要說明 2 行業深度報告 正文正文目錄目錄 一、芯片廠商出于功耗考慮,加大液冷散熱技術研發與引入力度.6 1、芯片內部集成微流體液冷系統,CPU/GPU 芯片廠商加裝冷卻器/對接液冷系統.6 2、主流芯片廠商布局情況.6 二、液冷溫控供應商梳理:.8 1、液冷溫控市場空間測算.8 2、溫控解決方案供應商.9 三、算力升級大趨勢下服務器廠商加速布局液冷
9、服務器產品.10 1、冷板式液冷對于服務器整體改動較小,浸沒式液冷對于服務器有較高要求.10 2、主流服務器廠商布局情況.11 四、第三方 IDC 企業積極布局高功率液冷數據中心.17 1、冷板式液冷改造技術較為成熟,浸沒式液冷需對數據中心重新設計.17 2、主流第三方數據中心廠商布局情況.23 五、互聯網、運營商等客戶積極布局液冷技術.24 1、互聯網廠商有望加速布局液冷技術.24 2、運營商通過試點方式驗證液冷技術性能,至 2025 年將開展規模應用.25 3、多個政府項目采用液冷系統作為主流冷卻技術.28 六、解耦交付模式符合液冷技術路線的發展趨勢.29 1、解耦交付模式及解耦方案簡介.
10、29 2、解耦交付模式的多重優勢.30 圖表圖表目錄目錄 圖 1:數據中心各環節液冷技術布局梳理.5 圖 2:Intel CPU 液體冷卻示意.6 圖 3:Intel 液冷板示例.7 圖 4:Intel 與 Sumber 合作的浸沒式液冷系統.7 圖 5:液冷 NVIDIA A100、H100.7 圖 6:液冷 A100 GPU 相比于風冷 A100 GPU 的優勢.7 圖 7:“兩級熱管”液冷服務器.10 圖 8:“水冷+熱管”液冷服務器.10 5V8ZuYpXMBkUgVqMrM6McM6MpNpPtRnOjMrRsMkPrQyR6MnNpPuOmRsMwMsOnN 敬請閱讀末頁的重要說明
11、 3 行業深度報告 圖 9:CPU 與熱管進行熱交換.10 圖 10:“芯片冷板”液冷服務器.10 圖 11:液冷刀片服務器模型.11 圖 12:曙光數創浸沒式液冷工作原理.11 圖 13:曙光 ParaStor 液冷存儲系統.12 圖 14:曙光數創液冷集裝箱產品.12 圖 15:中興通訊冷板式液冷系統架構.13 圖 16:中興通訊 ICT 液冷一體化方案架構圖.13 圖 17:中興通訊服務器液冷解決思路.13 圖 18:采用冷板式液冷技術的 R4900LC G5.14 圖 19:新華三液冷一體化解決方案.14 圖 20:B5000 G4 LP 節點液冷 CDU 示意圖.15 圖 21:冷板
12、式液冷數據中心整體鏈路圖.17 圖 22:冷量分配單元熱交換原理示意圖.17 圖 23:供回液歧管示意圖.18 圖 24:快換接頭結構.18 圖 25:直連式管路示意圖.19 圖 26:環形管路示意圖.19 圖 27:冷板式液冷一次側自然冷卻系統圖例.19 圖 28:冷塔+水冷冷機+板換系統示意圖.20 圖 29:風冷冷水機組示意圖.20 圖 30:閉式冷卻塔/干冷器示意圖.20 圖 31:開式冷卻塔示意圖.20 圖 32:浸沒式液冷系統結構簡圖.21 圖 33:單相浸沒式液冷系統結構.21 圖 34:兩相浸沒式液冷系統結構.21 圖 35:GRC 維也納科學集群臥式系統.22 圖 36:中科
13、曙光硅立方立式系統.22 圖 37:全球數據中心單機柜功率變化情況及預測(kW).23 圖 38:機柜功率密度所對應的散熱冷卻方式.23 圖 39:阿里云浸沒式液冷模塊.24 圖 40:阿里巴巴張北數據中心液冷系統.24 敬請閱讀末頁的重要說明 4 行業深度報告 圖 41:阿里云磐久 Immersion DC 1000 系列.25 圖 42:華為 FusionServer CH140L V3.25 圖 43:華為 FusionServer Pro CH121L V5.25 圖 44:三大運營商液冷技術發展的三年愿景.26 圖 45:中國移動呼和浩特冷板式液冷測試.27 圖 46:中國移動 5G
14、 基站單相浸沒式液冷試點.27 圖 47:中國電信 5G BBU 機柜液冷試點.27 圖 48:中國電信廣州數據中心冷板式微模塊試點.27 圖 49:一體化交付與解耦交付方案.29 圖 50:盲插解耦交付方案示例.29 圖 51:通信行業歷史 PEBand.31 圖 52:通信行業歷史 PBBand.31 表 1:Intel 第四代至強處理器.6 表 2:NVIDIA A100 PCle GPU 風冷與液冷型號規格.7 表 3:中國服務器液冷市場空間測算.8 表 4:主要溫控標的液冷產品線情況.9 表 5:主要溫控標的液冷技術儲備情況.9 表 6:中科曙光液冷服務器產品類型.12 表 7:浪潮
15、信息液冷服務器產品線.14 表 8:寧暢現有液冷服務器產品線.15 表 9:一次側冷源建議方案.20 表 10:單相浸沒式和兩相浸沒式系統對比.21 表 11:兩相浸沒液冷臥式系統和立式系統對比.22 表 12:互聯網廠商、運營商、政府端液冷技術布局情況.24 表 13:三大運營商液冷技術技術布局規劃.26 表 14:上海電信液冷招標.27 表 15:主要服務器廠商一體化/解耦交付模式.29 表 16:解耦交付與一體化交付模式對比.30 敬請閱讀末頁的重要說明 5 行業深度報告 KEYPOINTS:數據中心產業鏈各環節加速布局液冷技術。數據中心產業鏈各環節加速布局液冷技術。數據中心產業鏈主要由
16、上游基礎設施(其中包含芯片提供商、ICT 設備商等)、中游 IDC 服務提供商、下游終端客戶(其中包含互聯網廠商、運營商及各行業客戶)。當前數據中心上中下游主體皆開始加速導入液冷解決方案,主要體現在以下幾個方面:1)芯片廠商:)芯片廠商:后摩爾定律時代芯片算力與功耗同步大幅度提升,主流 CPU、GPU 廠商則選擇加裝冷卻器、對接液冷系統,實現芯片的液冷散熱;2)服務器廠商:)服務器廠商:隨著 AI服務器需求量逐步提升,服務器廠商開始布局冷板式液冷技術及其他液冷解決方案;3)數據中心服務提供商:)數據中心服務提供商:IDC 廠商布局高功率液冷機房,以應對快速增長的 IDC 機房單機柜功率密度及逐
17、步嚴苛的PUE 管控指標;4)下游終端客戶:)下游終端客戶:運營商、互聯網廠商及政府項目等加速液冷技術研發與應用,提升整體機房運營效率,加速溫控行業從風冷到液冷的切換。圖圖 1:數據中心各環節液冷技術布局梳理:數據中心各環節液冷技術布局梳理 資料來源:招商證券整理繪制 敬請閱讀末頁的重要說明 6 行業深度報告 一、一、芯片廠商出于功耗考慮,加大液冷散熱技術研發與引入力度芯片廠商出于功耗考慮,加大液冷散熱技術研發與引入力度 1、芯片內部集成微流體液冷系統,芯片內部集成微流體液冷系統,CPU/GPU 芯片廠商加裝冷卻器芯片廠商加裝冷卻器/對接液冷系統對接液冷系統 后摩爾定律時代芯片算力與后摩爾定律
18、時代芯片算力與功耗同步大幅提升,一方面,學界創新性提出“于芯片內部集成微流體液冷系統”,并功耗同步大幅提升,一方面,學界創新性提出“于芯片內部集成微流體液冷系統”,并逐步在業內嘗試,主流逐步在業內嘗試,主流 CPU、GPU 廠商則選擇加裝冷卻器、對接液冷系統,實現芯片的液冷散熱。廠商則選擇加裝冷卻器、對接液冷系統,實現芯片的液冷散熱。主流主流 CPU、GPU 廠商則選擇加裝冷卻器、對接液冷系統,實現芯片的液冷散熱:廠商則選擇加裝冷卻器、對接液冷系統,實現芯片的液冷散熱:CPU 方面,方面,以 Intel 為首的 CPU 芯片廠商選擇為 CPU 芯片加裝一體式(AIO)冷卻器,與風冷模式類似,整
19、個冷卻過程從 CPU IHS 基板出發,IHS 上附有導熱管,方便兩個表面之間進行傳熱,基板的金屬表面則為水冷頭的一部分,水冷頭中裝填冷卻液。當冷卻液通過水冷頭時,會從基板中吸收熱量,而后向上通過管道到達散熱器,散熱器再將液體暴露于空氣中,實現冷卻的一次循環。GPU 方面,方面,NVIDIA 在其 A100 80GB PCIe 中提供雙插槽風冷式或單插槽液冷式雙版本,A100 80GB PCIe 單插槽液冷版本類似于桌面液冷顯卡,其中整合水冷頭,接口置于 GPU 芯片尾部,方便對接液冷系統,HGX A100 則采用 SXM 樣式計算卡,在機架內部直接整合液冷系統。圖圖 2:Intel CPU
20、液體冷卻示意液體冷卻示意 資料來源:Intel 官網、招商證券 2、主流芯片廠商布局情況主流芯片廠商布局情況(1)CPU 方面,方面,Intel 2023Q1 發布的第四代至強處理器多款子產品熱設計功耗達 350W,傳統風冷解決方案散熱壓力極大,2023 年 1 月 Intel 至強發布會上表明,第四代至強處理器將會配置液冷散熱方案。表表 1:Intel 第四代至強處理器第四代至強處理器 產品名稱產品名稱 內核數量內核數量 最大睿頻頻率最大睿頻頻率 處理器基本頻率處理器基本頻率 熱設計功耗熱設計功耗 Platinum 8454H 32 3.40 GHz 2.10 GHz 270W Platin
21、um 8458P 44 3.80 GHz 2.70 GHz 350W Platinum 8460H 40 3.80 GHz 2.20 GHz 300W Platinum 8462Y+32 4.10 GHz 2.80 GHz 300W Platinum 8468 48 3.80 GHz 2.10 GHz 350W Platinum 8468H 48 3.80 GHz 2.10 GHz 330W Platinum 8468V 48 3.80 GHz 2.40 GHz 330W Platinum 8470 52 3.80 GHz 2.00 GHz 350W Platinum 8470N 52 3.6
22、0 GHz 1.70 GHz 300W Platinum 8470Q 52 3.80 GHz 2.10 GHz 350W Platinum 8471N 52 3.60 GHz 1.80 GHz 300W Platinum 8480+56 3.80 GHz 2.00 GHz 350W Platinum 8490H 60 3.50 GHz 1.90 GHz 350W 敬請閱讀末頁的重要說明 7 行業深度報告 資料來源:Intel 官網、招商證券 Intel 與合作伙伴共同設計冷板式液冷解決方案。與合作伙伴共同設計冷板式液冷解決方案。一方面,Intel 攜手生態伙伴,全面系統地總結冷板液冷系統的設計
23、與實踐經驗,發布英特爾高效能數據中心白皮書、綠色數據中心創新實踐冷板液冷系統設計參考。另一方面,Intel 和合作伙伴不斷推進冷板方案的具體落地應用,2021Q2,Intel 與京東云合作,基于第三代 Intel 至強可擴展處理器,共同調整其核心數、Turbo 頻率、TDP、RAS 特性等主要參數,以適配冷板式液冷解決方案的部署。Intel 已通過自研、合作研發等模式對于服務器浸沒式液冷開展研究。已通過自研、合作研發等模式對于服務器浸沒式液冷開展研究。1)2021 年,Intel 宣布與 Sumber 合作,雙方會將至強架構的 CPU 系統與精密冷卻技術相結合,開發基于浸沒式液冷的余熱回收技術
24、;2)2022 年,GRC(Green Revolution Cooling)公司宣布將會為 Intel 至強處理器提供浸沒式液冷技術優化;3)2023 年,Intel 發言人透露,Intel 將會在其希爾斯伯勒工廠內繼續進行浸沒式液冷創新技術研究。圖圖 3:Intel 液冷板示例液冷板示例 圖圖 4:Intel 與與 Sumber 合作的浸沒式液冷系統合作的浸沒式液冷系統 資料來源:Intel綠色數據中心創新實踐冷板式液冷系統設計參考、招商證券 資料來源:熱管理行業觀察、招商證券(2)GPU 方面,方面,2022 年 5 月,英偉達宣布將在 A100、H100 系列產品中引入直接芯片(Dir
25、ect to Chip)液冷散熱技術,A100 80GB PCIe 將在尾部安置接口,以對接液冷系統。根據 Equinix 與 NVIDIA 的測試結果,液冷 NVIDIA A100 PCle GPU 一方面可以在空間相同的條件下,實現雙倍計算量;另一方面,采用液冷技術的數據中心工作負載可以與風冷設施持平,但能源消耗量將減少 28%。同時,根據 NVIDIA 估計,采用液冷 GPU 的數據中心 PUE 可以達到 1.15,遠低于風冷的 1.6。表表 2:NVIDIA A100 PCle GPU 風冷與液冷型號規格風冷與液冷型號規格 產品型號產品型號 A100 80GB PCIe GPU 顯存顯
26、存 80GB HBM2e GPU 顯存帶寬顯存帶寬 1935GB/s 最大熱設計功耗(最大熱設計功耗(TDP)300W 外形規格外形規格 PCIe 雙插槽風冷式或單插槽液冷式單插槽液冷式 資料來源:NVIDIA 官網、招商證券 圖圖 5:液冷液冷 NVIDIA A100、H100 圖圖 6:液冷液冷 A100 GPU 相比于風冷相比于風冷 A100 GPU 的優勢的優勢 資料來源:NVIDIA、招商證券 資料來源:NVIDIA 官方微信公眾號、招商證券 敬請閱讀末頁的重要說明 8 行業深度報告 二、二、液冷溫控供應商梳理:液冷溫控供應商梳理:1、液冷溫控市場空間測算液冷溫控市場空間測算 預計預
27、計 2025 年國內年國內 IDC 液冷市場規模將達到液冷市場規模將達到 132.8 億元,其中億元,其中 AI 服務器液冷市場規模達服務器液冷市場規模達 100 億元、通用服務器液冷億元、通用服務器液冷市場規模達市場規模達 32.8 億元;億元;預計預計 2028 年國內年國內 IDC 液冷市場規模將達到液冷市場規模將達到 250 億元,其中億元,其中 AI 服務器液冷市場規模達服務器液冷市場規模達 212 億元、通用服務器液冷億元、通用服務器液冷市場規模達市場規模達 37.7 億元;億元;表表 3:中國服務器液冷市場空間測算:中國服務器液冷市場空間測算 2021E 2022E 2023E
28、2024E 2025E 2026E 2027E 2028E 中國服務器出貨量(萬臺)391.1 400.0 350.0 371.0 389.6 405.1 417.3 429.8 yoy(%)2.3%-12.5%6.0%5.0%4.0%3.0%3.0%中國中國 AI 服務器出貨量(萬臺)服務器出貨量(萬臺)5 6.0 14.0 20.0 25.0 30.8 36.9 43.5 yoy(%)20.0%133.3%42.9%25.0%23.0%20.0%18.0%AI 服務器出貨量滲透率(%)1.3%1.5%4.0%5.4%6.4%7.6%8.8%10.1%AI 服務器液冷滲透率(%)5%6%20
29、%40%50%60%70%75%AI 服務器平均功率(kW)5.5 6.0 6.5 8.0 10.0 12.0 13.0 13.0 AI 服務器單 kW 液冷價值量(萬元)1.3 1.2 1.0 0.9 0.8 0.6 0.6 0.50 中國中國 AI 服務器液冷市場規模(億元)服務器液冷市場規模(億元)1.8 2.6 18.2 57.6 100.0 132.8 184.7 212.3 yoy(%)45.0%602.2%216.5%73.6%32.8%39.0%14.9%中國通用服務器出貨量(萬臺)中國通用服務器出貨量(萬臺)386.1 394.0 336.0 351.0 364.6 374.
30、4 380.4 386.3 yoy(%)2.0%-14.7%4.5%3.9%2.7%1.6%1.5%通用服務器液冷滲透率(%)5%5%8%10%15%20%22%25%通用服務器平均功率(kW)0.6 0.8 0.9 1.1 1.2 1.25 1.3 1.3 通用服務器單 kW 液冷價值量(萬元)0.7 0.7 0.6 0.5 0.5 0.3 0.3 0.3 中國通用服務器液冷市場規模(億元)中國通用服務器液冷市場規模(億元)8.1 11.0 14.5 19.3 32.8 28.1 32.6 37.7 yoy(%)36.1%31.6%33.0%70.0%-14.4%16.2%15.4%中國服務
31、器液冷市場規模(億元)中國服務器液冷市場規模(億元)9.9 13.6 32.7 76.9 132.8 160.9 217.3 249.9 yoy(%)37.7%140.1%135.1%72.7%21.2%35.1%15.0%資料來源:IDC、產業調研、招商證券整理測算 敬請閱讀末頁的重要說明 9 行業深度報告 2、溫控解決方案供應商溫控解決方案供應商 國內液冷溫控解決方案提供商在液冷解決方案技術儲備、液冷產品線上各有差異:國內液冷溫控解決方案提供商在液冷解決方案技術儲備、液冷產品線上各有差異:表表 4:主要溫控標的液冷產品線情況:主要溫控標的液冷產品線情況 冷板式液冷解決方案冷板式液冷解決方案
32、 浸沒式液冷解決方案浸沒式液冷解決方案 主要組件主要組件 液冷板液冷板 Manifold 快速接頭快速接頭 CDU 液冷液冷管路管路 干冷器干冷器 水泵水泵 浸沒式浸沒式液冷液冷TANK CDU 冷卻液冷卻液 水分配與水分配與冷卻塔冷卻塔 英維克英維克 申菱環境申菱環境 高瀾股份高瀾股份 同飛股份同飛股份 外采外采 佳力圖佳力圖 網宿科技網宿科技 銀輪股份銀輪股份 資料來源:公司公告、CDCC、公司官網、產業調研、招商證券 表表 5:主要溫控標的液冷技術儲備情況:主要溫控標的液冷技術儲備情況 公司公司 冷板式液冷技術冷板式液冷技術 浸沒式液冷技術浸沒式液冷技術 液冷技術進展液冷技術進展 英維克
33、英維克 Intel 液冷溫控重要合作伙伴,與超聚變共同深入研發全鏈條液冷解決方案,當前已實現 500MW 液冷項目交付 申菱環境申菱環境 公司液冷解決方案已在中國移動南方基地液冷機房中完成測試,技術方案成熟 高瀾股份高瀾股份 2022 年 8 月,公司與 GPU 廠商芯動科技簽訂戰略合作協議,當前已實現服務器液冷相關產品樣件及小批量供貨 同飛股份同飛股份 2022 年 7 月,公司宣布與超聚變合作開發數據中心溫控產品;2022 年 11 月,公司宣布將錨定液冷服務器廠商、數據中心服務提供商與頭部互聯網公司,加快自身液冷產品拓展 佳力圖佳力圖 當前公司已掌握 CPU 液冷核心技術,正加速推進與核
34、心客戶的合作布局 網宿科技網宿科技 已與中國電信、戴爾集團簽訂合作協議已與中國電信、戴爾集團簽訂合作協議,聚焦浸沒式液冷產品研發,目前液冷業務的收入占公司收入的比重仍然較低 銀輪股份銀輪股份 公司集裝式數據中心溫控系統已與下游客戶簽訂合作協議 依米康依米康 公司已與重要戰略客戶聯合開發浸沒式液冷產品,預計將于 2023年上半年進行產品測試 飛龍股份飛龍股份 公司電子水泵系列、電子油泵系列和熱管理系統平臺產品已用于GPU 冷卻、AI 服務器冷卻;當前已有項目量產,服務器液冷領域由于公司與客戶簽訂保密協當前已有項目量產,服務器液冷領域由于公司與客戶簽訂保密協議,暫時無法披露議,暫時無法披露 川潤股
35、份川潤股份 公司在數據中心、云計算、IDC、通信網絡等人工智能應用方面有液冷技術儲備,正積極推進液冷產品送樣正積極推進液冷產品送樣 北特科技北特科技 公司正積極探索將儲備的集成式熱管理系統技術應用于服務器熱管理場景之中,暫未形成具體商用方案及商業訂單 資料來源:公司公告、公司官網、招商證券 敬請閱讀末頁的重要說明 10 行業深度報告 三、三、算力升級大趨勢下服務器廠商加速布局液冷服務器產品算力升級大趨勢下服務器廠商加速布局液冷服務器產品 1、冷板式液冷對于服務器整體改動較小,浸沒式液冷對于服務器有較高要求冷板式液冷對于服務器整體改動較小,浸沒式液冷對于服務器有較高要求(1)冷板式加裝液冷模塊冷
36、板式加裝液冷模塊 冷板式液冷對于服務器本身改動較小,主要途徑為加裝液冷模塊。冷板式液冷對于服務器本身改動較小,主要途徑為加裝液冷模塊。冷板式液冷是最為典型的間接接觸型液冷技術,在冷板式液冷系統中,服務器芯片等發熱器件不直接接觸冷卻液,而是通過裝配在電子元器件上的冷板(通常是銅、鋁等高導熱金屬構成的封閉腔體)將熱量間接傳遞給封閉在循環管路中的冷卻液體,從而將主要發熱器件的熱量傳遞出去。冷板式液冷技術對現有服務器芯片組件及附屬部件改動量較小,液冷化改造可操作性相對較強。主要在服務器中加裝液冷模塊,采用集中式或分布式 CDU 供液、Manifold 分液,以此對于 CPU、DIMM 等部件進行精準制
37、冷。在實際操作過程中,中國移動(呼和浩特)數據中心將冷板式液冷細分出“兩級熱管”、“水冷+熱管”、“芯片冷板”三條具體技術路徑:“兩級熱管”液冷服務器:“兩級熱管”液冷服務器:此模式將服務器 CPU、GPU、內存等產生的熱量從一級導熱管傳遞至二級導熱管,二級熱管冷媒流動至換熱器將熱量傳遞給冷凍水,交換后的熱水通過室外回水管路流出,完成整個換熱過程?!八洹八?熱管”液冷服務器:熱管”液冷服務器:此模式將通過熱管導熱原理將服務器 CPU、GPU、內存等產生的熱量傳遞至熱管冷凝端,冷卻水在冷凝端與熱管進行熱交換,交換后的熱水經由回水管路流出,完成整個換熱過程?!靶酒浒濉币豪浞掌鳎骸靶酒浒濉?/p>
38、液冷服務器:此模式采用泵驅動冷卻液流過芯片背部通道,冷卻液在通道內通過板壁與芯片進行充分熱交換,帶走芯片端的熱量后,含有熱量的冷卻液將通過集分水器將熱量輸送至機房內的 CDU 完成熱量交換。圖圖 7:“兩級熱管”液冷服務器“兩級熱管”液冷服務器 圖圖 8:“水冷“水冷+熱管”液冷服務器熱管”液冷服務器 資料來源:侯曉雯等液冷服務器在數據中心的研究與應用(2019)、招商證券 資料來源:侯曉雯等液冷服務器在數據中心的研究與應用(2019)、招商證券 圖圖 9:CPU 與熱管進行熱交換與熱管進行熱交換 圖圖 10:“芯片冷板”液冷服務器“芯片冷板”液冷服務器 資料來源:潘敏強大數據中心芯片級非接觸
39、液冷高效節能技術(2021)、招商證券 資料來源:侯曉雯等液冷服務器在數據中心的研究與應用(2019)、招商證券 敬請閱讀末頁的重要說明 11 行業深度報告 (2)浸沒式浸沒式要對要對服務器箱體定制化改造服務器箱體定制化改造 浸沒式液冷改造對于服務器本身及浸沒腔體具有較高要求。浸沒式液冷改造對于服務器本身及浸沒腔體具有較高要求。浸沒式液冷改造過程中,服務器箱體需要進行定制,滿足三點要求:1)采用高功率密度設計;2)采用結構定制化設計以強化液體與發熱器件之間的熱交換;3)采用結構定制化以提高浸沒式液冷環境下電子信息設備的運維效率。同時,浸沒式液冷服務器浸沒腔體應該被設計頂部開蓋、由四個壁面和一個
40、底面圍成的具有一定內部容積的結構,分氣相區與液相區,服務器主板浸沒于液相區內,氣相區保障氣密性良好,確保冷卻液蒸汽無泄漏;單項系統中液相區的液體溫度場需均勻,無局部熱點,同一水平界面下溫差需要5。實踐層面上,中科曙光以液冷刀片形式為行業提供服務器改造思路。實踐層面上,中科曙光以液冷刀片形式為行業提供服務器改造思路。浸沒式液冷技術基于液體直接制冷,當前仍然處于發展早期,由于研發難度較大、投入成本較高,當前入局的服務器廠商較少。中科曙光旗下子公司曙光數創,專注于數據中心制冷基礎實施開發,由其所開發的以液冷刀片服務器為核心的浸沒相變產品為行業提供技術商業化落地思路。液冷刀片服務器由刀片模塊,后插單板
41、、電源等組成,通過設備后總接口置于冷媒之中。根據曙光數創方案,將液冷服務器全部浸沒于冷媒之中,CPU、GPU 等發熱元器件通過冷媒相變換熱的方式實現散熱,氣化的冷媒進入換熱器與常溫冷卻水換熱,冷凝為液體后,完成熱力循環。圖圖 11:液冷刀片服務器模型:液冷刀片服務器模型 圖圖 12:曙光數創浸沒式液冷工作原理:曙光數創浸沒式液冷工作原理 資料來源:高益兵等刀片服務器液冷系統的設計和探究(2020)、招商證券 資料來源:曙光數創招股說明書、招商證券 2、主流服務器廠商布局情況主流服務器廠商布局情況 算力升級大趨勢下算力升級大趨勢下 AI 服務器滲透率快速提升,功耗提升帶動服務器廠商加速布局液冷服
42、務器產品。服務器滲透率快速提升,功耗提升帶動服務器廠商加速布局液冷服務器產品。根據 IDC 數據,2022 年全球 AI 服務器市場規模達 202 億美元,同比增長 29.8%,占服務器市場規模的比例為 16.4%,同比提升1.2pct。相比于傳統服務器,AI 服務器整機功耗也隨之走高,如 NVIDIA DGX A100 640GB,其采用雙路 AMD Rome 7742 與 8 顆 NVIDIA A100 80GB Tensor Core GPU,最大整體功耗達到 6.5kW。故中科曙光、中興通訊、紫光股份、浪潮信息、寧暢等服務器廠商也開始加速布局液冷服務器產品以應對算力升級趨勢下服務器功耗
43、持續提升的現狀。(1)中科曙光:高性能計算領軍企業,深耕服務器液冷技術研發十余年中科曙光:高性能計算領軍企業,深耕服務器液冷技術研發十余年 中科曙光作為國內液冷先進計算的領導者,液冷技術研發經歷“冷板式液冷技術”、“浸沒式液冷技術”、“浸沒相變液冷技術”三大發展階段。公司于 2011 年開始液冷技術研究,2015 年推出我國首款標準化的量產冷板式液冷服務器,2019 年推動全球首個大規模浸沒相變液冷項目的商業落地。當前公司已形成冷板式液冷 C7000 系列、浸 敬請閱讀末頁的重要說明 12 行業深度報告 沒式液冷 C8000 系列、TC4600E-LP 冷板式液冷刀片服務器產品線,覆蓋物理、化
44、學、材料、生命科學、氣象等基礎研究領域及金融、動漫等多行業。核心發熱部件采用液冷散熱方式,改造技術成熟并可有效控核心發熱部件采用液冷散熱方式,改造技術成熟并可有效控制成本。制成本。受制于成本與技術成熟度等因素,傳統液冷高性能服務器大規模部署遭遇瓶頸,公司 C7000 系列通用液冷服務器與 TC4600E-LP 刀片式液冷服務器皆采用風冷與液冷相結合的方式,通過為服務器內部主要熱源(CPU、內存等)配置液冷冷板套件、封閉通道、豎直分液單元、液冷換熱單元等產品,對于傳統風冷服務器進行液冷改造設計,整體冷板式液冷改造技術成熟,并可以有效控制成本,為后續液冷高性能服務器產業化提供可能。表表 6:中科曙
45、光液冷服務器產品類型:中科曙光液冷服務器產品類型 系列產品型號系列產品型號 系列產品示意圖系列產品示意圖 冷冷卻方式卻方式 機柜配置特點機柜配置特點 C7000 系列系列 冷板式液冷 風冷和液冷混合散熱:風冷和液冷混合散熱:CPU、內存采用液冷冷板散熱,其余部件采用風冷散熱;標準 42U 機柜最多可放置 9 個液冷刀片機箱 C8000 系列系列 浸沒式液冷 采用一體化液冷散熱模塊,具有高密度換熱能力,最高可達到 420kW TC4600E-LP 冷板式液冷 風冷和液冷結合:風冷和液冷結合:CPU 和內存采用液冷散熱、其余部件采用風冷散熱 資料來源:中科曙光官網、曙光數創官網、招商證券 高端計算
46、領域浸沒液冷技術儲備充足,逐步向液冷存儲、高端計算領域浸沒液冷技術儲備充足,逐步向液冷存儲、AI 液冷服務器、液冷集裝箱產品拓展。液冷服務器、液冷集裝箱產品拓展。根據中國智能計算產業聯盟發布的東數西算下新型算力基礎設施發展白皮書,公司在高端計算領域的浸沒式液冷技術與高密度刀片系統集成技術相當成熟,但機柜功率已達 160kW,模塊化組裝設計方案使得單位機房計算密度提升 30 倍。2022年 11 月,公司發布業內首款液冷存儲系統 ParaStor,采用冷板式液冷設計,幫助降低除芯片外,硬盤、內存等關鍵存儲部件的工作溫度。隨著各大廠商陸續進行自己的 AI 大模型研發,2023 年 2 月,公司推出
47、“全浸沒式液冷 AI 訓練專用服務器”,并與百度、復旦大學等深度合作,支持國內多個千億級以上參數規模的 AI 大模型訓練。2023 年 3月,公司子公司曙光數創正式發布“液冷集裝箱數據中心”產品,集成冷板式液冷、浸沒式液冷與風冷基礎設施設備,滿足通用、人工智能計算等應用場景需求。圖圖 13:曙光:曙光 ParaStor 液冷存儲系統液冷存儲系統 圖圖 14:曙光數創液冷集裝箱產品:曙光數創液冷集裝箱產品 資料來源:中科曙光官網、招商證券 資料來源:中科曙光官網、招商證券 敬請閱讀末頁的重要說明 13 行業深度報告 (2)中興通訊:長期處于市場一線,前瞻布局中興通訊:長期處于市場一線,前瞻布局
48、ICT 液冷一體化解決方案液冷一體化解決方案 中興通訊作為全球領先的綜合性通信解決方案提供商,長期處于市場一線,根據自身技能專長,前瞻性布局 ICT 液冷一體化解決方案。公司當前主要基于冷板式液冷技術,形成單板級、插箱級、機柜級、機房級四個不同維度的液冷技術線,主要覆蓋 IT 液冷服務器設備、CT 液冷路由交換設備、DC 液冷數據中心機房的開發與交付。根據公司官網信息,2023 年 1 月,中興通訊發布了 5 款全新的 G5 系列服務器產品,其中 4 款支持冷板式液冷解決方案,整機功耗相比于傳統風冷服務器可降低 80W,噪聲降低 15dB,PUE 指標可達 1.1。此外,中興通訊其他 3 款產
49、品(Intel Whitley 平臺與海光 3 號平臺)也將提供冷板液冷散熱方案,實現更大程度上的能耗降低。圖圖 15:中興通訊冷板式液冷系統架構:中興通訊冷板式液冷系統架構 圖圖 16:中興通訊:中興通訊 ICT 液冷一體化方案架構圖液冷一體化方案架構圖 資料來源:中興通訊官網、招商證券 資料來源:中興通訊官網、招商證券 服務器方面,中興通訊聯合 Intel 等合作伙伴為客戶提供基于冷板式液冷與浸沒式液冷技術冷板式液冷與浸沒式液冷技術的多種定制化解決方案。CPU 層面,層面,中興通訊聯合英特爾將三維立體真空腔均熱板(3DVC)散熱技術引入服務器散熱設計中,相較于傳統導熱管散熱器,導熱由一維上
50、升至多維,導熱面積擴大、熱量傳遞更為均勻,提升性能的同時,成本降低 20%左右。冷板式液冷方面,冷板式液冷方面,中興通訊根據服務器設計的差異,提供微通道冷板、大浮動冷板等多種冷板方案,冷板與 CPU 等發熱器件直接接觸,技術成熟,無需對于服務器本身進行大規模改造。其中,中興通訊歧管微通道冷板(MMC)的流量-流阻特性與承壓能力更為優異,散熱效果更為顯著。浸沒式液冷方面,浸沒式液冷方面,中興通訊根據應用場景綜合評估熱物性、可靠性、維護性與成本,定制化提供氟碳類、硅油類等不同類型工質浸沒式液冷解決方案。圖圖 17:中興通訊服務器液冷解決思路:中興通訊服務器液冷解決思路 資料來源:中興通訊官網、36
51、 氪、招商證券 (3)紫光股份:新華三厚積薄發,打造全棧液冷紫光股份:新華三厚積薄發,打造全棧液冷 ICT 產品解決方案產品解決方案 新華三是國內最早投入液冷技術研發的企業之一,在液冷服務器上有著多年的技術積淀。2017 年,新華三開始在 敬請閱讀末頁的重要說明 14 行業深度報告 R4900 G2 機架服務器、B16000 刀片服務器上進行冷板預研,當時單節點功耗就已經較風冷降低 49.85W,CPU 溫度降低 23(235W CPU),PUE 實測值在 1.2 左右。2022 年 5 月,新華三推出 UniServer R4900LC G5 液冷服務器,整合全新冷板式液冷技術,支持 NVI
52、DIA A100 80GB PCIe 液冷式 GPU,相比于傳統風冷機型,整機功耗可降低 21.3%,全年 PUE 均值為 1.042。當前,公司可提供全計算平臺液冷服務器產品(包含通用計算平臺、異構計算平臺)、液冷交換機等 ICT 液冷設備,同時根據客戶不同的業務場景,提供液冷機柜(包含 Manifold、配套管路、傳感器)、分布式/集中式 CDU 的液冷數據中心整體解決方案。未來,新華三將推動其液冷解決方案由傳統硬件制冷向未來,新華三將推動其液冷解決方案由傳統硬件制冷向 AI 制冷模式演進。制冷模式演進。2023 中國數據中心液冷技術峰會上,新華三智慧計算產品經理表示,未來新華三會進一步加
53、強芯片級液冷、浸沒式液冷技術的開發與利用,搭配液體散熱、余熱回收等技術,加速硬件制冷向 AI 制冷的轉變,強化端到端數字化轉型能力。圖圖 18:采用冷板式液冷技術的:采用冷板式液冷技術的 R4900LC G5 圖圖 19:新華三液冷一體化解決方案:新華三液冷一體化解決方案 資料來源:H3C 官方微信公眾號、招商證券 資料來源:2023 中國數據中心液冷技術峰會、招商證券 (4)浪潮信息:全棧布局液冷,四大系列液冷服務器面向多樣化場景浪潮信息:全棧布局液冷,四大系列液冷服務器面向多樣化場景 2022 年初,浪潮信息將“All in 液冷”寫入公司戰略,開啟公司全棧式液冷布局的新時期。目前,公司已
54、擁有 300多項液冷技術領域核心專利,覆蓋冷板式液冷、熱管式液冷、浸沒式液冷,技術儲備充足,實現相變均溫、微通道冷卻、浸沒式冷卻等新型熱傳導技術在智算產品線的全面覆蓋。例如,針對 CPU、GPU 等高功耗部件,浪潮信息采用微納腔-相變-均溫設計模式,整體散熱性能相較于傳統風冷技術提升 150%。2022 年 3 月,浪潮信息聯合京東云共同發布 ORS3000S 液冷整機柜服務器,支持浪潮 NF5260FM6、NF5260M6與 NF5280M6 液冷服務器節點,與傳統風冷式整機柜相比,數據中心部署總體能耗降低 45%。2022 年 6 月,公司發布液冷通用服務器、液冷高密度服務器、液冷整機柜服
55、務器、AI 液冷服務器等全棧液冷產品,以四大系列液冷服務器產品面向通用、高算力密度、AI 模型訓練等多樣化場景。同時,為持續推進液冷產業化發展,公司已建成目前亞洲最大的液冷數據中心研發生產基地“天池”,可實現冷板式液冷整機柜的大批量交付,整體交付交付周期在 5-7天,年產量可達 10 萬臺。表表 7:浪潮信息液冷服務器產品線:浪潮信息液冷服務器產品線 產品類型產品類型 產品型號產品型號 產品示例產品示例 引入液冷技術類型引入液冷技術類型 產品特點產品特點 液冷通用液冷通用服務器服務器 NF5280M6 冷板式液冷 采用全新 Intel 第三代至強處理器 最大功耗 270W 兼容液冷節點快接方案
56、,解耦靈活 NF5260M6 冷板式液冷 獨特前 I/O 設計,可提升熱敏部件壽命,運維便捷 預制化集成,整機柜交付 敬請閱讀末頁的重要說明 15 行業深度報告 產品類型產品類型 產品型號產品型號 產品示例產品示例 引入液冷技術類型引入液冷技術類型 產品特點產品特點 液冷高密液冷高密度服務器度服務器 i24LM6 冷板式直接芯片液冷 2U 空間支持 4 個雙路計算節點 支持液冷升頻,計算性能提升5%以上 液冷整機液冷整機柜服務器柜服務器 ORS3000S 冷板式液冷 冷卻效率提升 50%N+N 冗余集中供電設計,支持多節點供電,保障高效供電效率 液冷液冷 AI 服服務器務器 NF5688M6
57、冷板式液冷 8 顆 NVIDIA A800 GPU 液冷支持 500W A800 GPU CPU 冷板采用模塊化設計 配備 13 個 PCIe 擴展槽 資料來源:浪潮信息官網、招商證券(5)寧暢:冷板式液冷全線覆蓋,加速浸沒式液冷服務器產業化落地進程寧暢:冷板式液冷全線覆蓋,加速浸沒式液冷服務器產業化落地進程 寧暢當前擁有冷板式液冷、閉式液冷散熱、浸沒式液冷等多種液冷散熱技術能力,2022 年 3 月,寧暢推出系列液冷服務器,其中冷板式液冷覆蓋其全線服務器產品平臺,配合“閉式液冷散熱”系統,用戶無需改造機房,僅依托循環冷板與 EVAC 散熱,便可以使服務器散熱能力提升 40%。從服務器角度來看
58、,2022 年寧暢入選工信部數字經濟賦能綠色轉型案例集中的 B5000 G4 LP 液冷服務器采用“串聯+并聯”冷板設計,對主要熱源 CPU 與內存進行部件級精確制冷,通過冷卻液帶走 CPU 與內存 80%-90%的熱量,并顯著降低系統功耗與運行噪音。圖圖 20:B5000 G4 LP 節點液冷節點液冷 CDU 示意圖示意圖 資料來源:寧暢官方微信公眾號、招商證券 2023 年 1 月,寧暢在其新品發布會上推出了 12 款全新 G50 系列服務器產品,覆蓋通用服務器、人工智能服務器、多節點服務器、邊緣服務器等全線產品,并在業內首發支持第四代 Intel 至強可擴展處理器的浸沒式液冷服務器B70
59、00。寧暢聯合 Intel 對于此次的浸沒式液冷服務器進行了諸多創新,保障高性能的情況下降低散熱功耗,整體PUE1.05,年耗散揮發率小于 3%。當前浸沒式液冷服務器仍處于商業化落地的早期階段,入局玩家較少,寧暢B7000 的推出有望進一步加速浸沒式液冷服務器的產業化落地進程。表表 8:寧暢現有液冷服務器產品線:寧暢現有液冷服務器產品線 產品類型產品類型 產品型號產品型號 產品示例產品示例 引入液冷技術類型引入液冷技術類型 產品特點產品特點 敬請閱讀末頁的重要說明 16 行業深度報告 產品類型產品類型 產品型號產品型號 產品示例產品示例 引入液冷技術類型引入液冷技術類型 產品特點產品特點 通用
60、液冷通用液冷服務器服務器 R620 G50 LP 冷板式液冷 第四代英特爾至強可擴展處理器 CPU 采用冷板式散熱,最高溫度不超過 55 C 液冷散熱超 80%,PUE1.15,年節約成本可達千萬 R620 G40 LP 冷板式液冷 全新 3 UPI 互聯架構,總線帶寬高達 11.2 GT/s CPU 采用冷板式液冷散熱方式,采用中高溫液體有效降低能耗 多節點液多節點液冷服務器冷服務器 B5000 G5 LP 高效冷板式液冷 第四代英特爾至強可擴展處理器 4U8 節點高密度架構,支持 8 個雙路計算節點 整機 PUE 降低至 1.12 B5000 LP G4 高效冷板式液冷 4U8 節點高密度
61、架構,支持 8 個雙路計算節點 整機 PUE 降低至 1.2 AI 液冷服液冷服務器務器 X660 G45 LP 冷板式液冷 搭載 8 顆 NVIDIA Tesla SXM4 A800 冷板液冷 GPU CPU 采用冷板散熱設計,最大支持 2*270W TDP GPU 采用冷板散熱設計,最大支持 8*500W TDP 資料來源:寧暢官網、招商證券 敬請閱讀末頁的重要說明 17 行業深度報告 四、四、第三方第三方 IDC 企業積極布局高功率液冷數據中心企業積極布局高功率液冷數據中心 1、冷板式液冷改造技術較為成熟,浸沒式液冷需對數據中心重新設計冷板式液冷改造技術較為成熟,浸沒式液冷需對數據中心重
62、新設計 冷板式液冷技術較為成熟,為當前主流液冷改造方案。冷板式液冷技術較為成熟,為當前主流液冷改造方案。目前冷板式液冷數據中心產品市場上占比較高,互聯網巨頭以及數據中心設備企業多推出了商用化冷板式液冷服務器,而商用化的浸沒式液冷服務器較少,該項技術主要由阿里巴巴推動。(1)冷板式液冷系統改造冷板式液冷系統改造 從整體結構來看,冷板式液冷數據中心散熱系統架構由室外(一次側)和室內(二次側)兩部分組成。從整體結構來看,冷板式液冷數據中心散熱系統架構由室外(一次側)和室內(二次側)兩部分組成。室外冷卻塔中的冷卻液通過室內冷卻液體流量分配單元(CDU)提供冷卻液循環動力,經 CDU 二次側輸出并與服務
63、器中發熱電子元器件(CPU、GPU、內存等)的導熱冷板直接進行熱交換,形成的熱液經 CDU 輸出到室外冷卻塔進行冷卻后再循環。圖圖 21:冷板式液冷數據中心整體鏈路圖:冷板式液冷數據中心整體鏈路圖 資料來源:英特爾、招商證券 二次側二次側冷量分配單元冷量分配單元:冷量分配單元(冷量分配單元(CDU)是一種用于在液體回路之間進行熱交換的裝置。)是一種用于在液體回路之間進行熱交換的裝置。CDU 主要分為機架式(嵌柜式)機柜式和平臺式等,主要作用是隔離一次側與二次側回路,并在其內部提供一次側與二次側的熱交換能力,此外,CDU 的功能還包括對壓力、流量、溫度、露點控制、水質潔凈度及泄漏監測。CDU 支
64、持的機架數量可以從單個機柜擴展到組合機架的組或集群,冷卻液通過安裝在機架中帶接頭的專門管道供回液歧管分配。圖圖 22:冷量分配單元熱交換原理示意圖:冷量分配單元熱交換原理示意圖 資料來源:英特爾、招商證券 二次側二次側供回液歧管:供回液歧管:供回液歧管是二次側回路中的一個關鍵部件,用于分配流入或流出機架內供回液歧管是二次側回路中的一個關鍵部件,用于分配流入或流出機架內 IT 設備的冷卻工質。設備的冷卻工質。冷卻工質供回液歧管主要功能是將從 CDU 分配進入各機架內的冷卻工質再次均勻分流到各 IT 設備,并從冷板出液端收集回流液體。在 敬請閱讀末頁的重要說明 18 行業深度報告 使用機架式 CD
65、U 的液冷部署中,歧管的位置通常在機架內后部,也可以放置在機架的前面或側面,重點在于需要滿足 IT 設備的部署及配電設計要求,能確保 IT 設備的接入和斷開。供回液歧管為二次側液體回路提供了重要的連接點,由于連接點存在泄露風險,而在底部的連接點發生泄漏后滴落在地板上風險更低,所以通常設置在底部。圖圖 23:供回液歧管示意圖:供回液歧管示意圖 資料來源:Intel綠色數據中心創新實踐冷板式液冷系統設計參考、招商證券 二次側二次側快換接頭:快換接頭:快換接頭是保證服務器具備在線插拔維護性能的關鍵部件??鞊Q接頭是保證服務器具備在線插拔維護性能的關鍵部件。在二次側流體回路中,自封式快換接頭是具有快速連
66、接或斷開 IT 設備或其組件與液冷系統的連接并確保具備自封功能的部件,其通常是公/母配置(插頭/插座、插件/體等)配對使用的,斷開時,集成在快換接頭內部的用于密封流體流動的自封閥芯會斷開流體的連接,以保護周圍設備不受影響。自封式快換接頭一般有手動插拔式和盲插式兩種設計:手動插拔式:手動插拔式:手動插拔式是需要人為手動握住的快換接頭,進行插拔連接操作的接頭設計可分為單手插拔和雙手插拔式,因為涉及手動插拔動作,需要保證足夠插拔操作空間;盲插式:盲插式:盲插接頭是一種通過壓力將公母頭插入導通或拔開斷開無需手動操作的接頭設計,需要通過精確的滑軌設計或定位銷來輔助定位連接,并要保持導通所需的壓力,以避免
67、公母頭滑移導致接頭液路斷開。圖圖 24:快換接頭結構:快換接頭結構 資料來源:英特爾、招商證券 二次側二次側管路連接:管路連接:二次側管路將二次側管路將 CDU 和末端服務器冷板相連,和末端服務器冷板相連,一般連接方式有直連和環形管路連接兩種,其中,環形管網包含供液環管、回液環管、CDU 支路、機架歧管需要支路、排氣裝置和排液口等,用以供液環管和回液環管分別形成環狀閉合回路,且提高環狀閉合回路系統的流量均勻性,此外,由于環形管網中無死端,液體一直處于流動狀態,不易變質。敬請閱讀末頁的重要說明 19 行業深度報告 圖圖 25:直連式管路示意圖:直連式管路示意圖 圖圖 26:環形管路示意圖:環形管
68、路示意圖 資料來源:英特爾、招商證券 資料來源:英特爾、招商證券 一次側一次側制冷系統:制冷系統:一次側制冷系統方面,冷源設計的時候需要結合二次側末端的水溫和室外的氣象參數確定。一次側制冷系統方面,冷源設計的時候需要結合二次側末端的水溫和室外的氣象參數確定。主要分為兩種形式,一個是自然冷卻形式,一個是機械制冷形式。機械制冷系統主要包含風冷冷凍水系統和水冷冷凍水系統兩種,可以提供溫度范圍 12-18的冷凍水;自然冷卻系統主要包括開式冷卻塔、閉式冷卻塔和干冷器三種,可以提供 30以上的冷卻水。一次側液冷系統的采用需要結合二次側末端水溫需求和項目地室外環境情況確定。圖圖 27:冷板式液冷一次側自然冷
69、卻系統圖例:冷板式液冷一次側自然冷卻系統圖例 資料來源:英特爾、招商證券 一次側一次側冷源組合方案:冷源組合方案:根據水資源充裕程度、室外氣溫等因素,一次側冷源又有多種組合方案:根據水資源充裕程度、室外氣溫等因素,一次側冷源又有多種組合方案:冷塔冷塔+水冷冷機水冷冷機+板換系統:板換系統:在高熱高濕地區,機房環境溫度要求高,直接采用閉式冷塔/干冷器無法直接滿足供冷要求,因此需要機械制冷裝置進行輔助,通常采用的是冷水機組+冷卻塔的聯合供冷的方式,此結構適應性強、效率高,但缺點在于耗水量較大,不適合水資源匱乏的地區;風冷冷水機組:風冷冷水機組:風冷冷水機組由冷凝器、水泵、壓縮機等部件合成,且通常配
70、置干冷器(免費冷源模塊),此結構優點在于集成度高,但是無法利用水的蒸發潛熱,系統能效低,適合系統偏小環境以及缺水地區;閉式冷卻塔閉式冷卻塔/干冷器:干冷器:對于氣溫全年較低的地區,可采用閉式冷塔/干冷器直接供冷,全年無需機械制冷輔助,其中,閉式冷卻塔系統以蒸發散熱為主,優點在于輸出溫度更低,且循環系統水質較好,對于換熱設備友好,缺點在于耗水量大,而干冷器體積較大,單機制冷量偏小,但容易布置,配置上濕膜,還可以部分使用蒸發冷卻;開式冷卻塔:開式冷卻塔:制冷模式與閉式冷卻塔完全相同,但是由于開式冷卻塔水路與大氣相通,水質較差。敬請閱讀末頁的重要說明 20 行業深度報告 圖圖 28:冷塔:冷塔+水冷
71、冷機水冷冷機+板換系統示意圖板換系統示意圖 圖圖 29:風冷冷水機組示意圖:風冷冷水機組示意圖 資料來源:英特爾、招商證券 資料來源:英特爾、招商證券 圖圖 30:閉式冷卻塔:閉式冷卻塔/干冷器示意圖干冷器示意圖 圖圖 31:開式冷卻塔示意圖:開式冷卻塔示意圖 資料來源:英特爾、招商證券 資料來源:英特爾、招商證券 表表 9:一次側冷源建議方案:一次側冷源建議方案 一次側冷源建議方案一次側冷源建議方案 氣溫條件氣溫條件 自然氣溫低,可以滿足全年自然冷源制冷 自然氣溫高,需要機械制冷補充 水資源條件水資源條件 水資源充裕 水資源匱乏 水資源充裕 水資源匱乏 一次側冷源選擇一次側冷源選擇 閉式冷卻
72、塔/開式冷卻塔 干冷器 冷機+冷塔+板換 風冷冷水機組 資料來源:英特爾、招商證券(2)浸沒式液冷系統改造浸沒式液冷系統改造 浸沒式液冷改造成本高,需對整體數據中心進行重新設計。浸沒式液冷改造成本高,需對整體數據中心進行重新設計。從現場改造的角度來看,浸沒式液冷需要為 IT 設備配備水槽或新的機箱,因此改造成本更高。從傳統風冷到浸沒式液冷,其變化不僅僅在于服務器的放置方式,從 HVDC的配電、列頭的配電、CDU 設備、管線及支架、浸沒式腔體、CDU 一次側/二次側的管道、樓板的承載、弱電工程、自控系統等方面都需要重新設計。系統整體結構:系統整體結構:從結構上看,浸沒式液冷系統分為室內側循環和室
73、外側循環兩部分。從結構上看,浸沒式液冷系統分為室內側循環和室外側循環兩部分。室內側循環:室內側循環:在室內側循環過程中,若采用單相浸沒式液冷,發熱部件直接浸沒在冷卻液中進行熱交換,循環泵將吸收了熱量的冷卻液導入熱交換單元,在熱交換單元中冷卻后再循環回到箱體中為發熱部件散熱;若采用兩相浸沒式液冷,服務器完全浸沒在充滿低沸點冷卻液的密閉箱體中,冷卻液受熱沸騰發生相變,蒸汽逃逸并升騰至機箱頂部形成氣相區,而后蒸汽遇到冷凝器再液化變為液體,繼續回到箱體內部冷卻循環。室外側循環:室外側循環:室外側循環和冷板式結構的一次側類似,低溫水在換熱后吸收大量熱量變為高溫水,由循環水泵輸入到室外冷卻塔,在冷卻塔中,
74、高溫水與大氣進行熱交換,釋放熱量,變成低溫水再由室外側進水泵輸送進液冷換熱模塊中與氣態冷卻液進行熱交換,完成室外側循環。從機房布局來看,浸沒式液冷系從機房布局來看,浸沒式液冷系統空間利用率更高。統空間利用率更高。由于浸沒式液冷不需要氣流流經 IT 設備,因此它為數據中心白區以及邊緣區域帶來更大的靈活性,系統不再需要布置冷熱通道,可以采用背對背機柜行布局,利用風冷系統無法 敬請閱讀末頁的重要說明 21 行業深度報告 使用的位置,從而增加機房空間利用率。圖圖 32:浸沒式液冷系統結構簡圖:浸沒式液冷系統結構簡圖 資料來源:曙光數創招股說明書、招商證券 單相與兩相浸沒式液冷系統選擇:單相與兩相浸沒式
75、液冷系統選擇:單相浸沒式結構設計更簡單,兩相浸沒式冷卻效果更好。單相浸沒式結構設計更簡單,兩相浸沒式冷卻效果更好。單相浸沒式液冷系統的浸沒機柜設計更為簡單,冷卻工質(氟化液)更易操作、維護,與兩相浸沒式液冷相比,單相浸沒式液冷在材料兼容性和循環中污染物上的隱患也更少。而兩相浸沒式液冷系統盡管因其沸騰傳熱特性,可以達到更大的傳熱系數和更高的散熱極限,冷卻效果更好,但設計難度較高,且成本也較高,系統研發卻相對緩慢。在結構上來看,支持兩相浸沒式液冷所需的冷源較為簡單,如果使用干式冷卻器作為一次側冷卻,則無需冷卻水塔等蒸發降溫設施。圖圖 33:單相浸沒式液冷系統結構:單相浸沒式液冷系統結構 圖圖 34
76、:兩相浸沒式液冷系統結構:兩相浸沒式液冷系統結構 資料來源:3M 官網、招商證券 資料來源:3M 官網、招商證券 表表 10:單相浸沒式和兩相浸沒式系統對比:單相浸沒式和兩相浸沒式系統對比 單相浸沒式系統單相浸沒式系統 兩相浸沒式系統兩相浸沒式系統 冷卻原理冷卻原理 以導熱、對流傳熱為主 以核態沸騰傳熱為主 傳熱系數大致范圍傳熱系數大致范圍 502,000/(2)3,90025,000/(2)傳熱極限熱流密度傳熱極限熱流密度(無強化措施)(無強化措施)約90/2 約100150/2 冷卻液冷卻液 礦物油、合成油、沸點較高的電子氟化液等 沸點略高于室溫的電子氟化液。常見沸點約 4961 影響因素
77、影響因素 冷卻液流速、流態、循環溫度等 系統壓力、沸騰狀態、冷凝盤管冷凝效果(盤管設計、不凝性氣體等)等 敬請閱讀末頁的重要說明 22 行業深度報告 單相浸沒式系統單相浸沒式系統 兩相浸沒式系統兩相浸沒式系統 強化手段強化手段 1)通過冷卻液增大流速、散熱器優化等手段進行流態優化,誘發湍流;2)降低冷卻液循環溫度,增大傳熱溫差 表面強化技術(翅片、表面粗糙度、多孔結構)系統設計系統設計 開式/閉式系統,系統設計簡單,成本低 大多為閉式系統,系統設計復雜,成本高 市場應用市場應用 應用案例相對成熟,有基本成型的系統設計規范和標準 應用案例較少,多處于單機測試和展示階段 主要企業主要企業 國外:美
78、國 Green Revolution Cooling、LiquidCool Solutions,英國 Iceotope Technologies、西班牙 Submer,荷蘭LiquidStack 等;國內:阿里巴巴、中科曙光、華為等 國外:3M 國內:中科曙光 資料來源:數據中心浸沒式液體冷卻系統的發展歷程及關鍵環節設計、招商證券 兩相浸沒式液冷系統細分結構:兩相浸沒式液冷系統細分結構:兩相浸沒式液冷式系統可分為臥式系統和立式系統兩種:兩相浸沒式液冷式系統可分為臥式系統和立式系統兩種:臥式系統:臥式系統:在盛有冷卻液的殼體中,刀片服務器節點單元從上而下豎直插入軌道并浸沒。該方案設計較為簡單,成
79、本較低,可維護性較高,但是可靠性較差,一旦遭受冷卻液污染等事故,后果較為嚴重;立式系統:立式系統:立式系統中每個密封單元內部都包括冷卻液、單個服務器節點、控制系統、冷卻結構等,可以看作單個獨立的小型浸沒式液冷系統。該方案成熟案例較少,成本比較高,但系統節點較為獨立,可靠性更佳。圖圖 35:GRC 維也納科學集群臥式系統維也納科學集群臥式系統 圖圖 36:中科曙光硅立方立式系統:中科曙光硅立方立式系統 資料來源:數據中心浸沒式液體冷卻系統的發展歷程及關鍵環節設計、招商證券 資料來源:數據中心浸沒式液體冷卻系統的發展歷程及關鍵環節設計、招商證券 表表 11:兩相浸沒液冷臥式系統和立式系統對比:兩相
80、浸沒液冷臥式系統和立式系統對比 臥式系統臥式系統 立式系統立式系統 系統控制方案系統控制方案 由于在一個空間內集成了所有節點,因此只需對整體進行控制,控制過程和邏輯的設計相對簡單,設計方案成熟 每個單元各自獨立,都需要設計一套單獨的控制過程,控制元件數量多、方案復雜且設計難度大 可靠性可靠性 服務器節點平行排列,節點間可能存在相互作用,例如某一節點熱功率突然大幅度增大或發生故障,可能干擾臨近節點,冷卻液若遭到意外污染,導致液體物性(尤其是介電性能)發生變化,可能會對整個系統造成極其惡劣的影響,破壞內部所有電路元件,危害極大 節點單獨密封,各自獨立互不干擾,即便某一單元內的冷卻液遭到污染,也不會
81、危及其他單元,安全可靠 維護性維護性 支持在線插拔維護,即某一節點取出維護時無需斷開系統電源,不影響其他節點正常工作,但維護時,液體始終處于沸騰狀態,沸騰蒸氣泄漏量大 支持在線插拔維護,且開蓋維護某一節點單元時,沸騰工質泄漏量小,但由于每個密封單元都含有冷卻液、控制裝置等結構,單元重量可能高達 40kg50kg,操作困難 敬請閱讀末頁的重要說明 23 行業深度報告 臥式系統臥式系統 立式系統立式系統 成本成本 整體制造成本和控制方案成本都相對低,且有比較成熟的案例和設計指南作為參考 除了機柜外,還需設計每個節點單元的密封外殼、控制裝置、冷卻結構,系統復雜,設計及制造成本高,且可供參考的市場應用
82、案例少,需要耗費較大的研制成本 資料來源:數據中心浸沒式液體冷卻系統的發展歷程及關鍵環節設計、招商證券 2、主流第三方數據中心廠商布局情況主流第三方數據中心廠商布局情況 數據中心單機柜平均功率密度逐年提升,推動大型第三方數據中心單機柜平均功率密度逐年提升,推動大型第三方 IDC 企業布局液冷數據中心。企業布局液冷數據中心。算力的爆發式增長需要海量的服務器進行支撐,但受制于數據中心建設面積等客觀因素,增加單機柜功率密度成為調和快速增長的算力需求與有限的數據中心承載力之間的有效方案。根據賽迪顧問中國液冷數據中心發展白皮書(2020)數據,預計 2025年全球數據中心單機柜平均功率有望突破 25kW
83、。隨著 IDC 機柜功率密度向更高功率演進,多家大型第三方數據中心解決方案提供商對液冷數據中心展開了布局:潤澤科技:潤澤科技:公司部分外地所開發的客戶在進行數字化轉型業務時,需要公司提供液冷機柜,要求為 20kW 或30kW,冷板式液冷將成為公司未來主流的技術方向,客戶對此接受度較好,已經開始準備批量交付液冷機房;光環新網:光環新網:公司 2022 年已有冷板式液冷空調項目正式完成驗收,轉入實際運行階段;數據港:數據港:2020 年公司與阿里巴巴在華東地區合作部署了全球最大的浸沒式液冷服務器集群,采用了液冷節能技術、高壓直流(HVDC)、供配電分布式冗余(Distribution Redund
84、ancy)、智能 AI 優化算法等多項節能技術,其服務器浸泡在特殊冷卻液中,PUE 逼近理論極限值 1.0,每年可節電 7000 萬度以上,2021 年 5 月 5 日,該項目二期正式封頂,項目機架總數約 5,100 架,服務器達 10 萬臺;秦淮數據:秦淮數據:2022 年 10 月開園的秦淮數據馬來柔佛超大規模數據中心一期,采用“預制板式液冷模塊化數據中心技術”,通過國內預制生產、整體出海、現場拼裝的交付模式,采用“冷板液冷+空氣冷卻(AHU)”的解決方案,在 11 個月內就已完成交付,總容量達 19MW,成為了中國首個熱帶地區冷板液冷規模應用的成功案例,實現了 PUE 值低于 1.2,能
85、源利用效率較傳統制冷系統提高了 50%;萬國數據:萬國數據:2021 年 12 月,公司發布了第一代 Smart DC,重磅推出 Turbo、D-Pre、X-BP 全系列產品級解決方案,其中,Turbo-L 是覆蓋統籌設計、建設交付、測試及運維能力的全鏈條液冷解決方案及產品。常熟數據中心園區將分期配置共計 2,200kW 的融合液冷方案,液冷數據中心年均 PUE 未來預計將低至 1.09;世紀互聯:世紀互聯:2022 年 6 月底,公司張家口數據中心基地華北云計算中心基地項目 2、3 號樓主體結構封頂,計劃安裝機柜數量約 5,200 架,承載服務器 70,000 臺,通過采用服務器冷板式液冷、
86、間接蒸發冷空調、智能化運維與 AI 節能、分布式光伏并網發電等一系列先進技術和手段,實現 PUE 低于 1.15,WUE 低于 1.1。圖圖 37:全球數據中心單機柜功率變化情況及預測(:全球數據中心單機柜功率變化情況及預測(kW)圖圖 38:機柜功率密度所對應的散熱冷卻方式:機柜功率密度所對應的散熱冷卻方式 資料來源:Colocation America、賽迪顧問、招商證券 資料來源:綠色高能效數據中心散熱冷卻技術研究現狀及發展趨勢、招商證券 051015202530200820162020E2023E2025E 敬請閱讀末頁的重要說明 24 行業深度報告 五、五、互聯網、運營商等客戶積極布
87、局液冷技術互聯網、運營商等客戶積極布局液冷技術 部部分互聯網、運營商等客戶積極布局液冷技術,其中,冷板式液冷技術相對更成熟,商業化應用案例較多,浸沒式分互聯網、運營商等客戶積極布局液冷技術,其中,冷板式液冷技術相對更成熟,商業化應用案例較多,浸沒式液冷受阿里云帶動,逐漸成為各大企業著重布局的技術路線:液冷受阿里云帶動,逐漸成為各大企業著重布局的技術路線:表表 12:互聯網廠商、運營商、政府端液冷技術布局情況:互聯網廠商、運營商、政府端液冷技術布局情況 主體類別主體類別 公司公司 浸沒式液冷浸沒式液冷 冷板式液冷冷板式液冷 部分液冷方案合作商部分液冷方案合作商/供應商供應商 互聯網企業 阿里巴巴
88、 英特爾、數據港、中國聯通 京東 英特爾、浪潮信息 華為 申菱環境 百度 英特爾 運營商 中國電信 網宿科技 中國聯通 阿里巴巴 中國移動 政府端 天府云 資料來源:公司官網、公眾號、招商證券 1、互聯網廠商有望加速布局液冷技術互聯網廠商有望加速布局液冷技術 供需兩側雙輪驅動互聯網廠商加速布局液冷技術。供需兩側雙輪驅動互聯網廠商加速布局液冷技術?;ヂ摼W以及云服務廠商均有自建 IDC 布局,對數據中心液冷技術接觸較早。當前,從供給端來看,新建 IDC 能耗指標有所收緊,從需求端來看,新一代 IT 技術催生了海量算力需求,持續推高 IDC 機柜的功率密度,對數據中心散熱能力提出了考驗,因此我們預計
89、互聯網廠商將加速布局數據中心液冷技術,部分廠商液冷技術布局如下:阿里巴巴:阿里巴巴:作為中國領先的云服務提供商,阿里云在 2016 年就推出了首款商用浸沒式液冷服務器。2017 年,阿里巴巴又建立起互聯網行業全球首個浸沒式液冷服務器集群,并于 2018 年在張北數據中心進行規?;渴?,該數據中心單機柜負載為 28kW,機柜總量約 4,000 架,可容納 10 萬臺服務器,數據中心平均 PUE 約為 1.19。2020 年 9 月,中國首座綠色等級達 5A 級的液冷數據中心阿里巴巴浙江云計算仁和數據中心落地杭州,采用浸沒式液冷,整體 PUE 低至 1.09,相比傳統風冷數據中心每年可節電 700
90、0 萬度,2021 年 5 月 5 日,該項目二期正式封頂,項目機架總數約 5,100 架,服務器達 10 萬臺。2021 年 12 月 22 日,阿里云在“第十六屆中國IDC 產業年度大典”上正式發布行業首款單相浸沒液冷解決方案磐久 Immersion DC 1000 系列,在全球任何氣象區域部署都能輕松實現 1.09 PUE,其中,液冷 AI 一體機可支持最大 40P Flops 算力并提供機柜間高達25.6T 的 AI 互聯網絡帶寬能力;液冷存儲一體機可支持 3.4P 的超大存儲能力;圖圖 39:阿里云浸沒式液冷模塊:阿里云浸沒式液冷模塊 圖圖 40:阿里巴巴張北數據中心液冷系統:阿里巴
91、巴張北數據中心液冷系統 資料來源:IDC 圈、招商證券 資料來源:阿里云基礎設施公眾號、招商證券 敬請閱讀末頁的重要說明 25 行業深度報告 圖圖 41:阿里云磐久:阿里云磐久 Immersion DC 1000 系列系列 資料來源:阿里云基礎設施公眾號、招商證券 京東:京東:2022 年 3 月,京東云與浪潮信息聯合發布“天樞(ORS3000S)液冷整機柜服務器”,該產品支持冷板式液冷,將 80%的發熱量由冷板式液冷帶熱至外部冷卻進行集中散熱,使 IT 設備散熱效率提升 50%,與傳統風冷式整機柜相比,在數據中心部署總體能耗降低 40%以上,可將 PUE 降至 1.1 以下,機柜部屬密度提升
92、 28.6%,基礎設施能耗節省 30%,對應碳排放總量減少 10%以上。目前天樞冷板液冷整機柜服務器已在廊坊數據中心大規模部署,承載了京東集團核心業務,經歷了京東 618、雙十一、虎年央視春晚紅包互動活動等的苛刻線上業務考驗,產品穩定可靠,助力京東云數據中心降本增效;華為:華為:2017 年,華為推出了 FusionServer 板級液冷方案,以 FusionServer CH140L V3 半寬液冷計算節點為例,其專門為 HPC 及計算密集型的企業業務需求進行優化設計,具有超高密度計算能力。2018 年建造華為云松山湖數據中心,采用全預制模塊化、高密度、高性能液冷集群,建設周期僅 4 個月,
93、單柜功率高達 53kW。2019 年發布 FusionServer Pro 冷板全液冷系統解決方案,以 FusionServer Pro CH121L V5 為例,其針對虛擬化、云計算、HPC、NFV 等業務需求進行優化設計,具有高密度計算能力和超大內存容量,可應用于高功耗密度服務器機柜部署場景。2022 年 8 月,華為最大的液冷集群和全球首個批量部署 FusionPOD 液冷服務器的云數據中心華為云烏蘭察布數據中心成功運營,采用間接蒸發冷卻方案和 iCooling 能效優化技術,實現了年均 PUE 低至 1.15,和傳統冷凍水方案相比,每年可節省耗電量超過 3000 萬度,每年減少二氧化碳
94、排放量約 1.4 萬噸。圖圖 42:華為:華為 FusionServer CH140L V3 圖圖 43:華為:華為 FusionServer Pro CH121L V5 資料來源:易采辦、招商證券 資料來源:九州云聯、招商證券 2、運營商通過試點方式驗證液冷技術性能,至運營商通過試點方式驗證液冷技術性能,至 2025 年將開展規模應用年將開展規模應用 三大運營商將采取“技術驗證三大運營商將采取“技術驗證-規模試驗規模試驗-領先標桿”的漸進模式構筑自身高水平液冷生態鏈。領先標桿”的漸進模式構筑自身高水平液冷生態鏈。2023 年 6 月 5 日,中國移動、中國電信、中國聯通聯合發布電信運營商液冷
95、技術白皮書,明確運營商液冷技術發展的三年愿景,即2023 年開展技術驗證;2024 年開展規模測試,新建數據中心項目中 10%規模試點應用液冷技術,推進產業生態成熟;2025 年開展規模應用,50%以上數據中心項目應用液冷技術,力爭成為液冷技術引領者、推廣者,形成完整的液冷產業生態。敬請閱讀末頁的重要說明 26 行業深度報告 圖圖 44:三大運營商液冷技術發展的三年愿景:三大運營商液冷技術發展的三年愿景 資料來源:電信運營商液冷白皮書(2023)、招商證券 2023 年起,三大運營商根據前期液冷技術試點經驗開展規模試點。年起,三大運營商根據前期液冷技術試點經驗開展規模試點。如 2023 年中國
96、移動將在呼和浩特數據中心國家發改委綠色節能示范項目以及智算中心項目中啟動液冷規模試點;中國電信 2023 年計劃在京津冀數據中心實施 30個液冷服務器機柜試點、在安徽建設 3 列,每列 7 臺 36kW 冷板式液冷機柜,預留 8 臺 40kW 浸沒式液冷機柜、并在廣州開展 1 個冷板式液冷服務器試點項目。三大運營商液冷技術應用計劃明確,將主要推進冷板式液冷與單相浸沒式液冷技術規?;瘧?。三大運營商液冷技術應用計劃明確,將主要推進冷板式液冷與單相浸沒式液冷技術規?;瘧?。冷板式液冷方面,2023 年三大運營商將協同產業鏈廠家聯合技術攻關與研發,年底前將形成冷板式液冷技術標準,2024 年提交行業
97、組織協會審核,并在 2023 年底前推動冷板式液冷機柜測試工作,2024 年年中完成規模驗證。單相浸沒式液冷方面,2023 年三大運營商將啟動調研交流,并爭取在年底前形成統一的技術標準,2024 年開展系統兼容性、服務器定制、冷卻液國產替代等研發與試點驗證。表表 13:三大運營商液冷技術技術布局規劃:三大運營商液冷技術技術布局規劃 冷板式液冷冷板式液冷 浸沒式液冷浸沒式液冷 2023 年年 協同產業鏈廠家聯合技術攻關與研發;年底前形成冷板式液冷技術標準;組織研發新型機柜、并進行測試工作;啟動調研交流,爭取年底前形成統一技術標準 2024 年年 技術標準提交行業組織協會;打造解耦液冷機柜+統一接
98、口服務器+柔性基礎設施的完整生態;新型機柜年中完成規模認證 開展系統兼容性、服務器定制、冷卻液國產替代等研發與試點驗證 2025 年及以后年及以后 規模推廣 資料來源:電信運營商液冷白皮書(2023)、招商證券 技術驗證方面,技術驗證方面,2017 年起,三大運營商便開始組織前期液冷技術驗證,年起,三大運營商便開始組織前期液冷技術驗證,包含冷板式液冷測試、浸沒式液冷測試、噴淋式液冷測試等,具體來看:(1)中國移動中國移動 公司 2017 年在呼和浩特組織熱管水冷、兩級熱管和水冷冷板等三種冷板式液冷測試。2019-2021 年在河北、山東組織核心路由器液冷、江蘇組織 5G BBU 浸沒式液冷、浙
99、江組織匯聚機房浸沒式液冷試點。敬請閱讀末頁的重要說明 27 行業深度報告 圖圖 45:中國移動呼和浩特冷板式液冷測試:中國移動呼和浩特冷板式液冷測試 圖圖 46:中國移動:中國移動 5G 基站單相浸沒式液冷試點基站單相浸沒式液冷試點 資料來源:電信運營商液冷白皮書(2023)、招商證券 資料來源:電信運營商液冷白皮書(2023)、招商證券(2)中國電信中國電信 5G BBU 液冷系統試點方面,液冷系統試點方面,針對 5G BBU 發熱量大、散熱難的突出問題,公司 2020 年 10 月啟用收購 5G BBU 液冷試點,上線 2 個液冷機柜,經過長期測試,輕負載率條件下 PUE 值約 1.246
100、,滿負載率條件下 PUE 值約 1.15。數據中心液冷試點方面,數據中心液冷試點方面,2018 年,公司在廣州安裝冷板式液冷微模塊(2 列服務器機柜)與風冷微模塊各 1 個,液冷微模塊 PUE 約為 1.2(風冷微模塊 PUE 為 1.4),冷板式液冷節能效果明顯。圖圖 47:中國電信:中國電信 5G BBU 機柜液冷試點機柜液冷試點 圖圖 48:中國電信廣州數據中心冷板式微模塊試點:中國電信廣州數據中心冷板式微模塊試點 資料來源:電信運營商液冷白皮書(2023)、招商證券 資料來源:電信運營商液冷白皮書(2023)、招商證券 根據工信部通信工程建設項目招標投標管理信息平臺,2022 年中國電
101、信上海公司啟動了 5G CU/DU 液冷機柜建設項目采購液冷系統項目,最高投標限價為 807.12 萬元,項目涉及產品為模塊化 DC 艙,包含 R4 液冷系統和 R6 液冷系統,具體配置包括液冷機柜、室外散熱系統、液泵循環柜和配電模塊。同年 7 月,中國電信與網宿科技聯合展出了全融合液冷微型機柜和 5G BBU 液冷機柜,以直接浸沒式液冷技術為核心,通過冷卻液循環進行直接散熱,可降低 PUE 值至 1.1 以下,提升節能效率 30%以上;表表 14:上海電信液冷招標:上海電信液冷招標 涉及的主要評涉及的主要評估產品品類估產品品類 產品名稱產品名稱 數量數量 基本配置基本配置 單位單位 備注備注
102、 模塊化 DC 艙 R4 液冷系統(浦東局)3 液冷機柜 4 含管道及管道配件、散力支架 室外散熱系統 2 液泵循環柜 1 配電模塊 1 R4 液冷系統(西區局)1 液冷機柜 4 含管道及管道配件、散力支架 室外散熱系統 2 液泵循環柜 1 配電模塊 1 R4 液冷系統(松江局)2 液冷機柜 4 含管道及管道配件、散力支架 室外散熱系統 2 敬請閱讀末頁的重要說明 28 行業深度報告 液泵循環柜 1 配電模塊 1 R6 液冷系統(松江局)2 液冷機柜 6 含管道及管道配件、散力支架 室外散熱系統 1 液泵循環柜 1 配電模塊 1 資料來源:TM 熱管理+公眾號、招商證券(3)中國聯通中國聯通
103、數據中心液冷試點應用方面,數據中心液冷試點應用方面,公司在德清云數據基地 IDC 高功率機房中安裝冷板式液冷機柜 32 架,2021 年 6 月投產,已穩定運行兩年時間,制冷效果良好。BBU 集中機房液冷試點應用方面,集中機房液冷試點應用方面,2021 年 10 月,公司在鄭州開展 9 臺5G BBU 設備液冷噴淋測試,配置一套 10kW 液冷機柜,液冷機柜 PUE 為 1.254,較風冷方案(PUE 為 1.448)PUE 明顯降低,若考慮液冷模式下主設備 BBU 取消風扇的因素,則 BBU 液冷系統 PUE 值為 1.16。3、多個政府項目采用液冷系統作為主流冷卻技術多個政府項目采用液冷系
104、統作為主流冷卻技術 以超算中心為主,多個政府項目采用液冷系統。以超算中心為主,多個政府項目采用液冷系統。從國家層面來看,隨著新一代 IT 技術、產業數字化轉型等多樣化算力需求場景不斷涌現,算力的賦能效應逐漸凸顯,政府對于算力基建的投入逐漸加大,尤其在超算中心建設方面,國家給予了大力的支持和指導,目前已有多個政府項目采用液冷作為換熱系統,未來搭載液冷系統的超算中心有望成為主流。天府云數據產業基地:天府云數據產業基地:2022 年 8 月 15 日,位于成都簡陽空天產業園的四川能投天府云數據產業基地一期項目的結構施工已全部完成,2 棟數據中心、1 棟運營中心大樓均已封頂,該項目設計機柜共 5,00
105、0 個,采用冷板式液冷、水冷+自然冷卻和余熱回收等技術,依托四川能投自身的綠色能源優勢,借力集團在相變液冷、地熱、儲能、氫能等方面的內部資源,實現項目 PUE 小于 1.25 的目標。合肥先進計算中心:合肥先進計算中心:2020 年 12 月 31 日,由合肥市大數據資產運營有限公司建設的合肥先進計算中心一期機房順利完工,系統建設規模為雙精度計算峰值 12PFlops、整數計算峰值 256Pops、數據總存儲容量 15PB,項目采用浸沒式液冷技術,將 PUE 控制在 1.1 左右。國家超級計算鄭州中心:國家超級計算鄭州中心:2020 年 11 月,國家超級計算鄭州中心通過驗收,項目配備新一代高
106、性能計算機“嵩山”超級計算機,理論峰值計算能力 100PFlops,存儲容量 100PB,采用浸沒式相變液冷冷卻技術,PUE值低于 1.04。國家超級計算深圳中心:國家超級計算深圳中心:2022 年 11 月 14 日,我國在建的最大超算中心國家超級計算深圳中心項目二期正式開工,項目投資額 120 億元,將采用曙光的浸沒式液冷服務器。國家超級計算成都中心:國家超級計算成都中心:2020 年 9 月,國家超算成都中心投運,項目采用浸沒式相變液冷技術為超算核心設備提供高效換熱,最高運算速度達 10 億億次/秒。國家超級計算昆山中心:國家超級計算昆山中心:2020 年,國家超級計算昆山中心建設項目順
107、利通過科技部組織的專家驗收,項目總算力達 400Pflops。擁有 CPU+DCU 計算單元結構,CPU 采用國產曙光 7000 系列,DCU(類 GPU 結構)采用國產海光 1 號加速器,項目采用了曙光的全浸沒液冷服務器。敬請閱讀末頁的重要說明 29 行業深度報告 六、六、解耦交付模式符合液冷技術路線的發展趨勢解耦交付模式符合液冷技術路線的發展趨勢 1、解耦交付模式及解耦方案簡介解耦交付模式及解耦方案簡介 當前液冷方案交付模式包括一體化交付與解耦交付兩種方案。當前液冷方案交付模式包括一體化交付與解耦交付兩種方案。解耦交付是液冷機柜與液冷服務器之間遵循用戶統一制定的接口設計規范,機柜與服務器解
108、耦,可由不同廠商交付;一體化交付是液冷整機柜(包括機柜和服務器)由廠商自定標準進行集成設計開發,整機柜由同一廠商一體化交付。當前超聚變、華為、浪潮、曙光、新華三等主要液冷服務器廠商皆擁有自己的一體化交付方案與解耦交付方案。圖圖 49:一體化交付與解耦交付方案:一體化交付與解耦交付方案 資料來源:電信運營商液冷白皮書(2023)、招商證券 表表 15:主要服務器廠商一體化:主要服務器廠商一體化/解耦交付模式解耦交付模式 廠商廠商 液冷技術液冷技術 服務器形態服務器形態 一體化交付一體化交付 解耦交付解耦交付 超聚變 冷板式 機架 整機柜/單節點 盲插快接 華為 冷板式 機架 整機柜 盲插快接 浪
109、潮 冷板式 機架 整機柜/單節點 盲插/軟管快接 曙光 冷板式 機架/刀片 整機柜 軟管快接 H3C 冷板式 機架 整機柜/單節點 軟管快接 資料來源:電信運營商液冷白皮書(2023)、招商證券 解耦交付方案又包含手插與盲插接頭兩種模式,手插接頭對于運維人員要求較高、盲插液冷解耦交付方案又包含手插與盲插接頭兩種模式,手插接頭對于運維人員要求較高、盲插液冷接頭符合自動巡檢的長接頭符合自動巡檢的長期發展趨勢。期發展趨勢。由于液冷產品涉及液冷接頭的維護工作,手插接頭對于運維人員的要求極高、插拔操作也極度依賴機房運維人員,相比之下盲插液冷接頭具有自動化保障、操作便利、連接精度高的優勢,符合未來自動巡檢
110、、機器人自動運維的時代發展趨勢。盲插解耦方案采用標準機柜、盲插制冷管路、集中供電模塊,可選配分布式盲插解耦方案采用標準機柜、盲插制冷管路、集中供電模塊,可選配分布式 CDU 及無源風液換熱器,將有效提升及無源風液換熱器,將有效提升機柜功率密度、降低機柜功率密度、降低 PUE 水平、節省布線空間并提高機柜上架率。水平、節省布線空間并提高機柜上架率。其中主要包含:1)標準機柜:產品整體形態為標準機柜形態,用以部署服務器、交換機等設備;2)供冷盲插:服務器與機柜之間通過盲插快速接頭連接;3)供電盲插:利用電源框、電源模塊、供電銅排向機柜內設備集中供電,支持盲插操作。圖圖 50:盲插解耦交付方案示例:
111、盲插解耦交付方案示例 資料來源:電信運營商液冷白皮書(2023)、招商證券 敬請閱讀末頁的重要說明 30 行業深度報告 2、解耦交付模式的多重優勢解耦交付模式的多重優勢 解耦交付模式有利于促進行業競爭、實現多廠家適配、便于后期靈活部署。解耦交付模式有利于促進行業競爭、實現多廠家適配、便于后期靈活部署。目前液冷技術在產業化與標準化方面還處于發展前期階段,液冷服務器與機柜的一體化交付模式不利于液冷產業的標準統一。相較于一體化交付模式,解耦交付模式在機房管理、安裝部署、采購、運維管理方面都具有明顯優勢:1)機房管理方面:解耦交付模式可形成統一標準機規范,方便后續管理;2)安裝部署方面:解耦交付模式需
112、要基礎設施和服務器廠商協調合作,便于批量生產與規模推廣;3)采購模式:解耦交付模式中機柜和服務器分別采購,促進市場競爭,降低買家采購價格與廠商限制;4)運維管理方面:解耦交付模式后期運維方式相同,便于統一管理。隨著液冷產業生態的逐步完善,解耦交付模式將有效促進市場競爭、形成統一液冷技術標準與規范、實現多廠家適配與產品靈活部署,進而降低需求方部署液冷解決方案的整體 TCO。三大運營商在電信運營商液冷白皮書明確指出,將聯合產業鏈上頭企業制定標準化接口,形成統一標準。根據國家網信辦數字中國發展報告(2022 年)、工信部及運營商年報數據,截至 2022 年底,我國數據中心機柜總數已超過 650 萬架
113、,三大運營商共擁有標準機柜 134.3 萬架,約占全國總機柜的 21%。未來,三大運營商將加快推進液冷技術試點,并于 2025 年在 50%以上項目中規模應用,這將帶動行業統一技術標準的加速落地,并形成良好的多廠商競爭生態,這意味著解耦交付模式將在后續液冷解決方案規?;?、產業化的發展過程中表現出明顯的競爭優勢。表表 16:解耦交付與一體化交付模式對比:解耦交付與一體化交付模式對比 交付模式交付模式 解耦交付解耦交付 一體化交付一體化交付 服務器廠商職服務器廠商職責范圍責范圍 提供液冷服務器設備并明確相關使用要求 提供液冷整機柜及二次側管路的整體設計解決方案 服務器服務器 多廠家 單廠家 整體適
114、配性整體適配性 根據既定接口及標準分別生產機柜與服務器,測試階段進行適配 原廠機柜和原廠服務器適配性較好,無法與非原廠設備匹配 整體機房管理整體機房管理 可形成統一標準及規范統一標準及規范,后續易管理 各廠家標準不同,不容易對接 安裝部署安裝部署 批量生產、規模推廣、靈活部署批量生產、規模推廣、靈活部署;基礎設施和服務器廠家需協調合作協調合作,機柜供應商提供機柜級的漏液監測功能 與服務器結合部署 采購模式采購模式 機柜與服務器分別采購,促進競爭,有利于降低價格 統一采購,受廠家限制較多 運維管理運維管理 機柜與服務器分別交付,需明確責任界面、責任主體,各機柜及服務器配置統一、運維方式相運維方式
115、相同、易于統一管理同、易于統一管理 同廠家整機柜交付,責任界面清晰,但各廠家運維方式、接口、數據類型不同,需要分別運維管理 服務器服務器/整機整機交付周期交付周期 盲插快接:盲插快接:對現有軟管快接廠家、服務器深度定制開發,交付周期約 9 個月;軟管快接:軟管快接:對服務器進行淺度定制開發或無需定制,交付周期約 3 個月 主流廠商已有量產產品 資料來源:電信運營商液冷白皮書(2023)、招商證券 敬請閱讀末頁的重要說明 31 行業深度報告 風險提示:算力投資不及預期、產業競爭加劇風險、液冷技術進展不及預期風險提示:算力投資不及預期、產業競爭加劇風險、液冷技術進展不及預期 圖圖 51:通信通信行
116、業歷史行業歷史 PEBand 圖圖 52:通信通信行業歷史行業歷史 PBBand 資料來源:公司數據、招商證券 資料來源:公司數據、招商證券 0500100015002000250030003500400045005000Jun/21Dec/21Jun/22Dec/220200400600800100012001400Jun/21Dec/21Jun/22Dec/22 敬請閱讀末頁的重要說明 32 行業深度報告 分析師分析師承諾承諾 負責本研究報告的每一位證券分析師,在此申明,本報告清晰、準確地反映了分析師本人的研究觀點。本人薪酬的任何部分過去不曾與、現在不與,未來也將不會與本報告中的具體推薦或
117、觀點直接或間接相關。梁程加梁程加 招商證券通信行業首席分析師招商證券通信行業首席分析師 北京郵電大學電路與系統碩士,曾就職于中國移動、長江證券、中信證券、紅杉資本,2022 年加入招商證券。孫嘉擎孫嘉擎 招商證券通信行業分析師招商證券通信行業分析師 倫敦大學國王學院金融學碩士,思克萊德大學學士,21 年加入招商證券,專注于運營商、IDC、云計算及云通信等相關領域研究。評級評級說明說明 報告中所涉及的投資評級采用相對評級體系,基于報告發布日后 6-12 個月內公司股價(或行業指數)相對同期當地市場基準指數的市場表現預期。其中,A 股市場以滬深 300 指數為基準;香港市場以恒生指數為基準;美國市
118、場以標普 500指數為基準。具體標準如下:股票評級股票評級 強烈推薦:預期公司股價漲幅超越基準指數 20%以上 增持:預期公司股價漲幅超越基準指數 5-20%之間 中性:預期公司股價變動幅度相對基準指數介于 5%之間 減持:預期公司股價表現弱于基準指數 5%以上 行業評級行業評級 推薦:行業基本面向好,預期行業指數超越基準指數 中性:行業基本面穩定,預期行業指數跟隨基準指數 回避:行業基本面轉弱,預期行業指數弱于基準指數 重要重要聲明聲明 本報告由招商證券股份有限公司(以下簡稱“本公司”)編制。本公司具有中國證監會許可的證券投資咨詢業務資格。本報告基于合法取得的信息,但本公司對這些信息的準確性
119、和完整性不作任何保證。本報告所包含的分析基于各種假設,不同假設可能導致分析結果出現重大不同。報告中的內容和意見僅供參考,并不構成對所述證券買賣的出價,在任何情況下,本報告中的信息或所表述的意見并不構成對任何人的投資建議。除法律或規則規定必須承擔的責任外,本公司及其雇員不對使用本報告及其內容所引發的任何直接或間接損失負任何責任。本公司或關聯機構可能會持有報告中所提到的公司所發行的證券頭寸并進行交易,還可能為這些公司提供或爭取提供投資銀行業務服務??蛻魬斂紤]到本公司可能存在可能影響本報告客觀性的利益沖突。本報告版權歸本公司所有。本公司保留所有權利。未經本公司事先書面許可,任何機構和個人均不得以任何形式翻版、復制、引用或轉載,否則,本公司將保留隨時追究其法律責任的權利。