AI浪潮下的高速互連趨勢.pdf

《AI浪潮下的高速互連趨勢.pdf》由會員分享，可在線閱讀，更多相關《AI浪潮下的高速互連趨勢.pdf（24頁珍藏版）》請在三個皮匠報告上搜索。

1、AI浪潮下的高速互連趨勢中興通訊 魏仲民提 綱AI對行業影響1234 ZTE All rights reserved3對外公開2023-AI的Iphone時刻 2022/11OpenAIChatGPT2023/03百度文心一言2023/02GoogleBard2023/01OpenAIChatGPT突破1億2023/04阿里通義千問2023/05MicroSoftCopilot2023/08NvidiaQ2營收增長100%2023/07Meta開源Llama2模型202320222023/09騰訊混元n 2023年AI爆發元年，ChatGPT引領行業大模型井噴式爆發 ZTE All right

2、s reserved4對外公開互連帶寬與算力需求鴻溝*Gholami A,Yao Z,Kim S,Mahoney MW,Keutzer K.AI and Memory Wall.RiseLab Medium Blog Post,University of California Berkeley,2021,March 29.通道更多速度更快 更緊密耦合n AI訓練對算力的需求導致互連演進方向既需高帶寬，又更加緊密耦合 ZTE All rights reserved5對外公開AI對互連網絡的改變DCISpineSpineTORTORTORTORCPU/GPUDPU/.CPU/GPUDPU/.CPU

3、/GPUDPU/.CPU/GPUDPU/.TORTORTORTORSpineSpineFrontEnd:Ethernet(以太網）無收斂組網，東西流量 連接服務器至因特網(internet)異步計算，弱網絡互連，更趨近于計算XPU(服務器/機柜）資源池化 各計算功能分離，板內/框內高速互連復雜BackEnd:IB/UEC(GPU互連）無收斂組網，東西流量，20X 以太網密度 連接特定計算節點，如GPU等 類似同步計算，更趨近于網絡互連，互連網絡定義數據中心!n AI直接創造增量市場，CAGR增量可觀，但互連要求更加嚴苛 ZTE All rights reserved6對外公開AI對功耗的需求及

4、影響=*MicroSoft,VP of Cloud AI,Apr,2023“were now training models on 75MW”n 未來高速互連需要大算力和高帶寬，更需要極低功耗提 綱1234高速互連趨勢 ZTE All rights reserved8對外公開時間2010201520202025速率/GbpsNRZball to ballPAM4調制方式通道界定ball to ballbump to bumpball to ball25G56G112G224GPAM4PAM4Scale-Up(通道速率更快)200Gb/s New trend:bump-to-bump ILMLS

5、E with floating FFE tapsNew standards(More suitable for AI/ML/HPC)n 單通道速率持續 2X/4年左右演進 ZTE All rights reserved9對外公開Scale-Out(端口帶寬更寬)單通道速率/Gbps11012510020040050Lane248163210G25G100G200G400G400G800G800G1.6T3.2T3.2T6.4T12.8Tn 疊加通道數量翻倍，行業互連帶寬維持2X/2年的趨勢 ZTE All rights reserved10對外公開Scale-Out(更低的功耗，更低的時延)L

6、inear方案交換芯片交換芯片RetimerDSPTIADRVPDMZ/MR光模塊光模塊FEC組合*IEEE 802.3df gustlin_3df_01a_220517n 低功耗/低時延的緊耦合需求下，linear成為行業熱點n 224G去除部分FEC對互連提出更大的挑戰提 綱1234高速互連技術進展和挑戰 ZTE All rights reserved12對外公開高速互連全景圖CONCPO光纖背板側面板側n 互連媒介存在PCB、Cable、光纖，同時出現CPC/NPC、CPO/NPO、板內Cable等互連形態n 互連接口涵蓋LR、MR、VSR、XSR+、XSRASICCONCONCONCO

7、NCONCONASICCONCONCONCONCONCONCONASICCONCONCONCONCONCON背板連接器光口IO連接器NPx連接器CPx連接器Mezz連接器板內線纜連接器芯片封裝基板類載板/InterposerPCB主板基板傳輸線PCB子板類載板傳輸線PCB傳輸線光纖Cable ZTE All rights reserved13對外公開連接器|背板側cable BPODDC PCBDC NPCDC CPC CPCNPCPCBn 224G產品存在BP/OD Cable連接器、芯片端存在NPC/CPC對應連接器形態，帶寬和損耗/串擾等挑戰大BP連接器OD連接器NPC連接器CPC連接器

8、 ZTE All rights reserved14對外公開連接器|面板側n 400G/800G IO連接器以QSFP、QSFP-DD和OSFP為主n 1.6T IO連接器目前112G以OSFP-XD為主，224G以OSFP為主，帶寬和損耗挑戰大224G OSFP連接器仿測結果（SDD21）帶寬70GHz左右仿真測試 ZTE All rights reserved15對外公開芯片ballmap扇出n 224G芯片扇出帶寬和串擾設計難度大n 224G高帶寬需求對可加工性以及加工能力提出全新挑戰不同pitch BGA的IL和XT實測結果 ZTE All rights reserved16對外公開芯

9、片焊接速率/Gbps焊球參數112G224G+焊球直徑0.55mm0.6mm 焊球形變1/32/3焊球直徑增大或焊球形變增大焊球直徑減小或焊球形變減小 焊接可靠性利好 SI性能惡化 焊接可靠性降低 有利于SI性能SI可控、可靠性高的焊接工藝n 信號速率的提升，焊球對信號質量的影響變得尤為突出n 保障芯片焊接可靠性的同時，并行考慮SI性能影響 ZTE All rights reserved17對外公開高速材料挑戰n 224G通道PCB仍將扮演重要角色，玻璃布、樹脂、填料、銅箔、藥水等需進一步提升以降低損耗10in trace仿測對比 ZTE All rights reserved18對外公開Ca

10、ble技術挑戰n 224G銅互連具備可行性，Cable逐漸成為重要傳輸媒介n Cable關鍵技術挑戰 高帶寬 低損耗 低skew 小尺寸 可靠性實測224G Raw Cable（2m 30AWG）SDD21SCD21 ZTE All rights reserved19對外公開加工技術挑戰n 高速PCB對厚徑比、背鉆stub、阻抗和層偏等加工指標逐步加嚴n Cable對應的物理結構和加工尺寸公差控制嚴格，SI等指標提升以及一致性管控需聯合系統、組件端到端協同141620233020101084108855855440510152025303510G NRZ25G NRZ56G PAM4112G

11、PAM4224G PAM4PCB加工技術厚徑比背鉆stub阻抗控制層偏Cable加工技術關鍵因子加工管控芯線導體直徑在線檢驗導體鍍銀厚度來料檢驗芯線介質直徑同心度/冷電容控制外層介質厚度來料檢驗/工藝控制繞包結構橫包/縱包 ZTE All rights reserved20對外公開光電鏈路中的組件建模n 準確的建立Driver/TIA、Mod/PD的模型對系統評估至關重要，需要產業鏈密切協作攻關提 綱1234生態共建共享 ZTE All rights reserved22對外公開 ZTE All rights reserved23對外公開系統端到端連接器板材/CablePCB光組件深度合作系統最優性能最優成本最優良好生態開放健康共贏中興通訊高速技術生態策略產品架構和高速互連端到端評估，通過協同合作開發，打造高速技術健康的生態環境，實現互利共贏IC謝謝!