
新平臺性能提升,可高效運行更大模型。該平臺采用雙配置,提供的內存容量和帶寬比當前產品分別增加了 3.5 倍和 3倍,包括一個擁有 144個 Arm Neoverse 內核、8 petaflops 的 AI性能和282GB最新 HBM3e內存技術的單個服務器。Grace Hopper超級芯片可通過 NVLink與其他超級芯片連接,協同工作,部署大型生成式 AI模型,使GPU可以完全訪問 CPU內存,在雙配置中可提供總計 1.2TB 的快速內存。HBM3e 內存比 HBM3 快 50%,可提供總計 10TB/s 的帶寬,使得新平臺能夠運行比上一版本大 3.5倍的模型。