GH200 Grace Hopper Superchip

GH200尺寸對比

72 核的Grace CPU

GH200 Grace Hopper Superchip架構(gòu)圖

每個 Grace CPU 具有72個ARM核心，配備 480GB LPDDR5X，內(nèi)存帶寬可達到500GB/s。

NVIDIA H200 是首款提供 HBM3e 的 GPU，作為一種更快、更大的內(nèi)存，HBM3e可加速生成式 AI 和大型語言模型，同時能推進 HPC 工作負(fù)載的科學(xué)計算。借助 HBM3e，NVIDIA H200 能以每秒 4.8 TB 的速度提供 141GB 內(nèi)存。

GH200 Grace Hopper Superchip NVIDIA Hopper GPU 和 Grace CPU 之間的高帶寬 NVLink-C2C 鏈路可實現(xiàn) CPU 和 GPU 之間的快速通信，從而有助于提高性能。

NVLink接口允許將各個GH200組件拓?fù)溥B接，做為更大計算系統(tǒng)的構(gòu)建模塊。

NVIDIA Grace CPU支持多達 64 個 PCIe Gen 5 通道用于 IO 連接。每個 8 個 PCIe Gen 5 x16 鏈路均支持高達 128 GB/s 的雙向帶寬，并且可以分為 2x8 以獲得額外連接，并且可以支持各種 PCIe 插槽外形尺寸支持NVIDIA DPU、NVIDIA ConnectX SmartNIC、E1.S 和 M.2 NVMe 設(shè)備、模塊化 BMC 選項等。? 

Supermicro 的1U NVIDIA MGX服務(wù)器，配備兩個NVIDIA GH200 Grace Hopper Superchip。

聲明：文章內(nèi)容整理自網(wǎng)絡(luò)公開素材，版權(quán)歸原作者平臺所有，僅用于信息分享，如有侵權(quán)請聯(lián)系刪除。