导读 8月9日消息，NVIDIA官方宣布了新一代GH200GraceHopper超级芯片平台，全球首发采用HBM3e高带宽内存，可满足世界上最复杂的生成式AI负载需求...
8月9日消息，NVIDIA官方宣布了新一代GH200GraceHopper超级芯片平台，全球首发采用HBM3e高带宽内存，可满足世界上最复杂的生成式AI负载需求。
NVIDIA2022年3月推出了GraceHopper超级芯片，首次将CPU、GPU融合在一块主板上，不过直到今年5月份才量产。
其中，GraceCPU拥有72个Armv9CPU核心、198MB缓存，支持1TB/s高带宽的LPDDR5XECC内存，还支持PCIe5.0。
HopperGPU则采用台积电4nm定制工艺，800亿晶体管，集成18432个CUDA核心、576个Tenor核心、60MB二级缓存，支持6144-bitHBM高带宽内存，此前版本配备的是96GBHBM3。
双路配置的系统中，两颗新一代GH200超级芯片可带来144个CPU核心、8PFlops(8千万亿次浮点计算每秒)AI性能、282GBHBM3e内存，容量是现在的3.5倍，而高达10TB/s的带宽也是现在的3倍。
基于NVLink高速总线，GH200超级芯片还可以继续拓展互连，GPU可以访问全部的CPU内存，双路配置下总容量可达1.2TB。
NVIDIA没有透露采用的HBM3e来自哪家供应商，很可能是SK海力士。
首批基于GH200超级芯片的系统将在2024年第二季度出货。
顺带一提，AMDInstinctMI300A、MI300XAI加速器分别配备128GB、192GBHBM3，后者带宽超过5TB/s。