英伟达推出新一代GH200 Grace Hopper平台
(资料图片)
DoNews8月9日消息,英伟达 9 日凌晨在SIGGRAPH2023上发布下一代 Grace Hopper 超级芯片平台,该平台采用了 HBM3e 内存技术,专为人工智能和高性能计算而设计。
据IT之家援引外媒报道,据悉,新款 GH200 Grace Hopper 超级芯片平台由 72 核的 Grace CPU 和 GH100 Hopper 计算 GPU 组成,但与初代不同的是,其使用了 HBM3e 内存,内存容量和带宽都有显著提高。
英伟达 2022 年 3 月推出了 Grace Hopper 超级芯片,首次将 CPU、GPU 融合在一块主板上。而 HBM3e 内存是一种新型的高带宽内存技术,可以在更小的空间内提供更高的数据传输速率。
新款 GH200 Grace Hopper 超级芯片平台基于 72 核 Grace CPU,配备 480 GB ECC LPDDR5X 内存以及 GH100 计算 GPU,搭配 141 GB 的 HBM3e 内存,分为六个 24 GB 的堆栈,并使用了 6,144 位的内存接口。虽然英伟达实际安装了 144 GB 的内存,但只有 141 GB 是可用的。
英伟达目前的 GH200 Grace Hopper 超级芯片平台配备 96 GB HBM3 内存,带宽低于 4 TB / s。相比之下,升级版的内存容量增加了约 50%,带宽增加了 25% 以上。如此巨大的改进使新平台能够运行比初代版本更大的人工智能模型,并提供明显的性能改进(这对于训练尤其重要)。
据英伟达称,目前配备 HBM3 内存的 GH200 Grace Hopper 超级芯片平台已经在生产中,并将于下个月开始商业销售。 而配备 HBM3e 内存的 GH200 Grace Hopper 超级芯片平台现在正在样品测试中,预计将于 2024 年第二季度上市。
英伟达强调,新款 GH200 Grace Hopper 使用了与原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司无需推出任何新的版本或步进。英伟达表示,原版 GH200 和升级版 GH200 将在市场上共存,这意味着后者将以更高的价格出售,毕竟其更先进的内存技术带来的更高性能。
英伟达表示,配备 HBM3e 内存的下一代 Grace Hopper 超级芯片平台完全兼容英伟达的 MGX 服务器规范,并且可以与现有的服务器设计直接兼容。