OpenAI“尝鲜”：收到英伟达全球首部DGX H200 AI超算

硬AI 发表于 2024年04月24日 23:37

摘要：DGX H200是英伟达将多个Grace Hopper超级芯片互连到同一个GPU 中打造的新型AI 超算，拥有19.5TB 的海量共享 GPU 内存空间、900 GB的GPU到GPU 带宽、128 petaFLOPS的AI性能。

作者：李丹

来源：硬AI

英伟达号称开创先河的人工智能（AI）超级计算机DGX H200正式交付，OpenAI喝到了“头啖汤”。

美东时间4月24日周三，OpenAI总裁兼联合创始人Greg Brockman在社交媒体X透露，英伟达向OpenAI移交全球第一部DGX H200，并附上在交付现场他和OpenAI CEO 奥特曼以及英伟达CEO黄仁勋的合照。Brockman称，这部黄仁勋倾力打造的设备“将推进AI、计算以及人类文明”。

英伟达此前介绍，DGX H200是英伟达将多个Grace Hopper 超级芯片互连到同一个GPU 中打造的新型 AI 超算，可处理大型推荐系统、生成式 AI 和图形分析领域的 TB 级模型，为超大 AI 模型提供具备线性扩展能力的大型共享内存空间。Grace Hopper 超级芯片将英伟达的Grace CPU 与 Hopper GPU 结合在同一封装上，从而消除了对传统 PCIe CPU 至 GPU 连接的需求，可将带宽提高七倍，并将互联功耗降低五倍以上。借助一站式的DGX GH200部署，用户只需数周、而非数月即可构建大型模型。

X平台的网友总结了DGX H200的一些关键参数及亮点：

32块Grace Hopper超级芯片通过英伟达的NVLink互连、19.5TB 的海量共享 GPU 内存空间、每秒 900 GB的GPU 到 GPU 带宽、128 petaFLOPS的AI FP8性能。