4

英伟达推出Grace CPU Superchip,以及CPU+GPU的Grace Hopper

 2 years ago
source link: https://www.expreview.com/82738.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

英伟达推出Grace CPU Superchip,以及CPU+GPU的Grace Hopper

吕嘉俭发布于 2022-3-23 15:16

本文约 1020 字,需 2 分钟阅读

在去年的GTC 2021主题演讲中,英伟达首席执行官黄仁勋推出了名为Grace的首个数据中心CPU。这是一款基于Arm架构的CPU,在内部通信上使用了第四代NVIDIA NVLink,CPU和GPU之间可以提供高达900 GB/s的双向传输带宽,CPU与CPU之间的传输带宽为600 GB/s。同时采用了LPDDR5x内存,可以提供500 GB/s的带宽,并具有ECC校验功能,Grace CPU是首个支持该类型内存的产品。

到了今年的GTC 2022上,英伟达在原有的Grace CPU基础上做了进一步的扩展。首先将两个Grace CPU封装在一起,推出了Grace CPU Superchip,合共144个Arm v9架构CPU内核,缓存容量为396MB,具有ECC校验功能的LPDDR5x内存带宽达到了1TB/s。据了解,Grace CPU Superchip使用的是Arm的Neoverse N2平台,也是首个使用最新的Arm v9架构的产品,意味着可以支持PCIe 5.0、DDR5、HBM3、CCIX 2.0和CXL 2.0等特性。

Grace_CPU_Superchip.jpg

据英伟达介绍,Grace CPU Superchip的TDP为500W,SPECint 2017成绩超过了740分,每瓦性能是当今CPU的两倍。Grace CPU Superchip旨在为AI和高性能计算应用设计,可以运行所有英伟达软件堆栈和平台,包括了NVIDIA RTX、HPC、NVIDIA AI和NVIDIA Omniverse。

Grace CPU Superchip通过英伟达最新的NVLink-C2C进行连接,提供了900 GB/s的连接带宽,以保证芯片到芯片互联之间的低延迟和一致性,并允许连接的设备在同一个内存池上工作。相比于PCIe 5.0,NVLink-C2C能效是其25倍,面积效率是其90倍,也就是说可以在占用面积更小、功耗更低的情况下提供更高的传输效率。通过NVLink-C2C技术,可以创建由CPU、GPU、DPU、NIC和SoC等不同类型的小芯片构建的集成产品,帮助英伟达持续推进CPU、GPU和DPU三芯片战略。

英伟达表示,NVLink-C2C还支持Arm的AMBA CHI(Arm AMBA Coherent Hub Interface)协议,双方正密切合作,进一步增强其功能,以支持与其他互连处理器完全一致且安全的加速器。英伟达确认也会支持刚刚推出的UCIe规范,未来其定制芯片可以选择使用UCIe或NVLink-C2C的方式进行互连。

Grace_Hopper.jpg

此外,英伟达还将最新的Hopper架构GPU和Grace CPU结合,推出了Grace Hopper。该芯片同样使用了NVLink-C2C,将CPU和GPU连接起来。其拥有72个Arm v9架构CPU内核,GPU方面应该和H100计算卡一致,即16896个FP32 CUDA核心,配备了600GB内存。通过强力的CPU+GPU组合,无论是HPC还是AI计算,CPU和GPU可以更好地对工作负载进行协调分配,以达到最佳效率。

Grace CPU Superchip和Grace Hopper可以与多达8个Hopper架构GPU搭配,组成多种不同的配置。这些组合将使用NVIDIA ConnectX-7互联芯片,通过内置的PCIe 5.0交换系统实现NVLink通信,从而支持更广泛的系统和应用。英伟达希望Grace CPU Superchip和Grace Hopper能拓展其目标市场,通过涵盖超大规模计算、云端、数据分析、HPC和AI等工作负载,扩大在通用服务器市场的影响力。

根据英伟达的时间表,Grace CPU Superchip和Grace Hopper都会在2023年上半年上市。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK