英伟达超级芯片”投入全面生产，助力Ai和高性能计算市场-太平洋科技
source link: http://diy.pconline.com.cn/1620/16202264.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
英伟达超级芯片投入全面生产，助力Ai和高性能计算市场
月亮背面的外星人
责任编辑：sunaorui
发布于：2023-05-30 10:13
PConline原创
|
近日，英伟达（NVIDIA）宣布，其Grace Hopper“超级芯片”已投入全面生产，为公司在Ai领域的一系列重磅发布拉开序幕。Grace Hopper结合了Grace CPU和Hopper H100 GPU，旨在为需要更紧密集成的CPU + GPU解决方案的客户提供支持在Ai方面。  图片源自于网络 经过数年的研发，Grace Hopper是英伟达在显卡领域的现有优势以及CPU领域的新发力方向的结晶，旨在提供一种半集成的CPU/GPU产品，凭借在GPU领域的传统主导地位，英伟达一直在向其他方向努力，将其GPU技术与其他类型的处理器（如CPU等）结合。  GH200规格图片源自于网络 英伟达早在一年多前就详细介绍了Hopper架构和性能预期。基于800亿晶体管的GH100 GPU的H100，为Ai工作负载带来近1 PFLOPS的FP16吞吐量，以及80GB的HBM3内存。得益于ChatGPT和其他生成式Ai服务的爆炸式增长，H100本身已经取得了巨大成功——英伟达已经将所有能生产出的产品都销售出去——但英伟达仍在努力突破那些需要更紧密的CPU/GPU集成的市场。
图片源自于网络 与H100搭配的是英伟达的Grace CPU，它在几个月前刚刚投入全面生产。基于Arm Neoverse V2架构的这款芯片拥有72个CPU核心，并支持多达480GB的LPDDR5X内存。尽管CPU核心本身非常引人关注，但Grace更大的亮点是英伟达决定将CPU与LPDDR5X共同封装，而非使用插槽式DIMM。封装在一起的内存使得英伟达能够使用更高频率和更低功耗的内存使Grace有别于市场上的任何其他高性能计算（HPC）级CPU。对于大型语言模型（LLM）的训练而言，这可能是一个非常重要提升速度的因素。
图片源自于网络 英伟达还为Grace配备了NVLink支持，这是英伟达专有的高带宽芯片互联技术，使得Grace和Hopper之间的互联速度比传统的基于PCIe的CPU + GPU设置更快。产生的NVLink芯片间（C2C）链接提供了900GB/秒的带宽，使得Hopper能够比Grace读取或写入其自身内存更快地与Grace通信。 这款由英伟达称为GH200“超级芯片”的板卡，旨在成为英伟达针对下一代产品周期的Ai和高性能计算市场的解决方案。据英伟达表示，整合了GH200芯片的系统预计将于今年晚些时候推出。
图片源自于网络 |
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK