NVIDIA发布了首款数据中心CPUGrace新一代高性能计算GPUHopper

时间:2023-05-30 11:43:57 来源:快科技
导读 2022年3月,NVIDIA发布了首款数据中心CPUGrace、新一代高性能计算GPUHopper,同时利用它们打造了两颗超级芯片(SuperChip),一是GraceCPU二...

2022年3月,NVIDIA发布了首款数据中心CPUGrace、新一代高性能计算GPUHopper,同时利用它们打造了两颗“超级芯片”(SuperChip),一是GraceCPU二合一,二是GraceCPU+HopperGPU二合一,看起来都极为酷炫。

现在,足足14个月过去了,NVIDIA终于宣布,GH200GraceHopper超级芯片已经全面投产,将为复杂AI、HPC工作负载提供澎湃的动力。

再加上GraceCPU、HopperGPU、AdaLovelaceGPU、BlueFieldDPU等全套系统方案,NVIDIA现在已经有400多种配置,可满足市场对生成式AI的激增需求。

欧洲和美国的超大规模云服务商、超算中心,将会成为接入GH200系统的首批客户。

同时,黄仁勋还公布了GraceHopper的更多细节,尤其是它的CPU、GPU之间使用NVLink-C2C互连技术,总带宽高达900GB/s,相比传统的PCIe5.0通道超出足足7倍,能够满足要求最苛刻的生成式AI和HPC应用,功耗也降低了超过80%。

GraceCPU拥有72个Armv9CPU核心,缓存容量198MB,支持LPDDR5XECC内存,带宽高达1TB/s,还支持PCIe5.0。

HopperGPU则采用台积电4nm定制工艺,集成多达800亿个晶体管,号称世界上最先进的芯片,集成18432个CUDA核心、576个Tenor核心、60MB二级缓存,支持6144-bitHBM3/2e高带宽内存。

同时,NVIDIA宣布推出一款新型大内存AI超级计算机“DGXGH200”,可用于开发面向生成式AI语言应用、推荐系统和数据分析工作负载的下一代大模型。

它配备了多达256颗GH200GraceHopper超级芯片,彼此NVLinkSwitchSystem互相连接,带宽提升48倍以上,对外可作为单个GPU使用,浮点性能高达1PFlops(每秒1千万亿次浮点计算)。

同时还有144TB共享内存,相比2020年的上一代DGXA100增大了近500倍。

标签:
最新文章