GTC21 | NVIDIA宣布推出适用于巨型AI和高性能计算工作负载的CPU

今日，NVIDIA发布其首款基于Arm架构的数据中心 CPU处理器，在最复杂的AI和高性能计算工作负载下，可实现10倍于当今最快服务器的超高性能。

NVIDIA Grace™ CPU是超过10,000个工程年的成果，专为满足全球最先进应用的计算要求而设计——这些应用包括自然语言处理、推荐系统、AI超级计算—— 其所进行的海量数据分析需要超高速计算性能和大容量内存。这款产品将高能效Arm CPU核心与创新的低功耗内存子系统相结合，以高能效提供高性能。

NVIDIA创始人兼首席执行官黄仁勋表示：“前沿的AI和数据科学正推动当今的计算机架构超越其极限，以处理规模难以想象的海量数据。NVIDIA借助Arm授权的 IP设计了Grace，这是一款专为大规模AI和HPC设计的CPU。与GPU和DPU一起, Grace为我们提供了计算的第三种基础技术，以及为了推进AI发展重构数据中心的能力。NVIDIA现在是一家拥有三种芯片的公司。”

Grace是高度专业化的处理器，工作负载面向例如训练具有超过1万亿个参数的新一代NLP模型等。当与NVIDIA GPU紧密耦合时，搭载Grace CPU的系统速度比如今基于 NVIDIA DGX ™打造的最先进的系统（在 x86 CPU 上运行）快 10 倍。

在绝大多数数据中心由现有的CPU提供服务的同时，Grace（以美国计算机编程先驱Grace Hopper的名字命名）将为计算的细分市场提供服务。

瑞士国家超级计算机中心 (CSCS) 和美国能源部洛斯阿拉莫斯国家实验室 (Los Alamos National Laboratory) 率先宣布计划构建搭载Grace的超级计算机，以支持国家科学研究工作。

NVIDIA推出Grace的背景是数据量和AI模型规模呈指数级增长。如今最大的AI 模型包含数十亿个参数，并且参数数量每两个半月就会翻一番。训练这些模型需要一个与 GPU 紧密耦合的新 CPU，以消除系统瓶颈。

NVIDIA利用Arm数据中心架构极大的灵活性构建了Grace。通过推出新的服务器级 CPU，NVIDIA正在推进在AI和HPC领域中技术多样性的目标。在这些领域，更多选择是实现解决全球最迫切问题所需创新的关键。

Arm首席执行官Simon Segars表示：“作为全球授权范围最广的处理器架构，Arm 每天正在以不可思议的新方式推动创新。NVIDIA 推出Grace 数据中心 CPU 明确表明Arm的授权模式如何促进一项重要创新，这将进一步支持世界各地 AI 研究人员和科学家们非凡的工作。”

CSCS和洛斯阿拉莫斯国家实验室计划将于2023年推出由慧与构建的、搭载Grace的超级计算机。

CSCS总监Thomas Schulthess教授表示：“利用 NVIDIA全新的Grace CPU，使得我们能将AI技术和传统的超级计算融合在一起，来解决计算科学领域一些最难的问题。我们很高兴能够向我们的瑞士和全球用户提供这款全新NVIDIA CPU，用于处理分析海量和复杂的科学数据集。”

洛斯阿拉莫斯国家实验室主任Thom Mason表示：“通过创新地平衡内存带宽和容量，新一代系统将重塑我们机构的计算策略。凭借NVIDIA全新Grace CPU，我们可以在比以前更大的数据集上完成高逼真度3D仿真和分析，从而进行先进的科学研究工作。”

Grace的强大性能基于第四代NVIDIA NVLink® 互联技术，该技术在Grace和NVIDIA GPU之间提供创纪录的900 GB/s连接速度，使总带宽比当今领先的服务器高 30 倍。

Grace还将利用创新的LPDDR5x内存子系统，该子系统的带宽是DDR4内存的两倍，能效达DDR4的10倍。此外，新架构提供单一内存地址空间的缓存一致性，将系统和HBM GPU内存相结合，以简化可编程性。

Grace将获得NVIDIA HPC软件开发套件以及全套CUDA® 和 CUDA-X™ 库的支持，可以对2,000多个 GPU应用程序加速，使得应对全球重大挑战的科学家和研究人员探索速度更快。

预计将于2023年初开始供货。