互联网技术 / 互联网资讯 · 2023年10月31日 0

改进的服务器GPU和全新硬件发布

NVIDIA最新版本的旗舰产品A100服务器GPU配备了其前身两倍的高速内存。

在推出新的旗舰服务器GPU仅六个月后,NVIDIA宣布将对其进行内存升级,同时为研究人员、超级计算机制造商和云计算巨头提供强大的硬件和网络解决方案。

英伟达的80GB A100 GPU
该公司周一早上宣布,现已推出配备80GB高速HBM2e内存的NVIDIA A100服务器GPU,这一容量是之前的两倍。

相比之下,英伟达最强大的游戏GPU GeForce RTX 3090和3080分别提供24GB和10GB的GDDR6X图形内存。

除了单独销售外,80GB A100还可以通过NVIDIA的DGX A100服务器和HGX A100服务器底板进行购买,这些服务器可连接多达8个通过NVIDIA专有的NVlink互连的A100 GPU。此外,它还支持NVIDIA的DGX SuperPod解决方案,以快速构建GPU加速的超级计算机。

NVIDIA表示,A100的内存提升功能能够显著提高各种AI模型训练、高性能计算(HPC)和数据分析工作负载的性能,同时改善AI推理性能并增强GPU的能效。实际上,40GB A100是首款基于NVIDIA Ampere架构的GPU,相比其前身Tesla V100,它在训练、推理和传统HPC工作负载方面提供了显著的性能提升。

DGX站A100
与80GB A100一同推出的还有DGX Station A100,这是一款为AI/HPC研究人员设计的强大工作组服务器,配备了先进的冷却系统,能够放置在台式机中。DGX Station A100包含四个80GB或40GB A100 GPU,以及一个64核AMD Epyc服务器CPU。

宝马、洛克希德·马丁公司和日本移动运营商NTT DoCoMo成为DGX Station A100的首批购买者,这三家公司计划利用该服务器促进他们的AI研究。

400-Gig Mellanox互连
NVIDIA的Mellanox服务器互连部门将推出一系列新产品,统称为NDR 400G InfiniBand系列,支持400 Gb/s的InfiniBand连接。迄今为止,Mellanox最强大的InfiniBand产品的传输速率仅为200 Gb/s。

Mellanox的400G InfiniBand系列预计将在2021年第二季度开始提供样品。正如NVIDIA首席执行官黄仁勋所强调的,网络连接常常成为服务器节点处理高负荷AI和HPC工作负载的瓶颈。

NDR 400G InfiniBand系列包括400G适配卡和64端口交换机,承诺其交换机端口密度是前一代产品的三倍。此外,还有一个400G数据处理单元(DPU),将网络适配器功能与能够卸载多种网络、存储和安全处理功能的ARM CPU内核相结合,并能够处理400G连接的铜缆和光收发器。

微软表示将支持NDR 400G的InfiniBand产品。

NVIDIA在AI培训和HPC/超级计算机加速器市场中依然占据主导地位,同时在新兴的AI推理服务器加速器市场也扮演着重要角色。在超级计算机和云数据中心中,Mellanox的InfiniBand和以太网互连同样广泛应用。

NVIDIA的声明是在SC20超级计算会议期间发布的,并在周三下午发布的10月季度收益报告之前。NVIDIA高管将于美国东部时间周一下午6点进行SC20演示,介绍公司的最新产品。