互联网资讯 / 手机数码 · 2024年3月19日

HGX H200 人工智能芯片发布

11月14日消息,据外媒报道,当地时间周一,HGX H200 人工智能芯片发布,该 GPU 使用 HoppeR 架构来加速 AI 应用。

英伟达发布人工智能芯片HGX H200

H200 是去年推出的 H100 的后续产品。H100 是首款基于 HoppeR 架构打造的 GPU,此前被视为最强大的人工智能芯片。

H200 首次提供基于 HBM3e 的内存,容量达到 141GB,带宽达到 4.8 TB/s,能够加速生成式人工智能和大型语言模型的运算,同时适用于处理人工智能与超算工作负载所需的大量数据。

官方表示,H200 的推出将带来显著的性能提升,例如在 LlaMa 2(一个具有 700 亿参数的大型语言模型)上的推理速度相比 H100 提速近一倍。未来的软件更新预计将进一步提升该芯片的性能水平。

全球系统制造商和云服务提供商预计将从 2024 年第二季度开始采用 H200。