在 2023 Re:Invent 全球大会上,亚马逊云科技宣布自研芯片家族推出新一代产品:Graviton4 与 Trainium2,旨在为机器学习训练和生成式人工智能等广泛工作负载提供更高的性价比与能效。
据官方介绍,Graviton4 与 Trainium2 代表自研芯片的最新创新。通过持续提升性价比和能效,亚马逊云科技为客户提供除了基于 AMD、Intel 及 Nvidia 等厂商的实例组合之外的更多选择,从而让 Amazon EC2 能在虚拟环境中覆盖几乎所有应用与工作负载。

其中,Graviton4 相较上一代 Graviton3,性能提升约 30%,独立核心数量增加超过 50%,内存带宽提升超过 75%,为在 Amazon EC2 上运行的工作负载提供更高的性能与能效。

Trainium2 相较首代 Trainium,训练速度提升最高可达 4 倍,并能够在 EC2 UltraClusters 集群中部署多达 100,000 颗芯片,从而在极短时间内训练基础模型(FMs)和大型语言模型(LLMs),同时能效提升可达到约 2 倍。
