互联网资讯 / 人工智能 · 2024年1月6日

Graphcore与百度飞桨合作推动MLPerf性能提升超30%

7月1日,Graphcore公布了其最新一轮MLPerf测试结果。此次提交中,基于新发布的Bow系统,Graphcore在图像分类模型ResNet-50和自然语言处理模型BERT上的表现较上一轮分别提升最高31%和37%。与此同时,官方还新增了语音转录模型RNN-T的测试结果。

本轮MLPerf提交还有一项值得关注的变化:首次出现第三方基于Graphcore系统完成测试。百度飞桨使用Graphcore平台进行了BERT项目提交,最终成绩与Graphcore自身提交的结果几乎一致,显示出IPU性能具备较强的跨框架复现能力,也反映出相关软件与硬件生态正在持续完善。

据介绍,Graphcore此次在封闭分区中围绕ResNet-50和BERT提交了多套以Bow IPU为核心的系统配置,包括Bow Pod16、Bow Pod64、Bow Pod128和Bow Pod256。与上一代产品相比,Bow系统在维持价格不变的前提下带来了更高性能,进一步提升了整体性价比。

从测试结果来看,Bow系统在训练效率上有明显提升。其中,ResNet-50的训练时间最高缩短31%,BERT的训练时间最高缩短37%。

在通常由GPU占据优势的ResNet-50任务中,Bow Pod16完成训练仅需19.6分钟,快于NVIDIA DGX-A100 640GB的28.7分钟,进一步体现出该系统在特定训练场景下的竞争力。

除了上述模型,Graphcore还在开放分区提交了RNN-T的测试结果。RNN-T是一类高精度语音识别模型,广泛应用于移动设备语音转录等场景。根据披露数据,在Bow Pod64上,RNN-T的训练周期可由原本数周缩短至数天。

百度飞桨验证跨框架复现能力

在本次MLPerf Training 2.0提交中,百度飞桨使用Bow Pod16和Bow Pod64完成了BERT在封闭分区的测试。其结果与Graphcore基于PopART框架提交的成绩基本一致,说明Graphcore IPU平台的性能不仅能够在自有软件栈中体现,也可以在不同框架环境下稳定复现。

这一能力的实现,来源于硬件架构的灵活性、软件层面的持续优化,以及本地技术支持与合作伙伴协同。此次合作中,百度将Graphcore的Poplar技术与飞桨框架结合,取得了较为理想的性能表现。

百度飞桨方面表示,双方在本次MLPerf测试中的合作取得了积极成果,Graphcore的IPU系统展现出较强性能潜力,未来有望在更多应用场景中发挥作用。双方也希望继续深化在硬件生态共创方面的合作,以技术创新推动人工智能产业落地。

双方将继续拓展AI硬件生态合作

目前,百度飞桨已经实现对IPU的全面支持。Graphcore也是飞桨硬件生态的重要参与方之一,并已加入相关硬件生态共创计划。接下来,双方预计将继续推进合作,为开发者提供更多工具与能力,促进AI生态发展,并加快人工智能在产业中的应用与商业化进程。