互联网资讯 / 手机数码 · 2024年3月13日

计算正经历根本性的变革,不再需要大量购买CPU

在一次开发者大会上,一位科技公司创始人就“如何把生成式AI落地到企业场景”展开了讨论,分享了自己的观点。

他表示,我们正经历60年来首次的根本性计算平台变革。如果明年还大量购买CPU,计算吞吐量将不再提升,应该转向加速计算方案。

在他看来,诸如中央处理单元、IO 子系统、DMA 控制器、虚拟内存、多任务等概念,都是源自1964年的设计。过去60年里,这些概念推动了CPU的扩展,但现在已经走到尽头。

他强调,计算正在从根本上改变,你不能再持续购买CPU。

他补充道:GPU 虽然成本较高,但直接以模型来工作,相当于大幅降低成本。对比云端环境,GPU 往往是最昂贵的计算资源,但若采用基于模型的方式,效率就像获得了近 95% 的折扣一样显著。若在任何云平台上观察,你也会看到这一点,因为相关方案提升速度非常显著。