在一次开发者大会上,一位科技公司创始人就“如何把生成式AI落地到企业场景”展开了讨论,分享了自己的观点。
他表示,我们正经历60年来首次的根本性计算平台变革。如果明年还大量购买CPU,计算吞吐量将不再提升,应该转向加速计算方案。
在他看来,诸如中央处理单元、IO 子系统、DMA 控制器、虚拟内存、多任务等概念,都是源自1964年的设计。过去60年里,这些概念推动了CPU的扩展,但现在已经走到尽头。
他强调,计算正在从根本上改变,你不能再持续购买CPU。
他补充道:GPU 虽然成本较高,但直接以模型来工作,相当于大幅降低成本。对比云端环境,GPU 往往是最昂贵的计算资源,但若采用基于模型的方式,效率就像获得了近 95% 的折扣一样显著。若在任何云平台上观察,你也会看到这一点,因为相关方案提升速度非常显著。
