互联网资讯 / 人工智能 · 2024年1月17日

AI算力翻倍时间缩短至18个月

AI算力翻倍时间缩短至18个月

半导体行业一直以摩尔定律著称——这一定律最初由英特尔创始人戈登·摩尔在上世纪六十年代提出,指出晶体管数量约每18到24个月翻倍。进入AI时代,OpenAI 的 CEO Sam Altman 提出了新版摩尔定律。

OpenAI CEO Sam Altman 在社交媒体上表示,全球人工智能运算量将每18个月翻一番。

1965年,时任仙童半导体的工程师、后来创办 Intel 的戈登·摩尔提出晶体管密度每18个月翻倍的预期,随后这一时间周期被修订为24个月,即两年内芯片密度翻倍、成本大致降低一半。

就以 ChatGPT 为例,目前使用的是 GPT-3 大模型,参数量约为 1750 亿,累计用户达到 1 亿,日活跃用户超过 1300 万。其训练阶段的总算力消耗约为 3640 PF-days(相当于在 1 PetaFLOP/s 的效率下持续运算约 3640 天),每次训练的成本估计约 500 万美元。

未来将升级到 GPT-4 模型,拥有大约 100 万亿级的参数,算力性能需要指数级提升。