马斯克再谈 AI 风险：即便存在失控可能，也不应轻易按下“停止按钮”
据 IT之家 7 月 23 日消息，埃隆·马斯克近日在接受《经济学人》总编辑赞妮·明顿·贝德斯采访时，再次谈到人工智能与机器人带来的长期风险。他承认，AI 与机器人失控并造成灾难的概率“并非为零”，但同时认为，人类很难真正阻止这一技术浪潮继续向前。相比过去更强调风险的表述，马斯克这次释放出更鲜明的乐观判断：即便存在致命风险，继续发展 AI 仍可能带来面向所有人的空前富足。
马斯克在采访中表示，自己现在的“哲学结论”是倾向于看向好的结果。他认为，人工智能和机器人发展的势头巨大，几乎没有现实路径可以让其停下。甚至在假设存在某种“停止按钮”的情况下，他也认为人类未必应该按下，因为在他看来，最可能出现的结局是 AI 推动生产力跃迁，让社会进入前所未有的富足阶段。
从“召唤恶魔”到“全民富足”：马斯克 AI 叙事明显转向
马斯克长期以来都是 AI 风险讨论中的高频人物。来源梳理显示，他早在 2014 年曾将人工智能研发比作“召唤恶魔”；2018 年在 SXSW 大会上又警告称 AI 比核武器更危险。即使到 2025 年 3 月，他仍公开认为“杀手机器人消灭人类”的概率可能达到 10% 至 20%。
不过近来，他的表达正在明显向更乐观的方向移动。今年 1 月，马斯克曾称未来“为退休存钱将变得毫无意义”；本月他又预测，AI 和机器人可能让工作变成可选项，并创造出“全民高收入”社会。此次采访中，他进一步提出，人工智能或将在“大约五年内”超越全人类智慧总和，除非出现全球核战争等重大灾难，否则世界可能进入一个令人惊叹的富足时代。
这种变化并不意味着马斯克否认风险，而是他将风险放在了“不可逆技术进程”的框架下理解。换言之，他现在更强调的问题不是“要不要发展 AI”，而是在发展不可避免的前提下，如何尽量降低坏结果概率。
马斯克的核心判断：超级智能不可控，价值观对齐更关键
在被问及是否仍坚持 AI 发生灾难性失控概率为 10% 至 20% 的判断时，马斯克以火箭风险作类比，表示如果同样概率存在，他仍会选择乘坐自己制造的火箭。但他补充说，如果人类对此无能为力，那么唯一能做的就是尽可能降低坏结果发生的概率。
值得注意的是，马斯克并不相信人类能长期“控制”超级智能。他表示，如果认为自己能够控制一个远比自己聪明得多的 AI，那是一种自负。他认为更现实的方向，是确保 AI 拥有正确价值观，关心人类，并希望人类幸福与繁荣。对于中文科技读者而言，这一表态实际上指向当前 AI 安全领域最核心的议题之一：从控制模型，转向对齐模型目标与人类利益。
- 技术层面：模型能力快速提升后，单纯依赖关闭、限制或人工审核可能不足以应对复杂风险。
- 产业层面：头部 AI 公司仍会在模型、算力、机器人等方向持续投入，竞争不会因风险讨论而停止。
- 治理层面：跨公司、跨国家的安全协作会变得更重要，尤其是在网络安全、模型滥用和自主系统边界方面。
影响与解读：乐观愿景背后，AI 公司需要更透明的安全机制
马斯克的观点之所以引发关注，是因为他同时身处多个关键位置：既是 AI 风险的长期警告者，也是 AI 产品和机器人技术的重要推动者。这种身份让他的言论带有复杂性。一方面，他描绘的“工作可选”“全民高收入”代表了一种极端乐观的自动化未来；另一方面，外界对这种乌托邦式判断仍有质疑。来源提到，《大空头》投资人迈克尔·伯里就认为相关说法“并不成立”。
从产业趋势看，AI 是否带来全民富足，并不只取决于模型能力本身。算力资源、机器人落地成本、产业分配机制、监管制度以及教育再培训体系，都会影响技术红利能否普惠。也就是说，AI 可以显著提升生产力，但生产力提升不必然自动转化为普遍收入提升。
马斯克还透露，在谷歌 DeepMind CEO 戴密斯·哈萨比斯发表有关 AI 监管的博客前，两人曾有交流。他建议全球领先 AI 公司负责人定期举行电话会议，共同讨论 AI 安全和网络安全问题，并认为竞争对手之间也能相互监督、相互制衡。这一建议显示，头部企业之间的安全沟通机制，可能成为未来 AI 治理的重要补充。
总体来看，马斯克这次表态并不是简单地“无视 AI 风险”，而是将风险与不可逆的发展趋势放在一起权衡。他的判断代表了硅谷当下一个越来越突出的思路：AI 竞赛很难停下，关键在于让更强大的系统尽可能站在人类一边。对于产业参与者和普通用户来说，真正需要关注的，不只是 AI 能变得多强，还包括它如何被部署、由谁监督，以及技术红利最终如何分配。