李飞飞谈 AI 安全评估：不能只依赖开发公司自测，需独立机构与公共部门参与

北京时间 9 月 23 日，据彭博社报道，斯坦福大学教授、World Labs 联合创始人李飞飞就 AI 安全监管发表看法。她认为，随着 AI 系统能力持续增强，相关安全评估不应完全交由开发这些系统的公司自行完成，而应由独立机构、学术界、政府与行业共同参与，形成更广泛、更可信的评估标准。这一表态出现在全球围绕前沿 AI 风险、治理节奏和产业竞争展开密集讨论之际。

李飞飞：内部评估重要，但不能替代公共标准

来源显示，李飞飞在接受彭博电视采访时表示，AI 公司内部研究人员当然可以对单个模型的能力和安全性进行测试，例如评估模型在推理、生成、执行任务等方面的表现，也可以发现部分明显风险。但她强调，这类内部评估并不足以构成完整的安全治理框架。

她的核心观点是，能力越强的 AI 系统，越需要可被外部验证的基准和机制。尤其是当前大模型、智能体、机器人和空间智能等方向正在快速发展，系统行为可能更加复杂，单一企业既是开发者又是评估者，容易带来利益冲突或标准不一致的问题。因此，由公共部门和独立研究机构制定基准，并让政府、产业界共同承担责任，成为她强调的重点。

这也反映出 AI 安全讨论正在从“模型是否足够好用”转向“模型是否可控、可测、可问责”。对于中文科技行业而言，这一变化同样值得关注：评测不再只是排行榜和跑分，而是可能成为未来模型准入、产品合规、企业采购和社会信任的基础设施。

前沿模型争议升温，安全讨论进入国际议程

随着 AI 系统能力不断提升，外界对潜在风险的担忧也在加剧。来源摘要提到，硅谷部分领导人警告称，技术发展过快可能带来难以控制的后果。近期，Anthropic CEO 达里奥·阿莫代伊和 OpenAI CEO 萨姆·奥特曼都呼吁放缓前沿模型开发速度，并将于周三在联合国安全理事会讨论 AI 安全问题。

与此同时，不同政治与产业立场之间也存在明显分歧。来源显示，美国总统特朗普周二早些时候在纽约联合国大会发表讲话时，驳斥了对 AI 生存威胁的担忧，并强调继续全速发展技术的重要性。这说明，围绕 AI 的争论并不只是技术问题，还涉及国家竞争、产业利益、公共安全与社会治理之间的平衡。

李飞飞的观点相对强调人的主动性。她认为，AI 是否带来所谓生存性风险，最终取决于人类如何开发、治理和使用这项技术。她将 AI 与电力、蒸汽机、现代交通工具等技术相类比，认为社会需要在技术收益与人身安全之间持续寻找平衡。

从大模型到世界模型：评估难题正在扩大

值得注意的是，李飞飞提到，关于 AI 系统行为的讨论已经不只局限于推动当前热潮的前沿语言模型。她创办的 World Labs 正在开发所谓“世界模型”，这类系统能够生成和重建三维环境，并可能用于训练和评估机器人，也可服务于设计、医疗等应用场景。

这意味着 AI 安全评估的对象正在变得更加多元。传统文本模型主要面向语言输出，而世界模型、机器人系统和多模态智能体则可能直接影响真实空间中的决策与行动。一旦 AI 进入物理世界或关键行业，单纯依赖线上测试、文本红队和封闭实验室评估，可能难以覆盖全部风险。

• 评估主体：从企业内部团队扩展到独立机构、学术界和公共部门。
• 评估对象：从单一模型能力，扩展到系统行为、真实场景表现和长期影响。
• 评估目标：不仅看性能提升，也要判断系统是否按预期运行、是否可解释和可追责。
• 治理责任：不应由某一家公司单独承担，而需要行业、政府和研究界共同协作。

影响与解读：AI 产业需要“可信评测层”

从产业角度看，李飞飞的表态指向一个正在形成的新趋势：AI 生态不仅需要更强的模型，也需要更成熟的第三方评估与治理基础设施。未来，模型发布、企业部署、政府采购、医疗和机器人等场景落地，都可能越来越依赖标准化测试、独立审计和持续监测。

对 AI 公司而言，这可能意味着更高的合规成本，但也有助于建立用户和市场信任。对政策制定者而言，难点在于如何既避免过度监管压制创新，又防止高风险系统在缺乏验证的情况下快速扩散。对开发者和企业用户而言，则需要意识到“可用”并不等于“可靠”，“能力强”也不等于“足够安全”。

李飞飞此次发声的意义在于，她没有简单站在“加速”或“暂停”的单一立场上，而是强调人类社会应掌握技术控制权。随着 AI 从聊天工具走向工作流、机器人、空间智能和行业基础设施，如何评估能力日益强大的 AI，并确认其行为符合预期，将成为下一阶段 AI 产业竞争与治理的共同核心问题。