奥尔特曼谈 AI 安全：事故难以完全避免，行业需建立公开上报与复盘机制

据 IT之家 9 月 16 日消息，OpenAI 首席执行官萨姆·奥尔特曼（Sam Altman）当地时间周二在 Salesforce Dreamforce 大会上表示，面对快速发展的人工智能技术，部分事故可能无法被完全避免，关键在于行业能否像航空业一样建立透明、系统化的事故上报和复盘机制。他认为，AI 企业不应只强调模型能力提升，更要把对齐、安全和监控能力放在足够靠前的位置。

奥尔特曼的表态发生在前沿 AI 安全争议升温之际。近期，曾在 OpenAI 与 Anthropic 任职的研究员 Jacob Coxon 对行业“奔向可自我迭代的超级智能”的趋势提出批评，引发外界对于高能力自主系统研发节奏的再次讨论。多名 AI 安全研究人员也担忧，未来更先进的系统可能带来失控、网络攻击门槛降低、生物风险放大等问题，尽管这类系统介入现实物理世界仍存在诸多限制。

借鉴航空业：从“避免一切事故”转向“公开上报与学习”

奥尔特曼在发言中提到，美国联邦航空管理局（FAA）和美国国家运输安全委员会（NTSB）的机制值得 AI 行业参考。航空业并不是因为完全没有事故才变得安全，而是通过事故调查、公开记录、经验反馈和制度修正，让风险逐步降低。

放到 AI 领域，这意味着企业需要承认新兴技术的不确定性，同时形成可执行的内部与外部反馈机制。对于模型误导、工具调用错误、自动化代理越权、内容安全失效、潜在滥用等问题，仅靠事后公关难以形成行业信任。更有效的方式，是将事件记录、原因分析、修复措施和后续监控纳入长期流程。

• 公开上报：对重大 AI 事故或高风险事件建立清晰披露标准。
• 独立复盘：避免企业只用内部口径解释问题，推动第三方或监管参与。
• 经验共享：让一个公司的教训成为整个行业的安全改进参考。
• 能力约束：当安全、对齐、监控能力落后于模型能力时，应考虑放缓甚至暂停相关研发。

争议焦点：前沿实验室是否跑得太快

奥尔特曼承认，公众对 AI 风险感到恐惧“是理所应当的”。他指出，风险不仅来自 AI 失控的可能性，也来自少数研发机构掌握过大技术权力的现实担忧。对于中文读者来说，这一表态反映出全球 AI 产业正在进入一个新阶段：竞争不再只是参数规模、推理能力或产品体验，也包括企业能否证明自己有能力管理风险。

不过，这也会加剧 AI 安全倡导者对前沿实验室的批评：一方面企业承认风险重大，另一方面仍在持续推进更强模型和自主系统。对于 OpenAI、Anthropic 等公司而言，如何把安全承诺转化为可验证的治理机制，将比发布原则声明更关键。

影响解读：AI 治理可能走向“事故报告制度化”

从产业趋势看，奥尔特曼提出的事故上报机制，可能成为未来 AI 治理的重要方向。当前 AI 工具已经深入软件开发、客服、办公自动化、内容生产和企业流程，如果高能力模型进一步具备长期规划、调用工具、操作外部系统的能力，单次错误可能带来更复杂的连锁影响。因此，建立类似航空业的事故调查与风险学习体系，对企业客户、开发者和普通用户都具有现实意义。

与此同时，美国政策层面对 AI 的态度仍存在分歧。来源显示，特朗普政府对 AI 行业监管态度相对冷淡，更强调维持美国相对中国的技术领先。美国总统科学与技术顾问、前白宫 AI 事务负责人 David Sacks 近期也在 X 平台表达了对“放手去做”的倾向。这与奥尔特曼、Anthropic 首席执行官 Dario Amodei 呼吁管控前沿发展节奏的观点形成对照。

总体来看，奥尔特曼此次发言传递的核心信号是：AI 行业无法只依赖“零事故”叙事来建立信任。真正可持续的路径，是在模型能力快速提升的同时，让安全评估、事故披露、复盘学习和必要时的研发刹车成为行业基础设施。对于正在采用 AI 工具的企业和开发者而言，未来选择模型服务时，安全治理能力也可能成为与性能、成本同等重要的评估维度。