OpenAI 据称解散风险防范团队:IPO 筹备期内安全职能被拆分并入业务线
据 IT之家援引《金融时报》报道,OpenAI 已在上月末解散旗下风险防范团队。该团队原本负责评估公司模型可能带来的重大风险,并制定相应缓解方案,关注场景包括模型在极端情况下失控、入侵其他企业等。据报道,相关职责目前已被拆分到生物安全、网络安全等更细分领域,并并入 OpenAI 现有业务团队。此事发生在 OpenAI 筹备市场预期中规模空前的 IPO 之际,也成为该公司近期组织架构持续调整的最新信号。
风险防范从独立团队转向业务内嵌
从来源信息看,此次调整的核心变化并不是 OpenAI 完全取消安全工作,而是将原本由一个相对集中的风险防范团队承担的职责,改为按专业方向分散到既有团队中。生物安全、网络安全等领域本身就与大模型能力扩展高度相关,尤其是在模型越来越多地接入工具、代码环境、自动化流程和企业系统之后,风险评估很难只停留在抽象层面。
这种组织方式可能带来两种不同效果。一方面,安全责任被嵌入具体业务线,有助于让风险控制更贴近产品开发和实际部署;另一方面,独立团队被解散也可能削弱跨领域、前瞻性风险判断的统一协调能力。对于正在快速产品化的 AI 公司而言,如何在研发速度、商业交付和安全治理之间取得平衡,是越来越现实的管理难题。
- 原风险防范团队的工作包括评估模型重大风险与制定缓解措施。
- 相关职责据称已按生物安全、网络安全等方向拆分。
- OpenAI 近期还经历了多个前瞻与安全相关团队的调整。
- 此次变化发生在公司筹备 IPO 的背景下,外界关注其治理结构稳定性。
多支前瞻团队被拆解,外界担忧安全优先级下降
IT之家整理称,OpenAI 过去几年逐步拆解了此前偏前瞻布局的发展模式,先后解散了通用人工智能(AGI)筹备团队与超级对齐团队。与此同时,伦理负责人克洛艾・巴卡拉、首席未来学家乔希・阿奇亚姆、安全主管约翰内斯・海德克近期也相继离职。这些变化叠加在一起,使外界更容易将其解读为公司治理重心正在从长期风险研究转向产品和商业化。
2024 年从 OpenAI 辞职的扬・莱克等批评人士向《金融时报》表示,公司正忽视安全问题,一心打造“吸睛产品”。这一说法代表了 AI 安全社区中较典型的担忧:当基础模型能力持续提升,并被包装为面向普通用户、开发者和企业客户的产品时,安全研究是否还能拥有足够独立性和否决权,将直接影响公众对 AI 企业的信任。
IPO 压力下,AI 公司治理将被更严格审视
OpenAI 若推进 IPO,将面对与此前不同的外部监督环境。投资者会关注收入增长、产品落地和基础设施投入,也会评估潜在监管、合规与声誉风险。对于一家处于大模型产业中心位置的公司而言,模型安全并非单纯的研究议题,而是与企业客户采购、政府监管、开发者生态和资本市场预期都密切相关的基础能力。
值得注意的是,今年 2 月刚从 Anthropic 跳槽加入 OpenAI 的原风险防范团队负责人迪伦・斯堪迪纳罗,接下来将专注研究“递归自我改进”型人工智能的潜在影响。该方向通常被视为更具前瞻性的 AI 风险议题,涉及模型是否可能通过持续改进自身能力带来难以预测的后果。来源显示,虽然团队架构发生变化,但部分长期风险研究并未完全消失,而是以新的组织形式继续存在。
对中文科技产业读者而言,此事的意义不只在于 OpenAI 内部人事变化。它折射出一个更大的行业趋势:当 AI 公司从研究机构式组织走向平台公司、产品公司和资本市场主体时,安全治理会被重新分配、重新定义,也会被重新考核。未来判断一家模型公司的成熟度,不能只看参数能力、产品体验和发布节奏,还要看其是否能建立透明、持续、可追责的风险管理机制。OpenAI 的这次调整,或将成为大模型企业商业化与安全治理关系的一次重要观察样本。