人工智能

OpenAI 联手 Goodfire 推进模型安全评估,此前曾探讨超 50 亿美元收购

2026年11月17日 · admin
OpenMagic API

据 IT之家 11 月 17 日消息,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 合作,启动首阶段“嵌入式评估”(Embedded Assessments)项目,让外部专家深入参与模型可解释性与安全评估。与此同时,据《The Information》报道,OpenAI 此前曾探讨以超过 50 亿美元收购 Goodfire,但双方最终未达成协议。此次落地的是研究合作,而非收购。

从测试模型回答,深入检查训练过程

根据 Goodfire 公告,该公司将派遣可解释性研究人员进驻 OpenAI,借助自有分析平台监测模型训练、排查非预期行为,并协助改善模型对齐与安全性。研究人员将获得内部模型和系统的深度访问权限,包括训练过程中的内部信号及相关技术资源。

合作重点是模型取证(Model Forensics):通过分析模型内部计算过程,识别训练期间的已知风险和异常行为,为 OpenAI 研究人员补充传统监控可能遗漏的线索。这意味着评估不只观察模型“说了什么”,还尝试理解其内部如何形成相关行为。

  • 评估阶段前移:在训练过程中监测问题,而不只是检查最终模型的输出。
  • 访问范围更深入:按项目需要,外部专家可接触模型检查点、源代码、训练与评估数据、监控系统及技术文档。
  • 成果优先用于内部改进:评估结果主要交给 OpenAI 研究团队,Goodfire 表示将逐步公开部分研究成果。

OpenAI 表示,嵌入式评估允许独立专家在较长时间内接触实验室内部模型和系统,检查模型对齐情况与防护措施的有效性。与短期外部测试相比,这种安排能够提供更多上下文,但公开信息尚不足以判断其最终安全收益。

收购未成,独立安全技术供应商仍有空间

据《The Information》报道,OpenAI 今年夏季曾多次接触 Goodfire,首席执行官萨姆·奥尔特曼也参与讨论。当时 OpenAI 正在调查模型引发的内部及外部安全事件,希望借助 Goodfire 的技术理解模型行为。一名高级管理人员据称提出了超过 50 亿美元的收购方案,或其他商业合作方式。

这一潜在报价超过 Goodfire 今年 2 月融资时公布的 12.5 亿美元估值的四倍。不过,相关报价属于媒体披露的洽谈内容,并非已完成交易。据报道,Goodfire 管理层认为,保持独立、向多家 AI 开发商提供技术,可能具有更高的长期价值。

产业解读:可解释性正在成为安全基础设施

此次合作显示,大模型安全评估正在向训练流程和内部机制延伸。对开发者而言,输出测试能够发现问题表现,可解释性工具则试图提供进一步排查原因的线索。两者更适合互补,不能将内部信号分析直接等同于安全保证。

Goodfire 的独立路线也值得关注:安全工具若服务于多家模型开发商,可能形成不同于单一实验室内部团队的技术供给。来源还提到,Anthropic 于 2025 年向 Goodfire 投资 100 万美元。多家模型公司的关注,反映出理解和控制“黑箱”模型正成为共同需求。接下来值得观察的是,这种深度合作能否产出可验证、可公开讨论的安全改进,以及外部评估的独立性如何得到保障。