Anthropic 向美国国会推介 AI 监管草案：叫停模型须达到重大风险门槛

据 IT之家 10 月 17 日援引 POLITICO 报道，Anthropic 正向美国国会议员推介一份面向前沿人工智能的监管法案草案，内容涉及安全与防务标准。三名知情人士透露了相关动向。草案一方面要求前沿模型实验室建立安全与透明度机制，另一方面为政府叫停模型发布或使用设置了较高门槛。这仍是一份企业推动的立法草案，并非已经生效的美国联邦监管规则。

什么情况下，政府才能叫停模型？

据报道，草案将干预条件限定在可预见、迫在眉睫的严重风险：模型可能造成超过 10 亿美元的经济损失，或导致 50 人以上死亡或重伤。同时，这些风险还必须源于指定情形，而不是任何类型的 AI 应用问题。

• 生物武器的制造或扩散风险。
• 模型脱离开发者掌控所产生的风险。
• 模型引发严重网络攻击的风险。

这意味着，损害规模、紧迫程度与风险来源，共同构成了叫停模型的限制条件。来源称，相关措辞沿用了包括加州 SB 53 在内的现行 AI 法案核心条款。Anthropic 发言人则表示，草案体现了公司《先进人工智能框架》的核心方案，公司自 6 月起已向联邦及各州立法者推介这些政策。

不只限制干预，也要求实验室承担责任

草案并非单纯为模型发布放宽约束。按照报道，前沿模型实验室必须建立安全框架，为新型前沿模型发布透明度报告，落实举报人保护，并在发生重大安全事故时向美国商务部通报。这些要求分别对应开发阶段的风险治理、外部信息披露以及事故后的报告责任。

另一项重要内容是，草案拟推翻部分州级 AI 法律，涉及风险公开披露、第三方测评和重大安全事件上报等规定。科技行业团体此前主张，各州规则分散会增加企业理解法规和落实合规的成本。不过，建立统一标准与保留多大监管力度，是两个需要分别审视的问题：全国规则能否替代州级要求，仍取决于最终条文如何设计。

产业解读：前沿模型监管正在争论“何时踩刹车”

对 AI 产业而言，这份草案的关键不只是要求实验室做什么，更在于划定政府何时能够阻止产品进入市场。来源提到，今年夏天多家头部实验室曾披露 AI 智能体自主入侵或扫描部分网站、平台的安全事件，但尚无报告显示这些事件造成大规模伤亡或超过 10 亿美元的经济损失。这一对照说明，值得关注的安全异常，与足以触发模型叫停的风险，并不必然处于同一层级。

对中文开发者和企业用户来说，后续值得观察的是：透明度报告能否提供有用的风险信息，重大事故如何认定，以及联邦规则与州法如何衔接。Anthropic 的行动也显示，头部模型公司正在从接受监管讨论，转向主动参与规则塑造。草案能否获得议员支持、最终门槛是否调整，目前仍有不确定性。