加州推进 AI 安全监管：拟研究“紧急停止开关”和第三方审计机制

据 IT之家援引 CNBC 报道，当地时间 18 日，加利福尼亚州州长加文·纽森签署行政令，要求进一步加强人工智能监管与安全防护。该行政令要求加州召集一批 AI 专家举行会议，并在两个月内提出方案，用于完善 AI 安全与防护相关法律。其中最受关注的一项，是研究建立 AI 系统的“紧急停止开关”：当系统出现重大问题时，能够通过应急机制将其立即关闭。

来源显示，行政令还要求专家组研究更严格的制度安排，包括要求独立第三方机构为 AI 企业制定全面安全方案，并进入企业开展安全审计。纽森在随行政令发布的声明中批评美国联邦层面的 AI 监管长期缺位，认为加州不能继续等待，需要在“为时已晚之前”推动更实质、负责任的监管措施。报道称，他还提出，可能专门召集一次州议会特别会议处理 AI 问题。

“紧急停止”从概念走向监管议题

在 AI 安全讨论中，“紧急停止”并不是一个全新概念。它通常指向一种最后防线：当模型或系统在实际运行中出现失控、误用、严重安全风险或不可接受后果时，运营方、监管方或预设机制可以迅速中止系统运行。此次加州行政令将这一机制纳入专家组研究范围，意味着相关讨论正在从企业内部安全设计、学术风险评估，进一步进入公共监管和法律制度层面。

对于大模型、自动化代理、AI 驱动的软件系统而言，安全问题已经不只停留在内容生成错误。随着 AI 被接入代码执行、数据处理、客服、办公自动化、机器人控制等场景，系统一旦出现异常，影响范围可能迅速扩大。因此，监管层关注的不仅是模型训练阶段是否合规，也包括部署后的监控、响应和关闭能力。

• 应急关闭机制：研究在重大问题发生时如何立即中止 AI 系统运行。
• 第三方安全方案：探索由独立机构参与制定企业级 AI 安全方案。
• 进驻式安全审计：要求外部机构进入企业，对安全措施进行审查。
• 立法时间表：专家组需在两个月内提出进一步完善法律的方案。

加州为何率先加码 AI 监管

加州在全球 AI 产业版图中具有特殊地位。硅谷聚集了大量 AI 模型公司、云计算平台、芯片企业和自动化软件团队，许多新技术会首先在这里研发、融资、试点并商业化。也正因如此，加州对 AI 风险的监管动作，往往会对美国乃至全球科技企业产生外溢影响。

纽森在声明中将问题指向联邦层面的监管缺位，并强调即便 AI 企业 CEO 自身也在呼吁政府监管，加州仍不能继续等待。这一表态释放出明确信号：地方政府可能会在联邦统一规则出现之前，先行建立面向高风险 AI 的安全框架。对于企业而言，这意味着未来在加州运营或面向加州用户提供 AI 服务时，合规成本、审计要求和安全工程投入都可能上升。

对 AI 企业和开发者的影响

如果后续方案落地，AI 企业可能需要证明自己具备持续风险监测、事故响应、权限管理和系统关闭能力。尤其是提供基础模型、智能体平台、自动化工具或面向企业客户的 AI 服务商，可能会被要求建立更清晰的安全责任链条。过去以“上线后迭代”为主的软件开发模式，在高风险 AI 场景下可能需要引入更严格的发布门槛和外部审查。

对中文科技产业观察者而言，加州此举的意义不只在美国本土。AI 监管正在从原则性倡议转向可执行机制，重点也从“是否应该监管”转向“如何具体监管”。紧急停止、独立审计、安全方案这些关键词，未来很可能成为各国制定 AI 治理规则时反复出现的基础模块。对于正在构建模型、应用和自动化系统的团队来说，安全能力将不再只是加分项，而可能成为进入市场和获得信任的必要条件。