微软总裁支持独立评估 AI 安全：先进系统应设置多层“关闭开关”

据 IT之家 9 月 24 日消息，微软总裁布拉德・史密斯在纽约举行的联合国大会期间就 AI 安全监管表态，支持引入独立评估方，对人工智能系统进行安全评估。他在接受彭博社采访时表示，如果 AI 安全只由一两家机构负责，相关工作很难取得充分进展。围绕 AI 安全、全球监管框架以及企业责任，各国领导人和科技公司高管正在联合国大会期间展开密集讨论。

史密斯的表态值得关注，因为微软既是 OpenAI 的重要合作伙伴，也是云计算、企业软件和 AI 智能体工具的重要提供方。换句话说，微软并不只站在“模型提供商”的位置看待安全问题，而是强调从模型到软件层、从智能体控制到行为监测，都需要建立更完整的治理体系。

微软强调：AI 安全不能只交给模型公司

史密斯认为，模型公司固然关键，但像微软这样提供软件层能力、负责控制 AI 智能体并监控其行为的企业，同样在 AI 安全链条中承担重要角色。这一判断反映出当前 AI 产业的一个变化：风险不只来自大模型本身，也可能出现在模型被接入办公软件、开发工具、企业流程和自动化智能体之后。

来源显示，微软与合作伙伴 OpenAI 设有一个由双方共同派员组成的安全委员会，微软通过这一机制参与双方的 AI 安全讨论，并协助判断模型是否达到可以发布的安全水平。这意味着，在先进模型走向公众或企业客户之前，安全评估不再只是单一公司的内部流程，而是越来越需要跨组织协作。

从行业角度看，独立评估方的引入可能成为 AI 治理的重要趋势。随着模型能力增强，外部测试、红队评估、部署前审查和上线后监测都将成为企业面向监管与用户证明安全性的关键环节。

多层“关闭开关”背后：AI 智能体时代的控制权问题

史密斯还提到，微软支持为先进 AI 系统设置关闭开关，以确保系统处于人类控制之下。他认为，安全机制需要部署在多个层面；有时政府也可能需要掌握某种开关，但如果可以在三到四个位置设置开关，就没有必要只把控制权放在一个地方。

这番表态实际上指向了 AI 智能体的治理难题。与传统聊天机器人相比，智能体可能被授权执行更复杂的任务，例如调用工具、访问企业数据、触发工作流，甚至代表用户完成多步骤操作。因此，单靠模型本身的安全对齐并不够，还需要在应用层、权限层、基础设施层和监管层建立制动机制。

• 模型层：评估模型在高风险任务中的响应边界与误用风险。
• 软件层：限制智能体可调用的工具、数据和操作范围。
• 平台层：监控异常行为，并在必要时暂停服务或回滚能力。
• 治理层：通过第三方评估或监管要求形成外部约束。

对中文科技行业读者而言，这一讨论也具有参考意义。未来企业部署 AI，并不只是选择哪一个大模型，更要评估其权限管理、审计能力、异常中止机制和责任划分。尤其在金融、医疗、政务、工业等场景，“可控”可能与“智能”同样重要。

AI 数据中心扩张，也让微软气候目标承压

除 AI 安全外，史密斯还承认微软需要调整气候目标。微软此前承诺，到 2030 年从大气中清除的碳将超过自身排放量。但报道指出，这一目标的时间表似乎越来越难以实现，其中部分原因与微软为 AI 数据中心供电、采用能够较快投运的天然气发电厂有关。

史密斯表示，微软仍认为气候是本世纪最重要的问题之一，但也需要重新审视是否还能按照六年前设想的方式达成目标，并承认必须作出一些调整。对于 AI 行业来说，这凸显出一个现实矛盾：模型训练、推理服务和数据中心建设正在迅速推高算力与电力需求，而绿色能源、储能和电网配套的建设速度并不总能同步。

解读：AI 监管正在从“模型安全”走向“系统安全”

微软此次表态释放出一个信号：AI 安全治理正在从单点模型评估，扩展为覆盖模型、应用、智能体、云基础设施和外部监管的系统工程。独立评估、多层控制和人类最终控制权，可能会成为先进 AI 系统进入大规模商业部署前必须回答的问题。

与此同时，AI 基础设施扩张带来的能源与碳排压力，也会成为科技巨头绕不开的产业议题。对微软这类公司而言，未来竞争不仅是模型能力和产品落地的竞争，也包括安全治理能力、监管适配能力以及可持续基础设施能力的竞争。