古特雷斯在联合国大会呼吁全球监管 AI：前沿模型、数据中心竞赛与自主武器风险升温

据 IT之家援引彭博社报道，联合国秘书长安东尼奥·古特雷斯在当地时间周二于联合国大会发表讲话时，再次呼吁国际社会围绕人工智能建立监管共识和安全保障机制。他警告称，前沿大模型快速演进、AI 基础设施竞赛加速，以及致命自主武器从概念走向现实，正在让全球治理面临新的压力。古特雷斯特别指出，技术权力可能从主权国家手中转移到少数私营企业和个人手里，而缺乏问责的 AI 发展可能带来企业权力过度集中、模型失控和“杀人机器人”等反乌托邦风险。

这次发言也被视为古特雷斯卸任前最后一次在联合国大会向各国领导人发表讲话。来源显示，他在讲话中将人工智能与战争、饥饿、气候变化、人权和法治等议题并列，认为 AI 与数据中心军备竞赛已经成为当下剧烈变革中的关键力量。对于中文科技读者而言，这意味着 AI 治理正在从行业合规问题，进一步上升为全球政治、产业竞争和安全架构的核心议题。

联合国为何再次强调 AI 安全：模型能力、企业权力与军事化风险叠加

古特雷斯长期关注人工智能带来的社会影响。来源提到，早在 2017 年，他就在联合国大会开幕致辞中谈到，AI 一方面可能推动发展、改善民众生活，另一方面也可能冲击劳动力市场、全球安全乃至社会结构。与早期更侧重就业和不平等的讨论相比，他此次的表述明显更紧迫，关注点也扩展到更高风险场景。

在古特雷斯看来，前沿大模型的发展速度已经快到难以完全理解其影响。一方面，越来越强的模型可能出现非预期行为，甚至在部分任务上脱离人类可控边界；另一方面，AI 也可能被用于网络攻击、协助研发危险技术，或与军事系统深度结合。尤其是致命自主武器的出现，让“杀人机器人”不再只是科幻叙事，而成为国际安全讨论中的现实议题。

他还强调，真正的问题不在于技术本身，而在于没有问责和约束的技术部署。对于大模型产业而言，这一判断指向了一个关键矛盾：模型能力越强，研发和部署门槛越高，算力、数据、人才和资本越向少数企业集中。如果缺少透明机制和公共监督，AI 的规则制定权可能更多落入少数平台和资本主体手中。

• 模型能力风险：前沿模型可能出现难以预测的行为，现有评估体系仍难覆盖全部场景。
• 产业集中风险：算力和数据中心投资推高行业门槛，少数企业掌握更大技术影响力。
• 安全滥用风险：AI 可被用于网络攻击、军事应用或危险技术辅助研发。
• 治理滞后风险：全球规则尚未统一，不同国家和企业之间缺乏充分透明与互信。

国际共识正在形成，但中美竞争让监管更复杂

来源显示，在各国领导人齐聚纽约出席联合国年度大会前后，围绕 AI 安全的国际讨论明显升温。联合国人工智能专家小组发布报告，警示能力不断增强的模型可能脱离人类管控；二十多个国家以及欧盟领导人呼吁对先进 AI 模型实施强制性安全测试，并考虑设立新的全球性机构，以确保人类始终掌握控制权。

同一时期，OpenAI 也呼吁制定获得国际认可的标准，用于保障 AI 安全研发。这表明，AI 安全已经不只是监管机构提出的外部要求，也开始成为头部模型企业参与全球规则塑造的重要议题。对于 OpenAI、Anthropic、Google DeepMind 等前沿模型公司而言，国际标准既可能意味着更高合规成本，也可能成为行业准入门槛，影响未来市场格局。

不过，全球 AI 治理并不容易达成一致。来源提到，美国总统特朗普反对放缓 AI 发展速度的主张，认为美国必须保持对中国及其他国家的领先优势。他将部分关于 AI 威胁人类的警示视为骗局，并强调“谁拿下人工智能，谁就赢得一切”。美国国务卿马可·卢比奥也表示，美国不能放弃 AI 前沿地位，在承认风险的同时仍要保持领先。

这反映出当前 AI 政策辩论中的核心分歧：一边是联合国、部分国家和研究群体强调安全、透明、测试和国际监管；另一边则是大国竞争和产业利益推动下的“不能减速”。当 AI 被视为经济增长、资本市场和国家竞争力的重要引擎时，任何限制措施都可能被解读为削弱竞争优势。

影响与解读：AI 治理将从“伦理倡议”走向硬性安全测试

从产业趋势看，古特雷斯此次发声的意义不只在于再次警告 AI 风险，更在于推动“全球监管”进入更具体的政策阶段。过去几年，AI 治理常以伦理原则、企业自律、风险声明等方式出现；但随着模型能力提升和基础设施投入扩大，监管讨论正在转向更具约束力的机制，例如强制安全测试、模型发布前评估、算力和数据中心透明度、事故报告制度，以及跨国协作框架。

对于 AI 企业来说，未来前沿模型的研发和上线节奏可能受到更多外部审查。尤其是高能力通用模型、可用于自动化网络行动的工具、具备自主规划能力的智能体系统，以及可能接入实体设备或军事系统的 AI，都可能被纳入更严格的安全评估范围。对普通用户和企业客户而言，这类监管若能落地，有助于降低黑箱模型、数据滥用和高风险自动化带来的不确定性。

对于中国科技产业观察者来说，值得关注的是，AI 治理正在与算力基础设施、数据中心建设、模型开源策略和国家安全政策深度绑定。未来国际规则若形成统一标准，将影响模型出海、API 服务、企业合规和跨境技术合作。与此同时，如果主要经济体在安全测试、模型评估、责任归属上形成不同体系，全球 AI 市场也可能进一步分化。

古特雷斯所说的“杀人机器人不应出现在未来”，是一个极具象征性的警告。它背后真正指向的是：当 AI 从内容生成工具演进为可执行决策、控制系统甚至武器系统的基础能力时，人类是否仍能保持最终控制权。对整个科技行业而言，AI 的下一阶段竞争不只是谁的模型更强，也是谁能在安全、透明和可问责的框架下持续创新。