古特雷斯呼吁全球协作监管 AI：世界承受不起安全领域恶性竞争

据 IT之家援引彭博社 9 月 16 日报道，联合国秘书长安东尼奥·古特雷斯近日再次就人工智能治理发出警示，呼吁各国在 AI 监管和技术监督上展开更紧密合作。他表示，当前围绕 AI 的担忧已经出现，尤其是来自一线开发者的警告不应被忽视；在地缘政治分歧加剧的背景下，各方可能被诱导采取更冒险的技术路线，但世界承受不起在 AI 安全领域持续恶性竞争。

这番表态出现在联合国大会年度高级别周前夕。报道称，未来几天，各国领导人将陆续前往纽约参会。古特雷斯透露，他将与多国元首讨论 AI 风险，并在联合国大会发言中谈及人工智能应当设立的安全边界。对于正在快速扩张的大模型、自动化系统和 AI 工具产业而言，联合国层面的治理议题正从原则倡议逐步走向更明确的国际协调。

联合国推动 AI 治理从倡议走向机制化

来源显示，古特雷斯强调，AI 治理需要“真正的国际合作”和“协调一致的全球行动”。这并非他首次公开呼吁全球层面的 AI 管控。今年早些时候，他已启动“国际人工智能独立科学小组”，试图通过独立科学评估为各国政策制定提供参考。

今年 7 月，在瑞士日内瓦举行的首届联合国人工智能治理全球对话会上，古特雷斯也曾呼吁对 AI 实施广泛而全面的全球管控。他当时提醒，与会者可能是“最后一代能够设定人类与机器共存条件的人”。这一表述显示，联合国正在将 AI 风险视为跨国、跨行业、跨代际的系统性议题，而不是单一国家或单一企业可以独立解决的技术问题。

古特雷斯特别指出，AI 的影响跨越国界，因此必须建立更严格的安全措施，提前应对可能出现的危险。他的核心判断是：AI 不会止步于国界，AI 风险也不会。这对于中文科技读者关注的大模型开源、算力竞争、智能体部署、自动化决策等方向都有现实意义，因为这些技术一旦规模化应用，影响往往超出产品本身。

为何“AI 安全竞争”会成为全球议题

过去两年，生成式 AI 和大模型能力快速迭代，企业与国家之间围绕模型性能、算力资源、数据优势和应用生态展开竞争。竞争本身能够推动创新，但在安全测试、模型对齐、内容治理、关键基础设施应用等环节，如果各方为了抢占先机而降低审慎程度，就可能形成“向低标准看齐”的风险。

从产业角度看，AI 安全不只是实验室问题，也关系到产品落地节奏和商业可持续性。模型工具接入办公、教育、医疗、政务、金融等场景后，错误输出、偏见放大、自动化滥用、深度伪造和网络攻击辅助等问题，都可能被跨境传播和复制。古特雷斯此次强调恶性竞争，指向的正是这种技术扩散速度快于治理协调速度的矛盾。

• 监管层面：各国需要在风险分类、透明度、评估标准和责任边界上形成更多共识。
• 企业层面：模型发布、能力开放和安全测试需要更可验证的流程，而非只依赖自我声明。
• 社会层面：公众需要理解 AI 工具的能力边界，避免将模型输出等同于可靠事实。
• 国际层面：跨境 AI 应用要求治理机制具备协调能力，否则风险会在不同规则体系之间流动。

对 AI 产业的影响：安全将成为竞争门槛

古特雷斯的表态意味着，AI 国际治理正在进一步升温。对于大模型厂商、AI 应用开发者和硬件算力企业来说，未来竞争可能不再只看模型参数、推理速度和成本效率，安全评估、合规能力、可解释性和滥用防范也会成为进入全球市场的重要门槛。

尤其在多国同时推进 AI 监管框架的背景下，企业如果希望服务跨地区客户，就必须面对不同规则之间的协调问题。联合国推动的全球对话和独立科学评估，短期内未必会形成统一法规，但会影响各国政策讨论的方向，也可能推动行业形成更通用的安全基线。

从本站关注的 AI 工具与产业趋势看，古特雷斯的警告并不是反对 AI 发展，而是提醒各方不要把安全视为创新的阻碍。相反，只有在可信、可控和可监督的基础上，AI 才能更稳定地进入企业生产、公共服务和个人工作流。随着联合国大会相关讨论展开，AI 安全边界如何被定义，将成为接下来全球科技治理的重要观察点。