互联网资讯 · 2024年2月17日

纳德拉:全球正就人工智能发展与治理形成共识

微软首席执行官萨蒂亚·纳德拉近日表示,全球范围内正逐步就人工智能的发展方向形成广泛共识。尽管不同国家在监管路径上可能存在差异,但在如何看待和讨论这项技术的问题上,整体思路正在趋同。

纳德拉是在瑞士达沃斯世界经济论坛期间作出上述表态的。他认为,围绕人工智能建立更高层面的国际协调机制十分必要,各方应尽可能在标准制定和合理规范方面达成一致。

他指出,当前人工智能已进入需要全球共同应对的阶段,因此推动全球标准与全球规范具有现实意义。如果缺乏协同,相关治理将更难落地,技术控制也会更加复杂,一些关键研究的推进也可能受到影响。不过从目前情况来看,世界各地正在朝着共识靠拢。

人工智能治理成为全球议题

近年来,各国都在推进人工智能相关规则的制定,希望在技术快速演进的同时,对潜在风险作出回应,包括公众对就业冲击、安全隐患等问题的担忧。

此前,英国举行的人工智能安全峰会曾达成一项具有代表性的宣言,提出将共同推动人工智能安全发展的全球标准与治理框架。这也被视为国际社会在人工智能治理领域迈出的重要一步。

纳德拉表示,当前外界普遍关注的一个重点,是在涉及大语言模型等技术时,企业应在新产品发布前进行更严格的评估,包括开展红队测试,并确认相关安全规范已经落实。所谓红队测试,通常是指通过模拟攻击、对抗验证等方式发现系统漏洞和潜在风险。

在他看来,除了模型层面的安全评估,人工智能进入实际应用后,还应当结合具体场景开展基于风险的审查,以决定如何部署、如何监管以及如何限制潜在影响。

不同行业应采用对应监管思路

对于是否有可能建立一个统一的全球性人工智能监管机构,纳德拉表示目前仍难以确定。不过他也提到,各国在讨论安全规范时,已经表现出相似的治理逻辑。

他认为,人工智能的监管应更多结合应用行业本身来推进。例如,如果人工智能被用于医疗健康领域,就应纳入医疗相关法律和制度框架;如果应用于金融服务,就必须重点考虑金融风险与合规要求。

从这一角度看,行业监管与技术治理并不矛盾,反而可以成为建立国际共识的基础。纳德拉表示,如果各方能从这些相对明确、可执行的原则出发,围绕人工智能形成更统一的规范是有可能实现的,他对此持较为乐观的态度。

微软持续加码人工智能布局

在当前美国大型科技企业的人工智能竞争中,微软是最受关注的参与者之一。过去几年,该公司持续加大对相关技术与生态的投入,尤其是与OpenAI的合作。

微软在2019年首次向OpenAI投资10亿美元。此后,市场多次披露其进一步追加投资,累计投入规模已达到数百亿美元级别的重要量级。与此同时,微软也在不断将相关技术整合进自身产品体系。

目前,人工智能能力已被引入微软的办公软件、搜索服务和操作系统等多个核心产品中,同时微软也为相关模型训练和部署提供云计算基础设施支持。

总体来看,纳德拉的表态反映出一个更清晰的趋势:人工智能不仅被视为未来发展的关键方向,也正在推动全球围绕技术安全、行业规范与应用边界建立更广泛的合作基础。