随着人工智能技术的全球迅猛发展，人工智能治理已成为社会广泛关注的重要议题。近年来，人工智能治理问题从零散的单点问题逐渐演变为具有统一特征的共性问题。各国政府、企业及行业专家的共识是，解决人工智能治理问题不能简单地“头痛医头，脚痛医脚”，而应从复杂的案例中提炼出具有原则性的思路与解决方案，以有效应对与人工智能深度融合的未来社会。
2021年1月18日，旷视人工智能治理研究院与权威研究机构人民智库共同发布了《2020年度全球十大人工智能治理事件》，回顾并分析了过去一年中具有理论、实践及研究价值的重要事件。在日益迫切的人工智能治理需求背景下，十大事件成为国内讨论人工智能治理的最佳契机，吸引了众多知名学者参与讨论，专家们的观点反映了国内AI治理的现状及未来发展趋势，其中“多元共治”和“敏捷治理”等原则性观点得到了进一步强调并形成了共识。
下一步人工智能治理：从伦理讨论到实际落地
在过去相当长的一段时间内，“人工智能伦理”常常出现在媒体和行业会议上，而与之相关的“人工智能治理”却鲜有清晰的定义与探讨。北京大学光华管理学院金融学助理教授卢瑞昌指出，原因主要有三：第一，许多机构和国际会议停留在人工智能议题探讨阶段，难以真正出台相关治理报告和倡议；第二，行业参与者常常混淆人工智能治理与伦理，误以为伦理标准的制定即为治理；第三，即便已有的治理报告和倡议，也缺乏明确的治理路径与方案，无法推动具有共识性和约束力的全球治理机制的建立。
卢瑞昌教授认为，人工智能治理应是一项系统性工程，随着人工智能技术对社会的影响力增大，治理的实际落实需要建立具体、可执行的制度安排。具体而言，人工智能治理应在伦理标准的框架下，涉及管理和执行人工智能伦理规范的制定，以及后续的维护、监管和问责机制的建立与执行。同时，人工智能治理的内容是一个需要协调多个利益相关方并持续互动的动态过程。
在原则层面，北京大学中国社会与发展研究中心主任邱泽奇教授认为，AI治理的基本原则应是促进人类福祉的帕累托改进和社会最优，至少在通用AI获得社会合法性之前，治理仍应围绕人类自身展开。在这一逻辑前提下，倡导AI向善应成为推动AI发展的基本治理原则；在未发现AI带来危害之前，应鼓励大胆的AI技术和应用创新，利用AI提升社会福祉的效率，这是治理的首要原则；而在确认AI对多数人造成危害的情况下，应利用社会规则遏制这些危害，运用AI改善AI，即为治理的第二优先原则。
多元共治：智能物联网社会的必然结果
在外卖算法的问题中，算法逐步逼近外卖骑手的时间极限，骑手为确保按时送达往往选择冒险行为。针对这一现象，清华大学公共管理学院教授梁正提出了多元主体共治的治理体系。梁教授指出，单一主体无法解决人工智能治理问题，涉及交通规划、收入保障等多方面的因素，因此需要构建一个多元主体共治的治理体系。
对于是否应采用多元共治的治理体系，各方专家普遍持肯定态度。清华大学社会治理与发展研究院院长张成岗提出了“系统之系统”的概念。以车联网为例，智能物联网的发展源于对密集、高变动性的“物的流动”的管理需求。愈加复杂的物联网需求促使人们使用人工智能，同时在应用人工智能时，必须整合城市交通管理、共享单车管理及无人驾驶出租车管理等各个系统，形成“系统之系统”。
在立法领域，清华大学法学院院长申卫星提出了结合综合性立法与具体场景立法的“总-分”式立法体系。综合性立法是人工智能顶层设计的最佳形式，通过中央立法可强有力地指导各地的人工智能发展。具体场景立法则应针对自动驾驶、自动化决策、精准医疗等领域，区分不同行业对人工智能技术的规范。在统一管理的多元体系下，实施“总-分”的立法体系设计将增强国内外对中国人工智能技术的信任度，提升其国际竞争中的软实力。
敏捷治理：人工智能治理未完善状态下的基本原则
目前，人工智能治理仍处于初步发展阶段，尚未建立完善的法律法规与道德规范。当面临人工智能治理问题时，如何在不完善的条件下快速做出反应，成为专家们共同思考的关键，因此“敏捷治理”理念应运而生。清华大学人工智能国际治理研究院院长薛澜指出，许多治理问题可以通过技术本身来解决，而人工智能技术发展迅速，治理准则的发展则相对缓慢，因此亟需“敏捷治理”。
敏捷治理的积极作用在于“不因噎废食”，能够在人工智能动态发展过程中持续解决治理问题。旷视首席发展官徐云程强调，人脸识别技术是深度学习相对成熟且商业应用广泛的一类技术，面对新技术不断涌现的问题，我们需要探索有效的解决方法。他希望人脸识别技术能够在应对新出现的伦理问题时，做到不因噎废食，同时建设性地解决问题。
在人工智能快速发展的背景下，部分学者呼吁避免“盲目人工智能化”。南开大学教授杜传忠曾指出，许多地方和企业忽视制造业智能化的内在逻辑，盲目推进，带来潜在的风险，尤其在快速发展的时代，一旦决策失误将可能导致巨大的损失，甚至威胁到企业的生存与行业的发展。
因此，在敏捷治理的背景下，尽快制定相关法律法规仍是重中之重，以确保人工智能治理有法可依。哈尔滨工业大学教授徐勇表示，需要通过法律与道德对AI技术的研发与应用进行约束，正确引导企业的价值观。同时，加强法律法规对人工智能的约束也能在一定程度上防止不健康的“超级权力”现象的出现。复旦大学教授张军平指出，应通过依靠超级权力在成熟的技术方面持续发力，让公众获得更多的安全感、幸福感，同时也应考虑对小企业给予更多优惠政策，鼓励其在人工智能领域的研究与应用，保障其生存与发展空间。
人工智能治理是人类进入人工智能时代必须面对的长期命题。人工智能治理的持续发展，需要更多人不断探索与实践，以确保人工智能能够更好、更安全、更高效地造福人类社会。自成立以来，旷视AI治理研究院立志于企业的AI治理研究，持续与外部专家和学术机构合作，深入开展AI治理研究。《2020年度全球十大人工智能治理事件》中，专家学者共同总结的“多元共治”、“敏捷治理”等原则为人工智能治理提供了初步的方法与经验，也为旷视AI治理研究院的新一年度学术研究奠定了良好的基础。
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
[[[IMG_4]]]
[[[IMG_5]]]
