2021年4月21日，欧盟委员会提出了新人工智能法规，旨在将欧洲打造成全球值得信赖的人工智能中心。这一欧盟首个人工智能法律框架，结合成员国的协调计划，旨在保障人们和企业的安全及基本权利，同时促进欧盟在人工智能领域的吸收、投资和创新。新法规将调整安全标准，以增强用户对新一代多功能产品的信任。
该法规的推出旨在确保欧洲公民能够信任人工智能产品。相应且灵活的规则将针对人工智能系统所带来的具体风险，并在全球范围内设定最高标准。协调计划明确了欧盟成员国在政策和投资方面所需的调整，以巩固欧洲在以人为本、可持续、安全、包容和可信赖的人工智能开发方面的领导地位。
新法规将依据人工智能的发展趋势，根据风险程度进行分类，并适用于所有欧盟成员国。
不可接受的风险：被认定为对人们的安全、生计及权利构成明显威胁的人工智能系统将被禁止。这包括操控人类行为以干扰用户自由意志的系统或应用，以及允许政府进行社会评分的系统。
高风险：被划分为高风险的人工智能系统涉及重要基础设施、教育与职业培训、产品安全、就业、员工管理、自雇管道、基本公共服务、执法、移民、庇护和边境控制管理，以及司法和民主程序。
在高风险人工智能系统上市前，将受到严格的监管要求：
进行充分的风险评估和缓解措施；提供高质量的数据集以减少风险和歧视性结果；记录活动以确保可追溯性；提供系统及其目的的必要信息，以便监管机构评估合规性；向用户提供充分且清晰的信息；实施适当的人力监督，最大限度减少风险；确保高度的稳健性、安全性和准确性。
特别是：
所有远程生物识别系统均被视为高风险人工智能系统。原则上禁止在公共场所执法目的下使用，狭义的例外情况将有严格的定义和规定。使用时需获得司法或其他独立机构的授权，并在时间、地理范围及搜索数据库方面设定适当限制。
有限风险：即需具备透明公开义务的人工智能系统。使用此类系统时，用户应能意识到自己正在与机器互动，从而做出明智决策。
最小风险：法规允许自由使用如电子游戏或垃圾邮件过滤器等应用，绝大多数人工智能系统均属于此类，对此不作干预，因为这些系统对公民的权利或安全构成的风险非常小或没有风险。
在监管方面，欧盟委员会建议各国市场监督机构配合新法规，并将成立欧洲人工智能委员会以促进其实施，并推动人工智能标准的制定。此外，还提议为非高风险人工智能系统制定自愿性行为准则，并设立监管沙盒以促进创新。
《欧盟AI协调计划》首次发布于2018年，明确了发展人工智能的行动和工具，建立了国家策略与欧盟公私合作关系和研究创新网络的良性互动。协调计划的全面更新提出了具体合作行动，并确保与欧洲人工智能策略和欧洲绿色新政步调一致，同时顾及COVID-19带来的新挑战。该计划提出了加速人工智能投资的愿景，推动后疫情复苏，激励各国人工智能发展策略，消除碎片化，解决全球性挑战。
协调计划将通过数字欧洲和展望欧洲计划，以及欧盟复苏基金20%数字支出目标和欧盟凝聚政策的资金分配来实施：
通过交流政策见解、数据共享和对关键计算能力的投资，为人工智能发展创造有利环境；通过公私合作伙伴关系建立研究、开发和创新能力，并为中小企业和公共管理提供测试和实验设施以及数字创新中心，促进人工智能的商业化；支持数字领域的培训计划、博士生网络和博士后奖学金，培养人才和技能，全球推广欧洲人工智能愿景，确保人工智能服务于人类，成为社会的积极力量；在高影响力部门和技术中建立战略领导地位，包括人工智能对可持续环境的贡献，扩大跨境信息交流以推动智能医疗系统，以及人工智能在公共部门、交通、农业和机器人技术的应用。《机械条例》涵盖广泛的消费者和专业产品，从机器人到割草机、3D打印机、建筑机械和工业生产线，确保新一代机械保护用户和消费者的安全，并鼓励创新。尽管人工智能法规将解决人工智能系统的安全风险，但新的机械条例将确保人工智能系统与整个机械安全整合，企业只需进行单一合格评估。
此外，新机械条例将使现有规定更加明确，通过允许文件的数字格式和调整中小企业的合格评估费用，简化企业的行政负担和成本，同时确保与欧盟产品立法框架的一致性。
欧洲议会和欧盟成员国将需要在普通立法程序中通过欧盟委员会对人工智能系统和机械的建议。一旦通过，这些条例将直接适用于整个欧盟。同时，欧盟委员会将继续与成员国合作，推动协调计划的实施。
背景：
多年来，欧盟委员会一直致力于促进和加强整个欧盟在人工智能领域的合作，以提升竞争力并确保基于欧盟价值观的信任。
自2018年发布欧洲人工智能策略以来，经过广泛协商，人工智能高阶专家小组于2019年制定了可信赖人工智能准则，并在2020年制定了可信赖人工智能评估列表。同时，2018年12月发布了首个人工智能协调计划，作为与成员国的联合承诺。
委员会在2020年发布的人工智能白皮书为欧洲的人工智能提供了清晰的愿景：一个卓越和可信的生态系统，为AI法规提案奠定基础。关于人工智能白皮书的公众咨询吸引了全球广泛参与。白皮书中关于人工智能、物联网和机器人安全及责任影响的报告指出，产品安全立法仍然不够完善。
欧盟提出全新法案以规范人工智能应用方法，若立法顺利通过，将成为全球首个针对AI的监管法规。然而，企业对此表示担忧，认为新规可能增加AI使用成本，限制或打击欧盟科技创新。
新法案将AI应用按风险高低分类，其中高风险AI应用涵盖重大基础设施、大学入学筛选系统及银行贷款审查系统等。根据新法规，这类高风险AI应用将受到欧盟的严格监管，违规企业面临最高全球年营收6%的罚款。
除了加强监管外，新法还将禁止特定AI应用，例如公共交通系统、公共场所和商店中的面部识别侦测、警察追踪犯罪嫌疑人的远程生物识别系统，或能够读取潜意识的AI技术。新法规要求在使用前，必须向主管机关提交法规遵从报告，详细说明面部识别系统如何获取数据。
对于AI新法的批评意见指出其规定过于笼统，实际执行仍待观察。法律界人士认为，法规的例外情况过多，可能削弱AI规范的保护和禁止的意义。
