人工智能伦理的挑战：歧视、伪造与思维操控的风险

去年九月，谷歌云计算部门曾考虑让人工智能协助一家金融机构决定向谁发放贷款。

经过多轮内部讨论后，团队否定了该项目，认为在道德层面过于冒险，因为 AI 技术可能把对种族、性别等因素的偏见延续下去。

自年初以来，出于对文化因素敏感性的担忧，谷歌还放弃了分析情感的新型人工智能能力；微软则限制了模仿声音的软件；IBM 也拒绝了客户关于高级面部识别系统的请求。

据对三家美国科技巨头的 AI 伦理负责人所作采访，这些决策通常来自公司高层小组或其他领导层的干预。

这是媒体首次披露他们对相关技术的否决权和审议过程，也体现出行业内兴起的一股新力量，力求在追逐利润的 AI 系统与社会责任之间取得平衡。

但判断并非易事。

例如，微软首席人工智能负责人娜塔莎·克兰普顿表示，语音模仿技术虽可帮助聋哑人士发声，但也可能加剧政治性伪造等风险，因此需在二者之间寻求平衡。

部分激进人士认为，具有广泛社会影响的决定不应仅在企业内部作出。

欧洲公民自由联盟的公关负责人指出，外部监督将成为未来大势，美国与欧洲政府也在为这一新领域制定规则。

如果企业的伦理委员会真正实现独立透明，或将优于其他方案，但也被一些人视为不现实的期望。

三家公司均表示欢迎对 AI 的使用方式进行明确监管，这对客户和公众的信心至关重要，但他们也希望规则具备足够灵活以跟上创新步伐及随之而来的新挑战。

IBM 表示，其 AI 伦理委员会正就多项复杂议题展开讨论，其中包括监管一个新兴领域：将计算机与大脑相连的植入物和可穿戴设备。

IBM 首席隐私官克里斯蒂娜·蒙哥马利指出，此类神经技术有助于残疾人控制身体动作，但也引发多重担忧，例如黑客是否可能利用它来操纵人脑。

科技公司承认，五年前推出聊天机器人和图片标记等 AI 服务时，几乎没有道德保障，往往只能通过后续更新来解决滥用或偏见问题。

但随着 AI 因为失败而面临更多的政治与公众审查，微软、谷歌和 IBM 等先后在 2017–2018 年设立了道德委员会，对新服务进行早期审查。

谷歌表示，去年九月某金融服务公司认定人工智能比其他方法更适合评估信用风险后，其道德审查也被卷入放贷抉择。

该项目对谷歌云而言颇具潜力，因为其 AI 技术有助于识别异常交易，吸引了多家银行客户。

谷歌云预计基于 AI 的信用评分市场可能是一个年产值数十亿美元的领域，公司希望站稳脚跟。

然而，道德委员会成员约二十名由多位经理、社会科学家与工程师组成，在去年十月的一次会议上就一致否决了该项目。

委员会指出，AI 系统需要从历史数据中学习，故可能模仿对有色人种以及其他边缘群体的歧视性做法。

更重要的是，据称内部传出的“柠檬水”政策，要求在相关问题解决前暂停所有与信誉相关的金融服务交易。

柠檬水团队在过去一年里已否决了三项类似提议，其中包括一家信用卡公司与一家商业贷款机构，而销售团队与产品负责人期望在此问题上制定更广泛的政策。

谷歌还表示，其云计算部门另设一个名为冰茶伦理委员会的机构，今年正在审查自 2015 年发布的一项服务——按情绪分类用户照片的功能。

在此之前，谷歌总部的道德委员会，即高级技术审查委员会（ATRC）也已经禁止推出与情感识别相关的新服务。

谷歌责任创新团队的创始人珍·耐表示，ATRC 由十多位高管与工程师组成，认定情绪推断技术不够敏感，因为不同文化中的面部线索与情感体验的联系并不一致。

耐与同事指出，冰茶项目已封杀对 13 种情绪的判断，未来很可能彻底放弃这项服务，改用只描述皱眉、微笑等动作的系统，而不进行情感解读。

与此同时，微软的克兰普顿表示，该公司用于复制个体声音的技术，经过两年多的敏感性辩论与总裁顾问会的审议，最终在今年二月对 Custom Neural Voice 公开发布，但对使用设定实施了严格限制，包括需取得受试者同意并遵循公司培训的 AI 伦理冠军团队的规定。

IBM 的 AI 伦理委员会由约二十名部门主管组成，在新冠疫情初期，当客户请求定制面部识别以检测发烧或遮挡物时，他们选择拒绝，认为人工审核能更好地保护隐私，且不会把照片保留在 AI 数据库中。

六个月后，IBM 宣布停止提供面部识别服务。

出于隐私与自由的保护，欧盟与美国的立法者正推动对 AI 系统加强监管。欧盟拟定的 AI 法案可能在明年通过，规定禁止在公共场所进行实时人脸识别，并要求对高风险应用如招聘、信用评分和执法进行审查。

美国国会议员比尔·福斯特就算法如何放大在金融与住房领域的歧视开展听证会，呼吁就 AI 制定新的法律以创造公平市场。

现实情况是，一些 AI 的进步可能会被推迟，直至企业能够在不投入大量资源的前提下应对道德风险。

去年谷歌云拒绝为金融公司定制 AI 服务后，柠檬水委员会通知销售团队，该部门未来的目标是开发与信贷相关的应用。

谷歌云的内部政策强调，首先要通过研究消除不公偏见，以配合在金融包容性方面的雄心。

在此之前，相关部署仍需等待合适时机。