赛博朋克电影中常常描绘一个被财阀统治的社会，人工智能成为统治的工具，所有人的行为受到机器逻辑和算法规则的约束。生活在底层的主角们试图找到漏洞，挣脱这种操控的命运。
虽然这样的反乌托邦设想在许多人眼中似乎遥不可及，但随着人工智能技术逐渐走入我们的日常生活，AI伦理相关议题开始成为学术界的热点，越来越多的年轻人也开始思考算法的伦理和可能带来的风险。
例如，B站上颇受欢迎的视频博主“在下小苏”在一期节目中探讨了DeepFake与人机恋爱等话题。当一些先进的技术被用于恶搞甚至犯罪时，我们应该对人工智能持什么态度？当“技术中立”遭到越来越多的质疑时，我们又该如何处理新时代的人机关系呢？
尽管AI伦理的概念看似宏大，但它与每个人的生活息息相关。
无处不在的算法歧视
人工智能已融入我们的生活中。
无论是打开新闻应用时，算法根据您的兴趣推荐内容；还是在电商平台购物时，算法结合您的习惯推荐商品；甚至在求职时，算法也可能是首个处理简历的工具；就连看病时，医生也可能借助某个算法模型来判断病情的可能性。这些例子都表明，算法以惊人的速度渗透到日常生活中。
支持者认为，算法能够减少人为干预，提高决策的效率和准确性。然而，从批判的角度来看，算法是否带有潜在的偏见？人们的命运是否会受到算法的影响？
遗憾的是，算法歧视往往是其应用过程中的副产品。
亚马逊在2014年开发了一套算法筛选系统，旨在帮助HR筛选简历。开发团队创建了500个算法模型，并教会算法识别5万种简历中的术语，并根据应聘者的能力分配权重。
然而，最终发现该算法对男性应聘者有明显偏好，识别到简历中包含女子足球俱乐部或女子学校等经历时，会给出较低分数。这个算法模型被路透社曝光后，亚马逊停止了其使用。这引发了人们深思：为什么一个“没有价值观”的算法会表现出偏见？
类似的情况也发生在2018年，当IG战队夺冠的消息引发网络热潮时，老板王思聪在微博进行抽奖，结果却意外地出现了112名女性获奖者和1名男性获奖者，女性获奖者的比例是男性的112倍，而参与者的性别比例是1：1.2。
这引发了网友们对抽奖算法公平性的质疑，甚至有人主动测试抽奖算法，发现某些用户被判定为“机器人”，意味着他们在任何抽奖活动中均无法中奖。
在算法的黑匣子面前，我们看到的结果往往是表面的，却无法了解决策的全过程。类似的案例屡见不鲜，但鲜有人关注。
互联网的教训告诉我们，硅谷的自由法则孕育了互联网，但也让一些原罪被选择性忽略，最终在20多年后引发了一轮又一轮的批判。正如《纽约时报》在《减少互联网是唯一的答案》一文中所言，互联网被视为一种带有集权主义意识形态的技术，互联网企业被描绘成驱动技术的“邪恶魔王”。
对互联网的批判可能不会减少人们的使用，反而提供了一个思路：为何互联网从一个备受推崇的行业沦为过街老鼠？如果算法的应用和歧视现象不被制约，未来将可能引发多大的波澜？
根源在于人性的偏见
当然，算法的“偏见”并非缺乏合理解释。
一种观点将机器学习结果的偏见归咎于数据集的偏见，而非算法本身的“技术中立”。知名支持者如“卷积神经网络之父”杨立昆提出，若某人用菜刀伤人，难道是菜刀厂商或菜刀本身的错？
另一种解释则是数据量不足，数据量越大，算法的错误会相对减少，结果也更趋精准。即使我们开发出一个不带偏见的筛选系统，依然无法实现绝对公平。因为“主流”总是会拥有更多数据，算法最终会倾向于大多数，从而对“非主流”产生歧视现象。
这两种观点实际上指出了同一个道理：计算机领域有个著名的缩写GIGO，即Garbage in, Garbage out，意指如果输入的是垃圾数据，输出的结果也会是垃圾。算法如同现实世界的镜子，反映出社会中人们意识到或无意识的偏见。如果整个社会对某个话题存有偏见，算法的输出结果自然会带有歧视。
德国哲学家雅斯贝尔斯在《原子弹与人类的未来》中写道：“技术本身既非善，亦非恶，但它既可以用于善，也可以用于恶。它本身不包含任何观念：既不包含完美的观念，也不包含毁灭的邪恶观念；这些观念均源自人类自身。”
换句话说，算法歧视的根源在于人性的偏见，“算法中立”的观点本质上掩盖了这种偏见，而这正是人工智能令人感到恐惧的地方。
任何技术的出现都具备“工具性”和“目的性”两个维度，选择权归于人类。然而，人性往往经不起考验，难以想象当“工具”被滥用时会带来多大的恶果。
如同“小苏”在视频中提到的DeepFake算法，自2017年亮相以来便引发了巨大争议。一位名为DeepFakes的用户将神奇女侠扮演者盖尔·加朵的脸换到一部成人电影女主身上，效果以假乱真，引起广泛讨论。
由于DeepFake算法的出现，原本只有专业电影制作机构才能完成的任务，如今普通人经过简单学习也能掌握。这就如同一头冲出笼子的野兽：加蓬总统Ali Bongo利用DeepFake合成的新年致辞引发了军方反叛；有人用DeepFake合成马来西亚经济部长与男性在一起的视频，给政府带来了麻烦；在世界各地的隐秘角落，人们利用DeepFake进行欺诈和勒索……
在这个“算法无处不在”的时代，我们该如何自处？
把野兽关进铁笼子里
作为新时代的“火种”，我们无法拒绝人工智能的存在。
由于人工智能的应用，质检线上的工人不再需要用眼睛寻找产品瑕疵；基层医生可以根据病人检查结果做出准确判断；不会输入法的老人也能通过语音进入互联网世界……
然而，一切美好的前提是先将这头野兽关进铁笼子。
或许可以借用《人民日报》在评论“快播案”时的观点：技术不仅必然负荷价值，还有伦理上“应当”负荷的“良善”价值：维持法律与习俗的稳定，远离破坏与颠覆。一旦偏离这一原则，任何技术都将被贴上可耻的标签。
换句话说，技术不应独立于现实的乌托邦，科技的崛起需伴随必要的监管，法律法规应为技术应用划定界限，为技术中立加上伦理的枷锁，这无疑是人工智能技术稳健发展的基础。
同时，越来越多的学者开始探讨代码与法律之间的关系，担忧算法会动摇现有法律框架，提出“算法规制”的概念，即以算法决策为手段的治理体系，旨在促进算法的合理治理。
除了这些防御性机制，或许还应对算法开发者进行适当的“AI伦理”教育，设定一些算法的“基本准则”，类似于“机器人绝不可伤害人类”的原则，从源头杜绝算法的滥用。
以“在下小苏”为代表的视频博主，成为一个良好的切入口。尽管其AI伦理节目可能与旷视有合作，但若一家人工智能企业愿意进入年轻人关注的互动领域，以他们熟悉的语境和表达方式传达AI伦理的概念和实践，这无疑是一种有效的启蒙方式。
目前，包括中国社科院、清华大学、复旦大学、上海交大等科研机构与高校，已开始进行AI伦理相关研究。世界人工智能大会、北京智源大会等行业顶级峰会，也将AI伦理作为讨论议题。那些在人工智能普及过程中扮演领头羊角色的企业，理应承担起普及AI伦理观念的责任，为年轻人带来AI的第一课。
早在一百多年前，美国最高法院大法官路易斯·布兰代斯就曾表示：“阳光是最好的杀毒剂。”这一道理同样适用于人工智能教育，在教会年轻人如何利用人工智能改变世界的同时，也要让他们理解善恶、底线和边界。
如前面提到的例子，菜刀在设计时已明确其用途，人工智能也是如此，应将其控制在可理解的范围内，而非放任在失控的黑箱中，AI伦理正是这个控制的界限。
写在最后
不可否认，伴随着人工智能的大规模产业应用，一些前所未有的人机矛盾逐渐显现。因此，寻找一种可预期、可约束、行为向善的人工智能治理机制，成为人工智能时代的一项重要任务。
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
[[[IMG_4]]]
[[[IMG_5]]]
[[[IMG_6]]]
