随着人工智能技术的繁荣发展，其潜在问题和威胁也逐渐浮现。现在是时候认真探讨AI技术的“价值观”问题了。
最近，许多人注意到AI相关的负面新闻频繁登上头条，且往往带有夸张的色彩。
11月20日，韩国13岁的围棋天才金恩持承认在9月底的一场在线围棋比赛中作弊，利用了AI推荐的棋谱，这几乎毁掉了她的职业生涯。11月27日，伊朗核武器专家法赫里扎被一台由AI控制的自动机枪袭击身亡，这表明精准的人脸识别技术已经作为AI武器参与了人类的杀戮。
在国内，也有一位购房者为了避免房地产商通过人脸识别技术精准识别而被当作“熟客”来“宰杀”，特意佩戴了头盔。这表明人脸识别的滥用问题已显现出严重性。
更令人震惊的是，最近有报道称一家房地产中介利用政府机构的在线服务流程，轻松让售房者在不知情的情况下，通过人脸识别系统将房屋过户给买家，自己获取了交易款。这原本为了便民的AI服务反而成为某些人的帮凶。
“杀人者是人，而非刀”，这是我们为“工具无道德价值”辩护的古老理由，也是人类自信其独特道德价值的表现。这个观点似乎也能解释上述AI的负面案例，认为AI技术不过是人类的工具，而真正的始作俑者仍是人类。
这种说法似乎合情合理，正如所有技术的发明既能造福人类，也可能带来灾祸。比如诺贝尔发明的炸药可以用于开矿或战争，核技术既可制造原子弹也可用于核电站。然而，这一次人工智能的技术革命带来的变化更加深远，它将彻底重塑人类。
以往的技术革命主要增强人类的体力和脑力能力，而如今，AI将触及人类的核心本质——“自由意志”，这个支撑着人尊严和价值的概念。
许多人将这一宏大议题视为无稽之谈，认为“狼来了”的故事已被多次讲述。许多大人物对AI威胁人类地位的警告，似乎也带有“口嫌体正直”的意味，他们在各自领域内仍在推动AI技术的发展和应用。
然而，作为人类社会基石的“自由意志”已经在脑神经科学和社会学的研究中遭到严重挑战。与此同时，AI在模拟和引导人类决策的能力也在不断提高，这使得我们面临一个人类命运改变的交汇点：人的自由意志被还原为可计算的生理机制，而AI的计算能力超越了人类。
此时，我们就如同在温水中的青蛙，只能默默接受“被煮熟”的命运。尽管AI技术暴露出许多问题，但我们仍需保持对其的警惕。
当AI拥有“自由意志”时，它能做到价值中立吗？
在关于“技术是否价值中立”的讨论中，现在的人们大多倾向于“技术中立”的观点。一般认为，技术的道德价值取决于使用它的人，例如一把刀可以用来做饭也可以用来伤人，关键在于使用者的意图。
在电影《上帝也疯狂》中，非洲原始部落的人们获得了一个可乐瓶，从最初的神物到后来引发族群纷争，表明技术的价值在不同使用者手中会经历巨大的变化。这一假设维护了人的尊严，认为选择技术的用途是个人的自由，最终结果也由其负责。
但是，现实真的是这样吗？
自人类掌握生火和放火的技术以来，一位女性就能释放出远超自身体力的能量。火的使用让一个部落能够捕获猎物并开垦农田。如今，全球化的消费贸易网络中，亚马逊雨林也几乎被烧毁以种植粮食作物。火本身是无目的的，但掌握火的人却知道火的特性和威力，使用火的意图和目的使其不同于自然火。
可以预见，人类所发明的每一项工具或技术都或多或少反映了发明者的意图。无论是石刀的切割能力还是枪支的杀戮效能，这些工具的发明背后都有着明确的目的。
随着技术工具的复杂化和高级化，技术的目的性对使用者的影响越来越大。我们渐渐习惯于这些技术，如今的生活中离不开电池和网络，这些技术潜移默化地改变着我们的选择和判断。
当我们以为自己的选择是自由的时，实际上大多数都是被工具所训练和改变的。
现代技术中，以各种互联网应用和游戏为最典型，短视频尤为明显。依托沉浸式展示、无限下滑和偏好推荐算法，短视频成为用户“杀时间”的工具，很多人不知不觉中花费数十分钟在其中。如果稍加反思，我们会发现这些推荐技术利用了人性的弱点和成瘾机制来获取用户的时间。
虽然这些公司的工程师未必有恶意，但他们的商业动机驱使他们不断加入操控人心的技术，而这次，工程师们的助手便是人工智能。
AI算法的初始目标是体现人类的某些目的，比如在对抗学习中获得高分，或在图像识别中提高识别率，在偏好推荐中满足用户的喜好。人工智能在某些方面表现出色，并且拥有超过人类的计算能力。
从“不够好”的AI到“被用坏”的AI
关于AI威胁论，许多人已经讨论过，但我们不再重复“AI统治人类”或“AI取代人类工作”的观点。这些观点暗示AI将成为独立于人类的物种，而目前来看，这样的AI何时能够实现仍然未知。
我们强调的是，AI技术不仅仅是提高人类的局部能力，而是要替代人的感知、判断和决策能力，对人的理性行为进行“复刻”。
AI技术的“非中立”特性可能导致以下结果：
一、AI算法在数据训练中由于模型设计和数据样本不足而不可避免地出现偏见。
例如，2018年的一则报道中，亚马逊的AI招聘系统被指控系统性地歧视女性，发现“女性”字样的简历会降低评分，甚至标注某些女子大学的简历也会被降级。这一决策权重源于亚马逊过去十年的简历数据。
显然，这十年中，大部分被录用的候选人都是男性，人类HR的招募偏好也教会了AI采用相同策略。
在更常见的人脸识别领域，性别和种族歧视的算法偏见同样显著。根据美国NIST在2019年12月的报告，美国人脸识别系统中，黑人面孔的错误识别率是白人的100倍，与黄种人相比，黑人面孔的识别错误率也是前者的10倍。而在执法机构的人脸库中，识别错误率最高的是美国原住民，女性和老人的面孔也更难以识别。
这项研究的数据来源于美国签证申请和过境数据库中的1800万张人脸照片，并测试了189种人脸识别算法，研究结果代表了绝大多数商业应用算法的表现。
今年上映的《编码偏见》影片揭露了这一问题，随着AI接管人们的信息、安全、机会甚至自由，如果不纠正算法中的偏见和歧视，AI技术将必然创造一个更加糟糕的世界，比如错误识别并逮捕的少数族裔青年，或被算法判定能力不足的女性员工，以及被垃圾信息包围的青少年。
当然，这仅是AI技术不够好的一种表现。许多人认为我们可以通过不断调整算法和增加数据样本来解决这些低级错误和算法歧视。如果偏见能够消除，算法能够优化，我们又将迎来怎样的局面呢？
二、AI技术可能由于数据规模的聚集和技术竞争的排他性，掌握在少数技术公司和政府手中，帮助拥有技术特权的人群和组织获得难以撼动的权力和财富，从而巩固这一趋势。
我们不能说AI技术一定会助长极权和垄断，但这样的苗头已经开始显现。
普通大众通过在互联网上的各种操作，交出了自己的习惯偏好和消费数据，而现在还通过可穿戴设备获取生理指标数据。如果任何一个AI算法系统能够同时拥有这两种数据，并且对其进行处理，…
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
[[[IMG_4]]]
