诺奖得主玛丽亚·雷萨警告：AI若缺乏监管，可能削弱人类自主选择权
据 IT之家 9 月 15 日消息，诺贝尔和平奖得主、记者玛丽亚·雷萨（Maria Ressa）近日在奥斯陆出席一场有关民主威胁的会议期间表示，人工智能正在从注意力、情感连接到自主行动三个层面影响人类社会。如果各国不尽快通过立法对 AI 加以限制，人类可能逐步失去自主选择权。雷萨目前担任联合国国际人工智能科学小组联合主席，该小组关注 AI 如何改变全球民众生活。
雷萨的判断并非单纯针对某一款 AI 产品，而是把社交媒体、聊天机器人以及具备自主行动能力的智能体系统放在同一条技术演进线上观察。她认为，AI 相关技术已经从“影响人看什么”，发展到“影响人如何建立亲密感”，并正在进入“代替人采取行动”的阶段。对中文科技读者而言，这一讨论也触及生成式 AI、智能体、多智能体协作工具快速普及后的核心问题：效率提升与控制权转移之间的边界在哪里。
雷萨所说的“三波 AI 冲击”是什么
来源显示，雷萨将 AI 对普通大众的影响概括为三波。第一波来自社交媒体平台。她认为，平台通过算法分发与互动机制争夺用户注意力，影响公共讨论环境，并可能加剧社会共识的撕裂和个体孤立感。虽然这类系统在大众印象中未必被直接称为 AI，但其背后的推荐算法已经深度参与信息流动。
第二波则是聊天机器人。雷萨指出，这类工具利用人类对亲密联结的心理需求，进一步介入人的情绪和生理本能。随着大语言模型具备更自然的对话能力，AI 陪伴、AI 助手、情感聊天产品正在变得更常见，也让“用户到底是在使用工具，还是被工具塑造需求”成为新的监管议题。
第三波是具有自主行动能力的 AI，也就是能够调用工具、完成任务，甚至以多智能体方式协同工作的前沿系统。雷萨认为，这类系统不再只是模仿人类表达，而是可能替人做出行动。她所担忧的重点在于，当模型从“回答问题”转向“执行决策链条”时，人的选择权可能在不知不觉中被自动化系统接管。
- 注意力层面：推荐算法影响用户看见什么、相信什么。
- 情感层面：聊天机器人通过拟人化互动满足亲密需求。
- 行动层面：智能体系统可能替代用户完成判断与操作。
监管争议：公共安全还是创新阻力
围绕 AI 监管，全球科技产业长期存在分歧。来源提到，包括美国总统唐纳德·特朗普在内的一些批评人士担心，过度监管会让美国在 AI 竞赛中落后于中国。雷萨反驳了这一说法，认为将监管简单描述为竞争劣势是一种“高明的说辞”。她还提到，相比硅谷面向全球用户推出的产品，中国在面向本国用户的部分应用中设置了更多安全防护机制，例如 TikTok 的中国国内版本存在年龄限制。
雷萨强调，要求 AI 监管并不只是言论自由议题，而是公共安全议题。这一表述值得关注。过去，平台治理常被放在内容审查、言论边界和商业竞争框架下讨论；但在生成式 AI 和智能体系统扩散后，风险已经延伸至未成年人保护、心理健康、信息操纵、自动化决策责任等更复杂的领域。监管并不必然等于压制创新，关键在于能否建立透明、可审计、可追责的规则。
从“大平台”到“数字公共空间”的替代方案
雷萨还提出，应建设由公共利益团体运营、脱离大型科技公司控制的通信平台，类似城市中的公园等公共基础设施。她所在的新闻机构 Rappler 在 2023 年推出 Rappler Communities 社区项目，被她视作这类实践之一。来源显示，该项目是一款手机 App，基于开源、安全、去中心化的 Matrix 协议构建，既用于编辑部与读者沟通，也支持读者之间展开对话。
Rappler 已邀请菲律宾其他本土媒体加入该平台，并准备将模式推广到东南亚其他新闻机构。雷萨认为，这样的空间可以成为“数字安全空间”，帮助公众重新学习对话与倾听。对于 AI 产业观察者来说，这个案例的启发在于：未来的信息基础设施不一定只能由超大平台提供，开源协议、去中心化架构与公共利益治理可能成为对抗算法垄断和注意力商业化的一种路径。
影响与解读：AI智能体时代更需要“人类在环”
雷萨的警告之所以受到关注，是因为 AI 正从内容生成工具迅速变成行动执行工具。无论是办公自动化、代码生成、智能客服，还是个人助理和企业流程机器人，模型都在更多场景中获得“代办”能力。效率提升的同时，也带来了权限、责任和监督问题：AI 替用户发出指令、筛选信息、安排任务甚至影响判断时，最终责任由谁承担？用户是否真正理解系统如何得出建议？平台是否有动力主动限制高风险功能？
从中文科技行业视角看，AI 监管不应被简化为“发展或限制”的二选一。更现实的方向，是在产品设计中强化人类在环、权限分级、风险提示、未成年人保护和第三方审计。当智能体应用进入更多个人与企业流程后，保留人的最终确认权、明确自动化边界，将成为 AI 产品可信度的重要组成部分。雷萨的观点或许带有强烈公共议题色彩，但它提醒行业：如果 AI 系统越像基础设施，就越不能只按普通互联网产品的逻辑治理。