16位学者探讨神经符号系统与跨学科交互对AI未来的影响

去年，纽约大学的心理学与神经科学教授Gary Marcus与深度学习的先驱、2018年图灵奖得主Yoshua Bengio进行了一场关于AI技术发展方向的现场辩论。

今年，Gary Marcus与MontReal.AI负责人Vincent Boucher共同举办了第二场辩论，邀请了包括李飞飞、Judea Pearl、Rich Sutton在内的16位学者，围绕主题“推动AI发展：跨学科的视角”进行深入讨论。Marcus表示：“此次辩论旨在展示多样化的观点。”

此次辩论分为三个主题：“架构与挑战”、“神经科学与心理学带来的洞见”、“构建可信任的AI”。

Marcus首先回顾了与Bengio的辩论，指出现在是讨论下一个十年的最佳时机：“我们该如何将人工智能提升到新的层次？”

接着，16位学者各自分享了自己的研究与观点，辩论持续了三个多小时。

辩论视频：

架构与挑战

第一个主题“架构与挑战”中，参与者包括Yejin Choi、Luis Lamb、Fei-Fei Li、Robert Ness、Judea Pearl、Ken Stanley和Rich Sutton。

斯坦福大学计算机科学教授李飞飞率先发言，讨论了AI的“北极星”，她指出“北极星”与环境的交互至关重要。

随后，巴西南大河州联邦大学的教授Luis Lamb谈到了“神经符号AI”，认为基于Marcus在《The Algebraic Mind》中提到的概念，神经符号工作需要逻辑形式化的基础方法，如Judea Pearl的理论。

DeepMind的Rich Sutton则探讨了强化学习，提到了神经科学家David Marr的计算视觉信息处理研究。他指出AI领域在计算理论方面的研究仍显不足，并表示强化学习是智能计算理论的最佳候选者。

图灵奖获得者Judea Pearl发表了主题为“因果推理的驯化”的演讲，强调深度学习的潜力，并提出“深度理解”将成为回答关键问题的唯一系统。

机器学习研究科学家Robert Ness则提到“因果推理与概率规划”，认为概率规划是解决因果推理的重要工具。

中佛罗里达大学的Ken Stanley探讨了进化与创造性，表示智能的进化是一个并行的“现象系统”。他认为我们应当努力理解这些现象。

华盛顿大学的Yejin Choi强调了语言的重要性，认为语言是生成任务的推理，未来AI的发展将面临这一根本挑战。

在几位学者发言后，Marcus试图总结共同关注点，包括反事实、处理不熟悉的问题、集成知识等。他询问是否应当融合不同观点，使强化学习与知识兼容。

Luis Lamb指出，神经符号系统的核心在于理解目标，而非“如何去做”。Marcus则请学者们思考“模块化”问题。

Yejin Choi提到人类的因果推理能力，询问是否希望建立类人的系统。她还强调自然语言在知识交流中的重要性。

Marcus向李飞飞和Ken Stanley询问“神经进化”领域的发展，李飞飞指出，进化是智能的重要实验，但她会提炼出原则而非受限于生物进化。

神经科学与心理学带来的洞见

辩论的第二个主题是“神经科学与心理学带来的洞见”，参与者包括Danny Kahneman、Christof Koch、Adam Marblestone、Doris Tsao和Barbara Tversky。

斯坦福大学的Barbara Tversky认为，所有生物都必须在空间中运动，运动停止便意味着生命的结束。她指出学习、思考和沟通都依赖于行动和语言。

诺贝尔经济学奖得主Daniel Kahneman探讨了“系统1与系统2”的思维范式，认为系统1是直观的，而系统2则是更高级的推理形式。他表示，反事实推理主要发生在系统1中。

加州理工学院的Doris Tsao讲述了反馈系统的重要性，认为理解反馈能帮助构建更强的视觉系统，并能解释幻觉等现象。

MIT的Adam Marblestone强调大脑运行机制的研究仍处于初级阶段，认为卷积神经网络只是复制人类行为。

西雅图艾伦脑科学研究所的Christof Koch则表示，神经科学无法加速AI发展，理解大脑仍需数百年时间。他认为从大脑中寻求灵感是错误的。

Marcus提问“多样性”与大脑皮层的相似性，Tsao表示相似性可能揭示大脑的深层原则，而Koch补充细胞类型的多样性。

Marblestone认为需要更好的数据来理解Koch讨论的计算意义。Marcus进一步询问关于“先天性”的问题。

Kahneman认为“目标文档”是大脑追踪物体的永久概念，Marcus则认为深度学习中不存在相应的“目标文档”。

构建可信任的AI

此次辩论的第三个主题是“构建可信任的AI”，参与者包括Ryan Calo、Celeste Kidd、Margaret Mitchell和Francesca Rossi。

加州大学伯克利分校的Celeste Kidd探讨了算法偏见对人类认知的影响，认为偏见强化了人们的错误认知，尤其是在内容推荐的AI系统中。

谷歌的Margaret Mitchell表示，开发机器学习算法时，人类偏见在数据收集阶段就已经存在，后处理阶段同样面临偏见问题。她强调技术的发展应当是价值负荷的，需反思以实现可预见的利益。

此场辩论不仅展示了学者们对AI未来的不同看法，也为跨学科的合作提供了新的思路与启示。

[[[IMG_2]]]