AI 发展方向：混合AI、强化学习或整合实际知识与常识？
作者：Ben Dickson 是一位软件工程师，同时也是 TechTalks 博客的创始人，致力于探讨技术如何解决问题和带来挑战。
在AI领域，由于深度学习的惊人进步，其能力在于收集、存储和处理大量数据，这使得AI的应用变得切实可行。如今，深度学习不仅是科学研究的一个重要课题，也是众多日常应用系统的核心组成部分。
然而，十年来的研究和实践表明，深度学习并不是实现与人类智能相当的AI的最终答案。为了推动AI的发展，我们需要什么？更多数据和更大的神经网络？新的深度学习算法？还是超越深度学习的方法？
这一话题在AI社区引发了热烈讨论，并成为上周MontReal.AI在线讨论的中心议题。来自不同背景的科学家们参与了名为《AI辩论2——推动AI前进：一种跨学科的方法》的辩论。
混合AI
认知科学家GaRy MaRcUS共同主持了这场辩论，他指出深度学习的几大缺陷，包括对数据的高需求、知识迁移的低效、不透明性，以及缺乏推理和知识表征能力。
MaRcUS一贯批评纯深度学习的方法，早在2020年，他就提出了一种方案，倡导将学习算法与基于规则的软件结合的混合方法。
其他与会者也认为混合AI有助于克服深度学习的挑战。计算机科学家Luis LaMb指出，当前的主要问题之一是如何确定AI的基本构建模块，并提高其可信赖性、可解释性和可解读性。
LaMb是《神经符号认知推理》一书的合著者，他提出了一种结合逻辑形式化和机器学习的神经符号AI基础方法。他表示，我们可以利用逻辑和知识表征来构建与机器学习系统整合的推理过程，以此更有效地改革神经学习。
来自进化的启发
斯坦福大学计算机科学教授李飞飞强调，进化史上视觉是人类智能的重要推动力。她指出，计算机视觉和图像分类领域的研究促进了深度学习的革命。李飞飞开发的imageNet数据集包含数百万个带标签的图像，成为计算机视觉系统训练和评估的重要资源。
李飞飞提到，科学家们在思考“下一颗北极星”时发现，进化和发展不断给予启发。她认为，当前的AI系统缺乏主动感知和互动的能力，而是依赖人类筛选和标记的数据。
她指出，感知与驱动之间存在一条至关重要的环路，决定了学习、理解、规划和推理。如果AI代理能够在探索性行动和利用性行动之间灵活转换，并具备多模态、多任务和社交化特性，就能改善这一环路。
OpenAI研究员Ken Stanley也提到自然界进化的特性，认为这些特性至今无法通过算法解释，且应继续追寻和理解这些特性。
强化学习
计算机科学家Richard Sutton指出，AI领域普遍缺乏一种“计算理论”，这一术语最早由神经科学家David Marr提出，旨在定义信息处理系统的目标及其原因。
Sutton提到，在神经科学和AI中，关于目标和整体思维的理解仍显不足。他认为，强化学习可被视为智能的首个计算理论，赋予代理在环境中发现最大化奖励的方法。
他指出，强化学习明确了目标，定义了“什么”和“为什么”。在这一领域，代理需要计算策略、价值函数和生成模型。虽然强化学习展现出极大的潜力，但Sutton也承认其他方法同样值得探索。
Sutton是强化学习领域的先驱，著有该主题的经典教科书。他所在的DeepMind实验室目前正积极研究“深度强化学习”，这一技术将神经网络整合到基本的强化学习中。近年来，DeepMind通过深度强化学习在围棋、国际象棋和《星际争霸2》等领域取得了显著成果。
尽管强化学习与人类及动物的大脑学习机制存在相似之处，但它也面临与深度学习相同的挑战，如对大量训练的需求和计算资源的高消耗，这使得该领域的研究受限于财力雄厚的公司。
将实际知识和常识整合到AI中
计算机科学家及图灵奖得主Judea PeaRl以其在贝叶斯网络和因果推理方面的贡献而著称，他强调AI系统需要实际知识和常识，以更有效地利用输入数据。
PeaRl认为，构建将实际知识与数据结合的系统是必要的。他指出，仅依靠聚集和盲目处理数据的AI注定会失败，知识来源于我们与现实世界的互动，而不是简单的数据堆积。
他表示，知识的结构必须在数据之外实现，即便我们能从数据中学习到某种结构，它仍需以可与人类沟通的方式呈现。
华盛顿大学的崔艺珍教授也强调了常识的重要性，并指出当前AI系统在常识缺失下所面临的挑战。她认为，现今的深度学习系统能够解释数据集，但却未必理解背后的任务，而常识是这一差异的根源。
崔艺珍进一步指出，推理是一个无限的领域，与当前深度学习算法和评估基准测试的分类任务截然不同。她提到，未来的挑战在于即时推理，而非简单的枚举。
她也提议关注多个平行研究领域，如结合符号表征与神经表征、将知识整合入推理中，以及设计不仅限于分类的基准测试。
崔艺珍总结道，尽管通往常识的完整路径仍不清晰，但可以肯定的是，单纯建造更高的AI模型并不能保证成功。因此，GPT-4、GPT-5或GPT-6的问世未必能解决根本问题。
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
