互联网资讯 / 人工智能 · 2023年12月11日 0

神经元集合演算在句子解析中的应用

上周,Google ReSeaRch 举办了一场在线研讨会,专注于深度学习概念的深入理解。在此次活动中,获奖的计算机科学家与神经科学家分享了他们的见解,探讨了深度学习与神经科学的新发现如何推动更先进的人工智能系统的开发。

尽管所有演讲都颇具启发性,但其中一个话题尤为突出:哥伦比亚大学计算机科学教授、哥德尔奖和高德纳奖获得者 Christos Papadimitriou 关于“大脑中单词的表征”的演讲。

大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

在演讲中,Papadimitriou 深入探讨了我们对大脑信息处理机制的理解如何促进创建更具对话理解和参与能力的算法。他提出了一个简洁而有效的模型,说明了大脑不同区域如何相互作用来解决认知问题。

他提到:“现在发生的事情,也许是世界上最伟大的奇迹之一。” 这指的是他与观众之间的交流方式。大脑将结构化知识转化为电波,这些电波通过不同媒介传递,最终到达听众的耳朵,再被其大脑处理,形成结构化知识。

“毫无疑问,所有这些都是通过神经元和突触实现的。但是,具体是如何完成的呢?这是一个值得思考的问题。”Papadimitriou 表示,“我相信在未来的十年中,我们将对这些细节有更加清晰的了解。”

大脑中的神经元集合

在认知与神经科学领域,研究者们正在努力揭示大脑神经活动如何转化为语言、数学、逻辑和推理等多种功能。如果科学家们能成功用数学模型描述大脑的运行方式,将为创造能模仿人类思维的人工智能系统打开新大门。

传统上,许多研究聚焦于单个神经元,数十年前,科学家们仍认为每个单独的神经元对应一个特定思维。最为人知的例子是“祖母细胞理论”,该理论认为我们大脑中存在一个专门识别自己祖母的神经元。然而,近期的研究推翻了这一观点,证明多个神经元与每个概念相关,并且连接不同概念的神经元之间可能存在重叠。

这些神经元群体被称为集合(assemblies),Papadimitriou 将其描述为一组高度连接、稳定的神经元,代表一个词、一个想法或一个物体等。

神经科学家 György Buzsáki 将这种集合形象地称为“大脑的字母表”。

大脑数学模型

为了更深入理解集合作用,Papadimitriou 提出了一个名为“交互循环网络”的大脑数学模型。在该模型中,大脑被划分为有限数量的区域,每个区域包含数百万个神经元。每个区域内存在循环现象,意味着神经元间存在相互作用。这些区域相互连接,连接可以被激发或抑制。

该模型具备随机性、可塑性和抑制性。随机性意味着每个大脑区域的神经元是随机连接的,且不同区域之间也存在随机连接。可塑性使得神经元和区域间的连接可以通过经验和训练进行调整,而抑制性则指在任何时刻,只有有限数量的神经元被激发。

Papadimitriou 将其形容为一个基于生命的三种主要力量的简化数学模型。

大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

Papadimitriou 与来自不同学术机构的科学家们在去年发表的一篇论文中详细阐述了这一模型。集合是模型的核心组成部分,实现了科学家们称之为“集合演算(assembly calculus)”的功能,处理、存储与检索信息。

大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

论文地址:
https://www.pnas.org/content/117/25/14464

“这些行为不是凭空而来的。我坚信这些操作是真实的,可以通过数学证明,并通过模拟验证这些操作与实际行为相符……”Papadimitriou 说道。

Papadimitriou 和他的团队假设集合及集合演算是解释大脑认知功能的有效模型,包括推理、计划和语言。他在谷歌的深度学习会议上指出,大部分认知能力都符合这一模型。

基于集合演算的自然语言处理

为了测试这一思维模式,Papadimitriou 和同事们构建了一个自然语言处理系统,利用集合演算来解析英语句子。实际上,他们的目标是创建一个人工智能系统,模仿大脑中与词汇和语言理解相对应的集合区域。

大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

Papadimitriou 表示:“如果一个单词序列激发了集合,这个引擎就会生成句子解析。”他承认,目前的人工智能模型仍处于初步阶段,缺乏语言中的许多重要部分。研究人员正在计划填补这些语言空白,并相信所有部分都可以通过集合演算进行补充,这一假设将在未来得到验证。

大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

“这是否是语言的神经基础?人类大脑是否天生具备这样的能力?”Papadimitriou 提出疑问。关于语言如何在大脑中运作,以及如何与其他认知功能相互联系,仍有许多待解之谜。然而,Papadimitriou 认为,集合模型让我们更接近理解这些功能,并为解决剩余问题提供了线索。