人类通常能够识别错误，但人工智能系统却常常表现不佳。根据最新研究，百年历史的数学悖论揭示了人工智能的固有限制。
与某些人一样，人工智能系统的自信往往超出其实际能力。许多人工智能系统在犯错时，意识到错误的难度往往大于产生正确结果的难度。
剑桥大学与奥斯陆大学的研究人员指出，不稳定性是现代人工智能的一个致命缺陷，而一个数学悖论则展示了这一局限性。神经网络作为人工智能的前沿工具，模仿了大脑神经元之间的联系。研究表明，尽管存在稳定和准确的神经网络的潜力，尚无算法能实现这一目标。算法只能在特定条件下计算出稳定且准确的神经网络。
研究人员提出了一种分类理论，描述了在特定条件下如何训练神经网络以实现可信赖的人工智能系统。相关研究成果已发表在《美国国家科学院院刊》上。
深度学习作为领先的模式识别技术，常常成为众多引人注目的新闻主题，例如比医生更准确地诊断疾病或通过自动驾驶技术预防交通事故。然而，许多深度学习系统实际上是不可靠的，且易受到干扰。
剑桥大学应用数学和理论物理系的合著者安德斯·汉森教授表示：许多人工智能系统存在不稳定性，这在高风险领域（如疾病诊断或自动驾驶汽车）中愈发显著。若人工智能系统在出错时可能造成真实伤害，建立对这些系统的信任至关重要。
研究中提到的悖论源于20世纪的两位数学巨匠：艾伦·图灵和库尔特·哥德尔。20世纪初，数学家们试图证明数学是科学的终极一致语言，但图灵与哥德尔展示了一个悖论：某些数学陈述无法被证明其真假，有些计算问题无法用算法解决。此外，任何足够复杂的数学系统都无法证明自身的一致性。
几十年后，数学家史蒂夫·斯梅尔列出了21世纪的18个未解决数学问题，其中第18个问题涉及人类与机器智能的极限。
图灵与哥德尔发现的悖论如今已被应用于人工智能领域，应用数学和理论物理系的合著者科尔布鲁克博士指出，数学的基本限制同样适用于人工智能算法，后者无法解决某些问题。
研究人员表示，由于这一悖论，虽然在某些情况下可以存在良好的神经网络，但无法建立本质上值得信赖的神经网络。无论数据的准确性如何，所需神经网络的信息始终无法完美获得，来自奥斯陆大学的合著者VegaRd Antun博士如是说。
无论训练数据量如何，都无法计算出良好的现有神经网络。算法即使访问大量数据，也无法产生理想网络。这与图灵的观点一致：无论计算能力和运行时间如何，总存在无法解决的计算问题，汉森指出。
研究人员强调，并非所有人工智能系统都存在固有缺陷，可靠性仅在特定领域与方法中存在。问题在于你需要确保的领域，因为许多人工智能系统实际上是黑箱，科尔布鲁克称。在某些情况下，人工智能犯错是可以接受的，但必须诚实面对这一点，而这并非许多系统的现状。
目前，人工智能系统有时会对其输出产生一些猜测，汉森解释道。人们尝试一些方法，如果无效就添加更多尝试，最终可能会因为未达到预期而尝试不同的方法。重要的是要理解各种方法的局限性。当前我们处于一个阶段，人工智能的实际成功远超其理论和理解，需要建立一个理解人工智能计算基础的框架来填补这一差距。
当20世纪的数学家发现不同的悖论时，他们并未停止数学研究，而是寻找新的研究路径以理解局限性，科尔布鲁克说道。对于人工智能而言，可能需要改变现有路径或开发新路径，以构建能够以可信赖和透明的方式解决问题的系统，并同时理解其局限性。
研究团队的下一个阶段是结合近似理论、数值分析与计算基础，以确定哪些神经网络可以通过算法计算，哪些可以稳定并被信任。正如哥德尔与图灵提出的数学与计算机的局限性悖论引发了丰富的基础理论，或许类似的基础理论也将在人工智能领域得到发展。
