人工智能能否被算法控制？

我们对超级人工智能的到来充满期待，因为它将以更高效的方式完成许多工作。然而，作为一款声称智慧超越人类的AI，关于它可能引发的灾难性风险的讨论仍在继续。

最近，由一组科学家组成的研究团队利用理论计算证明，遏制类算法并不能有效控制超级人工智能。这项研究旨在探讨牛津哲学家尼克·博斯特罗姆提出的控制问题：如何确保超级人工智能服务于人类的利益？

基于超级人工智能的假设，研究人员构建了一种理论上的遏制算法，该算法能够模拟AI的行为，并在AI执行有害行为时自动停止其程序，以解决这一问题。

在试验模型运行过程中，分析人员通过结果分析发现，从根本上说，建立一种能够控制超级人工智能的机器算法是不可能的。

团队成员伊亚德·拉万指出，如果将问题分解为理论计算机科学的基本规则，会发现命令AI不破坏世界的遏制算法可能会无意中中止自身运行。

如果发生这种情况，用户将无法确认遏制算法是否仍在监控超级人工智能可能带来的威胁，或是否已成功停止了有害的AI行为。因此，这种情况会导致遏制算法无法有效运作。

研究还发现，由于计算的基本局限性，目前还没有一种算法能够准确计算出超级AI是否会对世界构成威胁。

假设超级人工智能包含一个程序，该程序像通用图灵机那样，在输入时能够复杂地执行所有程序，基于这一标准构建的遏制算法在理论上是不可行的。

迄今为止，这类超级AI仍然停留在幻想的领域。然而，研究人员表示，AI技术的发展确实在向科幻作家所描绘的超级智能系统迈进。

其中一位研究团队成员、来自马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安提到，已有AI机器能够独立执行某些重要任务，而程序员并未完全了解它们的学习过程。

因此，这引发了一个问题：在未来，这种情况是否可能失控并对人类构成威胁？

无论如何，超级人工智能的发展趋势不会停止。我们仍需不断跟进遏制超级人工智能的方式，唯有通过类似法律的指引来规范超级人工智能，才能确保它为我们服务，而非带来灾难。