多位科技界人士和人工智能领域专家近日联名发布公开信，呼吁各大AI实验室立即暂停训练能力超过GPT-4的人工智能系统，暂停期限至少为6个月。
这封公开信由一家非营利机构对外发布。信中指出，已有大量研究表明，具备与人类相当甚至可竞争智能水平的AI系统，可能给社会和人类带来深远风险，而这一点也已得到部分顶级AI实验室的认可。
据公开信息显示，联名者超过1000人，涵盖科技企业高管、学者和人工智能研究人员。其中包括苹果联合创始人史蒂夫·沃兹尼亚克、图灵奖得主约书亚·本吉奥，以及多位知名科技和思想界人士。他们共同主张，应暂停训练比GPT-4更强大的AI系统，以便为安全治理争取时间。
不过，一些在当前生成式AI浪潮中处于核心位置的公司高管并未出现在签署名单中，部分知名AI研究者也没有参与署名。
公开信的核心主张
联名信强调，提出6个月暂停，并不等于要求整个人工智能领域停止发展，而是希望行业从不断升级的竞争中暂时后退一步，优先处理安全与治理问题。
公开信认为，只有在能够确认相关系统总体效果是积极的、潜在风险是可控的前提下，更强大的人工智能系统才应被继续开发。
为此，信中呼吁AI实验室与独立专家共同制定一套适用于先进AI系统的安全协议，并通过外部机构开展严格审计与持续监督，确保相关技术在部署前经过充分评估。
背景：GPT-4发布引发新一轮讨论
这封公开信发布前不久，OpenAI在3月14日推出了新一代大语言模型GPT-4。作为当时最先进的AI系统之一，GPT-4的表现一方面令业内感到惊艳，另一方面也进一步加剧了外界对AI快速演进的担忧。
从技术特性来看，GPT-4属于多模态大语言模型，能够接收文本和图像输入，并以文本形式输出结果。相比此前产品，它在长文本处理、内容生成、复杂指令理解以及高级推理等方面都有明显提升。
- 支持图像与文本输入
- 可处理超过25000个单词的长文本内容
- 在创作能力和细粒度指令理解方面更进一步
- 高级推理能力较早期聊天机器人产品有明显增强
随着更强模型不断出现，围绕AI安全、社会影响和监管框架的讨论也在持续升温。这封公开信正是在这样的背景下，推动业界重新审视“能力扩张”与“风险控制”之间的平衡。
