陶哲轩警惕将思考外包给 AI：模型内的正确答案未必适用现实

据 11 月 4 日报道，菲尔兹奖得主、数学家陶哲轩近日提醒，随着人类越来越多地把思考和解决问题交给人工智能，可能逐渐失去理解问题、判断答案是否符合真实需求的能力。他担忧，这种变化可能很快在现实世界产生严重后果。相关观点来自他 10 月 16 日在加州大学洛杉矶分校 Science x AI Summit 上的演讲；科学与人工智能研究基金会（SAIR）近日发布了题为《Math 2.0》的完整视频，相关片段随后在 X 平台引发关注。

AI 加速求解，也可能切断理解过程

陶哲轩的担忧并非简单地认为 AI 会算错，而是：即使系统给出一个成立的答案，人类也未必知道它是否解决了真正想解决的问题。过去，数学家攻克复杂问题往往需要长期研究理论，并在探索中积累知识。如今，AI 可以更快给出结果，但使用者对推理过程的理解未必同步增长。

在纯数学中，这类风险相对可控，因为数学证明通常可以借助形式化工具验证。不过，验证证明是否成立，与确认某个方案是否适用于现实，是两种不同的任务。前者可以围绕明确的规则展开，后者还需要面对模型未能充分表达的条件。

从电网到芯片：模型正确不等于现实可用

陶哲轩在演讲中特别提到电网、航空交通管制、药物研发和芯片设计。他担心，人们未来可能直接让 AI 处理这些领域的复杂问题，却没有充分理解底层模型及现实约束。系统给出的方案可能在数学模型中完全成立，却不符合实际需求，甚至通过模型漏洞或边界条件满足表面指标，偏离人类原本的目标。

对科技行业而言，这一提醒涉及 AI 工具落地时的几个关键区别：

• 求解速度更快，不代表问题定义更加准确。
• 满足模型中的指标，不代表覆盖了现实中的全部约束。
• 获得可用结果，不代表使用者具备检验和判断结果的能力。

由此看，AI 应用的可靠性不能只看输出，还要看人是否理解输出成立的条件。当工具从提供建议走向参与复杂决策，评估重点也应从“能不能做出来”，延伸到“为什么这样做、哪些情况下不能这样做”。这是对其观点的产业层面解读，并不意味着演讲提及的领域已经发生相关事故。

“Math 2.0”：让 AI 增强理解，而非替代理解

陶哲轩并未将问题归咎于 AI 技术本身。他主张推动数学研究进入“Math 2.0”阶段，让 AI 不仅协助求解，也帮助研究人员理解问题、识别模型局限与潜在风险。10 月 22 日，他还在《自然》发表文章，呼吁数学界重新审视 AI 时代的研究目标：当 AI 生成证明的速度超过人类理解和消化的速度，研究方式与激励机制也需要调整。

对于中文读者和 AI 工具使用者，这一观点提供了一个实用的观察尺度：评价工具时，不应只关注答案生成效率，也要关注它是否帮助人核查推理、明确前提、发现遗漏。需要保留的不只是得到答案的能力，更是理解、检验和判断答案的能力。这也是 AI 从演示走向可靠应用时，不能被效率指标掩盖的问题。