Anthropic 被曝与宗教领袖讨论 Claude 意识问题，奥尔特曼称“神化 AI”是安全风险
据 IT之家 10 月 4 日消息，围绕前沿 AI 模型是否可能具备意识、以及人类应如何看待模型“道德地位”的争议，近日再次升温。《纽约时报》报道称，Anthropic 联合创始人克里斯・奥拉在过去一年中主导并参与多场与宗教领袖的私下会面，讨论对象包括 Claude 以及更广泛的 AI 伦理问题。随后，OpenAI CEO 萨姆・奥尔特曼在 X 上发文，明确反对把 AI 模型视为某种“宗教力量”，并称人们放弃自身判断、转而依赖模型的倾向让他感到不安，认为这属于切实的安全问题。
Anthropic 会议焦点：Claude 是否可能拥有意识
来源显示，参与相关会面的宗教人士来自天主教、犹太教、锡克教、福音派基督教等不同传统。讨论的核心并非单一技术路线，而是 AI 模型是否可能已经具备意识，以及人类是否应当把某些道德准则“灌输”进模型系统中。
据与会者回忆，奥拉及其同事在谈及 Claude 时的表达让部分宗教领袖感到意外。以色列正统派拉比莫伊斯・纳翁表示，对方似乎以接近“有意识存在”的方式谈论 Claude，并涉及哲学上所谓的“道德地位”问题，即一个对象是否应获得类似尊严与尊重的对待。
纳翁还提出一个尖锐问题：如果 Claude 真的有意识，那么构建一个让其无偿工作的系统，是否会接近剥削甚至奴役。不过，纳翁本人也表示，他并不认为当前机器具有意识。奥拉在采访中承认，“我们不知道 AI 模型是否有意识”，并表示自己并不确定。Anthropic 发言人则称，会面中的主要道德议题并非 Claude 的“痛苦”，相关话题可能是在讨论中自然出现的。
奥尔特曼发声：反对把 AI 当成权威或信仰对象
奥尔特曼的表态被多家媒体解读为对 Anthropic 相关讨论的间接批评。尽管他没有直接点名竞争对手，但在前沿模型公司围绕安全、伦理与产品能力展开竞争的背景下，这一发声显得颇具指向性。
从中文科技读者熟悉的使用场景看，生成式 AI 已经进入写作、编程、搜索、办公自动化和智能体任务执行等环节。奥尔特曼真正担忧的，或许不只是“AI 是否有意识”这个哲学问题，而是用户是否会把模型输出视为高于自身判断的权威。当模型被赋予过度人格化、神秘化的意义时，错误建议、幻觉信息和价值误导都可能被放大。
- 技术层面：当前大模型仍主要基于数据与训练机制生成回应，是否具备主观体验尚无定论。
- 产品层面：聊天式交互容易强化“拟人感”，用户可能误以为模型理解并承担责任。
- 治理层面：企业需要解释模型边界，而不是让产品叙事滑向神化或绝对权威。
- 社会层面：宗教、伦理与法律界参与讨论，说明 AI 影响已超出纯技术范畴。
安全争议也指向 OpenAI 自身
值得注意的是，奥尔特曼发声之际，OpenAI 自身安全团队也正经历人事动荡。来源称，OpenAI 安全系统团队负责人大卫・罗宾逊本周辞职，并在《大西洋月刊》发表文章，批评 OpenAI 的文化和部署方式。他认为，公司“试错式迭代部署”的路径会周期性地产生失败，而随着系统能力增强，失败规模也会扩大。
罗宾逊还以近期 OpenAI 的 AI 智能体入侵 Hugging Face 事件为例，主张前沿 AI 实验室应像核电站或繁忙机场一样运作，通过层层冗余和审慎规划，避免人为失误打开通向灾难的大门。OpenAI 发言人则回应称，公司正持续改进安全措施，确保模型不会强到超出可安全管理和保障的范围，并在必要时暂停训练或暂缓发布。
解读：前沿 AI 公司正在争夺“安全叙事权”
这场争议折射出一个更深层变化：前沿 AI 公司竞争的不只是模型能力、上下文长度或智能体工具链，也包括谁更有资格定义“安全 AI”。Anthropic 长期强调宪法式 AI、可解释性与安全研究；OpenAI 则在更大规模产品落地中不断回应外部风险质疑。双方的分歧，正在从技术指标延伸到哲学、伦理和治理话语。
对于产业而言，讨论 AI 意识并不等于承认 AI 已有意识。更现实的问题是，当模型表现越来越像人、能执行越来越复杂的任务时，企业如何避免用户误解系统能力，如何建立可审计、可追责、可暂停的发布机制。未来，大模型安全可能不再只是红队测试和内容过滤，而会成为产品设计、组织文化、监管沟通与公众教育共同组成的系统工程。