OpenAI 推出 ChatGPT 青少年版,儿童安全专家要求公开年龄识别与审核机制数据
据 IT之家 8 月 23 日消息,OpenAI 本周推出面向年轻用户的 ChatGPT 青少年版,试图通过年龄识别机制对部分功能进行限制,并配套家长通知、内容审核等安全措施。不过,外媒 Engadget 采访的多名儿童安全专家对这套方案评价并不一致:有人认为 OpenAI 至少在方向上做出了重要承诺,也有人指出其缺少可验证的问责机制。专家们的共同观点是,在向家庭和青少年大规模推荐之前,ChatGPT 青少年版需要接受更多独立测试,OpenAI 也必须更清楚地说明安全系统如何运行。
核心争议:承诺不少,但外部无法验证
来源显示,Common Sense Media 的 AI 与数字评估负责人罗比·托尼认为,OpenAI 这次提出了一些重要承诺,但关键在于必须拿出证据,证明这些安全功能确实有效。儿童网络安全倡议组织 Fairplay 执行董事乔什·戈林则更为谨慎,他认为从公开信息看,部分措施似乎是在朝正确方向推进,但进一步追问后仍存在大量疑点,尤其是缺少问责机制。
专家担忧的背景在于,AI 聊天产品并不是静态工具。模型能力、提示词策略、用户行为都会不断变化,儿童和青少年又是高风险使用群体。即便平台设置了针对自杀、暴力、吸毒等内容的限制,也可能出现执行不稳定、长期效果衰减或被用户规避的情况。因此,外界关注的并不只是 OpenAI 是否“声明要保护青少年”,而是这些保护是否能在真实场景中持续生效。
年龄识别与人工审核成为焦点
ChatGPT 青少年版的关键前提,是系统能够识别年轻用户,并将其切换到相应版本。托尼质疑,OpenAI 目前并未公布年龄识别系统的效果数据,包括误报率和漏报率。换言之,外部无法判断它能识别多少真实青少年,也无法判断多少成年人可能被错误归类。她还指出,青少年很可能会尝试绕过年龄识别,并采用平台难以预料的方式规避限制。
另一个备受关注的机制,是被标记内容的审核与家长通知。OpenAI 青少年与家庭事务负责人劳伦·乔纳斯曾表示,所有被标记内容都会先由 OpenAI 全职员工审核,再通知家长,目标是在用户发出提示后一小时内完成通知;她还称 OpenAI 拥有足够人手和处理能力。对此,专家并未完全认可。托尼指出,这套流程前端仍依赖自动分类器,问题在于该分类器是否足够可信。戈林则希望看到更多“硬数据”,例如每天被标记和审核的对话数量、审核人员规模以及平均审核耗时。
- 年龄识别透明度不足:外界尚不清楚系统的准确率、误报率和漏报率。
- 自动分类器可靠性待验证:哪些内容会被送交人工审核,首先取决于自动系统判断。
- 人工审核能力存疑:专家希望 OpenAI 公开审核量、人力配置和处理时长等信息。
- 家长绑定机制可能降低覆盖率:若需要主动设置,很多家庭可能不会真正启用。
影响与解读:AI 产品进入“未成年人默认保护”阶段
从产业角度看,ChatGPT 青少年版反映出生成式 AI 正从通用效率工具,进入更细分的人群治理阶段。对于面向家庭、教育和消费场景的 AI 产品而言,安全机制将不再只是合规附加项,而会成为产品可信度的一部分。尤其当 AI 能持续对话、提供建议甚至影响情绪时,未成年人保护的要求会明显高于普通软件。
但专家意见也揭示了一个核心矛盾:AI 平台不能只依赖企业自我声明来建立信任。如果年龄识别、内容标记、人工审核、家长通知等环节都缺乏外部可验证数据,那么家长、学校和监管机构很难评估其真实风险。相比“用户或家长自行开启监督工具”,戈林更倾向于默认启用更严格的保护设置,例如默认限制使用时间,再由家长决定是否调整。
这对整个 AI 行业都有参考意义。未来,面向青少年的 AI 服务可能需要把保护机制前置到产品设计中,而不是在争议发生后再补丁式增加功能。OpenAI 此次推出青少年版,是生成式 AI 平台向家庭场景扩展的重要一步;但要获得更广泛信任,还需要用独立测试、透明指标和可审计流程证明,相关安全承诺并非停留在纸面上。