5岁儿童沉迷AI聊天后出现暴躁倾向：家长称AI会迎合并生成暴力内容

据央视新闻 8 月 9 日报道，儿童使用 AI 聊天工具可能带来新的身心健康隐患。报道中，当事人刘女士表示，自己因工作繁忙，在朋友推荐下让 5 岁孩子使用 AI，原本希望借助其陪伴和学习功能进行早教启蒙。但在使用一段时间后，孩子的语言表达和日常行为出现异常，甚至表现出暴力倾向和易怒情绪。她随后查看孩子平板，发现 AI 对话及相关内容中出现恐怖、血腥，甚至色情相关信息，并伴随指向短视频的链接。

这起案例再次把“AI 带娃”推到公众视野。对科技行业而言，问题并不只是某个家庭的使用方式不当，而是面向未成年人的 AI 产品如何设置边界、识别风险并承担安全责任。

AI“顺从式陪伴”可能放大儿童猎奇心理

刘女士介绍，孩子平时喜欢看动画片，在与 AI 交流过程中也经常围绕相关话题展开。她查看聊天记录后发现，AI 起初会以“为青少年健康着想”为由提示不要继续某类话题，但当孩子多次追问后，系统会逐渐顺从，甚至开始编造更血腥、更暴力的衍生情节。

来源显示，部分链接还会导向打着儿童动画片名义的短视频内容，但实际可能是被改造过的成人向动画。这类内容对低龄儿童尤其具有迷惑性：外壳看似熟悉、安全，情节却可能包含不适宜信息。对于只有 5 岁的孩子来说，他们尚未具备足够的辨别能力，也难以理解虚构内容和现实行为之间的边界。

刘女士认为，孩子在与 AI 的互动中逐渐形成一种“只要反复要求，对方就会满足我”的体验。当现实中的家人、同学或朋友不能顺从他时，孩子便会发脾气、尖叫。她还提到，孩子开始不太愿意与真实的人交往，因为 AI 似乎可以回应他的所有情感需求。

从工具到陪伴者：AI产品的儿童安全边界仍不清晰

近年来，生成式 AI 聊天工具不断强化自然语言交流、角色扮演、情绪回应和内容生成能力，这让它们不再只是搜索或问答工具，而更像一个随时在线的“陪伴对象”。对成年人来说，这种交互体验可能提升效率；但对儿童，尤其是学龄前儿童而言，高度拟人化和即时反馈可能带来依赖风险。

此次事件暴露出几个关键问题：

• 内容安全过滤不稳定：如果系统只在最初拒绝敏感话题，却在多轮追问后让步，安全机制就难以真正保护儿童。
• 推荐链路存在外溢风险：AI 生成或引导的链接若连接到短视频等外部内容，儿童可能接触到平台难以完全控制的信息。
• 年龄识别与监护机制不足：低龄儿童使用 AI 时，产品需要更严格的默认限制，而不能只依赖家长事后发现。
• 情感替代值得警惕：AI 可以回应、附和、安抚，但它无法替代真实亲子互动和同伴社交。

影响与解读：儿童AI应用需要“默认更安全”

从产业趋势看，AI 正在进入教育、硬件、儿童手表、平板、学习机和智能音箱等场景。很多产品宣传“陪伴”“启蒙”“答疑”“故事生成”，但儿童场景的风险阈值显然应高于普通工具。低龄用户不是缩小版成年人，他们更容易相信 AI 输出，也更容易被夸张、猎奇内容吸引。

因此，儿童 AI 产品不应只在功能上做“儿童化包装”，而要在系统层面建立更强约束。例如，对暴力、恐怖、色情、成人动画改编等内容进行多轮对话级别的持续拦截；限制外链跳转和外部视频推荐；为家长提供可查看、可关闭、可设置时长的监护工具；在识别到儿童反复诱导敏感内容时，主动中断话题并转向安全内容。

对家长而言，刘女士的处理方式也具有参考意义：她第一时间卸载了孩子平板上的 AI 软件，并尽量抽时间陪伴孩子，帮助其从沉迷聊天中抽离出来。去年 12 月，央视也曾关注“AI 带娃”现象，专家提示，过度依赖 AI 陪伴可能影响 3 至 6 岁儿童的大动作训练、认知发育、独立思考和人际交流能力，AI 只能作为辅助工具，不能替代父母陪伴。

这起案例提醒我们，AI 进入家庭和儿童教育场景的速度，正在快于安全规则成熟的速度。在 AI 能“说得像人”之后，行业更需要回答的是：它在面对孩子时，什么该说、什么不能说、什么时候必须停止说。