人工智能

小红书披露未成年人内容治理进展:处置违规笔记超12.8万篇,称将升级算法识别

2026年9月25日 · admin
OpenMagic API

据IT之家9月24日消息,小红书官方账号“薯管家”发布《关于不良亚文化等涉未成年人问题治理公告》,披露平台在“清朗·未成年人网络保护”专项行动中的阶段性治理结果。来源显示,自专项行动启动以来,截至9月24日,小红书已累计处置违规笔记12.8万余篇、违规评论15.2万余条,并处理违规账号6252个。此次治理重点指向不良亚文化传播、低俗骚扰未成年人、恶意营销不良价值观等内容形态。

从公告内容看,小红书此次并非单纯清理单条违规内容,而是将治理范围延伸到关键词排查、账号团伙识别、推荐机制规范和算法模型升级等环节。这也意味着,面向未成年人的平台治理正在从“事后删除”转向“事前识别、过程干预、事后追责”的组合模式。

治理重点:不良亚文化、厌学营销与低俗黑话

小红书在公告中提到,本阶段平台将传播、展示各类可能影响未成年人身心健康的不良亚文化纳入风险排查视野,并通过前置拦截和严厉打击降低扩散风险。对于在涉未成年人笔记下发布低俗、骚扰评论的账号与团伙,平台表示会进行挖掘追查,核实后即刻封禁。

来源列举了数类典型处置场景:其一,有账号将可能诱导未成年人参与的不良亚文化行为包装为个性表达或跟风话题,平台已对相关账号作禁言处理,并下架相关有害笔记;其二,部分账号在开学季炒作厌学话题,平台认为相关内容可能对未成年人身心健康造成不良影响,已采取禁言和下架措施;其三,针对通过黑话暗语、低俗化家庭称谓等方式骚扰未成年人的内容,平台已封禁涉事账号,并查删相关笔记和歪楼评论。

  • 处置对象:违规笔记、违规评论、违规账号及相关传播链条。
  • 治理方式:重点词摸排、前置拦截、账号封禁、禁言、限制互动、下架内容。
  • 重点风险:不良价值观扩散、低俗骚扰、恶意引流牟利、诱导未成年人模仿。
  • 后续方向:规范推荐机制,升级算法识别模型与产品干预策略。

平台治理正在更多依赖算法识别与产品干预

对中文互联网平台而言,未成年人保护已经不只是内容审核部门的单点任务,而是推荐系统、搜索分发、互动评论、账号风控共同参与的系统工程。小红书在公告中提到将持续规范推荐机制,并不断升级算法识别模型与产品干预策略,这一表述值得关注。

在内容社区中,很多违规内容并不以直白词汇出现,而是会借助谐音、缩写、暗语、表情、话题包装等方式规避审核。尤其是与未成年人相关的低俗化互动和不良亚文化传播,往往具有高隐蔽性和快速变体特征。仅依赖人工审核难以及时覆盖,因此平台需要通过多模态内容识别、异常互动检测、账号关系挖掘等技术手段,提高对图片、文本、评论语境以及传播团伙的识别能力。

不过,算法治理也面临边界问题。一方面,平台需要尽可能降低有害内容对未成年人的触达;另一方面,也要避免对正常表达、校园情绪讨论、家庭关系分享等内容产生过度误判。因此,推荐机制干预、关键词库更新、人工复核和申诉通道之间的平衡,将直接影响治理效果和用户体验。

影响解读:内容社区的合规压力将持续上升

此次小红书披露的处置规模,反映出以UGC为核心的内容社区在未成年人保护方面面临更高治理要求。对平台而言,未成年人相关内容不再只是“敏感内容”管理,而是涉及公共责任、监管响应、品牌安全和社区生态的综合议题。

从产业角度看,未来类似平台可能会进一步加大在AI审核、风控模型、评论治理和推荐安全上的投入。特别是在图文、短视频、直播、私信等多场景融合的社区产品中,单一内容识别能力已不足够,平台需要构建覆盖发布、分发、互动、转化的全链路安全体系。

小红书表示,对任何侵害未成年人合法权益的行为坚持“零容忍”。对于中文科技行业观察者来说,这类治理公告也释放出一个信号:算法推荐平台的竞争,不仅在于提升内容匹配效率,也在于能否证明自身具备可靠的安全治理能力。随着专项行动持续推进,未成年人保护相关的技术升级和产品规则调整,预计仍将成为内容平台的重要议题。