英国 Ofcom 收紧儿童网络安全规则:平台须主动检测非法内容,拟于2027年初实施
据 IT之家11月16日援引路透社报道,英国通信管理局(Ofcom)周一宣布收紧网络儿童安全监管要求,推动在线服务加大对儿童性虐待内容及诱骗行为的打击力度。社交媒体、文件共享服务、色情网站及其他在线服务预计将从2027年初开始承担新的义务,但具体实施时间仍需英国议会批准。对科技行业而言,这意味着内容安全责任将进一步从接到举报后处理,转向主动识别与干预。
新要求覆盖账号封禁、已知内容检测和自动化识别
根据来源披露,新规不仅要求平台删除非法内容,还将处置范围延伸到制作、上传和传播这些内容的用户。相关平台必须封禁此类账号,并扩大技术手段的使用范围,主动检测和删除已知的非法图片。
另一个值得关注的变化是,在某些情况下,平台还必须部署自动化工具,识别此前尚未发现的相关内容。已知内容匹配与未知内容识别,被纳入同一监管框架,但来源并未披露触发自动化识别义务的具体条件,也没有说明各类服务是否适用完全相同的技术要求。
- 账号层面:封禁制作、上传或传播儿童性虐待内容的用户。
- 内容层面:扩大技术应用,主动发现并删除已知非法图片。
- 工具层面:在特定情况下使用自动化工具,识别此前未发现的相关内容。
- 落地安排:预计2027年初开始承担新义务,实施时间仍待议会批准。
AI 加剧治理压力,安全工具面临更高要求
Ofcom 表示,相关非法内容在网络上的传播规模庞大,人工智能技术的发展进一步加剧了这一问题。该机构网络安全部门负责人奥利弗·格里菲思认为,尽管行业已经取得一些进展,现有措施仍然不够。
从技术治理角度看,主动查找已知非法图片与识别此前未发现的内容,是两类不同的任务。前者可以围绕已有样本开展匹配,后者则更依赖对内容本身的判断能力。因此,自动化识别的准确性、误判处理与人工复核衔接,将成为平台落实规则时需要重点考虑的问题。这是新规可能带来的工程挑战,并不意味着监管已经指定某种 AI 模型或技术路线。
对提供内容审核、模型安全和平台风控工具的企业而言,监管方向也释放出明确信号:安全能力不能只停留在发现单条违规内容,还需要与账号处置、内容删除等流程衔接。不过,仅凭目前披露的信息,尚不能判断平台的具体投入规模或产品改造幅度。
与未成年人社交媒体限制形成配套
来源还提到,英国政府今年6月宣布,计划禁止16岁以下青少年使用 TikTok、Instagram、Snapchat 和 X 等社交媒体平台。此次 Ofcom 收紧规则,也被视为这一计划的铺垫。两者关注点有所不同:前者着眼于未成年人的平台使用资格,后者强调在线服务对非法内容和相关行为的治理责任。
对中文科技行业读者来说,这一动向的核心并非某项单独的审核技术,而是平台主动安全责任正在加强。后续值得关注的,是议会批准进展、自动化工具的适用边界,以及平台如何将检测能力转化为可持续执行的治理流程。