背景要点
据权威媒体报道,该平台的高管曾表示,人工智能有望解决长期存在的问题,能够排除仇恨言论、过度暴力内容以及未成年用户对平台的影响。
内部文件显示,这一前景与高管的描述相差甚远。人工智能系统并不能始终准确识别第一人称射击视频、种族主义言论,甚至难以区分斗鸡与车祸画面的内容,这让内部研究人员困惑了数周。
相关文档还显示,在仇恨言论治理方面,员工预期公司只会删除其中很小一部分违规内容。
报道称,当算法无法判定某些内容是否违规、需要删除时,平台会降低这类内容对用户的展示频率,但发布者的账号并不会因此受到惩罚。