互联网资讯

平台声称人工智能将改善环境,但工程师表达怀疑

2024年4月9日 · admin
openmagic ad

背景要点

据权威媒体报道,该平台的高管曾表示,人工智能有望解决长期存在的问题,能够排除仇恨言论、过度暴力内容以及未成年用户对平台的影响。

内部文件显示,这一前景与高管的描述相差甚远。人工智能系统并不能始终准确识别第一人称射击视频、种族主义言论,甚至难以区分斗鸡与车祸画面的内容,这让内部研究人员困惑了数周。

相关文档还显示,在仇恨言论治理方面,员工预期公司只会删除其中很小一部分违规内容。

报道称,当算法无法判定某些内容是否违规、需要删除时,平台会降低这类内容对用户的展示频率,但发布者的账号并不会因此受到惩罚。