互联网技术 / 互联网资讯 · 2023年11月19日 0

研究显示,要求研究员避开敏感话题

研究显示,要求研究员避开敏感话题
查看最新行情
研究显示,要求研究员避开敏感话题

相关新闻:

谷歌突然解雇知名AI研究员:因其在内部电邮中吐槽谷歌政策

谷歌CEO皮查伊就AI研究员离职一事向员工道歉

近期,谷歌一名研究者因警示人工智能潜在偏见而被迫离开公司,导致谷歌受到广泛批评。同时,其他从事类似工作的员工被要求在研究结论中“保持正面调调”,并且关于“敏感话题”的研究需经过额外审核。

谷歌的研究人员和内部文件显示,过去一年里,该公司实施了新控制措施,包括对某些主题的论文进行额外审核,以及在研究后期阶段增加管理层的干预。

谷歌人工智能研究员蒂姆尼特·格布鲁(TiMnIT GebRu)博士就是这一变化的受害者。她与管理层在团队工作的方向上产生分歧,最终可能被迫离职。

谷歌内部页面列出了多个被视为“敏感”的话题,包括:石油行业、伊朗、以色列、新冠病毒、家庭安全、保险、位置数据、宗教、自动驾驶汽车、电信行业,以及内容个性化的推荐系统。

业内人士指出,这些话题确实存在敏感性,但考虑到伦理委员会、同行评审和其他常规研究审核机制的存在,对研究人员进行限制似乎显得多余。一名谷歌研究员在接受媒体采访时表示,公司这种自上而下的干预可能迅速演变为“严重的内容审查问题”。

此外,目前许多重要研究都是在公司的支持下进行的,但这些公司可能存在利益冲突,不应干预研究。大型私营研究机构与有组织的科研活动几乎同龄,但像Facebook、谷歌、苹果和微软这样的公司正在对人工智能等领域施加重大影响,可能会避免对这些技术的批评,同时故意夸大其好处。