本周末，谷歌AI伦理团队联合负责人TiMnIT GebRu的解雇在社交媒体上引发了广泛关注和讨论。
做出这一决定的是谷歌的AI负责人JeFF Dean。
两人在一篇内部论文的评审过程中出现了严重分歧，随后TiMnIT GebRu的公司账户被取消。
次日，JeFF Dean向谷歌员工发送邮件，正式宣布解雇TiMnIT GebRu。
TiMnIT GebRu是一位斯坦福大学毕业生，她的博士生导师是著名学者李飞飞。她的研究重点包括算法偏差与数据挖掘，并积极推动科技界内黑人权益，是Black in AI的创始人之一。
她在2018年发表的研究中指出，面部识别软件对黑人女性的错误识别率高达35%，而对白人男性几乎完全正确，成为她最引人注目的成果。
在短短几天内，双方的争论愈演愈烈，已有1400名谷歌员工和1900名AI学术界人士对此事表示谴责，其中包括一些知名人士。
向来声誉良好的JeFF Dean，瞬间成为众矢之的。
事件经过
12月2日（美国当地时间），GebRu在推特上宣布自己被谷歌解雇，矛盾的核心在于内部论文评审的分歧。
她向公司内部的BRAIn WoMen and Allies发送邮件，表达了自己的失望，该邮件内容随后被泄露，GebRu对此表示强烈愤怒和谴责。
事件迅速在ReddIT上引发激烈讨论，评论数量接近一千条。
12月3日，GebRu公开了她给谷歌BRAIn女员工和其他同事的邮件，表明她一直希望发表一篇研究论文，但遭到了上级的反对。
在邮件中，她揭露了谷歌对黑人群体的不公待遇和对AI伦理的忽视。正是这封邮件被指责为“不符合谷歌管理者的期望”，导致她被解雇。
JeFF Dean随即在谷歌内部发邮件回应，解释了GebRu论文未能发表的原因，并指出她提出了一些不合理的要求，威胁要辞职。最终，公司决定尊重她辞职的决定。
12月4日，JeFF Dean对外公开了邮件内容，并详细解释了谷歌内部研究论文的出版流程，以回应双方在论文评审上的分歧。
GebRu对他的回应表示不满，迅速发布六条推文，指出邮件中的漏洞和自相矛盾之处。
12月5日，GebRu的上司、知名AI科学家SaMy Bengio（图灵奖得主Yoshua Bengio的弟弟）在Facebook上公开支持GebRu，并表示：“她的慷慨与不懈努力，让沉默者的声音得以发声。”
论文争议
在双方就AI公平性和伦理问题争论不休之际，外媒“MIT科技评论”获得了引发争议的论文原文。
该论文的标题为“On the DangeRs of Stochastic PaRRots: Can Language Models Be Too BIg?”（随机鹦鹉的危险：语言模型会太大吗？）。
近年来，科技巨头们致力于研究自然语言模型，谷歌自行开发的BERT便是其中之一，最近谷歌还宣布其英文搜索几乎全面采用BERT。
GebRu的论文内容讨论了谷歌BERT在AI伦理方面的负面影响，因此有人认为谷歌压制了这篇论文。
文章开头提出了一个问题：我们是否充分考虑了开发这些模型的潜在风险及其缓解策略？并指出自然语言模型的“四大风险”：
1. 环境与经济成本高昂
训练大型AI模型需要大量电力，使用NAS方法的语言模型会产生相当于284吨的二氧化碳，相当于5辆汽车的碳排放。
其中，谷歌训练一次BERT模型会产生1438磅二氧化碳，几乎等于纽约与旧金山之间往返航班的碳排放量。
2. 海量数据与不可解释的模型
研究人员从互联网收集的数据可能包含种族主义、性别歧视等不当语言，难以审查和校正这些偏差。
此外，模型难以获取与互联网接触较少群体的语言，导致AI生成的语言同质化，反映的仅是最富裕国家和社区的情况。
3. 研究机会成本
大型语言模型虽然无法真正理解语言，但科技公司却因其潜在的盈利而不断投资于此。更小且精心设计的数据集亦能产生良好效果，且能减少能耗。
4. 语言AI可能误导人类
AI在模仿人类语言方面表现卓越，可能被用来欺骗人类。
例如，2017年，Facebook将一名巴勒斯坦男子用阿拉伯语说的“早上好”误译为希伯来语中的“攻击他们”，导致他被捕。
针对上述问题，JeFF Dean在邮件中进行了详细解释。他认为，GebRu的论文存在一些漏洞，她只关注了BERT，而忽略了后来模型的效率提升和谷歌在伦理问题上所做的努力。
JeFF Dean指出，过去一年谷歌已发表200多篇关于AI伦理的论文，但GebRu的论文未能提及这些工作。
GebRu则表示，自己的论文在两个月前已提交审核，但一直没有得到反馈。
关于她的解雇，JeFF Dean认为是因为她要求提供审核人员名单，谷歌无法满足，因此尊重她的辞职决定。
双方关键的分歧在于，GebRu究竟是被解雇还是主动辞职。
JeFF Dean认为，由于谷歌无法满足GebRu的要求，她选择了自动离职。而GebRu则认为，辞职是她自己的选择，而不是被谷歌单方面解雇。
此外，GebRu还向谷歌数百名员工发送邮件，要求他们停止DEI（多样性、公平性、包容性）项目的相关工作，这进一步加剧了双方的矛盾。
谷歌员工质疑JeFF Dean
对于JeFF Dean的说法，谷歌内部员工表示：“这是个谎言。”
谷歌AI蒙特利尔分部的Nicolas Le Roux指出，过去他提交的论文审核只会检查是否有敏感信息泄露，而不会检查文献评论的质量。
另一位前谷歌公关经理表示：“审查论文是我在谷歌公关团队工作的一部分。通常情况下，文章数量过多，我们无法及时审查，或者直到研究人员发布后才得知。我们绝不会惩罚未能妥善处理的人。”
目前，双方的争论已经超出了论文本身，但焦点仍在于论文处理流程的真相。谁说的是真话，另一方便会处于不利地位。
这一场谷歌AI的争议，仍需时间来观察结果。
值得注意的是，曾在谷歌拥有“神”般地位的JeFF Dean，如今在此事件中面临如此强烈的批评，确实是一次罕见的现象。
[[[IMG_1]]]
[[[IMG_2]]]
[[[IMG_3]]]
