写点什么

谷歌 AI 老大 Jeff Dean 惹争议,只因开除黑人高管研究员?

  • 2020-12-04
  • 本文字数:4017 字

    阅读完需:约 13 分钟

谷歌AI老大Jeff Dean惹争议,只因开除黑人高管研究员?

北京时间 12 月 4 日,谷歌“伦理人工智能团队”(Ethical AI Team)的技术联合负责人 Timnit Gebru 在个人推特上发布消息称:自己突然遭到公司的“邮件解雇”,原因似乎与她批评谷歌的政策相关。

因批评公司政策,谷歌开除 AI 伦理团队高管


Timnit Gebru 是谷歌顶尖的人工智能研究人员,致力于解决人工智能算法目前存在的偏见等问题,同时还从事数据挖掘领域的工作。她是著名的技术多样性倡导者,并联合创立了一个名为“Black in AI”的黑人研究人员社区。一直以来,她都在直言不讳地对科技公司对待黑人员工的方式提出批评。


本周三,Timnit Gebru 发布了这样一条推文,表示自己突然被谷歌人工智能负责人 Jeff Dean 开除,个人公司账户也已经被公司切断:



之后 Timnit Gebru 说,她收到了一封署名为 Megan 的解雇邮件,而这位“Megan”正是 Google Research 的工程副总裁 Megan Kacholia。据悉,Megan Kacholia 直接向 Jeff Dean 汇报工作。


Timnit Gebru 表示,这封邮件中所称的领导层对她的离职进行了“快车道”处理,原因是在本周早些时候,她向谷歌深度学习人工智能研究团队“谷歌大脑”(Google Brain)的女性成员和“盟友”发送了一封电子邮件。


经过查找,InfoQ 于 Platformer 网站发现了这封电子邮件的全文内容,并作简要翻译如下:


如你所知,我已不再在这里写东西了。在我把我的故事发布在这里之后,我收到了各种明里暗里的攻击和骚扰(现在这些攻击和骚扰已经有所缓和)。


然而最近,我在为 Katherine and Daphne 撰文时,令他们感到失望的是:在经过这些谈话之后,这个组织今年似乎雇用了 14%左右的女性。据我所知,Samy 雇佣了 39% 的女性员工,但事实上他并没有意愿主动去做这件事。


我想说的是,我之所以停止撰文,是因为我觉得写这些没什么意义,也改变不了什么。我不知道 DEI OKRs 从何而来(也从来没有达标过),人们窃窃私语进行讨论,“我们需要更多指导”而不是“需要更多阻碍我们前进的绊脚石”,持续的斗争和被说教都是你要付出的代价,以上种种他们并不在意。因为没有人会出来问责。雇佣 39% 的女性对他们来说没什么好处:当你开始为这些弱势群体辩护时,你讨不到什么好处;你让领导感到厌烦时,他们在你的绩效考核上也不会给出好评。更多的文档或更多的谈话不可能达到任何效果。我们刚有一项黑人研究,所有人都表现出来了愤怒的情绪,但你知道愤怒之后,接下来发生了什么吗?大家都保持了沉默。


你听说过有人通过特权人物和给 HR 的机密文件中得到了论文的“反馈”吗?你觉得这是正常流程吗?还是这种情况只发生在了像我这样的遭受了非人性化待遇的人身上?


试想一下:你将一份论文发给了 30 多人,希望得到反馈,你在等待 PR & Policy 能给你反馈,这些人在你写文章之前已经告知了他们“我们正在考虑做这件事”,但是除了 PR & Policy 要求你更新外,(两个月以来)没有得到他们的任何反馈。一星期前,你开始休假,你看到了日程上有个突然出现的 4:30pm PST 的会议日程(该日程是是 2 点左右才通知你)。没人提前告知你会议内容是什么。随后,在那个会议上,你的主管经理告诉你“该问题已经决定下来了”,你需要下周(11 月 27 日)前撤回你的论文,这周几乎所有人都在外面休假(需要撤回论文的日期也没有经过任何会议流程商讨)。你甚至都不值得他们找你谈一次话,因为根本没人尊重你。


然后,你不明所以,便想询问出更多的信息。有哪些具体的反馈?为什么是现在撤回?为什么不是之前呢?你能和任何人交流吗?你能明白到底发生了什么?要做些什么能改变这一状况呢?


一段时间后,有人告知你,你的经理会给你阅读一份保密文件,你甚至都不知道这份文件是谁写的,不知道谁写了这个反馈,遵照了哪些流程,这些问题你一概不知。你写了一份详细的文件想弄清楚这些问题,但是这份文件被完全忽视掉了。你再一次被命令撤回论文,也没有说明任何缘由。


然后你尝试和他们交流,告诉他们你无法接受撤回论文这一命令,然而,他们却开始做着相反的事情,他们想找到替罪羊。像这样压制边缘化的声音是与我们讨论过的 NAUWU 原则相悖的。我们一直都在倡导“构建负责人的 AI”,在这样的背景下做这些事,犹如在伤口上撒盐,起不到好的效果。我认为,在谷歌,唯一有意义的就是等级(制度)。我看到我的专业知识被忽视和。但现在,有另一层意思是,任何有特权的人都可以决定他们不希望你的论文在没有沟通的情况下发表。因此,你被挡在了研究社区的门外——你所做的工作还面临着其他的边缘化问题。


我一直很好奇,为什么这些人能在做了这些事后,还回过头来追问我的 DEI 或工作之类的问题。这件事是去年发生在我身上的,我那时正陷入一起与谷歌的诉讼案件中,那起案件中,我和 Kat Herller 雇佣了女权主义律师威胁要起诉谷歌。


所以,如果你想要改变一些事情,我建议你关注领导职责,并考虑如何从外部向他们施加压力。例如,我知道 Congressional Black Caucus 这个组织就在关注科技公司雇佣员工多样性的问题。写再多的文件,一遍遍反复诉说你的问题只会让你筋疲力尽,没人有会听。


“把保护打在公屏上!”科学家发起声援 Gebru 活动


Timnit Gebru 的经历在社交平台引发了热烈讨论,推特上有不少科学家纷纷转发相关新闻并表态支持她。其中包括一个由谷歌现任及前员工联合创立的“Google Walkout For Real Change”组织,他们已经在博客上发起了签名运动,以示对 Timnit Gebru 的支持:



不仅如此,该组织还向谷歌高层提出了以下要求:


  1. 要求 Jeff Dean、Megan Kacholia 以及参与审查 Gebru 博士论文决定的人员与道德的 AI 团队解释领导层单方面拒绝论文的原因及过程。

  2. 对于 Google 领导层命令 Gebru 博士及其同事撤回对大规模语言模型的研究的决定,需要向包括 Google 用户和学术界同事在内的广大公众透明。这已经成为公众关注的问题,并且需要有公众责任来确保对 Google Research 的信任。

  3. 要求 Google Research 对研究的完整性和学术自由做出明确的承诺,大力加强 Google Research Philosophy 中的承诺,并承诺通过提供明确的指导方针来审查 Google 的 AI 原则,以支持进一步研究的研究。如何尊重研究的完整性。


目前这一活动已经获得了了 236 位谷歌员工以及 204 位行业学术专家、普通民众的签名支持,完整名单见:


https://googlewalkout.medium.com/standing-with-dr-timnit-gebru-isupporttimnit-believeblackwomen-6dadc300d382


值得一提的是,从 2018 年至今,这个组织已经在谷歌内部进行过多次大规模的抗议活动,并取得过很多场胜利,包括迫使谷歌放弃中国特供版搜索引擎,即“Dragonfly 计划”;对 安卓之父性骚扰事件 处理结果不满,而举行的大罢工等等。


另外,就在本周三,美国国家劳资关系委员会(National Labor Relations Board)对谷歌提出指控称,称谷歌对其员工进行监视,阻止员工分享工作上的不满,并对其进行报复。此事也同样引起了该组织的关注。

Jeff Dean 回应:起因并非歧视,她的论文未达标


随着事件的发酵,作为另一当事人的 Jeff Dean 也选择了正面回应,向谷歌内部发出了一封邮件,内容如下:


我相信你们很多人已经知道 Timnit Gebru 不再在谷歌工作了。发生这种事让大家十分困扰,尤其是 Gebru 参与了这样一个重要的研究课题,任何一个组织或公司,都在深刻地关注着负责人的人工智能的研究。


由于社交媒体上有很多猜测和误解,所以我想分享下这件事发生的背景和经过,并向你保证,我们会在这里支持你继续你所从事的研究。


Timnit 与四名谷歌同事以及一些需要通过我们审查的外部合作者共同撰写了一篇论文(就像所有外部提交的论文一样)。我们已经审批通过了几十篇 Timnit 和 / 或其他 Google 人撰写并发表的论文,但正如你所知,论文通常需要在内部审查过程中进行修改(或者甚至被认为不适合提交便会被否决)。不幸的是,这篇特别的论文只在截止日期前一天才被分享出来——实际上我们通常需要两周的时间进行审查——然后这篇论文没有等待审稿人的反馈,而是被批准提交后进行了提交。


随后,一个跨职能团队对这篇论文进行了审查,这是我们常规流程的一个环节。作者被告知,这篇论文没有达到我们规定的发表的标准,并得到了关于原因的反馈。论文中忽略了太多相关的研究——例如,它谈论了大型模型对环境的影响,但却忽视了之后的研究显示出了模型能产生更高效率的研究。同样,它也提出了对语言模型偏见的担忧,但没有提到最近的一些研究正在试图缓解这些问题。我们承认,作者对 Megan 和我最终做出的决定非常失望,尤其是在他们已经提交论文的情况下。


Timnit 回复了一封电子邮件,要求我们要满足她的一些条件,她才能继续在谷歌工作,包括披露我和 Megan 在论文审查和寻求反馈过程中接触和咨询过的每个人的身份。Timnit 写道,如果我们没有满足这些要求,她就会在一个截止日期前离开谷歌。我们接受并尊重她从谷歌辞职的决定。


Timnit 是我们 Ethical AI 团队中是一位受人尊敬的研究员和管理者,Timnit 对我们正在做的工作产生了这样的看法,让我感到很遗憾。本周你们上百人收到了 Timnit 的邮件,她告知你们停止关键的 DEI 项目,这也让我感到很沮丧。请不要这么做。我理解人们对项目的进展感到失望,但是前面我们还有更重要的工作要做,我们需要继续努力。


我知道我们都像 Timnit 一样,对让 AI 更加公平和包容这件事怀有激情和憧憬。毫无疑问,无论她在谷歌之后去到哪里,她都会做出伟大的工作,我期待着阅读她的论文,期待看到她所取得的成就。


目前,Timnit Gebru 已在推特上表示正在寻找专业律师处理相关事宜,截至目前,谷歌现任 CEO Sundar Pichai 暂未对此事表态,事态将如何发展,InfoQ 也将保持持续关注。


参考链接


https://www.platformer.news/p/the-withering-email-that-got-an-ethical


https://onezero.medium.com/noted-a-i-ethicist-timnit-gebru-leaves-google-following-tense-email-exchange-f602cdb7fe89


https://googlewalkout.medium.com/standing-with-dr-timnit-gebru-isupporttimnit-believeblackwomen-6dadc300d382

2020-12-04 14:052388

评论

发布
暂无评论
发现更多内容

大型集团公司如何打破“信息孤岛”问题?

优秀

打破信息孤岛 消除信息孤岛 信息孤岛

值得收藏!堪称神器的30个插件

Finovy Cloud

插件 渲染 建模 maya 3d建模

甭提ChatGPT了,这个新的AI助手将永远改变人们的工作方式

互联网工科生

人工智能 AI 机器人

巧用Maya轴心操作小技巧,工作事半功倍!

3DCAT实时渲染

maya制作技巧 3D软件教程

面部表情识别技术的挑战与解决方案

来自四九城儿

【我和openGauss的故事】一文帮你理解openGauss的高可用方案

daydayup

PP-ChatOCR:基于文心大模型的通用图像关键信息抽取利器,开发提效 50%!

飞桨PaddlePaddle

人工智能 百度飞桨

Dragonfly 发布 v2.1.0 版本!

SOFAStack

AI 算法 后端 基础设施 分发

中国信通院高质量数字化转型产品及服务全景图发布,合合信息多项AI产品入选

合合技术团队

人工智能 数字化转型

UE虚幻引擎游戏开发:游戏鼠标双击判定方法!

3DCAT实时渲染

UE虚幻引擎 UE教程 3D游戏制作教程

AIGC 浪潮下,鹅厂新一代前端人的真实工作感受

CODING DevOps

以商业大数据技术助力数据合规流通体系建立,合合信息参编《数据经纪从业人员评价规范

合合技术团队

人工智能 大数据 商业化

【华秋干货铺】电源PCB设计汇总

华秋电子

14个前端开发者应该知道的实用网站

高端章鱼哥

前端 提高效率 前端开发工具

实现分布式事务:Java与MySQL的XA事务协调

树上有只程序猿

Java MySQL 数据库 分布式 XA

面部表情识别技术在安全领域的应用

来自四九城儿

通义千问开源模型部署使用

WizInfo

通义千问

IoTDB 小白“踩坑”心得:入门安装部署篇

Apache IoTDB

腾讯云大数据ES:结合AI大模型与向量检索的新一代云端检索分析引擎

腾讯云大数据

ES

可视化数据分析工具是什么?可以用来做什么?

巷子

【我和openGauss的故事】在Kylin桌面版操作系统中配置openGauss的ODBC数据源

daydayup

KeyShot 2023.2 Pro for mac(3D渲染和动画制作软件) v12.1.1.12激活版

mac

苹果mac Windows软件 KeyShot Pro 动画软件

面部表情识别在医疗领域的应用

来自四九城儿

从推动到拉动:研发效能提升的第一性原理

CODING DevOps

ARTS 打卡第 1 周 鸿蒙入门开发教程:一文带你详解工具箱元服务的开发流程

坚果

ARTS 打卡计划 HarmonyOS OpenHarmony 元服务 ArkTS

【我和openGauss的故事】Navicat连接openGauss_5.0.0 企业版数据库

daydayup

【我和openGauss的故事】openGauss5.0特性:CM支持VIP仲裁特性

daydayup

【我和openGauss的故事】原生openGauss与Oracle数据库函数兼容性对比验证测试

daydayup

【我和openGauss的故事】openGauss 主备架构及同步复制模式理论学习与验证测试

daydayup

谷歌AI老大Jeff Dean惹争议,只因开除黑人高管研究员?_文化 & 方法_陈思_InfoQ精选文章