写点什么

一年前被解雇的谷歌 AI 伦理专家宣布成立研究所,专注防范 AI 伤害,对抗科技公司“作恶”

  • 2021-12-03
  • 本文字数:2980 字

    阅读完需:约 10 分钟

一年前被解雇的谷歌AI伦理专家宣布成立研究所,专注防范AI伤害,对抗科技公司“作恶”

原谷歌 AI 伦理专家 Timnit Gebru 表示,其所成立的 AI 研究所 DAIR 致力于成为一家提供不同观点、并防止人工智能伤害的独立机构。

原谷歌 AI 伦理专家宣布成立人工智能研究所


一年前被谷歌解雇的顶级 AI 伦理专家 Timnit Gebru ,近日宣布成立人工智能研究所。


Timnit Gebru 曾是谷歌“伦理人工智能团队”(Ethical AI Team)的技术联合负责人 ,致力于解决人工智能算法存在的偏见等问题,同时还从事数据挖掘领域的工作。


去年 12 月 4 日,Timnit Gebru 在其个人推特上发布消息称:自己突然遭到公司的“邮件解雇”,原因似乎与她批评谷歌的政策相关。起因是,Timnit Gebru 所撰写的一篇关于批评大型人工智能模型危害的论文(包括谷歌开发的模型)引发争议。此外,格布鲁还曾公开指责过谷歌对待女性和黑人员工的方式。


自从离开谷歌以后,Timnit Gebru 就一直致力于成立自己的人工智能研究机构。


12 月 3 日,据外媒报道,在 Timnit Gebru 被谷歌解雇即将满一周年之际,她宣布成立了一家独立的人工智能研究所 —— “Distributed AI Research”(分布式人工智能研究,简称 DAIR)。


DAIR 致力于成为一家提供不同观点、并防止人工智能伤害的独立机构,该机构专注研究人工智能技术对某些边缘化群体的危害,这些群体往往面临着人工能系统所带来的不同程度的不利影响。


DAIR 旨在对抗大型科技公司在人工智能研究、开发和部署方面的普遍影响。例如此前,Timnit Gebru 曾开展了面部识别软件对有色人种的偏见的研究,这令亚马逊改变了其政策。


Timnit Gebru 表示,DAIR 将加入现有的小型独立机构的生态中去,如关注数据与社会、算法正义联盟和黑人生活数据等。她希望 DAIR 能够从外部影响谷歌等大型科技公司内部的人工智能政策和实践。


未来一年,DAIR 计划聘请 5 名研究人员。该研究所的首位研究员 Resetje Sefala 在南非工作,她一直在研究如何使用计算机视觉算法和卫星图像来追踪“空间种族隔离”(某些地区的少数群体隔离)相关问题。


Timnit Gebru 称,她必须持续关注大型科技公司,因为它们的危害可能非常严重。“此前我关注大型语言模型的危害问题,现在我关注社交媒体以及我家乡发生的事情,例如 Facebook 在埃塞俄比亚煽动种族暴力的报道”。


DAIR 是一家非营利性组织。目前,DAIR 已经获得了福特汽车、MacArthur、Kapor Center、洛克菲勒基金和开放社会基金会等共计 370 万美元的资金。后续,Timnit Gebru 希望开展一些与


DAIR 自身研究相关的咨询工作,以增加该机构的营收来源。


Timnit Gebru 表示,作为一家独立机构,DAIR 的目标是比大多数人工智能实验室更具包容性,DAIR 将更自由地质疑人工智能的潜在不利影响,而且不会受到“学术政治”和发表论文压力的阻碍,她认为,发表论文会使大学研究复杂化。


Timnit Gebru 还是著名的技术多样性倡导者,她联合创立了一个名为“Black in AI”的黑人研究人员社区。一直以来,她都在直言不讳地对科技公司对待黑人员工的方式提出批评。


加州大学洛杉矶分校(UCLA)教授 Safiya Noble 是 DAIR 的顾问委员会成员,她主要从事


科技平台如何塑造社会的研究,她认为,Timnit Gebru 的机构是人类在理解和应对技术对社会的影响方面取得新型进展和更具包容性的范例。


“黑人女性一直是帮助我们了解大型科技公司和各种对社会有害的技术的危害的主要贡献者,但我们知道黑人女性在美国企业界和学术界面临诸多限制。”“Timnit Gebru 意识到了谷歌的危害,并试图干预,但没有得到大量支持 —这家公司迫切需要这种洞察力。” Safiya Noble 说。

专注研究人工智能的不安全使用问题


本周二,Timnit Gebru 在欧洲议会的听证会上表示,政府需要遏制科技公司的力量,增加员工的力量,以保护人们减少人工智能被不安全使用所导致的风险。


她认为,监管必须到位。


此前,加利福尼亚州推出的《沉默不再法案》(Silence No More Act)规定,公司阻止员工公开谈论骚扰或歧视是非法的。“我认为这需要普及。违反这些法律的公司应受到更严厉的惩罚,就像我们在亚马逊看到的大规模激进的工会解散活动一样。”


今年欧盟发布的全球第一部人工智能法律 ——《人工智能法案》,该法案对最有可能造成伤害的人工智能技术的使用进行了限制,法案提出了 AI 统一监管规则,旨在从国家法律层面限制 AI 技术发展带来的潜在风险和不良影响。该法案的首席谈判代表 Brando Benifei 呼吁《人工智能法案》建立一个补偿机制,并呼吁工会更多地参与其中。


Timnit Gebru 认为,科技公司和军事部门是人工智能技术开发的最大投资方。为了停止人工智能危害的恶性循环,政府需要投资其他社区建设人工智能技术。


“我们希望看到能优先考虑公民福祉的技术,而不是一场场科技竞赛,研究如何更有效地‘杀死’更多的人,或者为世界各地的少数公司赚最多的钱”....

一年前,Timnit Gebru 因批评谷歌 AI 政策被解雇


一年前,Timnit Gebru 被谷歌解雇的事件广受关注,并引发了一场关于员工质疑公司技术影响自由的争议。


当时,Timnit Gebru 在个人推特上发布消息称,自己突然被谷歌人工智能负责人 Jeff Dean 开除,个人公司账户也已经被公司切断。


Timnit Gebru 称,她的领导层对她的离职进行了“快车道”处理,原因是在本周早些时候,她向谷歌深度学习人工智能研究团队“谷歌大脑”(Google Brain)的女性成员和“盟友”发送了一封电子邮件。


邮件中,Timnit Gebru 提到,自己提交论文后,2 个月时间里没有得到任何反馈,而在休假期间,突然被命令需要在规定日期前撤回论文,且没给出任何原因。


她认为,像这样压制边缘化的声音的做法有悖于谷歌一直所倡导的“构建负责人的 AI”原则,“我认为,在谷歌,唯一有意义的就是等级制度。我看到我的专业知识被忽视。而且,任何有特权的人都可以决定他们不希望你的论文在没有沟通的情况下发表”。


随着事件的发酵,作为另一当事人的 Jeff Dean 通过邮件的形式正面回应称,Timnit Gebru 被解雇事件的起因并非歧视,而是她的论文未达标。


据 Jeff Dean 描述,这件事发生的背景和经过是,Timnit 与四名谷歌同事以及一些需要经过审查的外部合作者共同撰写了一篇论文。论文通常需要在内部审查过程中进行修改(或者甚至被认为不适合提交便会被否决)。但 Timnit 这篇论文只在截止日期前一天才被分享出来——实际上我们通常需要两周的时间进行审查——然后这篇论文没有等待审稿人的反馈,而是被批准提交后进行了提交。


随后,一个跨职能团队对这篇论文进行了审查,作者被告知,这篇论文没有达到我们规定的发表的标准,并得到了关于原因的反馈。论文中忽略了太多相关的研究——例如,它谈论了大型模型对环境的影响,但却忽视了之后的研究显示出了模型能产生更高效率的研究。同样,它也提出了对语言模型偏见的担忧,但没有提到最近的一些研究正在试图缓解这些问题。


Timnit Gebru 的经历在社交平台引发了热烈讨论,推特上有不少科学家纷纷转发相关新闻并表态支持她。


其中包括一个由谷歌现任及前员工联合创立的“Google Walkout For Real Change”组织,他们在博客上发起了签名运动。


该组织还向谷歌高层提出,要求参与审查 Gebru 论文决定的人员解释领导层单方面拒绝论文的原因及过程,Google 领导层命令 Gebru 及其同事撤回对大规模语言模型的研究的决定。此外,要求 Google Research 承诺通过提供明确的指导方针来审查 Google 的 AI 原则等。


参考链接:


https://www.washingtonpost.com/technology/2021/12/02/timnit-gebru-dair/


https://techcrunch.com/2021/12/02/google-timnit-gebru-ai-research-dair/

2021-12-03 14:082043
用户头像
刘燕 InfoQ高级技术编辑

发布了 1112 篇内容, 共 554.3 次阅读, 收获喜欢 1978 次。

关注

评论

发布
暂无评论
发现更多内容

北大GPT解题有数学老师内味了,用人话讲难题,从高中数学到高数都能搞定

Openlab_cosmoplat

人工智能 开源社区

把“ai模型+低代码”应用在项目管理中,效率翻了好几倍

优秀

AI 低代码

提交代码「前置处理」,向前一小步,效率提升「亿点点」

极狐GitLab

DevOps 极狐GitLab git hook lefthook 代码前置

Nautilus Chain :基于模块化架构的Layer3正在走向成熟

股市老人

Go RWMutex:高并发读多写少场景下的性能优化利器

陈明勇

Go golang 读写锁 三周年连更 RWMutex

iOS MachineLearning 系列(4)—— 静态图像分析之物体识别与分类

珲少

向量嵌入:AutoGPT的幻觉解法?

OneFlow

烟雾弹?突然转变?如何看待微软发声:中国是主要的对手

加入高科技仿生人

人工智能 AI 数智化 ChatGPT

如何开发一个小程序自定义组件

Onegun

小程序 前端 小程序组件

视频大文件传输的演变:从“卷轴男孩”到自动化

镭速

vue 入门知识点有哪些?

海拥(haiyong.site)

三周年连更

手势识别:让你的手成为计算机的新界面

数据堂

HarmonyOS Codelabs最新参考

坚果

OpenHarmony 三周年连更

卷起来了!阿里最新出品“微服务全阶笔记”,涵盖微服务全部操作

收到请回复

架构 #编程 #微服务

九科信息流程挖掘产品bit-Miner即将开放面向对象流程挖掘能力

九科Ninetech

流程挖掘

一文带你了解 TypeScript 泛型

程序员海军

typescript 三周年连更

世界读书日特辑 | 华为阅读深耕精品书,让读书变得赏心“悦目”

最新动态

中国垂直行业SaaS,这样走可能是新出路

ToB行业头条

走进社区客户端测试 | 得物技术

得物技术

测试

“精准测试” 在商家地址专项的探索 | 得物技术

得物技术

您有一份直播回放待查收!

BinTools图尔兹

直播回放 版本发布

MegEngine 使用小技巧:量化

MegEngineBot

量化 MegEngine

面试还不懂JVM性能调优,看这篇文章就够了!

程序员小毕

程序员 面试 后端 JVM jvm调优

深度分享 | API 测试经济学与 API First 践行

Apifox

程序员 前端 接口 后端 API

让 AI 更简单 人工智能平台 SEAL 携手龙蜥落地达摩院算法能力 | 龙蜥案例

OpenAnolis小助手

开源 操作系统 SEAL 达摩院 龙蜥案例

selenium源码通读·10 |webdriver/common/proxy.py-Proxy类分析

Python 测试 自动化测试 源码剖析 selenium

乌合之众再次上演,打工人将被AI一键淘汰?

引迈信息

人工智能 AI 低代码 AIGC ChatGPT

智慧园区数字转型下的移动App建设策略

Onegun

移动应用 智慧城市 智慧园区

MobTech MobLink|引流统计一站式服务

MobTech袤博科技

在企业内容城池边,它建立起一支保卫军

ToB行业头条

一年前被解雇的谷歌AI伦理专家宣布成立研究所,专注防范AI伤害,对抗科技公司“作恶”_AI&大模型_刘燕_InfoQ精选文章