QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

AI Now 调查报告:AI 领域被白人和男性占领,多样性严重不足

  • 2019-04-17
  • 本文字数:1290 字

    阅读完需:约 4 分钟

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足

4 月 17 日,AI Now 研究所在发布的一份报告中表示,人工智能行业面临着“多样化危机”,并指出了关于该领域方向的关键问题。


报告发现,女性和有色人种的比例严重不足,并指出人工智能领域的教授男性占比约 80%,而 Facebook 和谷歌的女性人工智能研究人员占比分别仅为 15%和 10%。有色人种占比也极小,在主要科技公司员工中他们属于少数群体。结果显示,AI 领域的劳动力主要由白人和男性的观点领导,创建的工具也经常影响其他人群使用。“这些系统影响了劳动力的多样性,”AI Now 研究所联合主任 Meredith Whittaker 说。


更糟糕的是,通过修复潜在求职者的“通道”来改善问题的计划在很大程度上失败了。研究人员写道:“尽管经过数十年的”通道研究“评估了从学校到工业的各种求职者的流动,但人工智能行业的多样性并未取得实质性进展。


“我们需要知道这些系统是否公平安全。”


研究人员提出了一些改善问题的建议。他们认为,公司可以发布更多关于按种族和性别划分的福利数据,以及公布骚扰和歧视透明度报告来提高透明度。


虽然多样性是科技行业普遍存在的问题,但在人工智能中会造成更大的潜在危险,比如人脸识别等可能具有偏见性的技术将不合理地影响历史上被边缘化的群体。研究人员写道,2017 年引入的人脸扫描确定性行为的程序等工具可以反映出过去的不公正现象。我们需要严格的测试。但更重要的是,AI 工具的制造商自身必须拒绝进行具有风险的项目。“我们需要知道这些系统既安全又公平,”AI Now 研究所联合主任 Kate Crawford 说。


技术行业人员已经在一些主要的 AI 问题上表明了自己的立场,迫使他们的公司放弃或审查可能伤害弱势群体的敏感工具。亚马逊的工人向高管质疑该公司的人脸识别产品。最近,谷歌工作人员推翻了包括传统基金会主席在内的人工智能审查委员会,并指出该集团游说反对 LGBTQ 权利问题的行径,董事会因此迅速被解散。


研究人员得出结论:“人工智能中的多样性危机已有详细记录并且影响广泛。” “在整个行业和学术界,到处都可以看到职场、招聘和晋升方面的差异和不公平,反映和加深固有偏见的人工智能技术,以及自动化系统中死灰复燃的生物决定论,都可以看出这一点。”


对于这一现状,该调查报告给出的具体建议如下:


  1. 按照种族和性别,公开不同工种、工作类别员工的薪酬水平,包括奖金和股票;

  2. 结束薪酬和机会不平等,并设定包括合同工、临时工和供应商在内的薪酬和福利公平目标;

  3. 公开骚扰和歧视透明度报告,包括索赔的数量、时间、提交的索赔类型以及采取的措施;

  4. 改变招聘实践以最大化多样性:包括精英大学之外的定向招聘,确保更公平地关注代表性不足的群体,并为承包商、临时工和供应商成为全职员工此创造更多途径;

  5. 在招聘实践方面保持透明度,特别是关于候选人评级、福利和升职;

  6. AI 公司所有部门增加有色人种、女性和其他代表性不足群体在高管层中的人数;

  7. 确保高管激励结构与代表性不足群体的雇用和留存率提高挂钩;

  8. 对于学术工作场所,确保在进行 AI 研究所有领域具有更大的多样性,包括人工智能相关部门和会议委员会。


参考链接:


https://www.theverge.com/2019/4/16/18410501/artificial-intelligence-ai-diversity-report-facial-recognition



2019-04-17 14:183405
用户头像

发布了 98 篇内容, 共 65.2 次阅读, 收获喜欢 285 次。

关注

评论

发布
暂无评论
发现更多内容

软件测试学习笔记丨Allure2报告中添加用例分类

测试人

软件测试

探索动力极限 康士柏马力机重塑速度与激情的边界

极客天地

五问五答|看忆联eMMC如何赋能智能电视长效稳定

新消费日报

运营海外社媒效率低?试试云手机!

Ogcloud

云手机 海外云手机 云手机海外版 社媒运营 海外社媒运营

华为云Astro低代码平台开启AI敏捷组装时代,探索低代码创新无限可能

轶天下事

告别手工录入,企业财务凭证同步迈入智能新时代!

聚道云软件连接器

案例分享

智源打造基于Triton的大模型算子库,助力AI芯片软硬件生态建设

智源研究院

性能测试:性能测试流程与方法

测吧(北京)科技有限公司

测试

Solana近况及解读:Sol链代币DApp开发详解

区块链软件开发推广运营

dapp开发 区块链开发 链游开发 NFT开发 公链开发

数字身份管理发展趋势:使用区块链技术进行身份管理

芯盾时代

区块链 数字身份 身份安全 统一身份认证

华为如何助力金融大模型开出价值之花

脑极体

AI

亚信科技入选信通院“数据智能产业图谱”, 打通数据智能服务全链路!

亚信AntDB数据库

AntDB数据库

第58期 | GPTSecurity周报

云起无垠

AIGC GPT

什么?这动物图片可以上国家地理?

程序那些事

程序那些事 Stable Diffusion

【论文速读】| JADE:用于大语言模型的基于语言学的安全评估平台

云起无垠

什么是MES系统?有什么作用?

万界星空科技

制造业 生产管理系统 mes 万界星空科技

会员信息一键同步!微盟与客如云联手打造智能服务新体验!

聚道云软件连接器

案例分享

【好消息】祝贺傲冠行云服务获得深圳知名品牌称号!

行云管家

IT 知名品牌 傲冠行云服务

硬核案例分享,一文带你拆解PHP语言体系下的容器化改造

华为云开发者联盟

云原生 华为云 应用现代化 华为云开发者联盟 企业号2024年7月PK榜

YAML 简介:易懂的配置语言

Liam

程序员 前端 后端 yaml

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足_AI&大模型_Colin Lecher_InfoQ精选文章