AICon上海|与字节、阿里、腾讯等企业共同探索Agent 时代的落地应用 了解详情
写点什么

AI Now 调查报告:AI 领域被白人和男性占领,多样性严重不足

  • 2019-04-17
  • 本文字数:1290 字

    阅读完需:约 4 分钟

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足

4 月 17 日,AI Now 研究所在发布的一份报告中表示,人工智能行业面临着“多样化危机”,并指出了关于该领域方向的关键问题。


报告发现,女性和有色人种的比例严重不足,并指出人工智能领域的教授男性占比约 80%,而 Facebook 和谷歌的女性人工智能研究人员占比分别仅为 15%和 10%。有色人种占比也极小,在主要科技公司员工中他们属于少数群体。结果显示,AI 领域的劳动力主要由白人和男性的观点领导,创建的工具也经常影响其他人群使用。“这些系统影响了劳动力的多样性,”AI Now 研究所联合主任 Meredith Whittaker 说。


更糟糕的是,通过修复潜在求职者的“通道”来改善问题的计划在很大程度上失败了。研究人员写道:“尽管经过数十年的”通道研究“评估了从学校到工业的各种求职者的流动,但人工智能行业的多样性并未取得实质性进展。


“我们需要知道这些系统是否公平安全。”


研究人员提出了一些改善问题的建议。他们认为,公司可以发布更多关于按种族和性别划分的福利数据,以及公布骚扰和歧视透明度报告来提高透明度。


虽然多样性是科技行业普遍存在的问题,但在人工智能中会造成更大的潜在危险,比如人脸识别等可能具有偏见性的技术将不合理地影响历史上被边缘化的群体。研究人员写道,2017 年引入的人脸扫描确定性行为的程序等工具可以反映出过去的不公正现象。我们需要严格的测试。但更重要的是,AI 工具的制造商自身必须拒绝进行具有风险的项目。“我们需要知道这些系统既安全又公平,”AI Now 研究所联合主任 Kate Crawford 说。


技术行业人员已经在一些主要的 AI 问题上表明了自己的立场,迫使他们的公司放弃或审查可能伤害弱势群体的敏感工具。亚马逊的工人向高管质疑该公司的人脸识别产品。最近,谷歌工作人员推翻了包括传统基金会主席在内的人工智能审查委员会,并指出该集团游说反对 LGBTQ 权利问题的行径,董事会因此迅速被解散。


研究人员得出结论:“人工智能中的多样性危机已有详细记录并且影响广泛。” “在整个行业和学术界,到处都可以看到职场、招聘和晋升方面的差异和不公平,反映和加深固有偏见的人工智能技术,以及自动化系统中死灰复燃的生物决定论,都可以看出这一点。”


对于这一现状,该调查报告给出的具体建议如下:


  1. 按照种族和性别,公开不同工种、工作类别员工的薪酬水平,包括奖金和股票;

  2. 结束薪酬和机会不平等,并设定包括合同工、临时工和供应商在内的薪酬和福利公平目标;

  3. 公开骚扰和歧视透明度报告,包括索赔的数量、时间、提交的索赔类型以及采取的措施;

  4. 改变招聘实践以最大化多样性:包括精英大学之外的定向招聘,确保更公平地关注代表性不足的群体,并为承包商、临时工和供应商成为全职员工此创造更多途径;

  5. 在招聘实践方面保持透明度,特别是关于候选人评级、福利和升职;

  6. AI 公司所有部门增加有色人种、女性和其他代表性不足群体在高管层中的人数;

  7. 确保高管激励结构与代表性不足群体的雇用和留存率提高挂钩;

  8. 对于学术工作场所,确保在进行 AI 研究所有领域具有更大的多样性,包括人工智能相关部门和会议委员会。


参考链接:


https://www.theverge.com/2019/4/16/18410501/artificial-intelligence-ai-diversity-report-facial-recognition



2019-04-17 14:183429
用户头像

发布了 98 篇内容, 共 65.3 次阅读, 收获喜欢 285 次。

关注

评论

发布
暂无评论
发现更多内容

唯品会API接口实战指南:商品详情与关键词搜索功能深度解析

代码忍者

唯品会商品API接口

无人机任务管理:用数字孪生打造稳定高效的MMC

DevOps和数字孪生

国产AI生态新突破!“息壤”+DeepSeek王炸组合来了!

天翼云开发者社区

人工智能 AI 大模型 智算中心 DeepSeek

海外泼天流量丨浅谈全球化技术架构

阿里巴巴云原生

阿里云 云原生

任务调度企业级场景下的新选择,兼容 XXL-JOB 通信协议

阿里巴巴云原生

阿里云 云原生

内存占用与监控方式介绍

地平线开发者

自动驾驶 算法 算法工具链

使用Ollama和Botnow本地部署DeepSeek R1模型的对比分析

Botnow

大语言模型 AI 智能体 ollama Botnow DeepSeek

为什么我喜欢在 CSS 中使用 RegEx

伤感汤姆布利柏

【YashanDB知识库】MySQL返回结果集的存储过程的改写方法

YashanDB

数据库 yashandb

亚马逊API接口实战指南:商品评论与商品详情如何帮你提升运营效率?

代码忍者

亚马逊商品详情API

【YashanDB知识库】Kettle迁移PostgreSQL到YashanDB

YashanDB

数据库 yashandb

【YashanDB知识库】沙箱备库

YashanDB

数据库 yashandb

一篇文章,让你秒懂 DeepSeek 推理模型差异!

秃头小帅oi

机房迁移,不同 Pod 副本请求耗时会相差数倍?

阿里巴巴云原生

阿里云 云原生

[大厂实践] Odin:Uber 有状态平台实践

俞凡

大厂实践

智能理解 PPT 内容,快速生成讲解视频

阿里巴巴云原生

阿里云 云原生

“爆款”批量生成,如何实现一键创作 AI 有声绘本?

阿里巴巴云原生

阿里云 云原生

阿里巴巴热卖商品推荐 API 接口的开发、应用与收益

科普小能手

数据挖掘 阿里巴巴 数据分析 电商 API 接口

轻帆云ITSM大模型底座支持接入DeepSeek-R1,AI能力再升级

云智慧AIOps社区

ITSM ITSM软件 工单管理 工单系统 智能工单

乐刻运动:基于 RocketMQ + MQTT 实现健身产业数字化升级

阿里巴巴云原生

阿里云 云原生 消息队列

DeepSeek-R1 来了,如何从 OpenAI 平滑迁移到 DeepSeek

阿里巴巴云原生

阿里云 云原生

AI Now调查报告:AI领域被白人和男性占领,多样性严重不足_AI&大模型_Colin Lecher_InfoQ精选文章