写点什么

马斯克、图灵奖得主等千名大佬联名,要求暂停训练比 GPT-4 更强大的 AI

  • 2023-03-29
    北京
  • 本文字数:2129 字

    阅读完需:约 7 分钟

马斯克、图灵奖得主等千名大佬联名,要求暂停训练比GPT-4更强大的AI

3 月 22 日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为 6 个月

 

截止目前,马斯克、图灵奖得主 Yoshua Bengio、苹果联合创始人 Steve Wozniak、Stability AI 创始人 Emad Mostaque、DeepMind 高级研究科学家 Zachary Kenton 等上千名科技大佬和 AI 专家已经签署公开信。

 


不过,也有大佬公开表达了反对意见。图灵奖得主、Meta 首席 AI 科学家 Yann LeCun 在 Twitter 上表示:“我不会签署这个公开信,不同意这封公开信的内容。”



ChatGPT、GPT-4 发布以来,关于 AI 与安全性的讨论声不断,甚至引发了不少科技大佬的深切担忧。

 

“人工智能教父”、英国计算机科学家 Geoffrey Hinton 接受 CBS 新闻的长篇采访中提到,人工智能正处于“关键时刻”。目前,人们经常提到 AGI 提高当前模型能力的预兆,但无论业界多么欢呼它的到来,或者它真正需要多长时间,Hinton 说,我们现在应该仔细考虑它的后果,这可能包括它试图毁灭人类的小问题。

 

3 月 25 日,OpenAI 创始人兼首席执行官 Sam Altman 在接受科技博客主 Lex Fridman 的采访时表态,他不会回避“人工智能可能杀死全人类”的说法。

 

在 Youtube 平台公布的视频中,Fridman 在访谈中提到了人工智能研究者、LessWrong 研究所创始人 Eliezer Yudkowsky 的观点。Yudkowsky 此前指出“人工智能可能杀死所有人”,并认为,当人工智能发展为超级智能时,几乎无法与人类站在统一战线上。

 

生命未来研究所在公开信中表示,通过广泛研究和顶级 AI 实验室的调查认可,具备类人智能的 AI 系统很可能对社会和人类构成深远风险。正如广受推崇的阿西洛马 AI 原则中所述,高级 AI 可能代表着地球生命史上一场影响深远的变化,应给予相应的关注和资源进行规划和管理。

 

生命未来研究所表示,遗憾的是,我们并没有看到这种级别的规划和管理。最近几个月来,AI 实验室陷入了一场失控般的技术竞赛,全力开发和部署一颗颗愈发强大的“数字大脑”,但就连创造者自己都无法理解、预测或可靠地加以控制。

附公开信原文:

 

关于叫停巨型 AI 实验的一封公开信

 

我们呼吁所有 AI 实验室,立即暂停对体量超过 GPT-4 的 AI 系统的训练,且暂停期至少 6 个月。

 

通过广泛研究和顶级 AI 实验室的调查认可,具备类人智能的 AI 系统很可能对社会和人类构成深远风险。正如广受推崇的阿西洛马 AI 原则中所述,高级 AI 可能代表着地球生命史上一场影响深远的变化,应给予相应的关注和资源进行规划和管理。但遗憾的是,我们并没有看到这种级别的规划和管理。最近几个月来,AI 实验室陷入了一场失控般的技术竞赛,全力开发和部署一颗颗愈发强大的“数字大脑”,但就连创造者自己都无法理解、预测或可靠地加以控制。

 

当代 AI 系统在常规任务上已经具备与人类相仿的能力,因此我们必须扪心自问:我们是否应该让机器用宣传和谎言填满信息渠道?我们真的应该推动一切工作自动化,包括目前已经令人满意的岗位吗?我们是否应当开发出最终可能超越自身、超越特种甚至取代我们的非人类思维?我们应该承担这份失去对文明掌控权的风险吗?很明显,这些问题的答案,不该由少数未经选举产生的技术领导者决定。只有当我们确信具有积极影响且风险可控时,才应当实际开发强 AI 系统。对这个问题的判断需要坚毅的决心,也要充分考虑到系统潜在影响等因素。OpenAI 近期发布的 AI 声明指出,“必须承认,在开始训练未来系统之前,可能应该认真考虑开展独立审查。对于最前沿的探索,也应该对新系统的算力资源增长率做出限制。”我们完全认同这一判断,并坚信当下就是最恰当的时机。

 

因此,我们呼吁所有 AI 实验室,立即暂停对体量超过 GPT-4 的 AI 系统的训练,且暂停期至少 6 个月。这种暂停应当对外公开且可加验证,涵盖所有关键参与者。如果未能迅速实施暂停,政府应介入并强制要求其暂停。

 

各 AI 实验室和独立专家则应把握这次暂停,共同开发和实施一套用于高级 AI 设计和开发的共享安全协议,并由外部独立专家进行严格审计与监督。这些协议应确保依其构建的系统具备无可置疑的安全性。我们并不是要全面叫停 AI 开发,只是想从目前这场危险的竞赛中退后一步,避免最终衍生出体量更大、更加不可预测的黑盒模型。

 

AI 研究和开发工作应当集中注意力,努力让目前最强大、最先进的系统变得更准确、更安全、更可解释、更透明、更稳健、更一致,也更加忠诚且值得信赖。

 

与此同时,AI 开发商必须与立法机构合作,加快开发出强大的 AI 治理体制。其中至少应当包括:专门负责 AI 事务的新型监管机构;监督和跟踪高性能 AI 系统及大量算力的机构;出处与水印系统,帮助区分真实与合成信息,同时跟踪模型泄露;强大的审计和认证生态系统;对 AI 造成的伤害进行责任回溯;为 AI 安全研究提供强大的公共资金支持;指派资源充足的机构应对 AI 将会在经济和政治层面造成的巨大破坏。

 

人类应当享受到 AI 造就的繁荣未来。在成功创建起强大的 AI 系统之后,我们才能平稳度过“AI 之夏”,静候金秋带来的累累硕果。但这一切的前提,是暂时叫停一切可能对社会造成灾难性影响的技术,这也是我们的当务之急。为社会提供过渡期、确保系统设计造福每个人,我们才能信心满满地迎接“AI 之秋”。

 

原文链接:

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

2023-03-29 14:314353

评论 1 条评论

发布
用户头像
悲天悯人的只有不缺钱的
2023-03-30 17:41 · 北京
回复
没有更多了
发现更多内容

开启数字化转型新纪元,华为云引领轻量应用服务器创新

平平无奇爱好科技

Python读取Ansible playbooks返回信息

不在线第一只蜗牛

Python sql 表单设计

软件测试/人工智能|什么是LangChain,这篇文章告诉你

霍格沃兹测试开发学社

CodeWhisperer——一个十分强大的工具

亚马逊云科技 (Amazon Web Services)

Python 人工智能 云上探索实验室 Amazon CodeWhisperer C++

华为云耀云服务器L实例助力企业行稳致远

平平无奇爱好科技

GPTs大受欢迎但问题多,企服软件厂商的AI Agent更被B端客户器重

王吉伟频道

AI Agent AI智能体 RPA Agent GPTs RPA智能体

如何获取item_question_answer-淘宝评论问答列表api接口

技术冰糖葫芦

AI 模型编译器 API 文档 COMSOL Multiphysics

软件测试/人工智能|探究 LangChain 核心模块:PromptsModelsParsers

霍格沃兹测试开发学社

解密人工智能:线性回归

快乐非自愿限量之名

人工智能 机器学习 线性回归

快速渡过新手期!华为云服务器让小程序开发的试错成本更低

平平无奇爱好科技

凭实力碾压友商!中小企业网站建设盲选华为云这款轻量应用服务器

平平无奇爱好科技

如何运用AppLink平台中的数据连接器组件

RestCloud

MySQL APPlink

上传图片到京东api接口的申请步骤有哪些特别之处?

技术冰糖葫芦

AI 模型编译器 API 开发

随手写了个博客多平台发布脚本:Python自动发布文章到Wordpress

爱写字的阿城

高效聚合 | AIRIOT智慧虚拟电厂管理解决方案

AIRIOT

智慧电厂 智慧工厂 数字化工厂

助力企业实现更简单的数据库管理,ATOMDB 与 TDengine 完成兼容性互认

TDengine

tdengine 时序数据库

性能优化的一般策略及方法

不在线第一只蜗牛

性能优化 优化 优化策略

Web前端开发技术:图像与多媒体文件

不在线第一只蜗牛

前端 Web 图像处理

🔥🔥Java开发者的Python快速进修指南:自定义模块及常用模块

快乐非自愿限量之名

Java Python 开发语言

初创企业太“烧钱”?华为云轻量应用服务器激活创业新思维

平平无奇爱好科技

PDF Expert for Mac(PDF编辑阅读转换器)v3.7.1永久激活版

mac

PDF Expert 苹果mac Windows软件 PDF 编辑器和注释器

SourceTree 4.1.5(Git客户端工具)

Geek_幻墨成诗

sourcetree SourceTree Mac

如何正确选型低代码、无代码、aPaaS平台?有这几个重点

互联网工科生

低代码 无代码 aPaaS

大模型助力交互式数据挖掘的探索与发现

鲸品堂

数据挖掘 大模型

软件测试/人工智能|LangChain Memory模块:开启语言数据的存储与回忆之旅

霍格沃兹测试开发学社

什么是代理IP?代理IP有什么作用?

Geek_bf375d

爬虫 HTTP 跨境电商 IP\ #HTTP

创业有术,烧钱有道丨华为云为初创企业指明发展之路

平平无奇爱好科技

DAZ Studio for Mac(专业三维人物动画制作工具) 4.20.0.17永久激活版

mac

苹果mac Windows软件 DAZ Studio Pro 3d人物动画制作软件

通过亚马逊云科技云存储服务探索云原生应用的威力

亚马逊云科技 (Amazon Web Services)

云原生 S3 ebs 云存储服务 EFS

车家互联再获重磅突破,小度携手极越开启智能生活无限畅联新体验

新消费日报

【scipy 基础】--空间计算

快乐非自愿限量之名

计算 模块 表空间 scipy

马斯克、图灵奖得主等千名大佬联名,要求暂停训练比GPT-4更强大的AI_AI&大模型_凌敏_InfoQ精选文章