写点什么

全面封禁 AI“一键脱衣”项目!GitHub 清理 DeepNude 开源代码

  • 2019-07-11
  • 本文字数:1321 字

    阅读完需:约 4 分钟

全面封禁AI“一键脱衣”项目!GitHub清理DeepNude开源代码

北京时间 7 月 10 日消息,GitHub 正式关闭 AI“一键脱衣”项目 DeepNude 的代码库,并删除了该项目的多个副本,原因是该项目违反了平台针对“色情淫秽内容”的规定。但是情况并没有得到控制,仍不断有用户将自己拷贝甚至升级之后的代码副本再次传播到 GitHub 上,全面封禁 DeepNude 及其类似项目,似乎还有很长的路要走。

GitHub 宣布正式封禁 DeepNude 相关项目代码

GitHub 终于动手了。


随着 DeepNude 造成的影响越来越大,GitHub 终于决定全面封禁 DeepNude 以及类似项目的代码库。



起初,DeepNude 是一个付费项目,技术上类似 DeepFakes,它能够在不经本人同意的情况下,通过 AI 将原照片人物的衣服“脱掉”并合成出一张裸照。项目一经公开,无数用户趋之若鹜,而惨遭毒手的不仅有演员、歌手等公众人物,还有不少普通人。


随着影响的扩大,项目的创建者意识到了问题的严重性,与此同时,全球抵制的声音也越来越大,作者最终在 6 月底选择了关闭项目,事情暂时告一段落。


然而近期有媒体发现:DeepNude 似乎卷土重来了,有人认为直接下架应用破坏了信息自由传播的理念,便收集了原应用的神经网络框架和训练模型,在 GitHub 上新建了一个开源的 DeepNude 项目。


GitHub的社区指南中,有这么一条原则:



大意是:


请勿发布色情淫秽内容。 这并不意味着禁止出现任何裸露或与性有关的代码和内容。 我们了解性行为是生活的一部分,性有关的内容可能是您项目的一部分,或者出于教育或艺术目的而呈现。但是我们不允许出现色情淫秽内容或可能涉及猥亵未成年人的内容。


GitHub 的相关工作人员对媒体表示:“我们不会主动监控用户发布的内容,但我们会针对滥用报告积极展开调查。这一次我们禁用了该项目,是因为我们发现它违反了我们可接受的使用政策,我们不允许使用 GitHub 发布色情淫秽内容,而且我们的服务条款和社区准则中也明确禁止此类行为。”

影响已经形成,“DeepX”项目何时能休?

如今 DeepNude 项目被封禁,但是类似的副本已经造成了无可挽回的影响。


仅以 DeepNude 为例,已经有人利用该项目合成照片对明星进行性骚扰,更有甚者将这类项目用在了政治用途。在美国弗吉尼亚州,已经有相关法律对这类伪造图像的制作者进行追责,但是要想彻底消除 DeepNude 类似项目的影响,还有很长的路要走。


早在 DeepFakes 出现的时候,就有人担心这一项目会遭到滥用,果不其然,依靠该技术合成明星脸的一些成人电影出现在网络上,虽然相关视频也被“全面”清理,但是影响却从来没有削弱半分,人们反而更加兴奋地想要知道:有没有什么新的“DeepX”项目来满足他们更加疯狂的想法?


今年 5 月,我们曾发布过一篇《那些竞相将DeepFakes商业化的AI初创公司》,里面盘点了一些利用 DeepX 类似的技术盈利的公司,不仅可以伪造图像或视频中的细节,还能够伪造声音、伪造在社交网络上的形象,虽然每一家公司都是打着“促进社交乐趣”、“增强图片/视频质量”等等旗号,但似乎没有人认真考虑过:一旦自己的技术遭到滥用,应该如何及时止损?滥用技术的人该受到怎样的惩罚?而受到伤害的人又该如何消除影响,那些无辜的人,又该如何保护自己呢?


参考链接:https://www.vice.com/en_us/article/8xzjpk/github-removed-open-source-versions-of-deepnude-app-deepfakes


2019-07-11 08:0020861
用户头像
陈思 InfoQ编辑

发布了 576 篇内容, 共 287.8 次阅读, 收获喜欢 1303 次。

关注

评论

发布
暂无评论
发现更多内容

华为云SparkPack:成长型企业的数字化转型利器

YG科技

Databend v1.2 版本发布!Data + AI

Databend

98位企业技术高管入学百度AICA 大模型带来AI人才三大能力要求

飞桨PaddlePaddle

人工智能 百度 paddle 百度飞桨

ChatGLM2-6B环境搭建

IT蜗壳-Tango

在 Go 中如何实现类似 Python 中的 with 上下文管理器

江湖十年

Go 后端

内卷时代如何上云,华为云Web及移动App上云又有何亮点?

YG科技

企业数字化办公,华为云WeLink为何能脱颖而出

轶天下事

什么是KubeEdge?

谐云

kuberedge kurbernetes

MySQL笔记之Checkpoint机制

互联网工科生

MySQL 高可用 CheckPoint

落地领域大模型应知必会 (1) :主要微调方法总览

Baihai IDP

人工智能 白海科技 大语言模型 大模型微调 领域大模型

自动化回归测试平台 AREX 0.4.0 版本发布

AREX 中文社区

开源 自动化测试 接口测试

网页直播源码知识分享:“直播卫士”,查杀病毒功能在此!

山东布谷科技

软件开发 直播 源码搭建 网页开发 直播源码

“科创中国”大湾区青年百人会论坛成功举办

飞桨PaddlePaddle

人工智能 百度 paddle 百度飞桨

代码随想录训练营Day04 - 链表(下)

jjn0703

华为云下载加速解决方案:让您的下载更快更稳定

YG科技

基于eBPF技术的可观测实践探索

谐云

云原生

什么是WebAssembly及其必要性

谐云

WebAssenbly

微服务架构概览图

wiflish

微服务 微服务架构 架构治理

传统网络环境应付不了企业发展需求,华为云下载加速解决方案体验如何?

YG科技

从低谷逆转,数字化转型企业可以信任华为云SparkPack

YG科技

浅谈kubernetes存储—glusterfs故障排查

谐云

kuberedge

红队攻防之快速打点

权说安全

网络攻防

福昕软件与国广传媒达成战略合作,共促AI技术创新发展

新消费日报

业财一体,精细管控丨华为云SparkPack助力成长型企业数字化转型

YG科技

云原生MYSQL数据库架构分享

谐云

MySQL 云原生

IoTLink版本更新V1.34.0

山东云则信息科技

Java Vue 后端 物联网 前段

WebAssembly:让Istio变得更强大

谐云

istio WebAssenbly

基于多尺度图神经网络的流场预测,实现精度与速度的平衡

飞桨PaddlePaddle

人工智能 百度 paddle 飞桨 百度飞桨

全面封禁AI“一键脱衣”项目!GitHub清理DeepNude开源代码_AI&大模型_陈思_InfoQ精选文章