写点什么

Deepfake 的检测标准即将到来,Facebook 发起检测挑战赛,旨在鉴定虚假影像

  • 2019-09-06
  • 本文字数:1725 字

    阅读完需:约 6 分钟

Deepfake的检测标准即将到来,Facebook发起检测挑战赛,旨在鉴定虚假影像

当地时间 9 月 5 日,Facebook发文称:将为 Deepfake 创建数据集,并发起关于 Deepfake 检测的挑战赛。挑战赛的目标是:开发出一种每个人都可以使用的技术,用于检测那些 AI 技术修改过的视频、图片等。



AI 换脸,名噪一时。近期,更有后居上者“ZAO”,搅动江湖风雨。扑面而来的舆论压力,把 AI 技术“Deepfake”推到了风口浪尖。面对这已不再是“有图有真相”的年代,Facebook 率先发起对 Deepfake 的挑战。


Deepfake,是英文“deep learning”(深度学习)和“fake”(伪造)的混成词,专指用基于人工智能的人体图像合成技术。此技术可将已有的图像和影片叠加至目标图像或影片上。


“Deepfake”技术,可以呈现出由 AI 技术生成的逼真视频,但这种视频往往被应用于色情、假新闻、恶意报复等方面,进而产生严重的负面影响。自 2017 年兴起的这种技术,并没有得到好的引导,而且行业领域也没有很好的数据集或基准来检测它们。


为了更好的鉴定这些伪造的视频影片,Facebook 联合麻省理工学院、牛津大学、加州大学伯克利分校等合作伙伴,发起了 Deepfake 检测挑战赛(DFDC)。


Deepfake 检测挑战赛的目标是开发一种每个人都可以使用的技术,这种技术可以用来检测那些利用 AI 技术制造的假视频。Deepfake 检测挑战赛将包括一个数据集和排行榜,而且这一挑战赛将由 Partnership on AI 's new Steering Committee on AI 和 Media Integrity 提供便利和监督。


为此,Facebook 还邀请了许多外部专家分享他们对这个项目的看法,如下:


“为了从信息时代过渡到知识时代,我们必须更好地辨别真伪,奖励那些可信内容,并教育下一代成为更好的数字公民。这需要全面的投资,包括工业、大学、非政府组织的共同研究,以便开发出新的技术,这种技术将能够快速准确的确定哪些内容是真实的。”


—— Hany Farid,加州大学伯克利分校电子工程与计算机科学和信息学院教授


“自从摄影出现以来,人们就一直在操纵图像。但现在几乎任何人都可以创作并向大众传播‘赝品’。本次比赛的目标是建立一个人工智能系统,能够检测出图像中的细微缺陷,进而鉴定出该图像是否被篡改。”


——Antonio Torralba 教授,电气工程与计算机科学系,麻省理工学院智能探索项目(MIT Quest for Intelligence)主任


“我们生活在多媒体时代,拥有完整的信息对我们的生活至关重要。鉴于近期 AI 技术在大规模生成虚假文本、图像、视频、音频等方面的发展,我们需要研究界在一个开放的环境中充分参与,以便开发出新的技术和系统,这种技术能够检测到 AI 技术制造的多媒体影像,并减轻它们带来的不良影响。”


——Rama Chellappa,马里兰大学杰出教授,Minta Martin 工程教授


“为了有效地推动变革和解决问题,我们认为学术界和产业界在一个开放和协作的环境中走到一起,是至关重要的。在康奈尔理工大学,我们的研究集中在弥合这一差距和解决数字时代技术的社会影响,而 Deepfake 检测挑战赛就是一个完美的例子。我们正在与科技行业领袖、学术伙伴合作,开发一个全面的数据源,使我们能够识别假媒体信息,并最终建立工具和解决方案来打击这些利用 AI 技术的负面行为。我们很荣幸能够成为这个小组的一员,我们将与大家分享数据来源,并让任何人都能从这项研究中学习和扩展。”


——Serge Belongie,康奈尔理工学院副院长兼教授


“AI 技术制造的‘假’媒体影像被发布在互联网上,不仅制造出虚假的阴谋论,还被有心之人利用在政治斗争中,这不但对民主的根本和自由产生了威胁,甚至正在逐渐扩大成为全球性的问题。我们迫切的需要一种工具来检测和描述这些错误信息,我也很高兴能够成为这项倡议的一员,该倡议的目标在于:既要保护真相,又要推动科学前沿发展。”


——Philip H. S. Torr 教授,牛津大学工程科学系


“尽管 Deepfake 看起来和真的一样,但它们却是由算法生成,而不是摄像机捕捉到的真实事件,这就意味着,它们仍然可以被检测到,而且其来源也能得到验证。一些重要的发现和减轻 Deepfake 有害影响的新方法正在投入使用,包括在视频片段中添加数字指纹的程序,以帮助验证其真实性等。与任何复杂的问题一样,它需要来自技术社区、政府机构、媒体、平台公司和每一位在线用户的共同努力,以对抗它们即将带来的负面影响。”


——吕思伟教授,纽约州立大学工程与应用科学学院


2019-09-06 15:018657
用户头像
张之栋 前InfoQ编辑

发布了 91 篇内容, 共 50.7 次阅读, 收获喜欢 159 次。

关注

评论

发布
暂无评论
发现更多内容

AI+算力,赋予天翼云数字人“最强大脑”!

天翼云开发者社区

高性能网络SIG月度动态:virtio-net 支持动态中断调节,SMC v2 协议增加新扩展

OpenAnolis小助手

ebpf 高性能网络 龙蜥社区 sig 月度动态

全栈混合云综合架构方案研究和落地

天翼云开发者社区

电商流量分析怎么做?试试这款数据工具DataLeap!

字节跳动数据平台

大数据 用户增长 数据产品 电商 企业号 4 月 PK 榜

【Linux】之【内存】相关的命令&&解析以及内存相关的问题[free、meminfo、内存泄漏、内存溢出、Overcommit]

A-刘晨阳

Linux cpu 三周年连更

数字先锋| “智慧旅游”新模式,天翼云助力张家界旅游产业创新发展!

天翼云开发者社区

DevData Talks | 微众银行有哪些研发效能实践与思考?一起来拓展认知边界!

思码逸研发效能

研发效能 金融 微众银行

原生开发能不能动态化?如何选择动态能力建设流派

没有用户名丶

详解GaussDB(DWS)的query_band负载识别与应用

华为云开发者联盟

数据库 后端 华为云 华为云开发者联盟 企业号 4 月 PK 榜

三分钟完成静态网站托管

华为云开发者联盟

开发 华为云 华为云开发者联盟 企业号 4 月 PK 榜 静态网站托管

PaddleSeg 2.8版本正式发布啦!

飞桨PaddlePaddle

飞桨

高兼容低成本,开箱即用的首页性能优化方式被我们找到了

小红书技术REDtech

前端 Andriod

Android技术分享 | 一行代码实现屏幕、声音采集

anyRTC开发者

音视频 移动开发 Andriod 屏幕采集 声音采集

技术文章的写作思维

老张

技术干货 技术文章

字节跳动的开源历程与价值思考

字节跳动开源

开源 云原生 演讲 字节

LED显示屏室内改为户外为何不可取?

Dylan

LED显示屏 户外LED显示屏 户内led显示屏

【堡垒机小知识】堡垒机有主机监控功能吗?

行云管家

网络安全 堡垒机 主机监控

golang-GMP模型

天翼云赋能芦山县医共体建设,为群众铺就便捷顺畅就医路

天翼云开发者社区

【等保小知识】等保一级需要备案吗?

行云管家

等级保护 等保备案 等保一级 一级等保

亚信科技AntDB数据库荣膺第十二届数据技术嘉年华(DTC 2023)“最具潜力数据库”大奖

亚信AntDB数据库

AntDB AntDB数据库 企业号 4 月 PK 榜

“天翼云出海友好客户启航会”圆满收官!

天翼云开发者社区

Fabarta 图增强数据血缘治理解决方案

Fabarta

数据治理 图数据库 图智能 血缘治理

如何在 Postman 中进行 HTTPS 请求

Liam

Java 程序员 后端 Postman API 调试

轻松比较文件和文件夹:Beyond Compare 4 Mac中文

真大的脸盆

Mac Mac 软件 对比工具 比较文件 对比软件

【转载】“一中心四辅助” | 亚信安慧产品与解决方案全栈图谱发布

亚信AntDB数据库

AntDB AntDB数据库 企业号 4 月 PK 榜

【致地图开发者】地图开放平台假期服务公告

百度开发者中心

百度地图

惠普聚焦资源再利用、森林保护和碳排放,理念贯穿电脑全生命周期

叶落便知秋

为什么众多大型国企都在升级企业数智化底座?

用友BIP

技术大会 用友iuap 用友技术大会 升级企业数智化底座 央国企数智化转型

北京 Meetup 邀你来|云上 StarRocks 极速湖仓

阿里云大数据AI技术

大数据

Deepfake的检测标准即将到来,Facebook发起检测挑战赛,旨在鉴定虚假影像_AI&大模型_张之栋_InfoQ精选文章