AICon上海|与字节、阿里、腾讯等企业共同探索Agent 时代的落地应用 了解详情
写点什么

Deepfake 的检测标准即将到来,Facebook 发起检测挑战赛,旨在鉴定虚假影像

  • 2019-09-06
  • 本文字数:1725 字

    阅读完需:约 6 分钟

Deepfake的检测标准即将到来,Facebook发起检测挑战赛,旨在鉴定虚假影像

当地时间 9 月 5 日,Facebook发文称:将为 Deepfake 创建数据集,并发起关于 Deepfake 检测的挑战赛。挑战赛的目标是:开发出一种每个人都可以使用的技术,用于检测那些 AI 技术修改过的视频、图片等。



AI 换脸,名噪一时。近期,更有后居上者“ZAO”,搅动江湖风雨。扑面而来的舆论压力,把 AI 技术“Deepfake”推到了风口浪尖。面对这已不再是“有图有真相”的年代,Facebook 率先发起对 Deepfake 的挑战。


Deepfake,是英文“deep learning”(深度学习)和“fake”(伪造)的混成词,专指用基于人工智能的人体图像合成技术。此技术可将已有的图像和影片叠加至目标图像或影片上。


“Deepfake”技术,可以呈现出由 AI 技术生成的逼真视频,但这种视频往往被应用于色情、假新闻、恶意报复等方面,进而产生严重的负面影响。自 2017 年兴起的这种技术,并没有得到好的引导,而且行业领域也没有很好的数据集或基准来检测它们。


为了更好的鉴定这些伪造的视频影片,Facebook 联合麻省理工学院、牛津大学、加州大学伯克利分校等合作伙伴,发起了 Deepfake 检测挑战赛(DFDC)。


Deepfake 检测挑战赛的目标是开发一种每个人都可以使用的技术,这种技术可以用来检测那些利用 AI 技术制造的假视频。Deepfake 检测挑战赛将包括一个数据集和排行榜,而且这一挑战赛将由 Partnership on AI 's new Steering Committee on AI 和 Media Integrity 提供便利和监督。


为此,Facebook 还邀请了许多外部专家分享他们对这个项目的看法,如下:


“为了从信息时代过渡到知识时代,我们必须更好地辨别真伪,奖励那些可信内容,并教育下一代成为更好的数字公民。这需要全面的投资,包括工业、大学、非政府组织的共同研究,以便开发出新的技术,这种技术将能够快速准确的确定哪些内容是真实的。”


—— Hany Farid,加州大学伯克利分校电子工程与计算机科学和信息学院教授


“自从摄影出现以来,人们就一直在操纵图像。但现在几乎任何人都可以创作并向大众传播‘赝品’。本次比赛的目标是建立一个人工智能系统,能够检测出图像中的细微缺陷,进而鉴定出该图像是否被篡改。”


——Antonio Torralba 教授,电气工程与计算机科学系,麻省理工学院智能探索项目(MIT Quest for Intelligence)主任


“我们生活在多媒体时代,拥有完整的信息对我们的生活至关重要。鉴于近期 AI 技术在大规模生成虚假文本、图像、视频、音频等方面的发展,我们需要研究界在一个开放的环境中充分参与,以便开发出新的技术和系统,这种技术能够检测到 AI 技术制造的多媒体影像,并减轻它们带来的不良影响。”


——Rama Chellappa,马里兰大学杰出教授,Minta Martin 工程教授


“为了有效地推动变革和解决问题,我们认为学术界和产业界在一个开放和协作的环境中走到一起,是至关重要的。在康奈尔理工大学,我们的研究集中在弥合这一差距和解决数字时代技术的社会影响,而 Deepfake 检测挑战赛就是一个完美的例子。我们正在与科技行业领袖、学术伙伴合作,开发一个全面的数据源,使我们能够识别假媒体信息,并最终建立工具和解决方案来打击这些利用 AI 技术的负面行为。我们很荣幸能够成为这个小组的一员,我们将与大家分享数据来源,并让任何人都能从这项研究中学习和扩展。”


——Serge Belongie,康奈尔理工学院副院长兼教授


“AI 技术制造的‘假’媒体影像被发布在互联网上,不仅制造出虚假的阴谋论,还被有心之人利用在政治斗争中,这不但对民主的根本和自由产生了威胁,甚至正在逐渐扩大成为全球性的问题。我们迫切的需要一种工具来检测和描述这些错误信息,我也很高兴能够成为这项倡议的一员,该倡议的目标在于:既要保护真相,又要推动科学前沿发展。”


——Philip H. S. Torr 教授,牛津大学工程科学系


“尽管 Deepfake 看起来和真的一样,但它们却是由算法生成,而不是摄像机捕捉到的真实事件,这就意味着,它们仍然可以被检测到,而且其来源也能得到验证。一些重要的发现和减轻 Deepfake 有害影响的新方法正在投入使用,包括在视频片段中添加数字指纹的程序,以帮助验证其真实性等。与任何复杂的问题一样,它需要来自技术社区、政府机构、媒体、平台公司和每一位在线用户的共同努力,以对抗它们即将带来的负面影响。”


——吕思伟教授,纽约州立大学工程与应用科学学院


2019-09-06 15:018677
用户头像
张之栋 前InfoQ编辑

发布了 91 篇内容, 共 50.9 次阅读, 收获喜欢 159 次。

关注

评论

发布
暂无评论
发现更多内容

以终为始,依托度量指标,多种工具全面提升研发效能

之家技术

工具 团队 效能 AIGC 释产能

热换站2D组态 热换机组监测控制系统

2D3D前端可视化开发

物联网 组态软件 智慧供暖 城市换热站 换热机组

最强大模型训练芯片H200发布!141G大内存,AI推理最高提升90%,还兼容H100

Openlab_cosmoplat

定做舞台租赁LED显示屏要注意什么

Dylan

LED LED显示屏 led显示屏厂家 户内led显示屏

爆款元服务!教你如何设计高使用率卡片

HarmonyOS开发者

HarmonyOS

释产能,论研效提升之路

之家技术

效率 团队 资源 效能 释产能

Mac电脑压缩解压工具WinZip激活最新版

胖墩儿不胖y

Mac软件 压缩工具 解压缩软件

「冰点还原精灵」Deep Freeze for mac 系统还原工具

加油,小妞!

Deep Freeze 系统还原

Macos硬件监测和系统维护工具:TechTool Pro for mac

加油,小妞!

系统维护 mac系统维护软件 TechTool Pro

率先支持Kuasar!iSulad Sandbox API 简化调用链,沙箱管理能力增强

华为云开发者联盟

云原生 后端 华为云 华为云开发者联盟

Linux常用命令用法及实现方式

小齐写代码

编程不是写代码,揭秘3种编程新范式:文本、图形和自然语言

代码生成器研究

编程 低代码 代码 编程范式 ChatGPT

2023年好用的远程协同运维工具当属行云管家!

行云管家

IT运维 远程运维 远程连接 远程系统

ChatGLM3-6B:新一代开源双语对话语言模型,流畅对话与低部署门槛再升级

汀丶人工智能

人工智能 自然语言处理 深度学习 大语言模型 chatglm3

即时通讯技术文集(第23期):IM安全相关文章(Part12) [共15篇]

JackJiang

网络编程 即时通讯 IM

深入跨域 - 从初识到入门 | 京东物流技术团队

京东科技开发者

前端 跨域 WMS仓库管理 企业号11月PK榜

保驾“双十一” 博睿数据助力电商零售迎高峰无烦忧

博睿数据

可观测性 博睿数据

“枫”景独美时,在华为天气发现观赏指南

最新动态

实例讲解数据库的定义重载函数

华为云开发者联盟

数据库 后端 华为云 华为云GaussDB 华为云开发者联盟

G口服务器有多快

Geek_f19a80

服务器

Milvus性能优化提速之道:揭秘优化技巧,避开十大误区,确保数据一致性无忧,轻松实现高性能

汀丶人工智能

人工智能 Milvus 向量数据库 检索系统

Deepfake的检测标准即将到来,Facebook发起检测挑战赛,旨在鉴定虚假影像_AI&大模型_张之栋_InfoQ精选文章