写点什么

Deepfake 的检测标准即将到来,Facebook 发起检测挑战赛,旨在鉴定虚假影像

  • 2019-09-06
  • 本文字数:1725 字

    阅读完需:约 6 分钟

Deepfake的检测标准即将到来,Facebook发起检测挑战赛,旨在鉴定虚假影像

当地时间 9 月 5 日,Facebook发文称:将为 Deepfake 创建数据集,并发起关于 Deepfake 检测的挑战赛。挑战赛的目标是:开发出一种每个人都可以使用的技术,用于检测那些 AI 技术修改过的视频、图片等。



AI 换脸,名噪一时。近期,更有后居上者“ZAO”,搅动江湖风雨。扑面而来的舆论压力,把 AI 技术“Deepfake”推到了风口浪尖。面对这已不再是“有图有真相”的年代,Facebook 率先发起对 Deepfake 的挑战。


Deepfake,是英文“deep learning”(深度学习)和“fake”(伪造)的混成词,专指用基于人工智能的人体图像合成技术。此技术可将已有的图像和影片叠加至目标图像或影片上。


“Deepfake”技术,可以呈现出由 AI 技术生成的逼真视频,但这种视频往往被应用于色情、假新闻、恶意报复等方面,进而产生严重的负面影响。自 2017 年兴起的这种技术,并没有得到好的引导,而且行业领域也没有很好的数据集或基准来检测它们。


为了更好的鉴定这些伪造的视频影片,Facebook 联合麻省理工学院、牛津大学、加州大学伯克利分校等合作伙伴,发起了 Deepfake 检测挑战赛(DFDC)。


Deepfake 检测挑战赛的目标是开发一种每个人都可以使用的技术,这种技术可以用来检测那些利用 AI 技术制造的假视频。Deepfake 检测挑战赛将包括一个数据集和排行榜,而且这一挑战赛将由 Partnership on AI 's new Steering Committee on AI 和 Media Integrity 提供便利和监督。


为此,Facebook 还邀请了许多外部专家分享他们对这个项目的看法,如下:


“为了从信息时代过渡到知识时代,我们必须更好地辨别真伪,奖励那些可信内容,并教育下一代成为更好的数字公民。这需要全面的投资,包括工业、大学、非政府组织的共同研究,以便开发出新的技术,这种技术将能够快速准确的确定哪些内容是真实的。”


—— Hany Farid,加州大学伯克利分校电子工程与计算机科学和信息学院教授


“自从摄影出现以来,人们就一直在操纵图像。但现在几乎任何人都可以创作并向大众传播‘赝品’。本次比赛的目标是建立一个人工智能系统,能够检测出图像中的细微缺陷,进而鉴定出该图像是否被篡改。”


——Antonio Torralba 教授,电气工程与计算机科学系,麻省理工学院智能探索项目(MIT Quest for Intelligence)主任


“我们生活在多媒体时代,拥有完整的信息对我们的生活至关重要。鉴于近期 AI 技术在大规模生成虚假文本、图像、视频、音频等方面的发展,我们需要研究界在一个开放的环境中充分参与,以便开发出新的技术和系统,这种技术能够检测到 AI 技术制造的多媒体影像,并减轻它们带来的不良影响。”


——Rama Chellappa,马里兰大学杰出教授,Minta Martin 工程教授


“为了有效地推动变革和解决问题,我们认为学术界和产业界在一个开放和协作的环境中走到一起,是至关重要的。在康奈尔理工大学,我们的研究集中在弥合这一差距和解决数字时代技术的社会影响,而 Deepfake 检测挑战赛就是一个完美的例子。我们正在与科技行业领袖、学术伙伴合作,开发一个全面的数据源,使我们能够识别假媒体信息,并最终建立工具和解决方案来打击这些利用 AI 技术的负面行为。我们很荣幸能够成为这个小组的一员,我们将与大家分享数据来源,并让任何人都能从这项研究中学习和扩展。”


——Serge Belongie,康奈尔理工学院副院长兼教授


“AI 技术制造的‘假’媒体影像被发布在互联网上,不仅制造出虚假的阴谋论,还被有心之人利用在政治斗争中,这不但对民主的根本和自由产生了威胁,甚至正在逐渐扩大成为全球性的问题。我们迫切的需要一种工具来检测和描述这些错误信息,我也很高兴能够成为这项倡议的一员,该倡议的目标在于:既要保护真相,又要推动科学前沿发展。”


——Philip H. S. Torr 教授,牛津大学工程科学系


“尽管 Deepfake 看起来和真的一样,但它们却是由算法生成,而不是摄像机捕捉到的真实事件,这就意味着,它们仍然可以被检测到,而且其来源也能得到验证。一些重要的发现和减轻 Deepfake 有害影响的新方法正在投入使用,包括在视频片段中添加数字指纹的程序,以帮助验证其真实性等。与任何复杂的问题一样,它需要来自技术社区、政府机构、媒体、平台公司和每一位在线用户的共同努力,以对抗它们即将带来的负面影响。”


——吕思伟教授,纽约州立大学工程与应用科学学院


2019-09-06 15:018569
用户头像
张之栋 前InfoQ编辑

发布了 91 篇内容, 共 49.1 次阅读, 收获喜欢 159 次。

关注

评论

发布
暂无评论
发现更多内容

介绍几种 MySQL 官方高可用方案

Simon

MySQL 数据库 MySQL高可用

如何玩转云端文生视频、0码构建AI应用?华为云专家来揭秘

华为云开发者联盟

人工智能 云原生 华为云 华为云开发者联盟 企业号2024年6月PK榜

低代码+定制:优化项目管理的新方案

天津汇柏科技有限公司

项目管理 低代码 软件开发定制

Visio文件编辑查看工具:Visio Viewer for Mac 激活版

你的猪会飞吗

mac软件下载

漫步5G-A City,一份独属于上海的浪漫

脑极体

接口测试:Mock 工具与定制化

测试人

软件测试 Mock

通过搭建 24 点小游戏应用实战,带你了解 AppBuilder 的技术原理

百度Geek说

企业号 6 月 PK 榜 AI 原生云 AppBuilder

Databend 怎么看 OpenAI 收购实时数仓 Rockset?

Databend

SSH安全远程登录与端口转发

左诗右码

SSH

🚀 快速上手LangChain开发实战:1小时内掌握《Generative AI with LangChain》的核心!

Epsilla

人工智能 AI langchain rag Epsilla

vivo 互联网自研代码评审 VCR 落地实践

vivo互联网技术

git gitlab 代码评审 idea intellij VCR

基于 Paimon 的袋鼠云实时湖仓入湖实战剖析

袋鼠云数栈

数据湖 实时计算 实时数据 实时湖仓 paimon

阿里巴巴1688商品详情API返回值解析:商品信息实时更新与监控

技术冰糖葫芦

API Explorer API boy api 货币化 API 文档

未来LED显示屏方向:超薄、散热、柔性

Dylan

国际化 LED显示屏 全彩LED显示屏 户外LED显示屏 led显示屏厂家

Linux 下的性能监控与分析技巧

左诗右码

Linux

移动通信产业,需要通往AI时代的“波托兰海图”

脑极体

通信

观测云产品更新 | Pipelines、智能监控、日志数据访问等

观测云

智能监控 pipelines

利用反射API和AOP实现业务逻辑的自动化重构

技术冰糖葫芦

API Explorer API boy api 货币化 API 文档

TDengine 新能源行业研讨会上都说了啥?精彩回顾!

TDengine

数据库 tdengine 时序数据库

突发,OpenAI宣布终止对中国提供服务,影响在哪里?

AR玩家

openai GPT Rokid Vision pro 炬目AR

火山引擎ByteHouse:新一代云数仓必不可少的五大核心能力

字节跳动数据平台

数据库 大数据 云原生 Clickhouse 数仓

自研一款共享集群数据库,有多难?

Geek_2d6073

工业元宇宙AI超级终端“派中心一体机”问世

科技汇

office2021破解版安装包 mac/win

理理

原生鸿蒙,激活数字内容一池活水

最新动态

Deepfake的检测标准即将到来,Facebook发起检测挑战赛,旨在鉴定虚假影像_AI&大模型_张之栋_InfoQ精选文章