AI实践哪家强?来 AICon, 解锁技术前沿,探寻产业新机! 了解详情
写点什么

用 AI 对抗 AI!教代码调戏深度学习算法生成的假视频

  • 2018-11-13
  • 本文字数:1893 字

    阅读完需:约 6 分钟

用AI对抗AI!教代码调戏深度学习算法生成的假视频

AI 前线导读: 写代码用 AI 调戏 AI,检测 AI 生成的虚假图片、视频?这现在已经成为可能了,因为能表征图片、视频的真假的特征很容易被检测出来。要怎么做呢?让我们一起来看看吧!


更多干货内容请关注微信公众号“AI 前线”(ID:ai-front)


随着 AI 的崛起,人们已经可以用深度学习算法生成越来越多以假乱真的图片和视频。这也激发了美国的学者们的研究热情:如何设计算法检测出网络上用 AI 生成假图片、假视频,即所谓的“deepfakes” 呢?


生成对抗网络(Generative Adversarial Networks,GANs)是进行虚假图片、视频“创作”的法宝。这类神经网络可以帮助研究者们生成人造数据集(相关文章), 用以在数据集不足的情况下训练人工智能算法。这类网络还可以协助艺术家进行肖像创作(相关文章)。


然而,和所有的技术一样,这项技术也有其不好的一面。比如,网络上的一些恶徒可以利用这项技术,将明星、前女友、政客或其他受害者的脸合成到色情明星的身体上。计算机合成结果会非常逼真,就像受害者真的在做限制级动作一样。而且,让人头疼的不只是淫秽影片那么简单。人们可以利用 AI 生成假的采访视频或个人声明,再配合上 AI 生成的声音(相关文章), 让人与人之间从此没有信任。


现在,人们可以稍微松口气了。博士生李跃尊(音译)和纽约州立大学奥尔巴尼分校的助理教授刘思伟(音译)提出了一种新技术,可以识别深度学习算法(如开源项目DeepFake FaceSwap算法)生成的假视频。


目前,深度学习生成的假视频对于人类来说还不是那么难辨认。伪造的视频一般比较奇怪,人的面部表情不是很自然,而且动作会有延迟、不顺畅。而且,伪造的视频一般会比原视频分辨率低。因此,人们应该能很快意识到自己看到了假视频。然而,由于生成假视频的技术仍在不断发展,未来最好能有一种技术可以识别出假视频里的特征,从而提醒观看假视频却没有意识到的人。

检测深度学习生成的假视频

用计算机检测假视频,之前的做法是用一些特征作为基准,比如观察视频中人的眨眼情况,从而判断视频真假。这一般需要先训练一个 GAN 网络,然后利用这个 GAN 网络来训练其他网络以检测视频真假。


李和刘的方法却并不依赖于 GAN 网络,因此运行时间更短、需要的算力更低。首先,他们使用了计算机视觉中的传统算法来检测 24,442 张训练图像,并提取其脸部关键点。然后,他们会弯折或扭曲图像中的人脸特征,来模拟 DeepFake 生成的假图片、视频中可能会出现的怪异效果。最后,他们用真实的和扭曲的图像训练了一些卷积神经网络(CNN)作为分类器,该分类器可以给出一个视频为真还是为假的概率。训练完成后,他们向这些卷积神经网络中输入视频的截图,就可以检测这些截图中的人脸到底是真的还是伪造的。


“我们观察到,现有的 DeepFake 算法只能生成出分辨率有限的图像,这些低分辨率图像要经过扭曲才能扩展到和来源视频一样的分辨率。我们的方法就是基于这个观察。”李和刘在本月发表的一篇论文中这样解释道。


“这种变换是 DeepFake 算法所造出的假视频中特有的,而且我们证明,这种变换很容易被卷积神经网络捕捉到。”


二人将前述方法用到了四个卷积神经网络中。训练集包含 49 个真实视频和 49 个 DeepFake 算法生成的假视频。每个视频作为一个独立的样本,时长约为 11 秒。所有视频共有 32,752 帧。


由英国的牛津大学的研究者开发的老牌卷积神经网络——VGG16,在假视频识别任务中表现最差(精度为 83.3%)。而更为流行的一个 CNN——微软的研究者们开发的 ResNet50,给出了高达 97.4%的精度。


ResNet50 的一些变种也表现得很好。ResNet101 和 ResNet152 给出了 95.4%和 93.8%的精度,分别位列第二和第三。在将 deepfake 假视频看作一个整体的情况下,ResNet101 表现最好(精度为 99.1%),ResNet50 次之(98.7%),紧接着是 ResNet152(97.8%),而 VGG16 最差(84.5%)。


虽然这种检测方法很有前途,但研究者们目前还没有给出非常有意义的实验结果——他们的实验只是在他们精心挑选的图像和视频数据集上做的。换句话说,研究者们还需要在更多真实世界中的 DeepFake 视频上做实验,才能进一步验证他们的算法。另外,随着 GAN 网络技术的进步,假视频的质量也进一步提高,恐怕以后这种假视频的检测方法会越来越不适用。


“随着 DeepFake 技术的不断进化,我们也会继续改进这种检测方法”——学者们允诺道。“首先,我们会将多视频压缩的问题考虑进去,继续验证和改进我们算法的鲁棒性。其次,我们现在仅使用了他人设计好的网络架构(如 resnet 和 VGG)。为追求更加高效的检测结果,我们会针对 DeepFake 视频检测任务设计专门的网络。”


原文链接:


https://www.theregister.co.uk/2018/11/06/fight_ai_deepfakes


2018-11-13 19:441767

评论

发布
暂无评论
发现更多内容

week7

不在调上

LeetCode 题解:1051. 高度检查器,JavaScript,先排序再比较,详细注释

Lee Chen

大前端 LeetCode

个人博客网站搭建

北漂码农有话说

ARTS Week8

时之虫

ARTS 打卡计划

隐私计算:实现数据价值释放的突破口

CECBC

密码学 政策扶持 隐私计算 发展现状

架构师训练营第六周课后总结

Cloud.

性能压测的时候,系统响应时间和吞吐量如何变化,为什么?

不在调上

看动画学算法之:排序-选择排序

程序那些事

数据结构 算法 动画

番外篇:新鲜上市的Unicorn - Pinterest的数据系统

顾仲贤

可读代码编写炸鸡八 - 变量兜兜转转像是一场梦

多选参数

代码 代码组织 代码规范 可读代码编写 可读代码

手写一个Vue风格组件

林浩

Java 大前端 webpack

redis系列之——数据持久化(RDB和AOF)

诸葛小猿

redis 持久化 aof rdb

架构师训练营架构第七周总结

Cloud.

区块链技术助力打造新公益样板

CECBC

kubernetes 集群安装(kubeadm)

小小文

Docker Kubernetes 群集安装 etcd

Windows Sandbox

Dare Devor

Sandbox Virtualization

生活困境

落曦

区块链想要拥有互联网级的用户体验,如何从应用层与公链去改进?

CECBC

云原生技术栈的关键技术

李英俊

云原生 Go 语言

CECBC区块链专委会副主任吴桐受邀成为伏羲智库兼职研究员

CECBC

区块链技术 吴桐 商务部CECBC 伏羲智库 政务链

解决火狐新窗口打开网页被拦截问题

Lee Chen

大前端

盘点本周区块链国内大事件

CECBC

第七章作业

小胖子

使用 Docker 部署 Django + MySQL 8 开发环境

AlwaysBeta

MySQL django Docker Dockerfile Docker-compose

流量控制算法

架构 流量控制 流控算法

【总结】性能优化

小胖子

Swift十年

SwiftMic

Swift十年

学习Rust,我的一些体会

Kurtis Moxley

编程 rust 随笔杂谈

看动画学算法之:排序-归并排序

程序那些事

Java 算法 排序 归并排序

命令行一键启动Hadoop集群

我是个bug

大数据 hadoop hdfs YARN Big Data

那些好用的命令

北漂码农有话说

用AI对抗AI!教代码调戏深度学习算法生成的假视频_AI&大模型_Katyanna Quach_InfoQ精选文章