报名参加CloudWeGo黑客松,奖金直推双丰收! 了解详情
写点什么

微软北大造出超逼真 AI 换脸框架,顺便搞了个伪人脸检测器,网友:自造矛和盾?

  • 2020-01-07
  • 本文字数:1769 字

    阅读完需:约 6 分钟

微软北大造出超逼真AI换脸框架,顺便搞了个伪人脸检测器,网友:自造矛和盾?

以 Deepfake 为代表的 AI 换脸技术营造出的“以假乱真”的效果让人感到细思极恐,不过现有的一些生成工具还不能达到完全逼真的换脸效果,有的存在不少破绽,有的换脸效果很不自然,能轻易让人识别出来。近日,微软和北大的研究人员提出了一种新的 AI 换脸框架— FaceShifter,其能够大大提高换脸的高保真度。AI 换脸技术在爆红的同时也伴随着因滥用带来的隐忧,研究团队还提出了一种检测伪造人脸图像的方法—Face X-Ray,能够检测出复杂的伪造人脸图像。


近日,微软研究院和北京大学的研究团队发表了 2 篇学术论文,一篇关于生成高保真图像且能识别遮挡物的人脸交换框架— FaceShifter,另一篇关于检测伪造人脸图像的方法——Face X-Ray。


研究人员表示,这两项技术优于以前许多同类技术,所需数据也更少,且不会以牺牲性能代价。



微软的 FaceShifter 与现有方法对比


据了解,FaceShifter 能用源图像中的人替换掉目标图像中的人,同时保留了头部姿态、面部表情、光线、颜色、强度、背景和其他特征。但像 Reflect 和 FaceSwap 这样的应用程序声称也可以准确地做到这一点,但是微软论文的合著者表示,FaceShifter 对姿势和视角变化更加敏感。


FaceShifter 通过生成式对抗网络(GAN)来提高人脸交换的保真度,自适应嵌入集成网络(AEI-Net)是一款由一个生成器组成的 AI 模型,该生成器的作用是迷惑鉴别器,让鉴别器把合成的样本归类为真实样本。它可以在不同空间分辨率中提取属性。


值得一提的是,AEI-Net 整合了研究人员所称的注意力非正规化(AAD)层,该层可自适应地学习在哪里整合面部属性,而单独的模型“启发式错误识别细化网络(HEAR-Net)”,则利用了重建图像与其输入之间的差异来识别斑点遮挡。




来自 FaceShifter 上的示例


再来单独感受下周杰伦“换脸”的过程~



微软的研究团队表示,在定性测试中,FaceShifter 保留了人脸轮廓,并准确地还原了目标的光线和图像分辨率。此外,即使是从互联网上抓取的“陌生面孔”,该框架也学会了在不依赖人工标注数据的情况下恢复异常区域——包括眼镜、阴影和反射效果,以及其他遮挡物。


研究小组称,“这款框架在生成逼真的人脸图像方面表现优异。大量实验表明,该框架明显优于以前的人脸交换方法。”


与现有的框架不同的是,FaceShifter 不需要事先了解操作方法,也不用人工监督。相反,它生成灰度图像,提示给定输入图像是否能分解成不同来源的两张图片的混合。研究小组表示,这是可行的,因为大多数面部处理方法都有一个共同的步骤,那就是将改变过的脸部混合到现有的背景图像中。在混合过程中,每幅图像都夹杂着各自独特的标记,这些标记要么来自硬件(如传感器和透镜),要么来自软件组件(如压缩和合成算法),而且这些标记与整幅图像趋于融合。



我们再来说一说 Face X-Ray。Face X-Ray 不需要依赖与人脸“造假技术”相关的知识,并且,Face X-Ray 的算法可以在不通过任何方法生成伪图像的情况下进行训练。


与 FaceShifter 不同的是,Face X-Ray 的作用是用于检测伪造的虚假头像。目前,伪造头像被滥用的情况横行网络。去年 6 月,一份报告显示,一名间谍利用 AI 生成的个人资料图片欺骗了 LinkedIn 上的联系人,同年 12 月,Facebook 发现了数百个利用 AI 合成的假脸作头像的虚假账户。研究人员表示,确实需要像 Face X-Ray 这样的工具来检测深度伪造的图像。


FaceForensics ++是一个大型视频语料库,其中包含四种使用先进人脸操作方法操作的 1000 多个原始剪辑。研究人员在 FaceForensics ++上对 Face X-Ray 进行了训练。研究人员评估了 Face X-Ray 归纳四个数据集的能力,其中包括 FaceForensics ++语料库的一个子集;Google 发布的上千个可视化Deepfake视频;来自Deepfake检测挑战的图像; 以及一个包含 408 个真实视频和 795 个合成视频的语料库 Celeb-DF。


结果表明,Face X-Ray 能够分辨出以前从未见过的伪造图像,并能准确地预测混合区域。该团队指出,他们的方法是针对混合图像的,因此,它可能不适用于完全合成的图像,可能被对抗样本骗过。暂且撇开这个不谈,研究团队认为,这是迈向伪造人脸检测的重要一步。


原文链接:


https://venturebeat.com/2020/01/06/microsoft-researchers-propose-face-swapping-ai-and-face-forgery-detector/


论文链接:


FaceShifter:https://arxiv.org/pdf/1912.13457.pdf


Face X-ray:https://arxiv.org/pdf/1912.13458.pdf


2020-01-07 14:228288
用户头像
刘燕 InfoQ高级技术编辑

发布了 1112 篇内容, 共 555.7 次阅读, 收获喜欢 1978 次。

关注

评论 1 条评论

发布
用户头像
以彼之矛攻彼之盾,目前还是难分伯仲。但魔高一尺道高一丈,未来,相信检测深度造假的算法定会战胜深度造假算法。
2020-01-09 16:23
回复
没有更多了
发现更多内容

什么是分布式数据库?我不信,看完这篇你还不懂!

TiDB 社区干货传送门

数据库架构设计 数据库前沿趋势

嵌入式 Linux 入门(七、Linux 下的环境变量)

矜辰所致

Linux 环境变量 10月月更

微信小程序浅践

Andy

TiDB 生产集群与加密通讯TLS的辛酸苦辣 - 开启篇

TiDB 社区干货传送门

集群管理 管理与运维

「Go工具箱」go语言csrf库的使用方式和实现原理

Go学堂

golang 开源 程序员 CSRF 10月月更

干货好文 | 初探MySQL迁移到ClickHouse

沃趣科技

MySQL Clickhouse

Nginx浅析

Andy

问:React的useState和setState到底是同步还是异步呢?

beifeng1996

React

从React源码来学hooks是不是更香呢

goClient1992

React

如何在填报场景中使用数据绑定获取数据源

葡萄城技术团队

腾讯前端经典react面试题汇总

beifeng1996

React

一次TiDB GC阻塞引发的性能问题分析

TiDB 社区干货传送门

性能调优 管理与运维 故障排查/诊断

react源码中的协调与调度

flyzz177

React

JVM 浅析(二)

Andy

【IT运维小知识】如何通俗理解节点、集群以及主从?

行云管家

高可用 高可用HA

负载均衡

Andy

《一条select 语句在TiDB Server层都发生了什么》

TiDB 社区干货传送门

管理与运维

一面高频vue面试题

bb_xiaxia1998

Vue

新思科技推出适用于IntelliJ集成开发环境的Code Sight标准版解决方案

InfoQ_434670063458

软件开发 代码 新思科技

JVM 组成结构分析

Andy

【web 开发基础】PHP 循环结构之 for 循环 -PHP 快速入门 (19)

迷彩

for循环 10月月更 web开发基础 PHP基础

每日一题之请描述Vue组件渲染流程

bb_xiaxia1998

Vue

等保备案和通信网络单元定级备案的五大区别讲解

行云管家

等保 等级保护 等保备案

云原生安全系列 1:零信任安全和软件开发生命周期

HummerCloud

云原生 安全 云原生安全 安全软件开发生命周期 10月月更

户外LED电子显示屏市场会走向哪

Dylan

LED LED显示屏 户外LED显示屏

从React源码角度看useCallback,useMemo,useContext

goClient1992

React

每日一题之Vue的异步更新实现原理是怎样的?

bb_xiaxia1998

Vue

react源码中的生命周期和事件系统

flyzz177

React

MySQL高级:explain分析SQL,索引失效&常见优化场景

程序员小毕

Java MySQL 数据库 后端 索引

顶级的计算机科学家是如何养成的?

博文视点Broadview

千锋1024程序员节锋企优联开启认证考试大咖直播,为学员开启认证学习秘籍

千锋IT教育

微软北大造出超逼真AI换脸框架,顺便搞了个伪人脸检测器,网友:自造矛和盾?_AI&大模型_刘燕_InfoQ精选文章