QCon北京「鸿蒙专场」火热来袭!即刻报名,与创新同行~ 了解详情
写点什么

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

  • 2019-10-08
  • 本文字数:1473 字

    阅读完需:约 5 分钟

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

七牛云人工智能实验室成立以来,始终以用机器视觉技术为用户和社会解决问题,创造价值为己任。在两年多的实践和摸索中,七牛云人工智能实验室逐渐发现了一些真正需要人工智能解决的问题,并且取得了一些成绩。藉由世界人工智能大会的舞台,七牛云人工智能实验室正式发布七牛云内容安全产品「明瞳 2.0」,并由七牛云人工智能实验室创始人彭垚为大家进行了相应介绍。

以下内容根据现场演讲内容速记的实录整理。



感谢大家,感谢各位领导、老师来到我们人工智能大会的现场,我也很荣幸借此机会给大家介绍一下我们最近发布的一个新产品,这个新产品与互联网安全非常相关。


首先讲一下内容安全在中国的形势。最近不少公司多多少少都受到了国家严厉的监管,因为他们对内容安全监管上疏于防范。现在互联网上的内容越来越多,但是会有不同程度的违规现象发生。因为我们的内容接收者包括各个年龄层面,所以需要再监管上从严治理。


总体来说,我们对社会上的内容监管主要分为三大块:第一,平台内容自我监察。这一部分是很多互联网公司日常做的,他们有人审的团队做监察。第二,群众举报,他们看到一些情况会向有关部门去举报、投诉。第三,通过监管部门的抽查,去净化整体的内容安全环境。这一块其实也有一些很大的问题:一是目前我们的审查标准滞后是比较严重的;二是审查的效率相对比较低下,审核员花很长时间去审核图片;三是管理成本非常高,我看到我们很多公司的团队都有几百人,这块的负担是很大的。


现在我们推出了一站式 AI+专员复审的端到端解决的内容安全产品——「明瞳 2.0」。即便你没有人审团队也可以用我们的产品,将你的内容安全风险降到零。它会无感知地对你的内容进行审核,基本上不再需要招人审团队了。


这就是我们「明瞳 2.0」,是一站式的产品,相当于客户原本人工内容安全审核团队的工作,全部可以交给七牛云来做。在这个过程当中,我们做了非常多的事情,包括通过 AI 做了设计、敏感识别,后台海量专业人员的人审复核,再到由我们专家优化模型的人工智能平台。真正达到双重审核运营无忧的环境。


现在我们审核的内容是什么呢?随着这一段时间内容安全的迭代,我们审核的内容越来越多,大体上可以分为两类,一类是和国家安全相关的信息,比如涉敏感内容,暴恐;一类是和家庭个人相关的信息,比如说小朋友不大适合去看的内容,二是是低质量的互联网传播内容。


在七牛云整个官网控制台进去之后,直接就有「内容安全」的应用,应用点击之后,我们可以选择存储在七牛云上的整个增量、存量或者是勾选当中想要审核的内容。审核开始后,可以看你整个审核的进度,最后你可以通过我们可视化的窗口,看一下审核的结果,看看对这些审核结果是否满意。通过目前市场上的一些数据对比,我们在色情识别上的数据是较为领先的。


我们基于和上海网安和公安部学习了很多的经验,我们有一个联合实验室,通过很长时间的打磨,我们拥有了一套完整的基于暴恐监控的网络安全系统。还有政治敏感人物类型,目前我们有 2000 名以上的敏感人物库,准确率 98.6%,可以在第一时间更新人物库,进行实时更新。




这是我们的一些客户,首先是 FaceU,这是做美颜滤镜的公司,还有 Blued,这是全球最大的男同性恋网站。我们通过识别人的物品去做细分类。这两年我们也获得了一些小的学术方面的成就,包括 ACM MultiMedia LSVC 第二名,今年 activityNet 第三名。


作为专注研究 MultiMedia 的团队在视频发展越来快的年代,我相信在将来,我们的团队会在整个 AI 行业当中,创出更新的一番天地。谢谢大家。


本文转载自公众号七牛云(ID:qiniutek)。


原文链接:


https://mp.weixin.qq.com/s/i12FyYhQiAvuA8Ki0tpCcg


2019-10-08 17:55985

评论

发布
暂无评论
发现更多内容

ReactNative进阶(四十三):Mac 通过 .bash_profile 文件配置环境变量

No Silver Bullet

Mac 2月月更 .bash_profile

Linux之killall命令

入门小站

Linux

MySQL架构设计

JavaEdge

2月月更

WebRTC 流媒体常见开源方案综述 | 社区征文

liuzhen007

音视频 新春征文 2月月更

ReactNative进阶(四十六):移动端实现字体自适应

No Silver Bullet

自适应 React Native 2月月更

Java NIO为何导致堆外内存OOM了?

JavaEdge

2月月更

从 TDD 到测试策略

Teobler

前端 TDD 单元测试 测试策略 测试金字塔

2021年度总结-拥抱变化

wood

300天创作

特征工程:归一化与标准化

强劲九

Python 人工智能 神经网络 机器学习 scikit-learn

树概念总结

en

数据结构

WebRTC 如何在安卓系统上采集视频数据 | 社区征文

liuzhen007

音视频 新春征文 2月月更

Windows 和 Linux 上安装 TTF 字体的方法

编程三昧

HTML5, CSS3 1月月更

Kubernetes初学者指南

俞凡

架构 Kubernetes 云原生 2月月更

聊聊API安全的重要性及治理思路

陈俊

安全 API 应用架构

ReactNative进阶(四十四):Mobile App 适配性优化

No Silver Bullet

React Native 适配 1月月更

微服务架构实践原则

俞凡

架构 微服务

微信朋友圈高性能复杂度分析

唐尤华

架构实战营

浅谈 Java 集合框架

宇宙之一粟

java集合总结 1月月更

(2-1/26) 滑雪的准备

mtfelix

300天创作

【拥有新时代的通信协议,引领云原生迈向更高的舞台】解密Dubbo3从微服务升华到云原生 | 社区征文

码界西柚

云原生 Cloud Native Dubbo3 新春征文 2月月更

Mybatis技术专题之MybatisPlus自带强大功能之多租户插件实现原理和实战分析

码界西柚

多租户 MyBatisPlus 2月日更 多租户技术

Java9特性-响应式流(Reactive Stream)

蜜糖的代码注释

Java 响应式 响应式编程 2月月更

ReactNative进阶(四十五):渐变组件 react-native-linear-gradient

No Silver Bullet

React Native 2月月更

ReactNative进阶(四十七):移动端调试利器 vConsole

No Silver Bullet

ReactNative 2月月更 vconsole

行业研究流程及资源总结

轻口味

android AI 1月月更

2021,平(jia)凡(ban)的一年

xiezhr

年终总结 2021 2021年终总结

简单入门计算机网络

宇宙之一粟

计算机网络 2月月更

Promise 基本方法的简单实现

编程三昧

JavaScript Promise 2月月更

在线格式时间计算时间差

入门小站

工具

Spotify系统架构

俞凡

架构 大厂实践 2月月更 spotify

再解 JavaScript 原型 与原型链

编程三昧

JavaScript 前端 原型 原型链 2月月更

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布_文化 & 方法_彭垚_InfoQ精选文章