写点什么

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

  • 2019-10-08
  • 本文字数:1473 字

    阅读完需:约 5 分钟

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

七牛云人工智能实验室成立以来,始终以用机器视觉技术为用户和社会解决问题,创造价值为己任。在两年多的实践和摸索中,七牛云人工智能实验室逐渐发现了一些真正需要人工智能解决的问题,并且取得了一些成绩。藉由世界人工智能大会的舞台,七牛云人工智能实验室正式发布七牛云内容安全产品「明瞳 2.0」,并由七牛云人工智能实验室创始人彭垚为大家进行了相应介绍。

以下内容根据现场演讲内容速记的实录整理。



感谢大家,感谢各位领导、老师来到我们人工智能大会的现场,我也很荣幸借此机会给大家介绍一下我们最近发布的一个新产品,这个新产品与互联网安全非常相关。


首先讲一下内容安全在中国的形势。最近不少公司多多少少都受到了国家严厉的监管,因为他们对内容安全监管上疏于防范。现在互联网上的内容越来越多,但是会有不同程度的违规现象发生。因为我们的内容接收者包括各个年龄层面,所以需要再监管上从严治理。


总体来说,我们对社会上的内容监管主要分为三大块:第一,平台内容自我监察。这一部分是很多互联网公司日常做的,他们有人审的团队做监察。第二,群众举报,他们看到一些情况会向有关部门去举报、投诉。第三,通过监管部门的抽查,去净化整体的内容安全环境。这一块其实也有一些很大的问题:一是目前我们的审查标准滞后是比较严重的;二是审查的效率相对比较低下,审核员花很长时间去审核图片;三是管理成本非常高,我看到我们很多公司的团队都有几百人,这块的负担是很大的。


现在我们推出了一站式 AI+专员复审的端到端解决的内容安全产品——「明瞳 2.0」。即便你没有人审团队也可以用我们的产品,将你的内容安全风险降到零。它会无感知地对你的内容进行审核,基本上不再需要招人审团队了。


这就是我们「明瞳 2.0」,是一站式的产品,相当于客户原本人工内容安全审核团队的工作,全部可以交给七牛云来做。在这个过程当中,我们做了非常多的事情,包括通过 AI 做了设计、敏感识别,后台海量专业人员的人审复核,再到由我们专家优化模型的人工智能平台。真正达到双重审核运营无忧的环境。


现在我们审核的内容是什么呢?随着这一段时间内容安全的迭代,我们审核的内容越来越多,大体上可以分为两类,一类是和国家安全相关的信息,比如涉敏感内容,暴恐;一类是和家庭个人相关的信息,比如说小朋友不大适合去看的内容,二是是低质量的互联网传播内容。


在七牛云整个官网控制台进去之后,直接就有「内容安全」的应用,应用点击之后,我们可以选择存储在七牛云上的整个增量、存量或者是勾选当中想要审核的内容。审核开始后,可以看你整个审核的进度,最后你可以通过我们可视化的窗口,看一下审核的结果,看看对这些审核结果是否满意。通过目前市场上的一些数据对比,我们在色情识别上的数据是较为领先的。


我们基于和上海网安和公安部学习了很多的经验,我们有一个联合实验室,通过很长时间的打磨,我们拥有了一套完整的基于暴恐监控的网络安全系统。还有政治敏感人物类型,目前我们有 2000 名以上的敏感人物库,准确率 98.6%,可以在第一时间更新人物库,进行实时更新。




这是我们的一些客户,首先是 FaceU,这是做美颜滤镜的公司,还有 Blued,这是全球最大的男同性恋网站。我们通过识别人的物品去做细分类。这两年我们也获得了一些小的学术方面的成就,包括 ACM MultiMedia LSVC 第二名,今年 activityNet 第三名。


作为专注研究 MultiMedia 的团队在视频发展越来快的年代,我相信在将来,我们的团队会在整个 AI 行业当中,创出更新的一番天地。谢谢大家。


本文转载自公众号七牛云(ID:qiniutek)。


原文链接:


https://mp.weixin.qq.com/s/i12FyYhQiAvuA8Ki0tpCcg


2019-10-08 17:551000

评论

发布
暂无评论
发现更多内容

python的标准库与扩展库中对象的导入与使用

乔乔

11月月更

Baklib帮助中心|如何设置好客户服务帮助您的客户?

Baklib

Baklib|如何做好知识库网页?

Baklib

week6作业 - 拆分电商系统为微服务

in9

如何搭建 SaaS 产品的客户服务体系

产品海豚湾

SaaS平台 B端产品 SaaS 产品 11月月更 客户成功

2022-11-23: 分数排名。输出结果和表的sql如下。请写出输出结果的sql语句? +-------+------+ | score | rank | +-------+------+ | 4.

福大大架构师每日一题

数据库 福大大

架构实战营模块 6 作业

陌生流云

架构实战营

Gartner 2023 年十大技术趋势,资料汇总(官方PDF & 直播实况)

填空时光

Gartner Gartner预测 gartner电子书 咨询

母亲斗情敌,羞得儿子无地容!一瓶“醉三皇”,圆了多少孝亲梦!

联营汇聚

Jan Ozer:高清直播互动场景下的硬编码如何选型?

声网

人工智能 编码 视频

OpenSergo & ShardingSphere 社区共建微服务视角的数据库治理标准

阿里巴巴云原生

阿里云 云原生 开源微服务 OpenSergo

传统客服中心向“互联网+”转型的关键点——帮助中心

Baklib

C++特殊类的设计

可口也可樂

c++ 11月月更 特殊类的设计

Linux 忘记密码解决方法

芯动大师

Linux线程 11月月更 Linux系统

第二章 TCP/IP-IOS七层模型

我叫于豆豆吖.

11月月更

CentOS7安装MySQL-5.7.36

蜗牛也是牛

helm部署mysql

程序员欣宸

Helm 11月月更 kuernetes

【愚公系列】2022年11月 微信小程序-页面间通信

愚公搬代码

11月月更

API关键技术-日志审计技术

阿泽🧸

日志审计 11月月更

web服务器

我叫于豆豆吖.

11月月更

第一章 TCP/IP协议

我叫于豆豆吖.

11月月更

防患未然 | AIRIOT城市管廊智能运维解决方案

AIRIOT

低代码 物联网 智慧管廊

什么是CI/CD

穿过生命散发芬芳

CI/CD 11月月更

【web 开发基础】PHP中的伪类型参数的函数 (31)

迷彩

函数 web开发基础 11月月更 伪类型参数函数 伪类型

解读 K8s Pod 的 13 种异常

阿里巴巴云原生

阿里云 Kubernetes 云原生

一文熟悉 Go 的基础语法和基本数据类型

陈明勇

Go golang 11月月更

项目重构演进之路

杨充

寒冬之下,年销售增速不降反增,这家国企做对了什么?

用友BIP

敏捷开发四个会议如何正确召开?

PingCode研发中心

敏捷开发

视效剧情口碑双爆棚!Netflix 现象级剧集《怪奇物语》第四季神级视效专访大揭秘!

Renderbus瑞云渲染农场

Renderbus瑞云渲染 CG动画电影 CG特效制作

【活动回顾】Apps Everywhere 上海站圆满结束

亚马逊云科技 (Amazon Web Services)

人工智能 机器学习

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布_文化 & 方法_彭垚_InfoQ精选文章