写点什么

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

  • 2019-10-08
  • 本文字数:1473 字

    阅读完需:约 5 分钟

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

七牛云人工智能实验室成立以来,始终以用机器视觉技术为用户和社会解决问题,创造价值为己任。在两年多的实践和摸索中,七牛云人工智能实验室逐渐发现了一些真正需要人工智能解决的问题,并且取得了一些成绩。藉由世界人工智能大会的舞台,七牛云人工智能实验室正式发布七牛云内容安全产品「明瞳 2.0」,并由七牛云人工智能实验室创始人彭垚为大家进行了相应介绍。

以下内容根据现场演讲内容速记的实录整理。



感谢大家,感谢各位领导、老师来到我们人工智能大会的现场,我也很荣幸借此机会给大家介绍一下我们最近发布的一个新产品,这个新产品与互联网安全非常相关。


首先讲一下内容安全在中国的形势。最近不少公司多多少少都受到了国家严厉的监管,因为他们对内容安全监管上疏于防范。现在互联网上的内容越来越多,但是会有不同程度的违规现象发生。因为我们的内容接收者包括各个年龄层面,所以需要再监管上从严治理。


总体来说,我们对社会上的内容监管主要分为三大块:第一,平台内容自我监察。这一部分是很多互联网公司日常做的,他们有人审的团队做监察。第二,群众举报,他们看到一些情况会向有关部门去举报、投诉。第三,通过监管部门的抽查,去净化整体的内容安全环境。这一块其实也有一些很大的问题:一是目前我们的审查标准滞后是比较严重的;二是审查的效率相对比较低下,审核员花很长时间去审核图片;三是管理成本非常高,我看到我们很多公司的团队都有几百人,这块的负担是很大的。


现在我们推出了一站式 AI+专员复审的端到端解决的内容安全产品——「明瞳 2.0」。即便你没有人审团队也可以用我们的产品,将你的内容安全风险降到零。它会无感知地对你的内容进行审核,基本上不再需要招人审团队了。


这就是我们「明瞳 2.0」,是一站式的产品,相当于客户原本人工内容安全审核团队的工作,全部可以交给七牛云来做。在这个过程当中,我们做了非常多的事情,包括通过 AI 做了设计、敏感识别,后台海量专业人员的人审复核,再到由我们专家优化模型的人工智能平台。真正达到双重审核运营无忧的环境。


现在我们审核的内容是什么呢?随着这一段时间内容安全的迭代,我们审核的内容越来越多,大体上可以分为两类,一类是和国家安全相关的信息,比如涉敏感内容,暴恐;一类是和家庭个人相关的信息,比如说小朋友不大适合去看的内容,二是是低质量的互联网传播内容。


在七牛云整个官网控制台进去之后,直接就有「内容安全」的应用,应用点击之后,我们可以选择存储在七牛云上的整个增量、存量或者是勾选当中想要审核的内容。审核开始后,可以看你整个审核的进度,最后你可以通过我们可视化的窗口,看一下审核的结果,看看对这些审核结果是否满意。通过目前市场上的一些数据对比,我们在色情识别上的数据是较为领先的。


我们基于和上海网安和公安部学习了很多的经验,我们有一个联合实验室,通过很长时间的打磨,我们拥有了一套完整的基于暴恐监控的网络安全系统。还有政治敏感人物类型,目前我们有 2000 名以上的敏感人物库,准确率 98.6%,可以在第一时间更新人物库,进行实时更新。




这是我们的一些客户,首先是 FaceU,这是做美颜滤镜的公司,还有 Blued,这是全球最大的男同性恋网站。我们通过识别人的物品去做细分类。这两年我们也获得了一些小的学术方面的成就,包括 ACM MultiMedia LSVC 第二名,今年 activityNet 第三名。


作为专注研究 MultiMedia 的团队在视频发展越来快的年代,我相信在将来,我们的团队会在整个 AI 行业当中,创出更新的一番天地。谢谢大家。


本文转载自公众号七牛云(ID:qiniutek)。


原文链接:


https://mp.weixin.qq.com/s/i12FyYhQiAvuA8Ki0tpCcg


2019-10-08 17:55846

评论

发布
暂无评论
发现更多内容

MySQL多版本并发控制MVCC实现原理

做梦都在改BUG

Java MySQL 数据库 MVCC

三次迭代终放“大招”,Themis Pro版即将问世

西柚子

海尔牵头!又一国家重点研发计划启动!

Openlab_cosmoplat

人工智能 开源项目 开源社区

AI自然语言处理的过去和未来

鲸品堂

自然语言处理 ChatGPT 企业号 4 月 PK 榜

Service初涉

梦笔生花

android service

Higress 0.7.0 版本发布:GA 进入倒计时

阿里巴巴云原生

阿里云 云原生 Higress

面对ChatGPT,中国AI可以不疾不徐不焦虑

脑极体

AI

IT采购,不再默默扛下“背刺”

白洞计划

AI 联想

GitHub开源大厂缓存架构Redis优化的文档,900页全是干货

做梦都在改BUG

Java 数据库 redis 缓存

Themis Pro版将正式推出,3次迭代到底在酝酿什么?

鳄鱼视界

愿我们心中都有信念,眼里都有光芒

禅道项目管理

团队管理 项目管理 敏捷开发

Selenium Grid作用是什么?Selenium Grid的使用过程?

测吧(北京)科技有限公司

测试

2023年“开放原子校源行”项目正式启动,腾讯大力支持开源人才培养

科技热闻

博睿数据中海油多云资源监控与治理案例荣膺云数大会年度优秀实践案例

博睿数据

可观测性 智能运维 博睿数据 精选案例

使用 Lambda Web Adapter 在 Lambda 上 构建 web 应用

亚马逊云科技 (Amazon Web Services)

Amazon

Flutter 使用 CustomPaint 绘制基本图形

岛上码农

flutter ios 安卓 移动端开发 跨平台开发

产品愿景设计:解锁团队潜能,引领市场竞争优势

L3C老司机

产品设计 数字化转型 设计思维 产品设计与思考 产品愿景

快速玩转 CNStack 2.0 流量防护

阿里巴巴云原生

阿里云 云原生 CNStack

FastAPI 的路由介绍与使用

宇宙之一粟

Python FastApi 路由

敏捷看板管理工具哪个好?

爱吃小舅的鱼

项目管理 Kanban管理

模块八作业 - 消息队列存储消息数据的 MySQL 表格

🐢先生

架构实战营

三次迭代终放“大招”,Themis Pro版即将问世

小哈区块

HTTP与HTTPS的区别

测吧(北京)科技有限公司

测试

软件测试/测试开发丨应用打包还是测试团队老大难问题?

测试人

软件测试 自动化测试 测试开发

龙蜥社区 3 月度运营大事件回顾

OpenAnolis小助手

活动 生态 龙蜥社区 运营月报 重要事件

小程序SDK的发展趋势与未来展望

FinFish

小程序 APP开发 小程序容器 超级app

新思科技:车联网产业的起点是安全

InfoQ_434670063458

车联网 新思科技 汽车安全

OceanBase入选啦!金融信创优秀解决方案(第二期)

OceanBase 数据库

数据库 oceanbase

三次迭代终放“大招”,Themis Pro版即将问世

BlockChain先知

Themis Pro版将正式推出,3次迭代到底在酝酿什么?

股市老人

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布_文化 & 方法_彭垚_InfoQ精选文章