写点什么

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

  • 2019-10-08
  • 本文字数:1473 字

    阅读完需:约 5 分钟

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布

七牛云人工智能实验室成立以来,始终以用机器视觉技术为用户和社会解决问题,创造价值为己任。在两年多的实践和摸索中,七牛云人工智能实验室逐渐发现了一些真正需要人工智能解决的问题,并且取得了一些成绩。藉由世界人工智能大会的舞台,七牛云人工智能实验室正式发布七牛云内容安全产品「明瞳 2.0」,并由七牛云人工智能实验室创始人彭垚为大家进行了相应介绍。

以下内容根据现场演讲内容速记的实录整理。



感谢大家,感谢各位领导、老师来到我们人工智能大会的现场,我也很荣幸借此机会给大家介绍一下我们最近发布的一个新产品,这个新产品与互联网安全非常相关。


首先讲一下内容安全在中国的形势。最近不少公司多多少少都受到了国家严厉的监管,因为他们对内容安全监管上疏于防范。现在互联网上的内容越来越多,但是会有不同程度的违规现象发生。因为我们的内容接收者包括各个年龄层面,所以需要再监管上从严治理。


总体来说,我们对社会上的内容监管主要分为三大块:第一,平台内容自我监察。这一部分是很多互联网公司日常做的,他们有人审的团队做监察。第二,群众举报,他们看到一些情况会向有关部门去举报、投诉。第三,通过监管部门的抽查,去净化整体的内容安全环境。这一块其实也有一些很大的问题:一是目前我们的审查标准滞后是比较严重的;二是审查的效率相对比较低下,审核员花很长时间去审核图片;三是管理成本非常高,我看到我们很多公司的团队都有几百人,这块的负担是很大的。


现在我们推出了一站式 AI+专员复审的端到端解决的内容安全产品——「明瞳 2.0」。即便你没有人审团队也可以用我们的产品,将你的内容安全风险降到零。它会无感知地对你的内容进行审核,基本上不再需要招人审团队了。


这就是我们「明瞳 2.0」,是一站式的产品,相当于客户原本人工内容安全审核团队的工作,全部可以交给七牛云来做。在这个过程当中,我们做了非常多的事情,包括通过 AI 做了设计、敏感识别,后台海量专业人员的人审复核,再到由我们专家优化模型的人工智能平台。真正达到双重审核运营无忧的环境。


现在我们审核的内容是什么呢?随着这一段时间内容安全的迭代,我们审核的内容越来越多,大体上可以分为两类,一类是和国家安全相关的信息,比如涉敏感内容,暴恐;一类是和家庭个人相关的信息,比如说小朋友不大适合去看的内容,二是是低质量的互联网传播内容。


在七牛云整个官网控制台进去之后,直接就有「内容安全」的应用,应用点击之后,我们可以选择存储在七牛云上的整个增量、存量或者是勾选当中想要审核的内容。审核开始后,可以看你整个审核的进度,最后你可以通过我们可视化的窗口,看一下审核的结果,看看对这些审核结果是否满意。通过目前市场上的一些数据对比,我们在色情识别上的数据是较为领先的。


我们基于和上海网安和公安部学习了很多的经验,我们有一个联合实验室,通过很长时间的打磨,我们拥有了一套完整的基于暴恐监控的网络安全系统。还有政治敏感人物类型,目前我们有 2000 名以上的敏感人物库,准确率 98.6%,可以在第一时间更新人物库,进行实时更新。




这是我们的一些客户,首先是 FaceU,这是做美颜滤镜的公司,还有 Blued,这是全球最大的男同性恋网站。我们通过识别人的物品去做细分类。这两年我们也获得了一些小的学术方面的成就,包括 ACM MultiMedia LSVC 第二名,今年 activityNet 第三名。


作为专注研究 MultiMedia 的团队在视频发展越来快的年代,我相信在将来,我们的团队会在整个 AI 行业当中,创出更新的一番天地。谢谢大家。


本文转载自公众号七牛云(ID:qiniutek)。


原文链接:


https://mp.weixin.qq.com/s/i12FyYhQiAvuA8Ki0tpCcg


2019-10-08 17:551015

评论

发布
暂无评论
发现更多内容

前端培训机构哪家比较适合学习

小谷哥

促进关键软件高层次人才培养:平凯星辰与华东师范大学签订联合博士培养合作协议

PingCAP

教育

前端培训机构怎么选择

小谷哥

java技术培训机构哪里好

小谷哥

实现订单到期未支付自动关闭不会写?这6种方案任你挑选

程序员拾山

Java 技术方案 关闭订单

led显示屏升级这些技术才能更节能

Dylan

广告 LED LED显示屏

在中国程序员工作是青春饭吗?

小小怪下士

Java 程序员 面试

ToB软件遇上ChatGPT,没有天翻地覆

ToB行业头条

​网易游戏实时 HTAP 计费风控平台建设

PingCAP

TiDB

MQTT X 1.9.1发布:资源消耗降低80%,稳定性大幅提升

EMQ映云科技

物联网 IoT mqtt 版本发布 企业号 2 月 PK 榜

低代码开发平台 让数据应用不再复杂

力软低代码开发平台

瓴羊Quick BI报表分析工具,专业数据分析人员的“神辅助”

对不起该用户已成仙‖

业务流程将因生成式AI变革,ChatGPT引领的AIGC正在改变组织运营

王吉伟频道

人工智能 业务流程优化 AIGC ChatGPT 生成式AI

DAPP智能合约开发链上技术

薇電13242772558

智能合约

StarRocks技术内幕 | 资源隔离原理解析

StarRocks

数据库 开源 资源隔离

GaussDB(DWS)迁移:一种执行高效的TereData的marco迁移方案

华为云开发者联盟

数据库 后端 华为云 企业号 2 月 PK 榜 华为云开发者联盟

前端开发如何选择培训机构

小谷哥

“唤醒”闲物、“童”心共享

最新动态

一图读懂 | 2023年中国产业数字化十大趋势

易观分析

数字经济 产业数字化

提速还能不掉点!深度解析 MegEngine 4 bits 量化开源实现

MegEngineBot

深度学习 开源 MegEngine CUDA int4

GPT发展史

鼎道智联

openai

提高IT运维效率,深度解读京东云AIOps落地实践(异常检测篇(二))

京东科技开发者

人工智能 运维 AIOPS 时间序列 企业号 2 月 PK 榜

flutter系列之:使用SliverList和SliverGird

程序那些事

flutter 架构 大前端 程序那些事

什么是极速文件传输,极速文件传输如何进行大文件传输

镭速

新思科技点拨DevSecOps安全“左移”的9大要点

InfoQ_434670063458

DevSecOps 软件安全 安全左移

2023年中国数字化活动行业专题报告

易观分析

数字经济 产业数字化

线下java培训机构哪个比较好

小谷哥

【漏洞真实影响分析】Apache Kafka Connect 模块JNDI注入(CVE-2023-25194)

墨菲安全

SCA 代码安全检测 软件供应安全

直播预告 | 对谈谷歌云 DORA 布道师:聊聊最关键的四个 DevOps 表现指标

思码逸研发效能

DevOps

Apifox 自动化测试新增流程控制条件,复杂测试场景不再是问题!

Apifox

测试 测试工具 程序员‘ 测试管理工具

MASA Stack 1.0 发布会讲稿——生态篇

MASA技术团队

.net 开源 MASA MASA Stack

彭垚:七牛云内容安全产品「明瞳 2.0」正式发布_文化 & 方法_彭垚_InfoQ精选文章