AICon上海|与字节、阿里、腾讯等企业共同探索Agent 时代的落地应用 了解详情
写点什么

蚂蚁集团发布 AI 安全检测平台“蚁鉴 2.0 ”,可实现用生成式能力检测生成式模型

  • 2023-07-07
    北京
  • 本文字数:1604 字

    阅读完需:约 5 分钟

蚂蚁集团发布 AI 安全检测平台“蚁鉴 2.0 ”,可实现用生成式能力检测生成式模型

7 月 7 日,2023 世界人工智能大会( WAIC )“聚焦·大模型时代 AIGC 新浪潮—可信 AI ”论坛举行,蚂蚁集团联合清华大学发布 AI 安全检测平台“蚁鉴 2.0 ”。蚁鉴 2.0 可实现用生成式 AI 能力检测生成式 AI 模型,可识别数据安全、内容安全、科技伦理三大类的数百种风险,覆盖表格、文本、图像等多种数据和任务类型,是业内首个实现产业级应用的全数据类型 AI 安全检测平台。据了解,该产品还入选了本届大会的“镇馆之宝”。


蚂蚁集团联合清华大学共同发布 AI 安全检测平台“蚁鉴 2.0 ”


AIGC 安全成为当前人工智能研究发展的重要议题。中国科学院院士何积丰发表《可信人工智能展望》主题演讲。他认为,“不能再将人工智能视为简单的技术工作,而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信、法律伦理可信等问题。”

 

在该论坛上,蚂蚁集团同时宣布,“蚁鉴 2.0 ”全面开放,面向全球开发者免费提供 AIGC 安全性、AI 可解释性、AI 鲁棒性三项检测工具,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。

 

据了解,“蚁鉴 2.0 ”的两项硬核能力,一是实现了用生成式能力检测生成式模型。检测标准覆盖内容安全、数据安全、伦理安全三大类,可对大模型生成式内容完成包含个人隐私、意识形态、违法犯罪、偏见与歧视等数百个维度的风险对抗检测,并会生成检测报告,帮助大模型更加有针对性地持续优化。


蚂蚁集团大安全事业群技术部总裁李俊奎表示,“生成式大模型是一种‘深黑盒’技术,‘蚁鉴 2.0 ’通过智能博弈对抗技术,模拟黑产以及自动化生成海量测试集,可实现「生成式机器人」对「AIGC 生成式模型」的诱导式检测计算,很像一个 24 小时不眠不休的‘安全黑客’在找茬大模型,从而找到大模型存在的弱点和安全问题所在。这种 AI 对 AI 的评测,也是教学相长。好比生成式考官考核生成式运动员,在对抗中双方能力互相提升,进一步提高整个行业的 AI 安全水位。”

 

另一项硬核能力是,“蚁鉴 2.0 ”融入了可解释性检测工具。综合 AI 技术和专家先验知识,通过可视化、逻辑推理、因果推断等技术,从完整性、准确性、稳定性等 7 个维度及 20 余项评估指标,对 AI 系统的解释质量量化分析,帮助用户更清晰验证与优化可解释方案。

 

据了解,“蚁鉴 2.0 ”集成了蚂蚁近 10 年可信 AI 实践、1000 余项可信 AI 专利,支持零编码测评。开发者通过 API 接口,将 AI 模型接入蚁鉴,就可以一键识别和挖掘模型漏洞。

 

蚂蚁集团认为,人工智能的深度应用,不仅对数据、算法、算力提出了更高要求,也对安全、隐私、伦理提出更多挑战。在确保数据安全和隐私保护、健全人工智能伦理与安全的前提下,才能让 AI 技术真正地释放应用价值。

 

此次论坛上,中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起的《 AIGC 可信倡议》。该倡议得到数十家单位参与,围绕人工智能可能引发的经济、安全、隐私和数据治理等问题,提出构建 AIGC 可信发展的全球治理合作框架,采用安全可信的数据资源、技术框架、计算方法和软件平台等全面提升 AIGC 可信工程化能力,最大限度确保生成式 AI 安全、透明、可释。


在 2023 WAIC 可信 AI 论坛上,“产学研用”界共同发起 AIGC 可信倡议


论坛现场还发布了由中国信通院、清华大学、蚂蚁集团联合编纂的《可信 AI 技术和应用进展白皮书( 2023 )》。该报告基于统一的可信 AI 认知维度,梳理总结可信 AI 发展现状,提练了面向新阶段大模型和 AIGC 引发的新需求,形成以技术为保障的可信 AI 评估体系和工具,探索新一代可信人工智能发展。

 

公开资料显示,蚂蚁从 2015 年开启可信 AI 的实践和探索,是蚂蚁集团在人工智能领域的重点布局之一。通过可信 AI 技术的突破,蚂蚁集团建设了一套世界领先的智能风控解决方案;蚁鉴 AI 安全检测平台先后获得 2022 年上海金融科技中心建设三周年优秀成果、信通院可信人工智能实践标杆案例等认可。


2023-07-07 16:397434
用户头像
鲁冬雪 GMI Cloud China Marketing Manager

发布了 364 篇内容, 共 286.7 次阅读, 收获喜欢 299 次。

关注

评论

发布
暂无评论
发现更多内容

8年经验面试官详解 Java 面试秘诀

钟奕礼

Java 面试 java;

狂刷《Java权威面试指南(阿里版)》,冲击“金九银十”有望了

程序知音

Java 阿里 后端技术 Java面试题 Java面试八股文

知识管理在企业业务中如何体现其价值

Baklib

图像匹配几种常见算法与实践

霍格沃兹测试开发学社

Android R给自家UA工具挖坑

霍格沃兹测试开发学社

前端代码优化小技巧

霍格沃兹测试开发学社

GOPS现场 | 芯片行业需要怎样的版本管理工具——对话龙智大规模安全研发技术专家

龙智—DevSecOps解决方案

版本控制 版本管理工具 版本管理 版本控制工具

GOPS现场 | 大规模团队如何实现Jenkins的集中管理——对话龙智技术顾问

龙智—DevSecOps解决方案

jenkins 管理Jenkins

行业方案|“医疗”行业智能运维解决方案介绍

云智慧AIOps社区

监控 智能运维 智能优化算法 自动化运维 IT解决方案

Baklib知识分享|知识库对企业来说有哪些意义?

Baklib

BUG 修复预估模型

霍格沃兹测试开发学社

Java程序员不得不会的124道面试题(含答案)

钟奕礼

Java 面试 java;

EMQ荣获工信部第五届“绽放杯”5G应用征集大赛智慧金融专题一等奖

EMQ映云科技

5G 物联网 IoT 数智化 9月月更

通过Inotify-tools 监听文件夹并同步文件至FTP服务器

皮特王

Mongodb的分页优化及索引使用

霍格沃兹测试开发学社

利用 zabbix 监控服务端口

霍格沃兹测试开发学社

图像匹配几种常见算法与实践

霍格沃兹测试开发学社

技术分享 | web自动化测试-文件上传与弹框处理

霍格沃兹测试开发学社

ITSM | Atlassian ITSM终极指南,重构IT、运营和支持的工作方式

龙智—DevSecOps解决方案

ITSM ITSM解决方案

Baklib每日分享|在线产品手册的制作技巧

Baklib

重铸资源合集之荣光,吾辈义不容辞!!

掘金安东尼

前端 9月月更

Jenkins实践——创建Pipeline的两种方式

霍格沃兹测试开发学社

​小长假要到了,来偶遇吗?

腾讯云数据库

数据库 腾讯云 tdsql 腾讯云数据库

天了噜,原来有效的复盘要这样做,微妙!

博文视点Broadview

GitHub无抗手!MySQL DBA攻坚指南一出,阿里数据库专家都解脱了

Geek_0c76c3

Java 数据库 开源 程序员 架构

JDK RMI探索与使用--序列化

霍格沃兹测试开发学社

彻底搞懂nodejs事件循环

coder2028

node.js

600+ 道 Java面试题及答案整理(建议收藏)

钟奕礼

Java 面试 java; Java 面试题

APISIX的安装和简单使用

飞翔

50道Java集合高频面试题,看完面试成功率99%

钟奕礼

Java 面试 java;

总览 Java 容器--集合框架的体系结构

钟奕礼

Java 面试 java;

蚂蚁集团发布 AI 安全检测平台“蚁鉴 2.0 ”,可实现用生成式能力检测生成式模型_阿里巴巴_鲁冬雪_InfoQ精选文章