写点什么

蚂蚁集团发布 AI 安全检测平台“蚁鉴 2.0 ”,可实现用生成式能力检测生成式模型

  • 2023-07-07
    北京
  • 本文字数:1604 字

    阅读完需:约 5 分钟

蚂蚁集团发布 AI 安全检测平台“蚁鉴 2.0 ”,可实现用生成式能力检测生成式模型

7 月 7 日,2023 世界人工智能大会( WAIC )“聚焦·大模型时代 AIGC 新浪潮—可信 AI ”论坛举行,蚂蚁集团联合清华大学发布 AI 安全检测平台“蚁鉴 2.0 ”。蚁鉴 2.0 可实现用生成式 AI 能力检测生成式 AI 模型,可识别数据安全、内容安全、科技伦理三大类的数百种风险,覆盖表格、文本、图像等多种数据和任务类型,是业内首个实现产业级应用的全数据类型 AI 安全检测平台。据了解,该产品还入选了本届大会的“镇馆之宝”。


蚂蚁集团联合清华大学共同发布 AI 安全检测平台“蚁鉴 2.0 ”


AIGC 安全成为当前人工智能研究发展的重要议题。中国科学院院士何积丰发表《可信人工智能展望》主题演讲。他认为,“不能再将人工智能视为简单的技术工作,而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信、法律伦理可信等问题。”

 

在该论坛上,蚂蚁集团同时宣布,“蚁鉴 2.0 ”全面开放,面向全球开发者免费提供 AIGC 安全性、AI 可解释性、AI 鲁棒性三项检测工具,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。

 

据了解,“蚁鉴 2.0 ”的两项硬核能力,一是实现了用生成式能力检测生成式模型。检测标准覆盖内容安全、数据安全、伦理安全三大类,可对大模型生成式内容完成包含个人隐私、意识形态、违法犯罪、偏见与歧视等数百个维度的风险对抗检测,并会生成检测报告,帮助大模型更加有针对性地持续优化。


蚂蚁集团大安全事业群技术部总裁李俊奎表示,“生成式大模型是一种‘深黑盒’技术,‘蚁鉴 2.0 ’通过智能博弈对抗技术,模拟黑产以及自动化生成海量测试集,可实现「生成式机器人」对「AIGC 生成式模型」的诱导式检测计算,很像一个 24 小时不眠不休的‘安全黑客’在找茬大模型,从而找到大模型存在的弱点和安全问题所在。这种 AI 对 AI 的评测,也是教学相长。好比生成式考官考核生成式运动员,在对抗中双方能力互相提升,进一步提高整个行业的 AI 安全水位。”

 

另一项硬核能力是,“蚁鉴 2.0 ”融入了可解释性检测工具。综合 AI 技术和专家先验知识,通过可视化、逻辑推理、因果推断等技术,从完整性、准确性、稳定性等 7 个维度及 20 余项评估指标,对 AI 系统的解释质量量化分析,帮助用户更清晰验证与优化可解释方案。

 

据了解,“蚁鉴 2.0 ”集成了蚂蚁近 10 年可信 AI 实践、1000 余项可信 AI 专利,支持零编码测评。开发者通过 API 接口,将 AI 模型接入蚁鉴,就可以一键识别和挖掘模型漏洞。

 

蚂蚁集团认为,人工智能的深度应用,不仅对数据、算法、算力提出了更高要求,也对安全、隐私、伦理提出更多挑战。在确保数据安全和隐私保护、健全人工智能伦理与安全的前提下,才能让 AI 技术真正地释放应用价值。

 

此次论坛上,中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起的《 AIGC 可信倡议》。该倡议得到数十家单位参与,围绕人工智能可能引发的经济、安全、隐私和数据治理等问题,提出构建 AIGC 可信发展的全球治理合作框架,采用安全可信的数据资源、技术框架、计算方法和软件平台等全面提升 AIGC 可信工程化能力,最大限度确保生成式 AI 安全、透明、可释。


在 2023 WAIC 可信 AI 论坛上,“产学研用”界共同发起 AIGC 可信倡议


论坛现场还发布了由中国信通院、清华大学、蚂蚁集团联合编纂的《可信 AI 技术和应用进展白皮书( 2023 )》。该报告基于统一的可信 AI 认知维度,梳理总结可信 AI 发展现状,提练了面向新阶段大模型和 AIGC 引发的新需求,形成以技术为保障的可信 AI 评估体系和工具,探索新一代可信人工智能发展。

 

公开资料显示,蚂蚁从 2015 年开启可信 AI 的实践和探索,是蚂蚁集团在人工智能领域的重点布局之一。通过可信 AI 技术的突破,蚂蚁集团建设了一套世界领先的智能风控解决方案;蚁鉴 AI 安全检测平台先后获得 2022 年上海金融科技中心建设三周年优秀成果、信通院可信人工智能实践标杆案例等认可。


2023-07-07 16:396544
用户头像
鲁冬雪 GMI Cloud China Marketing Manager

发布了 362 篇内容, 共 253.5 次阅读, 收获喜欢 292 次。

关注

评论

发布
暂无评论
发现更多内容

鼎昂量化交易系统APP开发|鼎昂炒币机器人软件开发

系统开发

币神量化交易系统开发|币神量化交易APP软件开发

系统开发

LeetCode题解:518. 零钱兑换 II,动态规划,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

面试被吊打系列 - Redis原理

数据库 架构 面试

如何在 Python 中清屏

HoneyMoose

算法喜刷刷

Kylin

算法 3月日更 21天挑战

CR量化交易APP开发|CR炒币机器人软件系统开发

系统开发

准备参加软考的小伙伴注意了!

IT蜗壳-Tango

IT蜗壳 3月日更

冰河公开了进大厂的核心技能,服了!

冰河

程序员 面试 大厂技能 硬核技能图谱

如何用python优雅的写论文

张鹤羽

28天写作 3月日更

(28DW-S8-Day17) 讲故事能力

mtfelix

28天写作 讲故事能力 复述能力

什么是职业

ES_her0

28天写作 3月日更

程序员成长第二十三篇:员工不符合预期,怎么办?

石云升

程序员 28天写作 职场经验 管理经验 3月日更

线上MySQL读写分离,出现写完读不到问题如何解决

程序员历小冰

MySQL 读写分离

《精通比特币》学习笔记(第五章)

棉花糖

区块链 读书笔记 3月日更

Java8 Stream 数据流,大数据量下的性能效率怎么样?

xcbeyond

Java java8 Stream<T> 3月日更

vm

梅花鹿鹿

28天写作 3月日更

Elasticsearch Dynamic Mapping

escray

elastic 七日更 28天写作 死磕Elasticsearch 60天通过Elastic认证考试

事务消息应用场景、实现原理与项目实战(附全部源码)

中间件兴趣圈

RocketMQ 实战 消息中间件 事务消息

Python 数据类型

HoneyMoose

Wireshark数据包分析学习笔记Day5

穿过生命散发芬芳

Wireshark 数据包分析 3月日更

不一样的软件们——GitHub 热点速览 v.21.10

HelloGitHub

数据库 GitHub 开源

今日随想

Nydia

进步

lenka

3月日更

正则表达式.04 - 引用

insight

正则表达式 3月日更

3-8 工作日志

技术骨干

更新60篇的复盘:持续书写,见证文字的力量

boshi

写作 七日更

《接口测试入门》 学习笔记

有梦想的tester

七日更 3月日更

【动态规划/总结必看】从一道入门题与你分享关于 DP 的分析技巧 ...

宫水三叶的刷题日记

面试 算法 LeetCode

雪花算法,到底是个啥?

架构精进之路

算法 七日更 3月日更

优雅编程 | javascript代码优化的15个小知识

devpoint

ES6 JS代码优化 JS迭代

蚂蚁集团发布 AI 安全检测平台“蚁鉴 2.0 ”,可实现用生成式能力检测生成式模型_阿里巴巴_鲁冬雪_InfoQ精选文章