端侧大模型的安全建设:如何在算力与保障之间找到平衡|QCon 北京

  • 2025-03-28
    北京
  • 本文字数:1134 字

    阅读完需:约 4 分钟

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会将在北京召开,大会以 “智能融合,引领未来” 为主题,将汇聚各领域的技术先行者以及创新实践者,为行业发展拨云见日。

百度大模型内容安全平台负责人李志伟已确认出席并发表题为《端侧大模型的安全建设:如何在算力与保障之间找到平衡》的主题分享。随着大模型和 AIGC 技术的快速发展,AI 正从云端向终端设备延伸;其以实时性、数据保密性和经济性的特点,吸引模型厂商、芯片厂商和终端厂商纷纷布局端侧小模型;本次演讲将围绕如何在低算力和安全保障之间选取平衡,搭建一套行之有效的端侧大模型安全方案。

李志伟是云安全联盟大中华区 CAISP 认证讲师,长期从事 AI 安全、业务风控、账号安全、支付风控等安全领域,现为百度大模型安全产品负责人,专注大模型内容安全、模型安全、大模型安全评测、以及大模型安全运营工作,致力于打造覆盖大模型全生命周期的安全方案;其所负责的大模型安全项目曾获选 2024 世界智能产业博览会智能科技创新应用优秀案例、2024 工信部人工智能赋能新型工业化案例及 2024 工信部度网络安全技术应用典型案例。他在本次会议的详细演讲内容如下:

演讲提纲

1. 端侧大模型发展趋势

  • 端侧大模型的定义与分类

  • AI 从云端向终端延伸的背景与驱动力

  • 端侧小模型的兴起与生态布局

2. 端侧大模型面临的安全挑战

  • 算力限制与模型性能的平衡

  • 内容合规与应急处置

  • 数据安全与隐私保护

  • 系统安全与设备安全

3. 端侧大模型安全建设实践

  • 端云方案对比

  • 核心能力建设思路

  • 终端大模型安全方案特点

4. 典型案例分享与展望未来

  • 端侧大模型在智能设备中的安全应用案例

  • 端侧大模型安全技术的未来发展方向

您认为,这样的技术在实践过程中有哪些痛点?

  • 算力限制与监管合规要求之间的平衡,如何在低算力情况下最大限度的满足端侧内容审核的效果

演讲亮点

  • 离线场景低算力情况下依旧可以支持多模安全审核

听众收益

  • 将了解百度大模型安全的建设思路

  • 结合案例可以了解一些端侧大模型合规建设的思考

  • 开拓一些新思路,使用哪些方法建设“端侧大模型安全”

除此之外,本次大会还策划了多模态大模型及应用AI 驱动的工程生产力面向 AI 的研发基础设施不被 AI 取代的工程师大模型赋能 AIOps云成本优化Lakehouse 架构演进越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。

现在报名即可以享受 9 折优惠,单张门票立省 680 元,详情可扫码或联系票务经理 18514549229 咨询。

为确保大会顺利举行,现诚邀志愿者加入,时长 3.5 天。可与大咖交流、获极客时间 VIP 月卡、大会演讲视频资源和证书。主办方提供午餐和交通支持。时间:4 月 9 日 13:00-4 月 12 日 18:00,地点:北京万达嘉华酒店,报名链接:https://www.infoq.cn/form/?id=2088