近年来，生成式 AI 模型和终端侧推理技术快速发展，推动 AI 从云端向边缘侧扩展。然高通技术公司凭借其在边缘计算领域的硬件创新、软件优化和生态合作，引领了 AI 推理的变革。高通凭借其先进的连接、计算和边缘 AI 技术以及独特的产品组合，推动了 AI 在智能手机、PC、汽车等终端的规模化应用，为行业提供了及时响应、低成本、隐私安全的解决方案。

演讲提纲

1. AI 在终端侧规模化落地的挑战

• 大模型难以在终端设备上运行，高功耗、高内存占用限制应用场景
• 云端推理依赖网络，难以满足实时性需求，且存在数据隐私风险
• 模型部署跨终端适配难度大

2. 四大趋势推动大量高质量小模型的涌现

• 当前先进的 AI 小模型已具有卓越性能
• 模型参数规模正在快速缩小
• 开发者能够在边缘侧打造更丰富的应用
• AI 正在成为新的 UI

3. 高通的技术创新路径

• 硬件协同优化
• 强大的 AI 软件栈
• 面向未来智能体的 AI 规划器
• 开发者生态支持

4. 跨行业终端侧 AI 部署和应用

• 手机：实时翻译、生成式图像编辑、个性化 AI 助手
• PC：Windows AI+ PC 的本地生成式 AI 应用
• 汽车：智能座舱多模态交互、自动驾驶实时决策
• 工业物联网：本地化 AI 推理保障数据隐私

5. AI 推理创新的关键洞察

• 技术融合：模型压缩与硬件优化需深度协同，才能实现高效推理
• 生态共建：与开发者、模型厂商合作，加速技术落地与应用场景创新

演讲亮点

• DeepSeek R1 蒸馏模型的推出颠覆了关于 AI 发展的传统认知
• AI 推理功能在终端侧的广泛普及赋能，打造了丰富的生成式 AI 应用
• 通过采取开发者为中心的策略，简化在消费和商用产品中集成先进 AI 特性
• 智能体 AI（Agentic AI）是下一代用户交互的核心

听众收益

• 了解 AI 从云端训练向边缘推理转型的核心驱动力与行业机会
• 学习模型小型化、硬件优化等，掌握终端侧 AI 部署关键工具
• 获取手机、汽车、工业等领域的 AI 应用案例，启发业务创新
• 了解高通开发者支持服务，加速自身 AI 项目落地

专题演讲嘉宾：
万卫星，高通 AI 产品技术中国区负责人。2012 年初加入高通中国研发团队，领导团队参与了多个高通移动平台多媒体领域的项目研究工作。目前，在高通担任中国区人工智能产品技术负责人，负责高通智能终端侧人工智能引擎软、硬件的规划以及相关生态系统建设。