在 GMTC 深圳 2019 大会上,吕艺讲师做了《用 WebAssembly 赋能 AI 硬件》主题演讲,主要内容如下。
演讲简介:
硬件加速的神经网络芯片可以极大提高 AI 应用的用户体验,如今,市场上的中低端手机大多已经预装 AI 加速的芯片,但是传统浏览器与 App 开发工具并不能直接触达这样的芯片层硬件功能。
WebAssembly 技术能让广大用户与开发者真正从 AI 加速获益。WebAssembly 是一个在前端设备上有广泛支持,为性能优化的虚拟机。通过 WASI 扩展接口,我们可以使用它支持的 20 多种编程语言直接调用硬件接口,WebAssembly 的模块化安全设计保证了虚拟机硬件调用的安全。
我将会为大家介绍与演示 Second State 与 Qualcomm(高通)公司合作的开源 WebAssembly 虚拟机 SSVM。SSVM 与高通骁龙处理器的神经网络加速器结合,让中端手机也可以快速在本地完成图像识别与人脸识别等重度 AI 工作。
当然,硬件加速的 AI 芯片不只应用于手机终端。在数据中心与服务端的 AI 应用也越来越多。SSVM 可以在云原生的服务端提供 Serverless 的 AI 微服务。
内容大纲:
WebAssembly 的介绍
用 Rust 写 WebAssembly 应用程序
WASI 的介绍
高通骁龙神经网络加速器的编程实践
WebAssembly 在服务端的应用与示例
听众受益点:
WebAssembly 的基础知识
Rust 的编程入门
开源 WebAssembly SSVM 的安装与使用
用高级语言通过 SSVM 调用 AI 加速器
用 RPC 调用服务端的 WebAssembly 微服务
讲师介绍:
吕艺,Second State 技术副总裁。
吕艺,在 IT 技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。
2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。
2015 年,加入 5miles,任 CTO,5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker、Lambda 等容器技术与 Serverless 等方面有丰富的经验。
2017 年,成立 CyberMiles 团队,开始区块链领域的研究工作,并于 2018 年 10 月与团队完成公链的开发与上线。在区块链应用研究方面,组织开发了区块链交易网关,可以让中心化的应用系统快速接入多种区块链体系。
2019 年上线的 openbay.io 系统是基于区块链智能合约的电商平台,这是区块链应用的一次重要的尝试。
2019 年中,在新创业公司 Second State 任技术副总裁,进行 WebAssembly 与 AI 硬件以及 Serverless 应用方面的研究和实践。
完整演讲 PPT 下载链接:
https://gmtc.infoq.cn/2019/shenzhen/schedule
评论