写点什么

用 WebAssembly 赋能 AI 硬件

  • 2020-02-08
  • 本文字数:1004 字

    阅读完需:约 3 分钟

用 WebAssembly 赋能 AI 硬件

GMTC 深圳 2019 大会上,吕艺讲师做了《用 WebAssembly 赋能 AI 硬件》主题演讲,主要内容如下。


演讲简介


硬件加速的神经网络芯片可以极大提高 AI 应用的用户体验,如今,市场上的中低端手机大多已经预装 AI 加速的芯片,但是传统浏览器与 App 开发工具并不能直接触达这样的芯片层硬件功能。


WebAssembly 技术能让广大用户与开发者真正从 AI 加速获益。WebAssembly 是一个在前端设备上有广泛支持,为性能优化的虚拟机。通过 WASI 扩展接口,我们可以使用它支持的 20 多种编程语言直接调用硬件接口,WebAssembly 的模块化安全设计保证了虚拟机硬件调用的安全。


我将会为大家介绍与演示 Second State 与 Qualcomm(高通)公司合作的开源 WebAssembly 虚拟机 SSVM。SSVM 与高通骁龙处理器的神经网络加速器结合,让中端手机也可以快速在本地完成图像识别与人脸识别等重度 AI 工作。


当然,硬件加速的 AI 芯片不只应用于手机终端。在数据中心与服务端的 AI 应用也越来越多。SSVM 可以在云原生的服务端提供 Serverless 的 AI 微服务。


内容大纲


  1. WebAssembly 的介绍

  2. 用 Rust 写 WebAssembly 应用程序

  3. WASI 的介绍

  4. 高通骁龙神经网络加速器的编程实践

  5. WebAssembly 在服务端的应用与示例


听众受益点


  1. WebAssembly 的基础知识

  2. Rust 的编程入门

  3. 开源 WebAssembly SSVM 的安装与使用

  4. 用高级语言通过 SSVM 调用 AI 加速器

  5. 用 RPC 调用服务端的 WebAssembly 微服务


讲师介绍


吕艺,Second State 技术副总裁。


吕艺,在 IT 技术领域从业 19 年,从事过 CRM、CallCenter 的系统集成与架构设计,在亚信工作期间成为移动业务专家。


2012 年,在掌阅科技带领团队完成系统向微服务化方向的演进。


2015 年,加入 5miles,任 CTO,5miles App 是一款在美国市场排名靠前的二手交易平台,系统基于 AWS 云进行部署运行,在运用 Docker、Lambda 等容器技术与 Serverless 等方面有丰富的经验。


2017 年,成立 CyberMiles 团队,开始区块链领域的研究工作,并于 2018 年 10 月与团队完成公链的开发与上线。在区块链应用研究方面,组织开发了区块链交易网关,可以让中心化的应用系统快速接入多种区块链体系。


2019 年上线的 openbay.io 系统是基于区块链智能合约的电商平台,这是区块链应用的一次重要的尝试。


2019 年中,在新创业公司 Second State 任技术副总裁,进行 WebAssembly 与 AI 硬件以及 Serverless 应用方面的研究和实践。












完整演讲 PPT 下载链接


https://gmtc.infoq.cn/2019/shenzhen/schedule


2020-02-08 19:04990

评论

发布
暂无评论
发现更多内容

《好战略,坏战略2》摘录

充实的orzi

企业管理 战略

WAIC 2024盛大召开,天翼云以全栈智算能力赋能AI时代!

天翼云开发者社区

人工智能大会 人工智能生态论坛

精准搜索:本地文件检索工具的高效策略

京东科技开发者

企业跨省组网:SD-WAN解决方案

Ogcloud

SD-WAN 企业组网 SD-WAN组网 SD-WAN服务商 SDWAN

博睿数据受邀出席深圳地区数智金融交流会 分享《云原生时代的高级可观测性》

博睿数据

int(1) 和 int(10) 有什么区别?

源字节1号

小程序 开源 `后端 前端‘’

预告 | 博睿数据将亮相第四届中国新能源汽车产业数智峰会

博睿数据

Go语言设计模式:使用Option模式简化类的初始化

伤感汤姆布利柏

MomoAl (MetaOasis)是什么?,以bitget 钱包为例

加密眼界

深度解读昇腾CANN模型下沉技术,提升模型调度性能

华为云开发者联盟

人工智能 华为云 大模型 华为云开发者联盟 企业号2024年7月PK榜

今天我们来聊Java IO模型,BIO、NIO、AIO三种常见IO模型

EquatorCoco

Java IO模型

软件测试学习笔记丨接口请求头

测试人

软件测试 接口测试 测试开发

分页查询及其拓展应用案例

快乐非自愿限量之名

分页查询

RaftKeeper v2.1.0版本发布,性能大幅提升!

京东科技开发者

安全可信| 通过双项测试!TeleDB实力亮剑!

天翼云开发者社区

数据库 云计算 天翼云

上榜!天翼分布式云操作系统入选“科创中国”先导技术榜单!

天翼云开发者社区

云计算 分布式 云服务

如何保护你的网络安全?

网络安全服务

TCP 服务器 DDoS waf DDoS 攻击

MoneyPrinterPlus全面支持本地Ollama大模型

程序那些事

工具 程序那些事 AIGC

【JavaScript】聊一聊js中的浅拷贝与深拷贝与手写实现

快乐非自愿限量之名

JavaScript 拷贝

WAIC 2024,好city啊!

天翼云开发者社区

人工智能 世界人工智能大会 WAIC

Web3 游戏周报(7.07-7-13)

Footprint Analytics

链游

用 WebAssembly 赋能 AI 硬件_GMTC_吕艺_InfoQ精选文章