写点什么

英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来

  • 2023-12-08
    北京
  • 本文字数:882 字

    阅读完需:约 3 分钟

大小:461.05K时长:02:37
英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来

QCon 全球软件开发大会,将于 12 月在上海召开。英特尔软件与先进技术事业部 / 首席工程师胡宁馨将发表题为《WebNN,Web 端侧推理的未来》主题分享,探讨 WebNN API 的 W3C 标准进度,对 CNN,Transformer 以及更广泛的生成式 AI (Generative AI) 模型的支持情况和计划,以及在 Chrome,Edge 等浏览器的实现进展。


胡宁馨,就职于 Intel 软件与先进技术事业部,专注于 Web 技术,W3C 机器学习工作组 Web Neural Network API (WebNN) 规范的发起者和联合编辑,Chromium 项目 Code Committer,WebNN 模块负责人。他在本次会议的演讲内容如下:


演讲:WebNN,Web 端侧推理的未来


AI PC 以及 AI Mobile 的新兴时代已经到来,越来越多的设备集成了强大的神经处理单元 NPU,以实现高效的人工智能加速,这对需要端侧推理的应用至关重要。除了通过 CPU 和 GPU 进行推理之外,Web Neural Network API (WebNN) 提供了 Web 应用访问此类专有 AI 加速器 NPU 的途径,以获得卓越性能及更低功耗。


本次演讲将会给大家分享 WebNN API 的 W3C 标准进度,对 CNN,Transformer 以及更广泛的生成式 AI (Generative AI) 模型的支持情况和计划,以及在 Chrome,Edge 等浏览器的实现进展。作为 JavaScript ML 框架的后端,WebNN 将会在几乎不更改前端代码的前提下,为 Web 开发者及他们的产品带来相较于 Wasm,WebGL 更为优异的性能体验。


演讲提纲:


  1. 当前 Web AI 发展概况

  2. 主流硬件加速器的发展(CPU,GPU,NPU)

  3. WebNN 设计与架构

  4. WebNN 代码演示

  5. WebNN 浏览器(Chromium)实现

  6. WebNN 机器学习框架集成(ONNXRuntime 和 TensorFlowLite)

  7. WebNN Transformers 支持

  8. WebNN 性能


听众收益点:


○ 了解 Web 平台对异构处理器的支持

○ 了解基于 Web 的机器学习模型硬件加速

○ 了解 Chromium 实现内部细节


除上述演讲外,QCon 上海还将围绕 GenAI和通用大模型应用探索AI Agent 与行业融合应用的前景LLM 时代的性能优化智能化信创软件 IDE面向人工智能时代的架构性能工程:提升效率和创新的新方法等专题进行交流。


QCon 上海 2023,相约 12 月! 现在购票,享 9 折优惠,立减¥680!咨询购票请联系:18514549229(微信同手机号)。



2023-12-08 11:3010997
用户头像

发布了 89 篇内容, 共 45.9 次阅读, 收获喜欢 12 次。

关注

评论

发布
暂无评论
发现更多内容

一键Run带你体验扩散模型的魅力

华为云开发者联盟

人工智能 华为云 华为云ModelArts 华为云开发者联盟

探索AI的边界:如何精准地测试人工智能

测吧(北京)科技有限公司

测试

深入浅出:JavaScript 中 every() 的运作原理

Apifox

JavaScript 程序员 前端 数组 前端开发

[自研开源] MyData 数据集成任务的流程介绍 v0.7.1

LIEN

开源 数据集成 业务融合 API对接 mydata

ToothFairy for Mac(一键蓝牙设备连接切换软件)v2.8.4中文版

iMac小白

010 Editor for Mac(文本和十六进制编辑器)v14.0.1激活版

iMac小白

【论文速读】| 大语言模型引导的协议模糊测试

云起无垠

MATLAB R2023b提示已停止工作怎么办?

Rose

数学软件 MATLAB R2023b

国家科技传播中心讲坛!播出预告:吴甜——当机器学会思考

飞桨PaddlePaddle

人工智能 深度学习 百度 BAIDU 百度飞桨

如何将应用一键部署至多个环境?丨Walrus教程

SEAL安全

MySQL 运维 应用部署 Walrus

软件测试团队管理技巧 | 提升团队效能:如何与下属进行有效沟通

测试人

软件测试

Sibelius西贝柳斯2023 mac永久使用 兼容M1/M2

Rose

Avid Sibelius 2023 Mac 西贝柳斯 Avid Sibelius

iTubeGo YouTube Downloader for Mac(YouTube 下载器)v7.4.1激活版

iMac小白

英伟达要小心了!爆火的Groq芯片能翻盘吗?AI推理速度「吊打」英伟达?

GPU算力

office 2016专业增强版 含office2016激活工具 mac/win

Rose

office办公软件 Office 2016 下载 office2016破解版 Msoffce2016

LLM 大模型框架 LangChain 可观测性最佳实践

心有千千结

观测云 LLM langchain

文心一言 VS 讯飞星火 VS chatgpt (210)-- 算法导论16.1 1题

福大大架构师每日一题

福大大架构师每日一题

AI数字虚拟人来了你会失业吗?

小魏写代码

Simplemind pro for Mac(mac上的思维导图软件)v2.3.3中文激活版

iMac小白

管理技巧 | 提升团队效能:如何与下属进行有效沟通

测吧(北京)科技有限公司

测试

Calendar 366 II for Mac(日历管理软件)v2.15.3中文激活版

iMac小白

Shell 检查程序进程是否存在,自动重启

最爱小胖子

Folder Icons for mac(文件夹个性化图标修改软件)v1.6激活版

iMac小白

Axure RP 10中文授权码及安装教程, 从交互设计到响应式原型

Rose

原型设计 软件下载 Axure RP 授权码 Axure RP 汉化包

益和热力选择 TDengine,实现智慧供热系统升级

TDengine

tdengine 时序数据库

AutoCrypt for Mac(文档加密与解密软件)v2.5.2激活版

iMac小白

YT Saver for Mac(视频下载和转换器)v7.4.1激活版

iMac小白

一文读懂私网解析 PrivateZone

火山引擎边缘云

DNS DNS服务器 DNS劫持 #DNS

EagleFiler for Mac(Mac数字信息管理器)v1.9.13注册版

iMac小白

graphpad prism for Mac(专业医学绘图工具)v10.2.1激活版

iMac小白

英特尔软件与先进技术事业部 / 首席工程师胡宁馨确认出席 QCon 上海,分享 WebNN,Web 端侧推理的未来_架构_徐晓博_InfoQ精选文章