写点什么

PAI-TAO:深度学习编译优化技术的探索和实践

  • 2020-02-12
  • 本文字数:686 字

    阅读完需:约 2 分钟

PAI-TAO:深度学习编译优化技术的探索和实践

AICon 北京 2019 大会上,杨军讲师做了《PAI-TAO:深度学习编译优化技术的探索和实践》主题演讲,主要内容如下。


演讲简介


本演讲会分享 PAI 团队在深度学习编译优化技术方向的探索和实践经验,包括优化的整体方法论,具体的设计细节及权衡取舍,工程研发管理、性能评测结果以及具体的业务落地 case 展示。并会结合业界编译优化的技术进展来呈现我们对该领域技术演化的一些思考和认识。


听众受益点


  1. 能够对深度学习编译优化技术方向建立起相对系统完整的普及性认识;

  2. 能够了解到一项底层技术从研发到具体落地过程中的经历脉络;


前言亮点:


  1. 结合我们所看到的业务特点抽象出来的深度学习编译技术方案具备一定的领域差异化;

  2. 在我们的方案里,将深度学习编译优化问题本质上抽象成一个 Design-Space Exploration 的问题,而经典 DSE 作为 NP-hard 问题,往往面临组合爆炸的挑战,我们针对这个挑战,提出了具备一定技术特色的解决方案,并在实际业务里进行了落地验证。


听懂我的演讲,需要具备这些知识储备:


  1. 对深度学习建模知识有基本的认识,能够知道什么是 CNN、RNN、Attention,对模型原理有一定的认识;

  2. 对深度学习引擎有一定的普及性认识;

  3. 最好对于异构计算,比如 GPU 优化,有普及性质的了解。


讲师介绍


杨军,阿里巴巴资深算法专家。


杨军在阿里巴巴计算平台 PAI 团队担任资深算法专家,目前主要负责模型系统联合优化相关工作,他的优化关注点涉及到集群层面的硬件资源效率以及作业本身的执行性能。他对于结合 AI 模型作业特点分析,从模型系统联合视角进行 co-design 优化的技术方向有着比较浓厚的兴趣。












完整演讲 PPT 下载链接


https://aicon.infoq.cn/2019/beijing/schedule


2020-02-12 19:521228

评论

发布
暂无评论
发现更多内容

VMware ESXi 8.0U2b macOS Unlocker & OEM BIOS 集成网卡驱动和 NVMe 驱动 (集成驱动版)

sysin

esxi 驱动 网卡 BIOS unlocker

如何打造全国一体化算力体系?

天津汇柏科技有限公司

算力 一体化

【论文速读】| 大语言模型平台安全:将系统评估框架应用于OpenAI的ChatGPT插件

云起无垠

OpenAI Sora:60s超长长度、超强语义理解、世界模型。浅析文生视频模型Sora以及技术原理简介

蓉蓉

openai GPT-4 人工智

做跨境电商,为什么要建独立站

Noah

云服务器干嘛的?带你掌握云计算的优势

一只扑棱蛾子

云服务器

AMA live class

EchoZhou

English

效率提升 80%:go-mongox 让复杂的 BSON 数据编写变得简单

陈明勇

Go 开源 go mongo

人工智能,应该如何测试?(三)数据构造与性能测试篇

霍格沃兹测试开发学社

阿里巴巴中国站按关键字搜索商品 API接口使用指南:快速获取商品ID、名称、描述、价格

技术冰糖葫芦

API Explorer API 文档

思考-使用JSON结构映射业务数据与数据库表结构

alexgaoyh

json 数据库 系统设计 映射

2024年LED显示屏租赁屏市场

Dylan

商业 LED显示屏 全彩LED显示屏 led显示屏厂家 舞台表演

Advanced RAG 02:揭开 PDF 文档解析的神秘面纱

Baihai IDP

AI LLM 白海科技 企业号 4 月 PK 榜 检索增强生成

探索Kubernetes的大二层网络:原理、优势与挑战🚀

GousterCloud

大二层网络 网络模型 #k8s

我们是如何测试人工智能的(四):模型全生命周期流程与测试图

测试人

人工智能 软件测试

Kubernetes大二层网络:挑战与解决方案探索

GousterCloud

cni #k8s

基于开源IM即时通讯框架MobileIMSDK:RainbowChat-iOS端v9.0版已发布

JackJiang

网络编程 即时通讯 IM

BSN-DID研究--主题二:发证方函数

BSN研习社

区块链 BSN did

【荣誉】第七在线出席ToB商业头条行业大会 斩获创新力产品奖

第七在线

Sermant热插拔能力在故障注入场景的实践

华为云开发者联盟

开源 华为云 华为云开发者联盟 sermant 企业号2024年4月PK榜

VMware ESXi 8.0U2b macOS Unlocker & OEM BIOS 标准版和厂商定制版

sysin

esxi 驱动 unlocker dell hpe

LangChain初探:为你的AI应用之旅导航

蛋先生DX

#人工智能 LLM #LangChain Prompt 企业号2024年4月PK榜

支付系统概述(五):结算系统

agnostic

支付系统设计与实现

Overlay网络与Underlay网络:深入探索与全面对比

GousterCloud

网络 #Kubernetes#

人工智能,应该如何测试?(四)模型全生命周期流程与测试图

霍格沃兹测试开发学社

人工智能,应该如何测试?(二)数据挖掘篇

霍格沃兹测试开发学社

Sermant热插拔能力在故障注入场景的实践

华为云开源

开源 微服务 服务治理

广州等级保护测评公司一览表2024

行云管家

等保 堡垒机 等级保护 等保测评

@Transactional事务是真的好用吗

派大星

Spring事务 Java 面试题 互联网大厂面试

行云防水堡-打造企业数据安全新防线

行云管家

网络安全 数据安全 防水堡

PAI-TAO:深度学习编译优化技术的探索和实践_AICon_杨军_InfoQ精选文章