写点什么

PAI-TAO:深度学习编译优化技术的探索和实践

  • 2020-02-12
  • 本文字数:686 字

    阅读完需:约 2 分钟

PAI-TAO:深度学习编译优化技术的探索和实践

AICon 北京 2019 大会上,杨军讲师做了《PAI-TAO:深度学习编译优化技术的探索和实践》主题演讲,主要内容如下。


演讲简介


本演讲会分享 PAI 团队在深度学习编译优化技术方向的探索和实践经验,包括优化的整体方法论,具体的设计细节及权衡取舍,工程研发管理、性能评测结果以及具体的业务落地 case 展示。并会结合业界编译优化的技术进展来呈现我们对该领域技术演化的一些思考和认识。


听众受益点


  1. 能够对深度学习编译优化技术方向建立起相对系统完整的普及性认识;

  2. 能够了解到一项底层技术从研发到具体落地过程中的经历脉络;


前言亮点:


  1. 结合我们所看到的业务特点抽象出来的深度学习编译技术方案具备一定的领域差异化;

  2. 在我们的方案里,将深度学习编译优化问题本质上抽象成一个 Design-Space Exploration 的问题,而经典 DSE 作为 NP-hard 问题,往往面临组合爆炸的挑战,我们针对这个挑战,提出了具备一定技术特色的解决方案,并在实际业务里进行了落地验证。


听懂我的演讲,需要具备这些知识储备:


  1. 对深度学习建模知识有基本的认识,能够知道什么是 CNN、RNN、Attention,对模型原理有一定的认识;

  2. 对深度学习引擎有一定的普及性认识;

  3. 最好对于异构计算,比如 GPU 优化,有普及性质的了解。


讲师介绍


杨军,阿里巴巴资深算法专家。


杨军在阿里巴巴计算平台 PAI 团队担任资深算法专家,目前主要负责模型系统联合优化相关工作,他的优化关注点涉及到集群层面的硬件资源效率以及作业本身的执行性能。他对于结合 AI 模型作业特点分析,从模型系统联合视角进行 co-design 优化的技术方向有着比较浓厚的兴趣。












完整演讲 PPT 下载链接


https://aicon.infoq.cn/2019/beijing/schedule


2020-02-12 19:521184

评论

发布
暂无评论
发现更多内容

10分钟打造基于ChatGPT的Markdown智能文档

俞凡

人工智能

重磅!算能公司算丰SG2042斩获第六届数字中国建设峰会“十大硬核科技”

Geek_2d6073

KubeShark: Kubernetes的Wireshark

俞凡

Kubernetes 云原生

vue2.x中keep-alive源码解析以及LRU缓存策略使用

不叫猫先生

缓存 Vue LRU keep-alive实现原理 三周年连更

一文了解Spring Framework 5 新 Web 框架:Spring WebFlux

Java架构历程

三周年连更

Django笔记十九之manager用法介绍

Hunter熊

Python django Manager

【程序猿未来之路】作为互联网技术人的“我们”该如何破局 | 社区征文

洛神灬殇

4月日更 AIGC 三周年征文 三周年连更 生存指南

设计一个即时群聊天系统软件(采用华为云ECS服务器作为云服务端 )

DS小龙哥

三周年连更

【Python实战】Python采集代理IP信息

BROKEN

三周年连更

什么是 RUM JavaScript

汪子熙

JavaScript 前端开发 三周年连更

如何实现网站访问量的统计?

海拥(haiyong.site)

三周年连更

如何进一步提高AI输出质量?

石云升

AI ChatGPT 三周年连更

算法题每日一练:无重复字符的最长子串

知心宝贝

数据结构 算法 前端 后端 三周年连更

为什么 Go for-range 的 value 值地址每次都一样?

AlwaysBeta

Go 面试

C++ STL容器和算法:详解和实例演示

小万哥

c++ 容器 算法 后端 stl

算法题每日一练:螺旋矩阵 II

知心宝贝

数据结构 算法 前端 后端 三周年连更

什么是软件开发领域的 obsolete 或者 deprecated 含义

汪子熙

软件工程 软件开发 三周年连更

1500字讲懂单体架构和微服务架构的区别

Java架构历程

三周年连更

深入理解vue2.x中Object.defineproperty()和vue3.x中Proxy

不叫猫先生

Vue 三周年连更

OpenGL入门一:基础知识及概念

轻口味

opengl 图形图像 三周年连更

Windows下 IDE工具常见编译错误FAQ下

鸿蒙之旅

OpenHarmony 三周年连更

自动化运维工具一览

穿过生命散发芬芳

自动化运维 三周年连更

2023-04-29:一个序列的 宽度 定义为该序列中最大元素和最小元素的差值。 给你一个整数数组 nums ,返回 nums 的所有非空 子序列 的 宽度之和 由于答案可能非常大,请返回对 109

福大大架构师每日一题

golang 算法 rust 福大大

音视频八股文(9)-- flv的h264六层结构和aac六层结构

福大大架构师每日一题

音视频 ffmpeg 福大大

Prometheus监控神器-自动发现篇

乌龟哥哥

三周年连更

粉丝提问:区块链与大数据开发读研方向怎么选?

千与编程

区块链、 大数据 开源

为什么说:Linux中一切皆文件?

wljslmz

Linux 三周年连更

面对“失业焦虑”我们可以做些什么?| 社区征文

莪是男神

三周年征文

技术分享:如何将JSON中的日期格式字符串替换为占位符

IT蜗壳-Tango

三周年连更

Django笔记二十之手动编写migration文件

Hunter熊

Python django migration

Qz学算法-数据结构篇(顺序存储二叉树、线索化+遍历)

浅辄

数据结构 三周年连更

PAI-TAO:深度学习编译优化技术的探索和实践_AICon_杨军_InfoQ精选文章