最近几年逐渐崛起的 ML+System 研究方向顶级会议 MLSys 2021 于近日正式放榜,本次 MLSys 2021 共有 220 余篇有效投稿,最后一共有 52 篇论文被接收,论文录取率为 23.5%,相较于去年的 19%有所提升。MLSys 2021 会议将于 2021 年 4 月 5 日-10 日在线上举办,其中包括三天的主会议(4 月 6-8 日), 多个 Workshop 小型研讨会(4 月 9-10 日),以及一个芯片及编译器的研讨会(4 月 5 日),会议详情参见: https://mlsys.org/virtual/2021/calendar 。
相较于大多数传统 AI/ML 顶会每年收录 1000+篇论文,MLSys 保持了计算机系统会议的小而精的标准,平均每年接收论文数量仅为 30-50 篇不等。因此相对而言更能保证每篇论文的质量,以及审稿标准的一致性。MLSys 会议主要关注机器学习(ML)与传统计算机系统(System)的交叉学科的研究。例如,如何在系统层面对 ML 模型的训练和服务做加速优化 (System for ML),或者如何训练 ML model 去对系统资源进行更优化的调度(ML for System)等等。
本次 MLSys 2021 会议所覆盖的具体研究方向包括:编译器优化、通信与存储、模型训练、模型服务、硬件优化等共计 12 大类。今年已经是 MLSys 举办的第四年,会议举办方和主要组织者均为来自 ML 和 System 方向的顶级大佬。 例如 ML 方向的 Yann LeCun(图灵奖获得者)、Michael Jordan、Fei-Fei Li、Eric Xing 等, 来自 System 方向的比如 Jeff Dean、Ion Stoica、Matei Zaharia 等。
本次会议录用论文目前均已出炉(https://mlsys.org/Conferences/2021/Schedule)。我们对论文的主要研究机构进行了初步统计,发现公司和学术界基本平分秋色。工业界方面,Google/Google Brain 的论文最多(共计 6 篇),Microsoft、Amazon/AWS 以及 Facebook 均有 3 篇论文被收录。学术界方面,MIT 位列第一,共有 5 篇论文被收录, CMU 位列第二有 4 篇论文被接收,Stanford、UC Berkeley 分别有 2 篇论文被接收。
其中第一作者论文数量最多的是来自 UC Berkeley 的 Guanhua Wang,为两篇论文的唯一第一作者。论文题目与作者如下:
论文题目:sensAI: ConvNets Decomposition via Class Parallelism for Fast Inference on Live Data
作者:Guanhua Wang, Zhuang Liu, Brandon Hsieh, Siyuan Zhuang, Joseph Gonzalez, Trevor Darrell, Ion Stoica
项目网站:https://rise.cs.berkeley.edu/projects/sensai/
论文题目:Wavelet: Efficient DNN Training with Tick-Tock Scheduling
作者:Guanhua Wang, Kehan Wang, Kenan Jiang, Xiangjun Li, Ion Stoica
项目网站: https://rise.cs.berkeley.edu/projects/wavelet/
Guanhua Wang 是 UC Berkeley 的计算机专业在读博士,师从计算机系统全球著名教授 Ion Stoica(Apache Spark 公司 Databricks 的 Chairman)。他的主要研究方向为分布式机器学习、分布式系统、计算机网络等,同时他也是模型同步库函数(Collective Communication Library)Blink 的发明者和论文第一作者。InfoQ 之前曾对 Blink 做过相关报道,详见:《伯克利与微软联合发布 Blink:使 GPU 计算实现高达 2 倍加速》、《比 Horovod/NCCL 快 8 倍!伯克利与微软联合发布最优 GPU 通信库 Blink》。
目前网络上尚未找到本次被 MLSys 2021 收录论文的完整内容,我们会持续关注会议相关动态并进行报道。
评论