写点什么

权威 AI 测试 MLPerf 公布最新榜单:阿里巴巴拿下多项算力第一

  • 2022-04-07
  • 本文字数:899 字

    阅读完需:约 3 分钟

权威AI测试MLPerf公布最新榜单:阿里巴巴拿下多项算力第一

4 月 7 日,权威 AI 基准评测组织 MLPerf 公布了最新一期推理性能榜单。MLPerf 由图灵奖得主 David Patterson 于 2018 年发起,每年组织全球 AI 训练和 AI 推理性能测试并发榜,已成为业界最主流标准之一。


北京时间 4 月 7 日,MLCommons 发布最新 MLPerf 榜单


本次榜单重点更新了面向数据中心和边缘计算的场景,以及最新的 MLPerf Tiny 0.7 测试榜单。阿里云联合平头哥、达摩院等在数据中心、边缘计算、物联网领域斩获多项第一。 



在当前激烈的数据中心和边缘计算场景下,各厂商及机构基于硬件加速的成绩差距并不大,竞争主要聚焦在模型软硬协同优化方面。榜单显示,阿里云磐久服务器脱成为 MLPerf 有史以来首个获得纯 CPU 推理性能最高的 ARM 架构服务器,且在数据中心和边缘侧该类别的总体性能均为第一。


MLPerf 2.0 DatacenterCPU-Only 推理性能数据对比


据悉,阿里云震旦异构加速平台利用模型优化工具 SinianML 来进行用于 AI 任务的神经网络架构搜索和压缩,以及最佳算子实现。在保证达到基准测试精度目标同时,能得到远高于标准 ResNet50 v1.5 的计算效率。


此外,在 MLPerf Tiny 场景,阿里云通过大规模深度算子融合和针对平头哥玄铁 RISC-V 微架构的极致优化,从而能够大大提高 CPU 算力利用率,实现软硬协同优化。

 

Tiny 场景是 MLPerf 近年新增的性能测试分类。有别于 Datacenter 等大规模、高算力的情景,Tiny 聚焦于低功耗、高性价比的 IoT 场景,考验在日益广泛的 IoT 智能应用场景下的软硬件性能和优化能力。


在此次公布的 MLPerf Tiny 0.7 性能数据榜单中,阿里云震旦异构计算加速平台通过编译和软硬件一体化创新优化,结合达摩院在语音和视觉等机器智能的算法知识,基于平头哥自研 RISC-V 玄铁 C906 处理器在所有 4 项 Benchmark 的 CPU 性能数据均取得第一,在满足模型精度要求的同时创造了 RISC-V 架构在该 AI 基准测试榜单上的最好成绩。


MLPerf Tiny 0.7 推理性能数据对比

 

“高度集成的专业化 AI 芯片对应用场景限制很多,我们希望研发出更通用的软硬协同加速平台来发挥 AI 应用的价值,”阿里云异构计算首席科学家张伟丰博士表示。

 

不难发现,MLPerf 正将评测环境更多地向云厂商倾斜,后者已成为 AI 产业的主力军。

2022-04-07 14:014332

评论

发布
暂无评论
发现更多内容

开源一夏 | 自从我使用HiFlow场景连接器后,在也不用担心成为“落汤鸡”了

叶秋学长

开源 8月月更 Hiflow

深入浅出边缘云 | 5. 运行时控制

俞凡

架构 边缘计算 网络 深入浅出边缘云

Spring(二、配置文件)

开源 bean Spring JPA 8月月更

阿里大神级 最新Elasticsearch 笔记,抓紧学起来!

冉然学Java

elasticsearch 编程 分布式 java; 程序员、

从没见过能把高并发拆解的这么详细!阿里巴巴这份堪称神级的“高并发”教程太香了

Java永远的神

Java 程序员 架构 面试 高并发

Kubernetes日常故障解决

CTO技术共享

开源 签约计划第三季 8月月更

Kubernetes 集群 Ingress 网关

CTO技术共享

开源 签约计划第三季 8月月更

阿里内部高并发核心编程笔记:多线程、锁、JMM、JUC、设计模式

冉然学Java

JMM 设计模式 java; 多线程高并发

阿里架构师力推jvm架构解析文档,把JVM调优实战讲的明明白白

Java工程师

Java JVM GC

兆骑科创创新创业大赛承办,线上直播路演,企业孵化

兆骑科创凤阁

1500字简述 Apache ZooKeeper 的基本原理

wljslmz

Apache zookeeper 分布式 8月月更

Kubernetes 污点和容忍

CTO技术共享

开源 签约计划第三季 8月月更

Kubernetes 虚拟机部署弊端

CTO技术共享

开源 签约计划第三季 8月月更

4K详解Linux内核——环境搭建

了不起的程序猿

数据库 程序员 系统 linux security

JOIN查询时,我为什么建议你将小表放在前面?(NLJ,SNL,BNL算法全面解析)

董哥的黑板报

MySQL 数据库 后端 服务端 db

兆骑科创双创服务平台,创新创业高层次人才引进,投融资对接

兆骑科创凤阁

IPv6地址规划

穿过生命散发芬芳

ipv6 8月月更

STM32的启动过程 — startup_xxxx.s文件解析(MDK和GCC双环境)

矜辰所致

stm32 arm 8月月更 stm32启动流程 startup_xxxx.s

今天面了个腾讯拿38K出来的大佬,让我见识到了Java面试八股文的天花板

Java全栈架构师

Java 数据库 spring 程序员 面试

一个可以提前结项的敏捷项目

Bruce Talk

敏捷 Agile 敏捷项目

STM32+果云GA6-GPRSGSM模块+MQTT+HTTP协议连接中移OneNet上传GPS数据定位

DS小龙哥

8月月更

阿里SpringCloudAlibaba实战小抄(第五版)GitHub独家首发开源

冉然学Java

GitHub 开源 springcloudAlibaba spring-boot

从 VLAN 到 IPVLAN: 聊聊虚拟网络设备及其在云原生中的应用

阿里巴巴云原生

Linux 阿里云 云原生 容器服务 IPVLAN

Kubernetes微服务、容器介绍

CTO技术共享

开源 签约计划第三季 8月月更

Istio的扩展和定制

阿泽🧸

istio 8月月更

MySQL存储引擎

武师叔

8月月更

迄今为止见过最详细的零拷贝技术讲解

C++后台开发

后端开发 零拷贝 Linux服务器开发 C/C++后台开发 C/C++开发

设备树

贾献华

8月月更

基于 OPLG 从 0 到 1 构建统一可观测平台实践

阿里巴巴云原生

阿里云 分布式 云原生 可观测 全链路

阿里巴巴2022全新出品亿级并发设计速成宝典(系统拆分,缓存,MQ,读写分离,分布分表,ES扩容应有尽有)

程序员小毕

Java 程序员 面试 后端 高并发

Web网页端IM产品RainbowChat-Web的v4.1版已发布

JackJiang

html5 前端 websocket 即时通讯 IM

权威AI测试MLPerf公布最新榜单:阿里巴巴拿下多项算力第一_服务革新_阿里云_InfoQ精选文章