写点什么

直击异构算力资源纳管困难,又一款智算操作系统重磅发布

  • 2024-04-19
    北京
  • 本文字数:1477 字

    阅读完需:约 5 分钟

大小:789.16K时长:04:29
直击异构算力资源纳管困难,又一款智算操作系统重磅发布

4 月 18 日,2024 九章云极 DataCanvas 智算操作系统新品发布会于北京召开,全新产品 DATACANVAS AIDC OS 智算操作系统(以下简称 AIDC OS)正式官宣。这款智算系统也成为了九章云极 DataCanvas 公司在“算法+算力”一体化 AI 服务战略旅程上全新的实践里程碑。

AIGC 时代,底层计算有多重要?

发布会上,九章云极 DataCanvas 公司董事长方磊深度剖析大模型影响下的计算世界的新方向和新机遇,揭示了当前底层计算变革的重要性和复杂性,并展望软件与硬件共同演进的相互影响和创新空间。他指出,软件定义算力的时代即将到来,AIDC OS 智算操作系统在这场变革中将起到关键作用。



 九章云极 DataCanvas 公司董事长方磊

 

当前,新一轮的底层计算变革正由大模型的崛起而引发。底层计算从来都是软件与硬件协同的结果,软件和硬件的紧密协作显得尤为重要,也各自迎来全新的机遇与挑战。

 

回顾计算世界的演变历程,一条共性的客观规律显而易见:硬件始终以满足最终计算需求为导向不断演进,而软件则以操作系统的形态作为桥梁,将硬件与应用无缝衔接。在这场变革中,随着硬件技术的不断发展和同质化趋势的加剧,软件的创新空间变得愈发广阔,其在变革中所扮演的角色也愈发重要。

 

在这一大背景下,AIFS 人工智能基础软件孕育出了巨大的发展机会,AIDC OS 智算系统也借着这股东风应运而生。

 

与传统服务于硬件的资源管理驱动不同,AIDC OS 智算系统以 AI 使用能力为驱动。它不仅关注硬件资源的有效管理和利用,更着眼于如何更好地满足终端用户对算力的核心需求:通过智能调度和优化配置,AIDC OS 致力于将可用的、好用的、经济的算力提供给使用者。

五大核心价值,链接底层硬件和大模型应用层


九章云极 DataCanvas 公司联合创始人暨 CTO 尚明栋正式发布 DATACANVAS AIDC OS 智算操作系统,他介绍,AIDC OS 智算操作系统在智算中心产业生态中处于中间位置,在底层硬件芯片和上层大模型之间建立了高效的链接。

 

AIDC OS 能够向下协同大规模 GPU 算力,确保硬件资源得到有效利用和高效管理;同时,向上提供完整的大模型工具链,为大模型训练和推理以及大模型应用提供便捷、高效的开发环境,满足复杂 AI 任务的需求。

 

直击异构算力资源纳管困难、算力调度能力不足且利用率低、AI 加速优化能力不足以及 AI 大模型训练微调门槛高等行业痛点,AIDC OS 在设计前期构建了告别“裸金属”、为 AI 而生、全局加速优化、异构算力纳管与调度和 1 度算力五大价值基核,并以此为根基设计产品功能。发布会上,尚明栋先生从核心价值出发,详细介绍了 AIDC OS 的亮点功能和性能。

 

  • 告别“裸金属”

通过构建多层次、全方位的算力需求满足机制,包含超级智算集群、弹性容器集群、GPU 云服务器、AI 容器实例等系列产品,为精准匹配和满足多样化规模及复杂度的算力需求提供保障。


  • 为 AI 而生

专注于人工智能核心任务,包括大模型的训练、微调、部署和推理等服务。提供集“算力、数据、算法、调度”为一体的融合服务,旨在推动人工智能产业化的创新发展。


  • 全局加速优化

实现并行加速、编译优化、内核加速、算法加速、内存优化、通信加速等六大加速,释放硬件效能。集群训练效率提升 100%,单卡利用率提升 50%;模型推理速度提高 4 倍,Token 吞吐量增加 5 倍。


  • 异构算力纳管与调度

提供包含国内外多种算力资源的适配、纳管、调度和优化。通过实时监控和管理各智算中心的智算设备,以及创新的调度算法,成功实现跨智算中心的海量算力智能调度,大幅提升算力资源的利用率。


  • 1 度算力

DATACANVAS AIDC OS 从用户视角出发,首次提出了统一的算力服务计量单位“度”(DCU),并用其实现标准化的算力计量计费,旨在为用户实现“买到即用到”的算力服务,为未来算力资源互联互通打下良性商业基础。

2024-04-19 17:375191
用户头像
李冬梅 加V:busulishang4668

发布了 1041 篇内容, 共 655.7 次阅读, 收获喜欢 1204 次。

关注

评论

发布
暂无评论
发现更多内容

一口气说出 OAuth2.0 的四种授权方式

程序员小富

Java oauth2.0

Redis-进阶篇一

多选参数

数据库 redis redis高可用 redis6.0.0 Redis项目

作业

chenzt

架构师训练营 -- 第五周作业

stardust20

架构师训练营--第五周学习总结

花花大脸猫

极客大学架构师训练营

啃碎并发(三):Java线程上下文切换

猿灯塔

Spring核心原理解析

Java spring

第5周结构师训练营——作业

jiangnanage

架构师训练营第五周作业

架构师 极客大学架构师训练营

架构师训练营 - 第五周 - 学习总结

stardust20

让Go“恐慌”的十种方法

博文视点Broadview

Go 语言

架构师训练营——第5周学习总结

jiangnanage

分布式缓存总结

罗亮

一致性Hash算法

技术小生

极客大学架构师训练营

“区块链+” 医疗行业场景应用迎来大发展

CECBC

医疗方案 区块链+ 场景应用落地 多元场景应用

第五周总结

考尔菲德

国内首本CTF赛事技术解析书籍,五年之约,兑现了!

华章IT

网络安全 Web CTF Reverse PWN

分布式缓存一致性hash算法实现

考尔菲德

话题讨论|作为一名程序员,你下班之后都会做些什么?

InfoQ写作社区官方

写作平台 话题讨论 话题 热门活动

Spring Boot读取配置文件的几种方式

Java旅途

Spring Boot properties yaml

数据库周刊31丨openGauss 正式开源;7月数据库排行榜发布;oracle ADG跨版本搭建;PG解决社保问题;mysqlbinlog解析……

墨天轮

MySQL 数据库 oracle 性能优化 opengauss

计算机中短期学习路线

zack

你可能还不知道自己无知

小天同学

读书 智能时代 信息噪声 高考

架构师训练营第五周作业

talen

kafka监听mysql实时数据变更

爱java爱自己

MySQL mysql事务

Scrum Master与Project Manager的区别

Mew151

Scrum

朱嘉明教授获2020杭州区块链国际周“特别致敬奖”

CECBC

CECBC 朱嘉明 区块链国际周 特别致敬

一致性hash算法的实现和平衡性测试

周冬辉

05周作业—技术选型

dao

极客大学架构师训练营 作业 一致性Hash算法

架构师训练营 W5 作业

Kun

极客大学架构师训练营

新增的两个区块链职业到底是做什么的?

CECBC

技术人才 系统操作 需求落地 框架搭建

直击异构算力资源纳管困难,又一款智算操作系统重磅发布_操作系统_李冬梅_InfoQ精选文章