写点什么

第四范式发布先知 AIOS 5.1,升级支持 GPU 资源池化功能

  • 2024-07-23
    北京
  • 本文字数:433 字

    阅读完需:约 1 分钟

大小:240.51K时长:01:22
第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

今天,第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省 80%的硬件成本,提高 GPU 综合利用率多达 5-10 倍。



第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。



在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知 AIOS 5.1 版本新增 GPU 资源池化(vGPU)能力,拥有五大技术亮点:

  • 全面适配国产/非国产算力,支持混合部署与统一调度

  • 算力和显存超分复用,算力切分精细到 1%,显存切分以 M 兆为单位

  • 具备千卡级别分布式调度与管理能力

  • 支持自定义隔离策略,实现共享或独享算力池

  • 利用多任务共享及处理优化技术,推理性能提升 10 倍以上

 

了解产品详情,可致电 400-898-7788,或扫描下方二维码。



2024-07-23 16:498388

评论

发布
暂无评论
发现更多内容

顶会论文 | 阿里云视频摘要SOTA模型:用于视频摘要的多层时空网络

阿里技术

人工智能

ChatGPT看技术发展趋势| 社区征文

芯动大师

人工智能 openai ChatGPT

数据合规可信计划暨国内首个数据合规标准发布!易观作为标准起草单位应邀参加

易观分析

数据 数字化 信息化

志愿者招募令|来!一起Build OceanBase第一次开发者大会

OceanBase 数据库

数据库 oceanbase

前端经典面试题(有答案)

loveX001

JavaScript 前端

C++入门简单实例

老王同学

c++ 入门

点维文化宣布通过百度智能云接入文心一言

Geek_2d6073

NLP 双数组字典树(double array trie) 基于darts-java改进,增加词性存储。

alexgaoyh

elasticsearch nlp darts-java 词性 double array trie

N皇后问题的回溯法实现

老王同学

c++ 八皇后 回溯法

见山,见路,见天地:OpenHarmony的开源共建攀登

脑极体

开源鸿蒙

重磅 | 超级自动化行业黑马九科信息再获数千万A+轮融资 ——电科信息领投,深创投索斯福跟投,老股东信天创投、青松基金追加投资

九科Ninetech

一文看懂:近期不断 “狂飙” 的 ChatGPT | 社区征文

架构精进之路

ChatGPT

根据文本描述生成视频,Tune-A-Video 效果惊艳

Zilliz

计算机视觉

面试官:说说Event Loop事件循环、微任务、宏任务

loveX001

JavaScript 前端

号码隐私保护服务:保障亿万消费者的隐私安全

阿里云CloudImagine

云计算

chianmaker交易初探

liwh1227

区块链 共识算法 联盟链架构

研发效能度量标准与实践

思码逸研发效能

研发效能

一文教你轻松创建数字孪生实例——实践类

阿里云AIoT

阿里云 物联网 IoT

新一代通信协议—— RSocket

老周聊架构

响应式编程 2月月更 rsocket

2023年最佳Aspera替代方案,选择适合的Aspera替代方案

镭速

Apache Flink 入选 2022 年“科创中国”开源创新榜

Apache Flink

大数据 flink 实时计算

如何在阿里云上快速实现企业实例一键迁移——实践类

阿里云AIoT

阿里云 物联网 IoT

22道js输出顺序问题,你能做出几道

loveX001

JavaScript 前端

美团前端二面面试题

loveX001

JavaScript 前端

一次线上OOM问题分析

艾小仙

Java OOM 问题排查 排查方法

YOLOv5全面解析教程⑤:计算mAP用到的Numpy函数详解

OneFlow

人工智能 深度学习

FLstudio2023水果编曲软件下载及中文语言切换教程

茶色酒

FLstudio2023

一文深度解读音视频行业技术发展历程

阿里云CloudImagine

云计算

ChatGPT 不仅是 AI 的成功,也是云计算的成功 | 社区征文

多颗糖

云计算 AI 云原生 ChatGPT

一起玩转开源数据库!OceanBase DevCon 之开源生态全景解析

OceanBase 数据库

数据库 oceanbase

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章