写点什么

第四范式发布先知 AIOS 5.1,升级支持 GPU 资源池化功能

  • 2024-07-23
    北京
  • 本文字数:433 字

    阅读完需:约 1 分钟

大小:240.51K时长:01:22
第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

今天,第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省 80%的硬件成本,提高 GPU 综合利用率多达 5-10 倍。



第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。



在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知 AIOS 5.1 版本新增 GPU 资源池化(vGPU)能力,拥有五大技术亮点:

  • 全面适配国产/非国产算力,支持混合部署与统一调度

  • 算力和显存超分复用,算力切分精细到 1%,显存切分以 M 兆为单位

  • 具备千卡级别分布式调度与管理能力

  • 支持自定义隔离策略,实现共享或独享算力池

  • 利用多任务共享及处理优化技术,推理性能提升 10 倍以上

 

了解产品详情,可致电 400-898-7788,或扫描下方二维码。



2024-07-23 16:498462

评论

发布
暂无评论
发现更多内容

小游戏开发游戏引擎指南

Onegun

小游戏 小游戏开发 小程序游戏

模块一作业

飞天的卢

Smart Finance将AIGC引入GameFi,P2E进入人工智能时代

鳄鱼视界

盘点JDK中基于CAS实现的原子类

JAVA旭阳

Java Java并发

拒绝等待,华为云CDN下载加速就是要快人一步

路过的憨憨

前端食堂技术周刊第 62 期:11 月登陆浏览器的新特性、VueConf 2022、第 93 次 TC39 会议、TS 挑战

童欧巴

CSS JavaScript

海鑫科金:通过 YMatrix 实现离线在线平台统一,满足公安数据场景的管理分析需求

YMatrix 超融合数据库

超融合数据库 YMatrix 公安数据场景 海鑫科金

初步了解Istio

穿过生命散发芬芳

istio 12月月更

架构实战营模块7作业

冷夫冲

架构设计 #架构实战营

与Web3支付赛道主要项目相比,Zebec生态潜力相当大

BlockChain先知

敏捷转型下测试团队该如何安放?

QE_LAB

测试 敏捷转型

架构实战营第十期模块一作业

Geek_4db2d5

小游戏与h5游戏开发技术分析

Onegun

小游戏 小程序游戏 H5小游戏

华为云大数据解决方案赋能金融行业发展,打造5G智慧银行营业厅

路过的憨憨

低成本、高效率!华为云桌面助力企业数字化转型

IT科技苏辞

极客时间架构实战营第10期模块1作业

刘博

架构

cleanmymac有用吗?2023最新版本值不值得下载

茶色酒

CleanMyMac CleanMyMac X CleanMyMac X2023

从SPL看开放计算能力的意义

石臻臻的杂货铺

SPL

职场沟通术语

J.Smile

沟通技巧

【es】elasticsearch/es搜索服务器介绍

No8g攻城狮

elastic ES Elastic Search #java

Smart Finance将AIGC引入GameFi,P2E进入人工智能时代

股市老人

Linux apt 命令

芯动大师

linux 文件权限控制

第一周作业

不爱学习的程序猿

2022-12-06:定义一个概念叫“变序最大和“ “变序最大和“是说一个数组中,每个值都可以减小或者不变, 在必须把整体变成严格升序的情况下,得到的最大累加和 比如,[1,100,7]变成[1,6,

福大大架构师每日一题

算法 rust 福大大

SQLMAP _DNS注入配置方法

网络安全学海

网络安全 安全 信息安全 渗透测试 漏洞挖掘

龙磐投资,中国领先生物医药风险投资机构,规模超百亿

联营汇聚

go基于泛型的FUNCTIONAL OPTIONS

Z.K

流畅高清,华为云桌面Workspace助力设计师高效办公!

秃头也爱科技

华为云CDN多场景加速,“火速”留住用户

秃头也爱科技

华为云大数据BI赋能企业数字化发展

秃头也爱科技

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章