写点什么

第四范式发布先知 AIOS 5.1,升级支持 GPU 资源池化功能

  • 2024-07-23
    北京
  • 本文字数:433 字

    阅读完需:约 1 分钟

大小:240.51K时长:01:22
第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

今天,第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省 80%的硬件成本,提高 GPU 综合利用率多达 5-10 倍。



第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。



在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知 AIOS 5.1 版本新增 GPU 资源池化(vGPU)能力,拥有五大技术亮点:

  • 全面适配国产/非国产算力,支持混合部署与统一调度

  • 算力和显存超分复用,算力切分精细到 1%,显存切分以 M 兆为单位

  • 具备千卡级别分布式调度与管理能力

  • 支持自定义隔离策略,实现共享或独享算力池

  • 利用多任务共享及处理优化技术,推理性能提升 10 倍以上

 

了解产品详情,可致电 400-898-7788,或扫描下方二维码。



2024-07-23 16:498037

评论

发布
暂无评论

智能运维(AIOps)系列之四:智能运维落地的思路

micklongen

AIOPS 智能运维

一文入门 Go 的性能分析

Rayjun

pprof Go 语言

心理韧性:如何让自己从逆境中走出来

石云升

学习 心理学 7月日更

Python OpenCV 对象检测,图像处理取经之旅第 37 篇

梦想橡皮擦

7月日更

两个月面试5家,(美团、360、新浪网、完美世界、搜狐)已拿美团18k*16薪offer

Java 编程 程序员 架构 面试

华为18级工程师耗时三年才总结出这份Java亿级高并发核心编程手册

Java 编程 程序员

模块二作业

A先生

Fil矿机怎么购买?Fil矿机哪里买?

fil矿机怎么购买 fil矿机 ipfs矿机

福布斯解读区块链行业如何改变全球人才供给

CECBC

模块二作业

SAKIN

科学主义 -- 个人进步的杀手

俞凡

认知

白嫖一份小白到进阶网络安全学习宝典【建议收藏】

网络安全学海

面试 网络安全 信息安全 渗透测试 开发安全

模块-1 微信业务架构图 和 备选方案

小遵

vivo S系列的爆款密码:自拍,自然,自出机杼

脑极体

OLAP 扫盲

Galaxy数据平台

OLAP 高基数

【面试&个人成长】2021年过半,社招和校招的经验之谈

王知无

北鲲云计算,用技术成就生物科学领域发展

北鲲云

golang解析---进程,线程,协程

en

线程 进程 协程 Go 语言 goroutine

八位阿里大牛耗时三年总结出Java面试复盘手册!带你实现逆风翻盘

白亦杨

Java 编程 程序员

金九银十马上要来了,我熬夜整理10 万字节详细面试笔记(带完整目录) 良心分享

Java 编程 程序员 架构 面试

模块 2. 架构设计

ag娱乐app官网

和12岁小同志搞创客开发:检测按键状态的两件法宝

不脱发的程序猿

DIY 中断 创客开发 按键检测

微信朋友圈的高性能复杂度

张文龙

#架构实战营

Spark SQL和DataFrames:与外部数据源进行交互(五)

Databri_AI

sql spark

模块-6 拆分电商系统为微服务

小遵

微服务架构服务容错设计分析

慕枫技术笔记

架构 微服务 后端

项目管理实践篇(一):技术人如何做好风险把控

后台技术汇

项目管理

模块一作业

A先生

华为数据治理及数据分类管理实践

王知无

八位阿里大牛耗时三年总结出Java面试复盘手册!带你实现逆风翻盘

Data Mesh,数据网格的道与术

王知无

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章