第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能_AI&大模型_第四范式技术团队_InfoQ精选文章



大小：240.51K时长：01:22

第四范式发布先知AIOS 5.1，升级支持GPU资源池化功能

今天，第四范式先知 AIOS 5.1 版本正式发布。该版本新增 GPU 资源池化（vGPU）能力，实现对硬件集群平台化管理、算力资源的按需分配和快速调度，最多节省 80%的硬件成本，提高 GPU 综合利用率多达 5-10 倍。

第四范式先知 AIOS 5 是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标，在支持接入企业各类模态数据的基础上，提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力，实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中，为进一步提高算力资源利用率，第四范式先知 AIOS 5.1 版本新增 GPU 资源池化（vGPU）能力，拥有五大技术亮点：

全面适配国产/非国产算力，支持混合部署与统一调度
算力和显存超分复用，算力切分精细到 1%，显存切分以 M 兆为单位
具备千卡级别分布式调度与管理能力
支持自定义隔离策略，实现共享或独享算力池
利用多任务共享及处理优化技术，推理性能提升 10 倍以上

了解产品详情，可致电 400-898-7788，或扫描下方二维码。

评论

发布

暂无评论

.NET6新东西--Http Logging

Android C++系列：JNI 调用时缓存字段和方法 ID

c++ android jni 11月日更

如何在本地部署多个Tomcat服务

Java 程序员后端

如何调优 Java 垃圾收集

Java 程序员后端

进击的Java（三）

学会IDEA REST Client后就可以丢掉postman了

Java 程序员后端

【Promise 源码学习】第四篇 - 翻译并理解 Promise A+ 规范

源码 Promise 11月日更

如何用RabbitMQ实现延迟队列

Java 程序员后端

官方都不推荐？为什么MySQL不推荐使用uuid作为主键？究竟有什么坏处

Java 程序员后端

解决：http: TLS handshake error from *

学生管理系统架构设计文档

「架构实战营」

字节后端开发3+4面，终于拿到秋招第一个offer(1)

Java 程序员后端

字节面试官：你觉得HTTPS能防止重放攻击吗？

Java 程序员后端

学会5位大牛撰写756页大规模Linux集群架构实践PDF，成功入职华为

Java 程序员后端

官宣：恭喜 ChaosBlade 项目进入 CNCF Sandbox

Java 程序员后端

实战spring自定义属性(schema)

Java 程序员后端

如何封装原生的-Java-NIO-以及扩展？详细到让你分分钟搞定Netty

Java 程序员后端

如何给网关设计一款专属的权限控制「责任链设计模式」(1)

Java 程序员后端

如何设计一个高性能Elasticsearch mapping

Java 程序员后端

模块三作业

宝藏图，引起的一堆问题，轻量级锁的不解（Synchronized锁的升级）

Java 程序员后端

实战：第十一篇：StringRedisTemplate获取redis信息

Java 程序员后端

如何给网关设计一款专属的权限控制「责任链设计模式」

Java 程序员后端

如何让Kafka在保证高性能、高吞吐的同时通过各种机制来保证高可用性？

Java 程序员后端

如何设计一个高可用系统？简单总结了10来种方法，今天全部告诉你们！

Java 程序员后端

字节跳动武汉招聘2000人，这套JAVA面试题被刷爆了

Java 程序员后端

Prometheus HTTP API 查询（五）告警接口

Prometheus PromQL HTTP API 11月日更

完美！腾讯技术官发布Java零基础就业宝典，不用再怀疑人生了

Java 程序员后端

字节后端开发3+4面，终于拿到秋招第一个offer

Java 程序员后端

字节跳动Java面试题精选——算法与数据结构「跳槽面试必备」

Java 程序员后端

安卓程序员必备hook技术之进阶篇

Java 程序员后端