写点什么

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

  • 2024-12-25
    北京
  • 本文字数:1364 字

    阅读完需:约 4 分钟

大小:721.77K时长:04:06
浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态

12 月 25 日,浪潮信息与智源研究院达成战略合作协议,双方将紧密协作共建大模型多元算力开源创新生态,提升大模型创新研发的算力效率,降低大模型应用开发的算力门槛。目前,智源 Triton 算子库 FlagGems 已正式接入浪潮信息的元脑企智 EPAI 企业大模型开发平台,助力企业实现更快速、更广泛、更高效的多元算力适配与使用。


面向应用,携手共建多元算力系统生态


人工智能的持续进步推动了算力多元化与模型多样化,在为产业注入创新活力的同时,也带来了较高的大模型应用开发技术门槛。元脑企智 EPAI(Enterprise Platform of AI) 是浪潮信息为企业 AI 大模型落地应用打造的高效、易用、安全的端到端开发平台,支持主流开源与闭源大模型的应用快速开发,可实现大模型应用在跨算力平台上的无感迁移,降低多元、多模的适配与试错成本。


FlagGems 是由智源研究院于 2024 年 6 月推出的面向多元算力的开源大模型通用算子库,在 Triton 生态开源开放的基础上,面向多元算力,遵循统一的中间语言、统一的算子接口和统一的开源算子库实现路径,以大模型需求为导向,为多元算力提供开源、统一、高效的算子层生态接入方案。截止 12 月,FlagGems 已提供超过 130 个大模型算子,是目前提供算子数量最多、覆盖广度最大的开源算子库。


此次,智源研究院携手浪潮信息,将 FlagGems 算子库与元脑企智 EPAI 内置的核心计算框架进行深度融合,旨在确保大模型应用开发能够使用高性能、跨硬件、多框架兼容的算子集合,顺利跨越各类硬件架构,满足多种开发框架的需求。现在,基于元脑企智 EPAI 大模型开发平台,企业可以利用针对大模型应用开发场景优化的先进算子集合,在多种算力平台上高效构建、优化和执行复杂的行业应用算法。在复杂的训练任务及实时性要求严苛的推理场景中,均能实现稳定且高效的运算性能。此外,企业也无需关心多元异构加速卡之间的软硬件差异,真正实现大模型应用在跨算力平台上的无缝开发与迁移。

智源研究院 × 浪潮信息:开源开放,产业协作破解多元多模挑战


算力产业在大模型技术趋势的推动下飞速发展,但硬件架构、指令集的差异及算子库的独立实现却形成了生态藩篱,显著提高了企业应用大模型的算力门槛,构建一个开源、统一、高效的多元算力系统生态显得尤为迫切。

 

智源研究院副院长兼总工程师林咏华表示:“元脑企智 EPAI 为企业提供从底层算力到上层应用的一站式支撑,而智源 FlagGems 提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齿轮组’,确保模型在各类硬件架构中顺滑运转,适配多种开发框架需求,让主流大模型跨越硬件藩篱,无论是复杂的训练任务,还是实时性要求严苛的推理场景,均能稳定、高效运行,性能表现媲美原生模型。”


浪潮信息高级副总裁刘军表示:“在多元多模的产业格局下,AI 的产业化落地本质上是推动人工智能与百行千业的深度融合,浪潮信息元脑企智 EPAI 企业大模型开发平台与智源通用算子库 FlagGems 的全面对接,是双方解决生态离散,化解大模型产业化落地的算力转化和开发复杂等高门槛难题的重要举措,将为 AI 应用创新注入更强大、多元的算力支持,助力构建协同共生、开放共赢的多元算力系统生态,充分释放智能生产力。”


未来,浪潮信息将与智源研究院携手并进,持续推进硬件开放与软件开源,以开源开放、多元多模激发创新活力,以多元算力系统生态加速创新落地,协力共建一个更加高效、灵活、开放的人工智能应用生态。

 

2024-12-25 18:063251

评论

发布
暂无评论

第五周总结

食堂就餐卡系统设计-week1

Mr_No爱学习

架构师训练营第 5 周:技术选型(一)

子青

架构师训练营第5周作业

wanlinwang

极客大学架构师训练营

week1 学习总结

幸福小子

5.4消息队列:如何避免系统故障传递?

张荣召

Week 5 作业01

Croesus

5.3分布式缓存架构:一致性hash算法

张荣召

【架构师训练营第 1 期 05 周】 作业

Bear

极客大学架构师训练营

架构师训练营二期 1周总结

月下独酌

极客大学架构师训练营

架构师训练营 1 期第 5 周:技术选型(一) - 作业

灵霄

极客大学架构师训练营

Week_05 作业

golangboy

极客大学架构师训练营

第一周10/25

张冬冬

总结

5.2分布式缓存架构:常见的缓存实现形式

张荣召

第五周总结

Geek_ac4080

架构师训练营第一周作业-周总结

张浩

hash一致性算法

橘子皮嚼着不脆

第1周作业-学习总结

jingx

学习总结-week1

Mr_No爱学习

第五周 技术选型 作业一

应鹏

极客大学架构师训练营 课程作业

架构师训练营第 1 期 - 第 5 周 - 学习总结

wgl

极客大学架构师训练营

AirPods过河,苹果拆桥:被“钞能力”征服的Beats何以至此?

脑极体

食堂就餐卡系统UML设计

架构师

week1作业

幸福小子

5.1分布式缓存架构:架构原理与注意事项

张荣召

第五周作业

fmouse

极客大学架构师训练营

第五周 作业二

Yangjing

极客大学架构师训练营

第五周 作业1

Yangjing

极客大学架构师训练营

架构方法-学习总结笔记

Xuenqlve

【架构师训练营第 1 期 05 周】 学习总结

Bear

极客大学架构师训练营

第一周作业-食堂就餐卡设计

hunk

极客大学架构师训练营

浪潮信息与智源研究院达成战略合作,共建大模型多元算力开源创新生态_芯片与网络_InfoQ_InfoQ精选文章