免费下载案例集|20+数字化领先企业人才培养实践经验 了解详情
写点什么

阿里云已支持 Llama2 全系列训练部署,助力企业快速打造专属大模型

  • 2023-07-25
    北京
  • 本文字数:1042 字

    阅读完需:约 3 分钟

阿里云已支持 Llama2 全系列训练部署,助力企业快速打造专属大模型

近日, Llama2 大语言模型宣布开源,覆盖 70 亿、 130 亿及 700 亿参数版本。 Llama2 可免费用于研究场景和月活 7 亿用户以下的商业场景,为企业和开发者提供了大模型研究的新工具。然而,对 Llama2 的再训练和部署仍存在较高门槛,尤其是针对效果更胜一筹的大尺寸版本。

 

为方便开发者群体,阿里云机器学习平台 PAI 在国内率先对 Llama2 系列模型进行深度适配,推出了轻量级微调、全参数微调、推理服务等场景的最佳实践方案,助力开发者快速基于 Llama2 进行再训练,搭建自己的专属大模型。



阿里云牵头发起的 AI 模型社区魔搭 ModelScope ,第一时间上架了 Llama2 系列模型。开发者可在魔搭社区 Llama2 模型页面点击“ Notebook 快速开发”,一键拉起阿里云机器学习平台 PAI ,对模型进行云上开发和部署;在其他平台下载的 Llama2 模型,也可使用阿里云 PAI 进行开发。



针对特殊的场景需求,开发者往往需使用微调训练的方法对模型进行“调整”,以获得特定领域的专业能力和知识。此时, PAI 支持开发者在云上进行轻量级 Lora 微调或更深度的全参数微调。完成模型微调后, PAI 支持开发者通过 Web UI 及 API 的方式部署 Llama2 ,使模型可以通过网页或嵌入应用与使用者交互。

 


相比本地单机训练 Llama2 ,在阿里云上可完成对超大尺寸模型的深度开发,且预置环境免运维,操作简单便捷,同时开发者可获得丰富的 AI 计算资源和极致弹性。本地单卡 GPU 只能完成 Llama2 70 亿 参数版本的轻量级 Lora 微调和推理,更大尺寸版本及更深度训练均很难支撑。在阿里云上,通过 PAI 灵骏智算服务提供的分布式计算能力,可对 Llama2 全尺寸版本进行轻量级和全参数微调,并进行高效部署和推理。


作为全球前三、亚洲第一的云厂商,阿里云是中国 AI 浪潮重要的引领者和服务者,已构建完备的 IaaS+PaaS+MaaS 一体化 AI 服务。在基础设施层,阿里云拥有国内最强的智能算力储备,灵骏智算集群具备最大十万卡 GPU 规模扩展性,可承载多个万亿参数大模型同时在线训练;在 AI 平台层,阿里云机器学习平台 PAI 提供 AI 开发全流程的工程能力, PAI 灵骏智算服务支撑了通义千问等超大模型的训练和应用,可将大模型训练性能提高近 10 倍,推理效率提升 37 %;在模型服务层,阿里云构建了国内最活跃的 AI 模型社区魔搭,并支持企业基于通义千问或三方大模型进行再训练。



今年 7 月初,阿里云宣布,将把促进中国大模型生态的繁荣作为首要目标,向大模型创业公司提供包括模型训练、推理、部署、精调、测评、产品化落地等在内的全方位服务,并在资金和商业化探索方面提供充分支持。

2023-07-25 17:236044
用户头像
赵钰莹 InfoQ 主编

发布了 882 篇内容, 共 639.0 次阅读, 收获喜欢 2679 次。

关注

评论

发布
暂无评论
发现更多内容

android开发要学什么语言!掌握这些Android开发热门前沿知识,挥泪整理面经

欢喜学安卓

android 程序员 面试 移动开发

阿里P8大神分享的并发编程笔记,颠覆了我以往“正确“的认知

Java 程序员 面试 并发编程

区块链交易所系统开发|区块链交易所软件APP开发

系统开发

OSPF的八大特点介绍

Windows文件夹还能更改颜色?

程序员的时光

程序员 七日更 28天写作

智能合约业务场景探索(一)

石君

智能合约 28天写作

精选算法面试-哈希表

李孟聊AI

面试 算法 哈希 28天写作

现成矿机挖矿软件系统APP开发案例

系统开发

基因编辑食品,能否端上我们的餐桌?

脑极体

Lambda 和 Stream API

小方

Java Lambda Stream<T>

项目管理系列(4)-另类减肥法

Ian哥

28天写作

产品经理训练营笔记-认识产品经理(上)

.nil?

python自学 第三章 python语言基础之保留字、标识符与内置函数

WEB前端修行日志

Python 编码格式

一篇让你彻底理解网关是什么的文章

Java架构师迁哥

我做了回视频,告诉你需要用到哪些工具

和牛

工具

C2C交易系统APP开发|C2C交易软件开发

系统开发

一款dubbo服务可视化调试工具

程序员架构进阶

dubbo 工具 RPC 服务化 28天写作

Android面试总结(一)

我就感觉到快

游戏夜读 | 游戏作品的生命力

game1night

android进阶之光!双非渣本Android四年磨一剑,进阶学习资料!

欢喜学安卓

android 程序员 面试 移动开发

「架构师训练营 4 期」 第三周 - 002

凯迪

Redis布隆过滤器原理与实践

Java redis 面试

使用DevSecOps保护CI / CD管道

啸天

DevSecOps 应用安全 开发安全

HDFS杂谈:ACL访问控制列表

罗小龙

hadoop hdfs acl 28天写作

绩效管理,上下同心者胜(一)

一笑

管理 绩效 28天写作

python自学 第四章 python语言基础之变量

WEB前端修行日志

Python 编码格式

RocketMQ解析

石刻掌纹

写在开课前

5x

如何实现CentOS服务器的扩容??

冰河

Linux centos 扩容 服务器

「架构师训练营 4 期」 第三周 - 001

凯迪

日语复习 Day03【~あまり(に)】

IT蜗壳-Tango

程序员 七日更 日语语法

阿里云已支持 Llama2 全系列训练部署,助力企业快速打造专属大模型_AI&大模型_赵钰莹_InfoQ精选文章