「一场值回票价的演讲」将重现QCon? 了解详情
写点什么

通义千问重磅开源 Qwen2.5,下载量突破 4000 万

  • 2024-09-19
    北京
  • 本文字数:1240 字

    阅读完需:约 4 分钟

大小:684.54K时长:03:53
通义千问重磅开源Qwen2.5,下载量突破4000万

9 月 19 日云栖大会,阿里云 CTO 周靖人发布通义千问新一代开源模型 Qwen2.5。Qwen2.5 全系列涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型,每个尺寸都有基础版本、指令跟随版本、量化版本,总计上架 100 多个模型。



Qwen2.5 全系列模型都在 18T tokens 数据上进行预训练,相比 Qwen2,整体性能提升 18%以上,拥有更多的知识、更强的编程和数学能力。Qwen2.5-72B 模型在 MMLU-rudex 基准(考察通用知识)、MBPP 基准(考察代码能力)和 MATH 基准(考察数学能力)的得分高达 86.8、88.2、83.1。


Qwen2.5 支持高达 128K 的上下文长度,可生成最多 8K 内容。模型拥有强大的多语言能力,支持中文、英文、法文、西班牙文、俄文、日文、越南文、阿拉伯文等 29 种以上语言。模型能够丝滑响应多样化的系统提示,实现角色扮演和聊天机器人等任务。在指令跟随、理解结构化数据(如表格)、生成结构化输出(尤其是 JSON)等方面 Qwen2.5 都进步明显。


语言模型方面,Qwen2.5 开源了 7 个尺寸,0.5B、1.5B、3B、7B、14B、32B、72B,它们在同等参数赛道都创造了佳绩,型号设定充分考虑下游场景的不同需求,3B 是适配手机等端侧设备的黄金尺寸;32B 是受开发者期待的“性价比之王”,可在性能和功耗之间获得最佳平衡,Qwen2.5-32B 的整体表现超越了 Qwen2-72B。


在 MMLU-redux 等十多个基准测评中,Qwen2.5-72B 表现超越 Llama3.1-405B


72B 是 Qwen2.5 系列的旗舰模型,其指令跟随版本 Qwen2.5-72B-Instruct 在 MMLU-redux、MATH、MBPP、LiveCodeBench、Arena-Hard、AlignBench、MT-Bench、MultiPL-E 等权威测评中表现出色,在多个核心任务上,以不到 1/5 的参数超越了拥有 4050 亿巨量参数的 Llama3.1-405B。


专项模型方面,用于编程的 Qwen2.5-Coder 和用于数学的 Qwen2.5-Math 都比前代有了实质性进步。Qwen2.5-Coder 在多达 5.5T tokens 的编程相关数据上作了训练,当天开源 1.5B 和 7B 版本,未来还将开源 32B 版本;Qwen2.5-Math 支持使用思维链和工具集成推理(TIR) 解决中英双语的数学题,本次开源了 1.5B、7B、72B 三个尺寸和一款数学奖励模型 Qwen2.5-Math-RM。


多模态模型方面,广受期待的视觉语言模型 Qwen2-VL-72B 正式开源,Qwen2-VL 能识别不同分辨率和长宽比的图片,理解 20 分钟以上长视频,具备自主操作手机和机器人的视觉智能体能力。日前权威测评 LMSYS Chatbot Arena Leaderboard 发布最新一期的视觉模型性能测评结果,Qwen2-VL-72B 成为全球得分最高的开源模型。


Qwen2-VL-72B 在__权威测评__LMSYS Chatbot Arena Leaderboard 成为成为全球得分最高的开源视觉理解模型


自从 2023 年 8 月开源以来,通义在全球开源大模型领域成为不少开发者尤其是中国开发者的首选模型。性能上,通义大模型多次登顶 Hugging Face 全球大模型榜单;生态上,通义从零起步、开疆拓土,与海内外的开源社区、生态伙伴、开发者共建生态网络,截至 2024 年 9 月中旬,通义千问开源模型下载量突破 4000 万,Qwen 系列衍生模型总数超过 5 万个,成为仅次于 Llama 的世界级模型群。


HuggingFace 数据显示,截至 9 月中旬 Qwen 系列原生模型和衍生模型总数超过 5 万个

2024-09-19 21:291

评论

发布
暂无评论

【Windows 开发环境配置——NVIDIA 篇】CUDA、cuDNN、TensorRT 三件套安装

快乐非自愿限量之名

windows 开发环境

「mac」JProfiler 14 激活版(功能强大的Java性能分析工具)

iMac小白

JProfiler 14激活版 JProfiler 14下载 JProfiler 14 mac JProfiler 14破解版

光纤网络排障分析

小魏写代码

万字解析XML配置映射为BeanDefinition的源码

华为云开发者联盟

spring 开发 华为云 华为云开发者联盟

以程序员的身份,教您使用API接口获取虾皮商品详情

Noah

龙蜥社区联合浪潮信息发布《eBPF技术实践白皮书》(附下载链接)

OpenAnolis小助手

Linux 白皮书 ebpf 云栖大会 龙蜥社区

Richardson Software RazorSQL (多功能SQL数据库编辑器)注册版下载

iMac小白

JavaScript slice 方法使用指南

Liam

JavaScript 程序员 前端 前端开发 slice

桌面便签软件哪个好?10款全球好评的便签软件助你提升效率!

彭宏豪95

效率 在线白板 备忘录 笔记应用 笔记软件

选购护眼台灯,全网都没有说清一个关键点!——照度均匀度

电子信息发烧客

NLP技术如何为搜索引擎赋能

不在线第一只蜗牛

nlp NLP 大模型 技术 优化体系

PDF Expert for Mac(PDF编辑阅读转换器)v3.6.0完整激活版

mac

PDF Expert 苹果mac Windows软件 PDF 工具

Hybrid App开发的流程及业务价值

Onegun

html5 混合开发 Hybrid App

数字马力面经和答案解析!社招岗

王磊

Java 面试 java面试

英伟达中国特供芯片是缩水版;华为 Mate60 Pro 国产零件价值占比 47%丨 RTE 开发者日报 Vol.84

声网

中馥集团双11当日发货销售额突破1000万!

电子信息发烧客

八个开源免费的低代码/无代码后端项目

高端章鱼哥

开源 低代码 无代码

轻量级前端架构之:小程序技术

Speedoooo

小程序容器 小程序技术 小程序容器技术 微前端架构 轻量级前端架构

新一代信息技术成为数字化转型满意度评价新要素

Geek_2d6073

软件测试/测试开发丨探索Python中的函数定义和调用

测试人

软件测试

华为音乐枫叶音乐会,倾耳聆听心动音乐故事

最新动态

解决室内种植最大弊端的是方法—植物生长灯

电子信息发烧客

技术贴 | SQL 执行 - 执行器优化

KaiwuDB

石原子科技亮相2023成都市信息领域新产品发布会

StoneDB

MySQL 数据库 HTAP StoneDB

一文解码语言模型:语言模型的原理、实战与评估

EquatorCoco

概念介绍 语言模型

「mac」KeyShot Pro功能强大的3D渲染和动画制作软件

iMac小白

KeyShot Pro下载 KeyShot Pro破解版

简单地聊一聊Spring Boot的构架

快乐非自愿限量之名

前端 spring-boot

选购美国云服务器,轻松打造高效网络

一只扑棱蛾子

美国服务器 美国云服务器

Windows装机必装软件|每款都好用到起飞!

这我可不懂

工具 windows

区块链开发:区块链软件开发包装相关解析

区块链软件开发推广运营

dapp开发 区块链开发 链游开发 NFT开发 公链开发

mac磁盘清理必备:Magic Disk Cleaner破解最新版

iMac小白

通义千问重磅开源Qwen2.5,下载量突破4000万_生成式 AI_华卫_InfoQ精选文章