将开源贯彻到底 阿里云发布开源模型Qwen2
创始人
2024-06-08 13:21:12
0

新京报贝壳财经讯(记者罗亦丹)6月7日,阿里云更新技术博客:重磅发布开源模型Qwen2-72B,所有人均可在魔搭社区和Hugging Face免费下载通义千问最新开源模型。

一直以来,来自Meta的开源大模型Llama系列都是开源大模型当之无愧的顶流,不过有个人开发者对贝壳财经记者表示,Qwen系列的开源模型在国外技术社区的讨论度一直居高不下。最近一个月内,通义千问Qwen系列模型总下载量翻了一倍,已突破1600万次,全球开源社区已经出现了超过1500款基于Qwen二次开发的模型。

而相比2月推出的通义千问Qwen1.5,Qwen2实现了整体性能的代际飞跃。刚刚开源的Qwen2-72B,整体性能相比Qwen1.5-110B又取得了大幅提升。阿里云方面表示,通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。

通义千问团队在技术博客中披露,Qwen2系列包含5个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B,其中Qwen2-57B-A14B为混合专家模型(MoE)。Qwen2所有尺寸模型都使用了GQA(分组查询注意力)机制,以便让用户体验到GQA带来的推理加速和显存占用降低的优势。

在中英文之外,模型训练数据中增加了27种语言相关的高质量数据,提升了模型的多语言能力。Qwen2还增大了上下文长度支持,Qwen2-72B-Instruct能够处理128k上下文长度内的信息抽取任务。

阿里云CTO周靖人表示,“坚持开源开放是阿里云的重要策略,我们希望打造一朵AI时代最开放的云,让算力更普惠、让AI更普及。”

编辑 王琳琳

校对 赵琳

相关内容

热门资讯

有了最新消息!微乐自建房辅助软... 有了最新消息!微乐自建房辅助软件有哪些功能,微乐小程序黑科技,方案教程(有挂辅助)-哔哩哔哩1、进入...
第7分钟脚本!微乐广西麻辣辅助... 第7分钟脚本!微乐广西麻辣辅助器,微乐小程序免费黑科技,绝活教程(有挂安装)-哔哩哔哩暗藏猫腻,小编...
透视辅助!德普之星有辅助软件吗... 透视辅助!德普之星有辅助软件吗(透视)德普之星怎么开辅助-竟然真的有挂(哔哩哔哩)1、许多玩家不知道...
苹果手机微信小程序游戏破解器!... 苹果手机微信小程序游戏破解器!微乐小程序黑科技(透视)神器-确实解迷是有挂微乐小程序黑科技辅助器是一...
透视讲解!微信小程序微乐辅助免... 透视讲解!微信小程序微乐辅助免费,微乐小程序黑科技,指南书教程(有挂辅助)-哔哩哔哩运微信小程序微乐...
第9分钟脚本!微乐陕西小程序破... 第9分钟脚本!微乐陕西小程序破解器下载,微乐小程序黑科技,攻略教程(有挂app)-哔哩哔哩进入游戏-...
透视软件!智星菠萝可以辅助吗(... 您好,智星菠萝可以辅助吗这款游戏可以开挂的,确实是有挂的,需要了解加去威信【485275054】很多...
微信自建房辅助多少钱一个月!微... 微信自建房辅助多少钱一个月!微乐小程序黑科技(透视)神器-原来透视真的是有挂小薇(辅助器软件下载)致...
透视模拟器!微信小程序修改器,... 透视模拟器!微信小程序修改器,微乐小程序黑科技,策略教程(有挂辅助)-哔哩哔哩小薇(辅助器软件下载)...
第1分钟插件!广西微乐小程序控... 第1分钟插件!广西微乐小程序控制器,微乐小程序免费黑科技,诀窍教程(有挂脚本)-哔哩哔哩1、每一步都...