将开源贯彻到底 阿里云发布开源模型Qwen2
创始人
2024-06-08 13:21:12
0

新京报贝壳财经讯(记者罗亦丹)6月7日,阿里云更新技术博客:重磅发布开源模型Qwen2-72B,所有人均可在魔搭社区和Hugging Face免费下载通义千问最新开源模型。

一直以来,来自Meta的开源大模型Llama系列都是开源大模型当之无愧的顶流,不过有个人开发者对贝壳财经记者表示,Qwen系列的开源模型在国外技术社区的讨论度一直居高不下。最近一个月内,通义千问Qwen系列模型总下载量翻了一倍,已突破1600万次,全球开源社区已经出现了超过1500款基于Qwen二次开发的模型。

而相比2月推出的通义千问Qwen1.5,Qwen2实现了整体性能的代际飞跃。刚刚开源的Qwen2-72B,整体性能相比Qwen1.5-110B又取得了大幅提升。阿里云方面表示,通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。

通义千问团队在技术博客中披露,Qwen2系列包含5个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B,其中Qwen2-57B-A14B为混合专家模型(MoE)。Qwen2所有尺寸模型都使用了GQA(分组查询注意力)机制,以便让用户体验到GQA带来的推理加速和显存占用降低的优势。

在中英文之外,模型训练数据中增加了27种语言相关的高质量数据,提升了模型的多语言能力。Qwen2还增大了上下文长度支持,Qwen2-72B-Instruct能够处理128k上下文长度内的信息抽取任务。

阿里云CTO周靖人表示,“坚持开源开放是阿里云的重要策略,我们希望打造一朵AI时代最开放的云,让算力更普惠、让AI更普及。”

编辑 王琳琳

校对 赵琳

相关内容

热门资讯

江苏东坤取得多向射灯安装装置专... 国家知识产权局信息显示,江苏东坤展览装饰有限公司取得一项名为“一种用于展览空间的多向射灯安装装置”的...
原创 1... 越来越多的用户倾向于购买旗舰手机,主要原因就是配置高,性能够强,可以流畅使用多年不卡。但旗舰手机的竞...
看热闹的网友尴尬了!李佳琦直播... 快科技6月11日消息,日前,知名带货主播李佳琦在直播中透露,今年618要在直播间卖奔驰汽车了。 而这...
字节不造车,AI造车 从AI上车,到AI定义汽车,科技大厂对汽车产业的参与度越来越深 文|《财经》研究员谭海燕记者刘以秦 ...
“薪资能涨两倍”!这种人才,被... 今年以来,随着AI深度渗透软件开发全流程,AI正在重构软件行业生产流程与竞争规则,软件行业正经历一场...
华为终于不摆架子了?不足三千的... 华为终于进场一台全新的手机,就是你们喜欢的nova 16系列,目前我写文章的时候,讲实话确实属于全家...
原创 上... 第五代骁龙8至尊版机型向来是高端旗舰的代名词,放眼整个市场,搭载这颗顶级芯片的手机普遍售价都在300...
手机证件照制作app怎么选?2... 你是不是也遇到过这样的烦恼:急着办证件却找不到专业拍照地点?自己拍的照片总不符合要求,背景杂乱、色彩...
原创 二... 失败是每一个人都必须面对的事情,没有谁可以摆脱,特别是小朋友,那么,作为父母该如何做呢? 有些孩子虽...
无论如何看SpaceX估值,基... SpaceX本周五即将完成IPO。据英国《金融时报》旗下Alphaville栏目6月10日发布的分析...