蚂蚁集宣布正式开源统一多模态大模型Ming-lite-omni
创始人
2025-05-30 19:00:54
0

5月27日,在蚂蚁技术日上,蚂蚁集团旗下的百灵大模型(Ling)团队宣布正式开源统一多模态大模型Ming-lite-omni。据蚂蚁方面介绍,这是一款基于Ling-lite构建的MoE架构的全模态模型,其总参数22B,激活参数3B。

据悉,Ming-lite-omni当前模型权重和推理代码已开源,后续会陆续开源训练代码和训练数据。

https://huggingface.co/inclusionAI/Ming-Lite-Omni

今年以来,百灵大模型已经连续开源了多个模型产品,包括2个MoE架构的大语言模型,Ling-lite和Ling-plus,多模态大模型Ming-lite-uni,以及Ming-lite-omni-preview。

其中,其中五月中旬开源了Ling-lite-1.5,据百灵方面介绍,“能力已经接近同水位SOTA水平,介于千问4B和8B的水平。”蚂蚁方面称,这两个模型在多个算力平台(包括非Hopper架构的国产算力)进行训练,验证了300B尺寸的SOTA MoE大语言模型在非高端算力平台上训练的可行性。

而本次开源的Ming-lite-omni产品在多项理解和生成能力评测中,性能与10B量级领先的多模态大模型相当或更优。蚂蚁方面认为,这是目前已知首个在模态支持方面能够与GPT-4o相媲美的开源模型。

百灵大模型负责人西亭对媒体表示,百灵大模型的命名规则是Ling代表基础大模型,Ring代表推理版本,Ming代表多模态大模型。百灵在过去主要在几个方面做了聚焦,一个是很早做MoE架构的探索,坚定的在语言大模型和多模态大模型上面统一使用了MoE的架构,同时使用了大量非高端的算力平台,证明了国产GPU的“也能训练出来可比拟GPT4o的模型”。其次,百灵很重视多模态领域的探索,一直在推进多模态的生成和理解的统一,而本次开源的Ming-lite-omin即是过去技术探索的成果。

百灵方面表示,团队下一步将持续优化Ming-lite-omni在全模态理解和生成任务上的效果,并提升Ming-lite-omni的多模复杂推理能力;同时也会训练更大尺寸的全模态模型Ming-plus-omni。此外,根据西亭透露, 百灵还在筹备Ling的Max版本,发布节点将会是“追寻跟(deepseek)V3的版本差不多的版本时开出去”。

(雷峰网)

相关内容

热门资讯

Soul四渡赤水:赴港IPO是... 2025年11月27日,Soul再次向港交所主板递交了上市申请。这已经不是Soul第一次,而是第四次...
易讯数据董事长郑士进:通过大数... 中国商报(记者 赵熠如)12月18日下午,第十二届中国商业创新大会在北京召开。大会期间,杭州易济信息...
海南封关激活开放新棋局,江苏如... 海南洋浦港,海南自贸港10个“二线口岸”之一。新华社记者 郭程 摄 12月18日,海南自由贸易港启动...
TikTok美国方案:字节保留... 新京报贝壳财经讯(记者罗亦丹)记者获悉,当地时间12月18日,TikTok CEO周受资发出内部信,...
北京健康体检设备十大排行:海斯... 在北京这座快节奏的城市里,人们对健康的关注从未如此迫切。走进任何一家体检中心,琳琅满目的设备总让人眼...
高超声速飞行器如何突破“新热障... 据外媒报道,近日,法国首次公开了新型超声速核导弹ASMPA-R的清晰图像,其下一代高超声速导弹已在研...
苹果在日本开放应用商店引入竞争 来源:环球市场播报 苹果公司宣布,将在日本市场允许第三方应用商店运营,并准许开发者绕开 iOS 系统...
朱元璋为何执意传位于朱允炆这个... 洪武三十一年五月,71岁的朱元璋躺在病榻上,握着21岁孙子朱允炆的手交代后事。殿外,四皇子燕王朱棣正...
哪吒汽车:选定经营管理受托方,... 【12月19日合众新能源汽车公布经营管理受托方招募结果】12月18日,哪吒汽车实体公司合众新能源汽车...
腾讯AI下了一场“及时雨” 来源:市场资讯 (来源:字母榜) 本月17 日,中国 AI 圈出现了一个“巧合”般的同日亮相。 这...