替代NVIDIA,摩尔线程&无问芯穹联手首次实现国产GPU端到端AI大模型实训
创始人
2024-05-27 15:22:09
0

近日,NVIDIA在国内市场挑战越来越大,在5月25日的文章《受华为AI芯片挑战,NVIDIA中国特供GPU降价?》中我们了解到,NVIDIA现在受华为的昇腾910B等竞争产品的影响,被迫将其一些产品的价格定得低于中国国内竞争对手硬件的价格,并且由于需求疲软,市场上有大量的英伟达芯片供应。

而在今天,摩尔线程、无问芯穹更是放出大招,联合宣布正式完成MT-infini-3B 3B(30亿参数)规模大模型的实训,而使用的平台就是摩尔线程国产全功能GPU MTT S4000组成的千卡集群,以及无问芯穹的AIStudio PaaS平台。

这次实训充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性,同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的新范式,完全可以替代NVIDIA。

目前,实训出来的MT-infini-3B性能在同规模模型中跻身前列,相比在国际主流硬件上(尤其是NVIDIA)训练而成的其他模型,在C-Eval、MMLU、CMMLU等3个测试集上均实现性能领先。

长期以来,由于国内GPU厂商产品缺乏竞争力,即使在美国贸易限令的情况下,NVIDIA的显卡在国内也是“一卡难求”,GPU价格更是水涨船高。如今摩尔线程国产全功能GPU MTT S4000组成的千卡集群,也能够很好的满足国内人工智能、大模型计算等业务场景需求。

摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司,夸娥千卡集群已与无穹Infini-AI顺利完成系统级融合适配,完成LLama2 700亿参数大模型的训练测试。

无问芯穹联合创始人兼 CEO 夏立雪表示,当前无问芯穹正在打造“M 种模型”和“N 种芯片”之间的“M x N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署,已与摩尔线程达成深度战略合作,而目前“MT-infini-3B”这一训练成果是行业内首次实现基于国产 GPU 芯片从 0 到 1 的端到端大模型实训案例。

————END————

相关内容

热门资讯

海尔取得拼接式冰箱专利,保持拼... 国家知识产权局信息显示,青岛海尔电冰箱有限公司;海尔智家股份有限公司取得一项名为“拼接式冰箱”的专利...
市卫生健康委青年理论学习小组参... 智享科技赋能卫健 研学实干淬炼初心 为深入贯彻落实新发展理念,推动政治理论学习与数字化建设深度融合,...
原创 卖... 我先放个猛料,这事儿不是心血来潮,我可是费了半天劲,在他们内部渠道套来绝对的独家(全网都是)消息,他...
小鹏汽车由盈转亏后,何小鹏却要... 界面新闻记者 | 刘泽然 界面新闻编辑 | 周姝祺 小鹏汽车CEO何小鹏将亲自兼任小鹏机器人业务...
2026年游戏手机推荐排行榜:... 一、电竞旗舰巅峰对决 当2K分辨率遇上144Hz刷新率,这块来自三星的珠峰屏就像为指尖安装了磁悬浮...
英伟达、亚马逊等巨头参投 德国... 财联社6月11日讯(编辑 牛占林)德国人形机器人公司Neura Robotics在最新一轮融资中获得...
银发餐饮:为何万亿市场,却难觅... 银发经济的餐饮蓝海:为何万亿市场,却难觅一个成功品牌? —— 藏在“三低”需求里的真金,为什么你挖不...
毕业了,团组织关系怎么办?(附... 又是一年毕业季 学业落幕、逐梦前行的同时 广大应届毕业学生团员 千万别忘了一件重要事项—— 团组织关...
预算300万元 中国科协招标制... 中国政府采购网发布招标公告,中国科协科学技术传播中心正式启动中华科技文明展(三)影片策划和制作项目采...
原创 金... “飞雪连天射白鹿,笑书神侠倚碧鸳”,只要你自诩武侠迷,就一定不会错过金庸的这十四部经典之作,哪怕这些...