科大讯飞开源两款端侧支持百万上下文的大模型
创始人
2026-09-02 01:01:34
0

新京报贝壳财经讯(记者罗亦丹)9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。

端侧模型由于可以断网运行,常用于手机、PC、汽车座舱、智能家居和机器人等终端设备。星火X2.5-4B和1.7B原生支持最长100万Token上下文,两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。

以产品售后为例,用户可将完整的产品售后手册导入星火X2.5-4B,先梳理不同场景下的售后规则并标注对应章节;当进一步询问“购买10天后设备故障,且使用过第三方耗材,是否符合换货要求”时,模型能够关联退换货、故障处理和例外条件等跨章节规定,给出综合判断。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主、可持续演进的技术底座。

在部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。多硬件、多框架适配,进一步降低了开发者和行业伙伴在不同环境中部署、微调和应用端侧模型的门槛。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API也已上线到讯飞星辰 MaaS平台。

校对 付春愔

相关内容

热门资讯

WTI原油期货涨幅扩大至3%,... 9月1日,WTI原油期货涨幅扩大至3%,报88.343美元/桶,为7月24日以来新高;布伦特原油期货...
全球媒体聚焦丨非洲学者深入阐释... 尼日利亚主流媒体《太阳报》8月31日发表评论文章《从愿景到实践:中国全球治理倡议一周年》。在全球治理...
国内商品期货夜盘开盘涨跌不一,... 9月1日,国内商品期货夜盘开盘涨跌不一,乙二醇涨2.17%,原油涨2.01%,沥青涨1.86%,玻璃...
梅卡曼德机器人登陆港交所:具身... 来源:格隆汇APP 格隆汇9月1日|智能机器人组件供应商梅卡曼德机器人(MECH-MIND ROBO...
WorkBuddy落地魅族MY... 【CNMO科技消息】9月1日,@魅族科技 宣布其智能眼镜品牌MYVU将携手腾讯WorkBuddy,共...
“如果艾森豪威尔泉下有知,看到... 【文/观察者网 熊超然】 “一会儿介入,一会儿退出,一会儿又回来,一会儿又退出,一会儿轰炸,一会儿又...
立好的遗嘱为何栽在细节上? 如今,老年人自主处置个人财产的需求越来越普遍,立遗嘱安排身后事也成了不少家庭的选择。可心意不等于效力...
现货黄金日内跌幅扩大至2%,报... 9月1日,现货黄金日内跌幅扩大至2%,报4359.52美元/盎司。(科股宝播报)
为何宇宙越来越难以形成新的恒星... 近日,中国科学院国家天文台、上海天文台、上海交通大学等组成的国际合作团队,利用中国天眼FAST与国际...
南京建邺试点智能机器人送学 科... 9月1日,南京市建邺区在南京师范大学附属中学栋梁学校试点“智能机器人送学岗”,擎安科技1.73米的T...