科大讯飞开源两款端侧支持百万上下文的大模型
创始人
2026-09-02 01:01:34
0次

新京报贝壳财经讯(记者罗亦丹)9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。

端侧模型由于可以断网运行,常用于手机、PC、汽车座舱、智能家居和机器人等终端设备。星火X2.5-4B和1.7B原生支持最长100万Token上下文,两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。

以产品售后为例,用户可将完整的产品售后手册导入星火X2.5-4B,先梳理不同场景下的售后规则并标注对应章节;当进一步询问“购买10天后设备故障,且使用过第三方耗材,是否符合换货要求”时,模型能够关联退换货、故障处理和例外条件等跨章节规定,给出综合判断。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主、可持续演进的技术底座。

在部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。多硬件、多框架适配,进一步降低了开发者和行业伙伴在不同环境中部署、微调和应用端侧模型的门槛。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API也已上线到讯飞星辰 MaaS平台。

校对 付春愔

相关内容

热门资讯

2024教程,新版德扑之星透视... 您好,2024教程,新版德扑之星透视,智星菠萝德州多功能ai辅助器秘籍神器这款游戏可以开挂的,确实是...
科技教程,wepoker作弊辅... 您好:wepoker作弊辅助挂这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多...
一秒答解,德州平台有没有挂,W... 一秒答解,德州平台有没有挂,WPK多功能ai透视方式插件AI 是一款可以让一直输的玩家修复黑科技更新...
避坑细节,德扑之星方法购买,菠... 避坑细节,德扑之星方法购买,菠萝智星德州多功能ai透视挂学习软件是一款可以让一直输的玩家,快速成为一...
推荐十款,德扑之星透视,智星菠... 一款 AI 游戏攻略黑科技工具上线,查攻略效率直接开挂。它整合版本更新、装备搭配、BOSS 打法、牌...
普及知识,AlphaQ德州辅助... 普及知识,AlphaQ德州辅助怎么样,红龙PoKer多功能ai辅助步骤脚本AI 是一款可以让一直输的...
科普常识,wpk俱乐部透视挂真... AI 黑科技赛道又上新,这款智能处理工具堪称效率开挂,专门面向短视频创作者打造。它打通脚本撰写、AI...
透明教程,wpk破解器,德扑之... 透明教程,wpk破解器,德扑之星多功能ai开挂机巧技巧是一款可以让一直输的玩家,快速成为一个“必胜”...
科技新动态,德扑之星一个挂多少... 科技新动态,德扑之星一个挂多少钱,AApoker多功能ai辅助绝活安装是一款可以让一直输的玩家,快速...
科普攻略,wepoker透视插... AI 黑科技赛道又上新,这款智能处理工具堪称效率开挂,专门面向短视频创作者打造。它打通脚本撰写、AI...