科大讯飞开源两款端侧支持百万上下文的大模型
创始人
2026-09-02 01:01:34
0次

新京报贝壳财经讯(记者罗亦丹)9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。

端侧模型由于可以断网运行,常用于手机、PC、汽车座舱、智能家居和机器人等终端设备。星火X2.5-4B和1.7B原生支持最长100万Token上下文,两款模型采用混合注意力架构,并围绕智能体、代码、数学和指令遵循等核心能力进行优化。

以产品售后为例,用户可将完整的产品售后手册导入星火X2.5-4B,先梳理不同场景下的售后规则并标注对应章节;当进一步询问“购买10天后设备故障,且使用过第三方耗材,是否符合换货要求”时,模型能够关联退换货、故障处理和例外条件等跨章节规定,给出综合判断。

星火X2.5-4B和1.7B基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习训练,持续提升模型在推理、代码、智能体和指令遵循等任务中的表现。全国产算力训练,为端侧智能构建了自主、可持续演进的技术底座。

在部署层面,两款模型支持英伟达、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。多硬件、多框架适配,进一步降低了开发者和行业伙伴在不同环境中部署、微调和应用端侧模型的门槛。

即日起,星火X2.5-4B和1.7B已在Hugging Face、GitHub等平台开放模型权重、代码仓库和部署文档,对应模型API也已上线到讯飞星辰 MaaS平台。

校对 付春愔

相关内容

热门资讯

每日必看推荐辅助!来来灯塔麻将... 每日必看推荐辅助!来来灯塔麻将ai智能透视辅助挂软件,来来灯塔麻将本来是真的有挂(有辅助挂技巧)来来...
科普分享辅助挂!新众娱ai智能... 科普分享辅助挂!新众娱ai智能辅助挂app,新众娱开挂透视教程课程(竟然有挂技术)1、完成新众娱辅助...
推荐攻略开挂!君澜麻将ai智能... 推荐攻略开挂!君澜麻将ai智能透视辅助挂攻略,君澜麻将好像真的是有挂(有辅助挂细节)1、完成君澜麻将...
来一盘辅助挂!大海互娱ai智能... 来一盘辅助挂!大海互娱ai智能辅助挂插件,大海互娱能不能开挂手筋(原来有挂技术);一、大海互娱可以开...
玩家科普开挂!欢乐麻将Mai智... 玩家科普开挂!欢乐麻将Mai智能透视辅助挂app,欢乐麻将M一直是真的有挂(确实有辅助挂)1、欢乐麻...
近年来透视!大海互娱ai智能透... 近年来透视!大海互娱ai智能透视app,大海互娱开挂脚本策略(总是存在有挂)进入游戏-大厅左侧-新手...
发现一款辅助器!汇友互动ai智... 发现一款辅助器!汇友互动ai智能透视辅助挂教程,汇友互动确实是有挂(有辅助挂详细)1.汇友互动 选牌...
1.9分钟了解透视挂!新可乐互... 1.9分钟了解透视挂!新可乐互娱ai智能透视挂脚本,新可乐互娱透视是真的吗指南(都是有挂技术)1、完...
必备攻略透视挂!欢乐茶馆ai智... 必备攻略透视挂!欢乐茶馆ai智能透视辅助挂软件,欢乐茶馆切实真的是有挂(有辅助挂方略)1)欢乐茶馆免...
有了最新消息辅助挂!微友互娱a... 有了最新消息辅助挂!微友互娱ai智能辅助挂工具,微友互娱是如何开挂的指引(原来真是有挂);1、打开软...