龙芯中科官方今日正式宣告,搭载其自主研发的龙芯3号CPU的设备已成功启动并运行DeepSeek R17B模型,实现了本地化高效部署,从而标志着国产芯片与AI大模型的协同适配迈出了实质性的一步,不仅为构建自主可控的人工智能技术生态奠定了坚实基础,也为后续更多AI应用的本地化部署提供了有力支持。
据悉,龙芯中科此次携手太初元碁等产业伙伴,共同推动了DeepSeek大模型与国产芯片的协同适配工作。在太初T100加速卡的助力下,双方团队仅用时2小时便完成了DeepSeek-R1系列模型的适配,并迅速上线了包括DeepSeek-R1-Distill-Qwen-7B在内的多款大模型服务。
此外,龙芯中科还透露,采用龙芯3A6000处理器的诚迈信创电脑和望龙电脑已经成功实现了DeepSeek模型的本地部署。这一部署方式无需依赖云端服务器,从而有效避免了因网络波动或服务器过载而导致的服务中断问题。
值得一提的是,龙芯中科正积极与太初元碁、寒武纪、天数智芯、算能科技、openEuler等多家合作伙伴展开深入合作,共同打造DeepSeek系列模型的多形态推理平台。这一平台的建立将进一步提升AI大模型在不同场景下的应用效率和用户体验。