近日,云天励飞在业绩说明会上披露,公司下一代高性能推理芯片正按计划研发中。目前公司企业级业务已经积累了头部互联网大厂、龙头硬件厂商等客户及生态资源。后续公司将以自研芯片和核心模组等形式面向家庭主机、机器人、无人车、无人机、智慧交通边缘加速计算等场景提供高能效、低功率和高实时性要求的算力,并寻求在使用量级上持续突破;另一方面,以AI推理加速卡、服务器整机、智算集群提供服务等形式,基于原有生态上持续扩大在AI公司、互联网厂商等的国产化AI算力机会。

在过去几年,人工智能的发展主要集中在AI模型的训练上。深度学习算法的迭代和大模型的涌现,均依赖于强大的计算资源以支持海量数据的学习与优化。以英伟达为代表的芯片厂商凭借其在GPU领域的优势,在训练阶段的市场中占据显著地位。然而,随着AI应用场景的日益丰富和落地,AI推理的重要性逐渐提升。推理,即指将训练完成的AI模型部署到实际应用中,进行实时的数据处理和决策。例如,在自动驾驶、机器人等交互等应用中,对AI推理芯片的性能、能效和实时性均提出了特定要求。

当前,AI应用需求的增长正在推动推理芯片市场的发展。从智能家居、机器人到无人机、无人车等终端设备,对本地化AI推理能力的需求日益增加,以支持设备自主运行。同时,随着数据量的不断增长,将所有数据传输至云端进行处理的模式面临效率和带宽挑战,边缘AI推理因此受到关注。它将AI算力下沉到数据源头,有助于提升响应速度并优化数据处理。市场对轻量化、低功耗、高能效的AI芯片需求持续存在,这促使了各类AI加速卡、专用ASIC芯片等创新硬件产品的出现,为不同应用场景提供定制化的推理解决方案。在此背景下,AI推理芯片的市场规模预计将有所增长。

据悉,云天励飞一直在大力投入AI推理芯片研发,沉淀了11年的研发经验。目前已开发出多款AI芯片,包括 DeepEdge10C、DeepEdge10标准版、DeepEdge10Max和DeepEdge200 等,并于2024年推出了大模型推理加速卡 IPU-X6000。

其中,DeepEdge10芯片是云天励飞自主研发的AI推理高性能芯片,采用国产14nm Chiplet工艺,并内置国产RISC-V核。该系列芯片基于“算力积木”AI芯片架构,能够封装成不同算力的芯片,覆盖8T至256T的算力应用,可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各类主流模型的高效推理,并已完成DeepSeek 系列模型以及国产鸿蒙操作系统的适配。这些芯片已在机器人、边缘网关、服务器等领域实现商业化应用。

值得一提的是,公司AI芯片还获得工信部、科技部、发改委AI芯片专项“大满贯”,并已通过国家科技部重大专项验收。

未来,云天励飞将以NPU推理芯片为核心,涵盖边缘推理芯片与云端推理芯片,构建起具备更高性价比的计算平台,并以此为基础推进大模型一体机、软硬一体推理服务器等产品,以及相关服务及生态。

2025 年,公司将继续加强神经网络处理器技术研发,着重解决“卡脖子”技术攻关,实现神经网络处理器芯片的自主可控;通过面向大模型的专用指令集、专用算子、专用的存算一体架构、保证精度的低比特混合量化,实现算法与芯片的联合深度优化,满足大模型的推理需求;开发包括芯片工具链、软件开发包等组成的配套全栈软件开发平台,为公司神经网络处理器生态化发展提供有力保障。