华为申请键值量化方法专利，提升KV缓存量化精度_科技资讯

华为申请键值量化方法专利，提升KV缓存量化精度

创始人

2026-08-23 20:01:14

0次

国家知识产权局信息显示，华为技术有限公司申请一项名为“键值量化的方法、装置、计算设备集群及存储介质”的专利，公开号CN122616631A，申请日期为2025年2月。

专利摘要显示，本申请公开了一种键值量化的方法、装置、计算设备集群及存储介质，其中，该方法包括：对于神经网络模型的任意一个注意力层，获取任意一个注意力层对应的第一量化策略；第一量化策略中包括任意一个注意力层输出的键K向量、值V向量的度量方式；基于任意一个注意力层输出的K向量、V向量中的至少一种向量及至少一种向量的度量方式，确定基于用户输入得到的第一token序列中的关键token；基于关键token确定第一token序列中需进行K向量、V向量量化的第一目标token；对第一目标token对应的K向量、V向量进行量化。本申请实施例通过关键token识别有利于提升KV缓存量化的精度。

天眼查资料显示，华为技术有限公司，成立于1987年，位于深圳市，是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本4114113.182万人民币。通过天眼查大数据分析，华为技术有限公司共对外投资了51家企业，参与招投标项目44554次，财产线索方面有商标信息14540条，专利信息128509条，此外企业还拥有行政许可1731个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

来源：市场资讯

上一篇：如果松弛是一种天赋——看看西宁野生动物园的动物有多松弛？

下一篇：黑科技辅助！wpk辅助哪里买，德普之星透视辅助软件，都是真的有挂（有挂存在）

华为申请键值量化方法专利，提升KV缓存量化精度

相关内容

热门资讯