华为申请确定模型输出结果专利,降低数据加载对显存的占用
创始人
2026-07-12 01:21:45
0

国家知识产权局信息显示,华为技术有限公司申请一项名为“确定模型输出结果的方法及相关装置”的专利,公开号CN122366528A,申请日期为2025年1月。

专利摘要显示,本申请公开了一种确定模型输出结果的方法及相关装置,属于AI技术领域。所述方法包括:获取网络模型的第一输入信息;若第一输入信息命中键值缓存中的第一中间运算结果,则通过网络模型对第一中间运算结果进行升维处理,得到第一键值对;基于第一键值对,通过网络模型确定第一输出结果,第一输出结果是第一输入信息对应的输出结果。其中,第一中间运算结果的数据量小于第一键值对的数据量,即本申请中键值缓存的数据量更小,对存储空间的占用更小,利用数据量更小的中间运算结果能够加快键值缓存的数据加载速度,降低数据加载对显存的占用,加速推理,提高设备的整体运行性能。

天眼查资料显示,华为技术有限公司,成立于1987年,位于深圳市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本4114113.182万人民币。通过天眼查大数据分析,华为技术有限公司共对外投资了51家企业,参与招投标项目43473次,财产线索方面有商标信息14510条,专利信息127234条,此外企业还拥有行政许可1730个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

来源:市场资讯

相关内容

热门资讯

经济大省如何炼成生态“优等生”... 河源万绿湖 陈仕平 摄 全国生态日前夕,广东河源万绿湖畔,碧波荡漾,一场关乎山清水秀的司...
光伏产业循环治理难题有了科学解... 日前,山东大学(威海)蓝绿发展研究院教授李佳硕团队联合多所国内外高校科研团队发表研究论文,聚焦全球光...
原创 起... 按常规的智能手机迭代规律,新一代机型发布之后老款机型要么停产,要么等库存清理完就直接退出手机江湖了。...
太阳岛年会共话人形机器人,中国... 来源:中国日报网 8月1日,2026企业家太阳岛年会人形机器人与具身智能产业发展与应用场景创新论坛在...
特朗普证实部署中东的“林肯”号... 8月15日,美国总统特朗普14日证实,因在中东地区长期部署而导致舰上生活条件、船员心理健康等遭质疑的...
美联储9月维持利率不变的概率为... 8月15日,据CME“美联储观察”:美联储到9月维持利率不变的概率为67.5%,累计加息25个基点的...
Viking Global第二... 8月15日,Viking Global在第二季度减持了特斯拉、迪士尼、洲际交易所、嘉信理财、麦当劳;...
美元指数14日下跌 8月15日,衡量美元对六种主要货币的美元指数当天下跌0.3%,在汇市尾市收于99.667。截至纽约汇...
台风“白海豚”过后,苏州农业生... 立秋刚过,台风“白海豚”裹挟狂风暴雨登陆苏州,是有气象记录以来对苏州影响最为极端的台风之一,累计降水...