国电通申请大型语言模型训练方法专利，解决设备资源限制
创始人
2025-02-01 11:41:58
0次
金融界2025年1月31日消息，国家知识产权局信息显示，北京国电通网络技术有限公司申请一项名为“大型语言模型训练方法及相关设备”的专利，公开号CN 119378662 A，申请日期为2024年9月。
专利摘要显示，本申请一个或多个实施例提供一种大型语言模型训练方法及相关设备。所述方法包括：将所述大型语言模型的编码器分解为多个子模型；将所述子模型部署于设备集群的设备上，并将所述大型语言模型部署于服务器上，所述子模型与所述设备一一对应；迭代训练所述大型语言模型，其中每次迭代训练，所述设备集群和所述服务器以流水线并行方式处理数据。本申请提出了一种基于流水线并行的编码器块分割机制，在分布式设备上训练大型语言模型的方法。通过本申请可以在保证用户数据隐私的同时解决设备资源的限制。
天眼查资料显示，北京国电通网络技术有限公司，成立于2000年，位于北京市，是一家以从事专业技术服务业为主的企业。企业注册资本73000万人民币，实缴资本19000万人民币。通过天眼查大数据分析，北京国电通网络技术有限公司共对外投资了5家企业，参与招投标项目1903次，知识产权方面有商标信息66条，专利信息885条，此外企业还拥有行政许可19个。
来源：金融界
相关内容
热门资讯
揭秘几款！智星德州辅助译码插件...
揭秘几款！智星德州辅助译码插件靠谱吗，微乐麻将脚本掌上程序（透视）果然是真的有技巧（哔哩哔哩）1、很...
玩家攻略！约局吧德州真的存在透...
玩家攻略！约局吧德州真的存在透视吗，微乐自建房黑科技工具怎么找（透视）一贯存在有教程（哔哩哔哩）1、...
针对！哈糖大菠萝能开挂吗，微信...
针对！哈糖大菠萝能开挂吗，微信微乐辅助器免费（透视）真是是有脚本（哔哩哔哩）针对！哈糖大菠萝能开挂吗...
随着！拱趴游戏破解器，微乐云南...
您好，微乐云南小程序辅助器这款游戏可以开挂的，确实是有挂的，需要了解加去威信【485275054】很...
随着！哈糖大菠萝开挂，微乐斗地...
随着！哈糖大菠萝开挂，微乐斗地主有挂吗（透视）总是是真的有脚本（哔哩哔哩）1、点击下载安装，微乐斗地...
有玩家发现！约局吧辅助器，微信...
有玩家发现！约局吧辅助器，微信小程序微乐游戏辅助（透视）切实是真的有软件（哔哩哔哩）微信小程序微乐游...
据报道！约局吧德州真的存在透视...
据报道！约局吧德州真的存在透视吗，微乐自建房辅助可信吗（透视）竟然存在有app（哔哩哔哩）1、起透看...
玩家必看教程!！德州辅助工具到...
玩家必看教程!！德州辅助工具到底怎么样，微乐福建辅助器（透视）一直是有方法（哔哩哔哩）1、玩家必看教...
一分钟了解!！pokemmo脚...
一分钟了解!！pokemmo脚本手机版，微乐江苏自建房辅助app（透视）真是有有神器（哔哩哔哩）1、...
实测教程！拱趴大菠萝万能挂图解...
实测教程！拱趴大菠萝万能挂图解，2025微乐小程序黑科技（透视）总是是有器（哔哩哔哩）小薇（辅助器软...