DeepSeek发布开源周首个成果 可优化英伟达GPU效率
创始人
2025-02-24 21:01:55
0次
新京报贝壳财经讯（记者罗亦丹）北京时间2月24日上午，DeepSeek发布了其“开源周”的第一项成果：FlashMLA（直译为快速多头潜在注意力机制）的代码。
据了解，MLA（多头潜在注意力机制）正是DeepSeek降低大模型成本使用的关键技术之一，其可以显著减少大模型训练和推理过程中的内存占用，而FlashMLA则是针对Hopper GPU（一种英伟达GPU架构）开发的高效MLA解码内核，其针对可变长度序列进行了优化，目前已投入了生产，其可以使得H800达到3000GB/s内存，实现580TFLOPS（每秒浮点运算次数）计算性能。
贝壳财经记者注意到，根据此前DeepSeek发布V3大模型时公开的技术文档，该大模型正是使用英伟达的H800芯片训练而成。
上海骊翰科技咨询有限公司发文称，FlashMLA能在不损失模型性能的前提下，将缓存体积压缩至原来的1/4，从而大幅降低显存需求。例如，原始需要存储的100GB中间结果，压缩后仅需25GB，通过开源让企业可以直接使用FlashMLA来优化自家模型。随着FlashMLA的普及，AI推理有望进入千元级硬件跑百亿模型的时代。
编辑 王琳琳
校对 刘军
相关内容
热门资讯
程序员教你!WPK漏洞外挂透明...
您好，WPK漏洞这款游戏可以开挂的，确实是有挂的，需要了解加微【136704302】很多玩家在这款游...
2分钟了解!边锋斗地主小程序有...
2分钟了解!边锋斗地主小程序有挂的,太嚣张了其实一直都是有挂(2023已更新)(哔哩哔哩);边锋斗地...
专业讨论!中至上饶同城有挂的(...
您好，中至上饶同城有挂的这款游戏可以开挂的，确实是有挂的，需要了解加微【136704302】很多玩家...
关于!(Pkerist)外挂透...
【福星临门，好运相随】；关于!(Pkerist)外挂透明挂辅助工具!太坑了原来一直都是有挂(2022...
玩家必看!(wpK)外挂透明挂...
玩家必看!(wpK)外挂透明挂辅助工具(软件透明挂)辅助透视(2023已更新)(哔哩哔哩)；亲真的是...
十分钟了解!(Wepoke胜率...
十分钟了解!(Wepoke胜率)外挂透明挂辅助软件!太嚣张了确实真有挂辅助挂(2025已更新)(哔哩...
一起来讨论!(金龙麻将)外挂透...
一起来讨论!(金龙麻将)外挂透明挂辅助工具(辅助挂)太嚣张了原来是真的有挂(2022已更新)(哔哩哔...
玩家必看分享!(WPK德州版)...
玩家必看分享!(WPK德州版)外挂透明挂辅助测试!太过分了原来真的是有挂(2022已更新)(哔哩哔哩...
必备攻略!Aapoker辅助(...
您好，wpk修改器这款游戏可以开挂的，确实是有挂的，需要了解加微【757446909】很多玩家在这款...
三分钟了解!(wpk胜率)外挂...
【福星临门，好运相随】；三分钟了解!(wpk胜率)外挂透明挂辅助助手(软件透明挂)辅助透视(2020...