MiniMax发长文回应“模型无法说出马嘉祺”
创始人
2026-06-23 03:32:24
0次
5月9日消息，MiniMax官微发长文回应M2系列模型无法说出马嘉祺一事，提供了对“嘉祺识别”问题的完整排查过程和技术思考。
MiniMax表示，其从分词器版本对齐、embedding统计分布、语义近邻检索、预训练与后训练模型的few-shot对比实验、后训练数据频次统计以及对全词表lm_head变化幅度的排序扫描等多个维度进行了排查。最终定位到的原因是：“嘉祺”在分词器中被合并为一个独立token，但该token在后训练数据中出现频次极低，导致模型在后训练中逐渐遗忘了对该token的生成能力。
修复方案方面，MiniMax构造了一份覆盖全词表的合成数据，核心思想是：通过一个简单的复读任务，为全词表建立一个生成频率的“下限保障”，防止任何token因为完全缺失而退化。此外，MiniMax表示，将token覆盖度作为后训练数据质量的一项常规监控指标，可以在早期发现潜在的稀疏token退化风险，避免类似问题在线上复现。（广角观察）
相关内容
热门资讯
菠萝智星德州普及！wepoke...
菠萝智星德州普及！wepoker透视软件下载（辅助器），从前存在有辅助器神器主打本地运行的 AI 黑...
aapoker详情！德扑之星手...
一款 AI 游戏攻略黑科技工具上线，查攻略效率直接开挂。它整合版本更新、装备搭配、BOSS 打法、牌...
WOK普及！手机德州辅助软件（...
WOK普及！手机德州辅助软件（透视挂），原本存在有透视挂助手AI 智能体黑科技再上新，自动化能力开挂...
德扑之星普及！wpk透视插件怎...
很多人使用云端 AI 时，都担心wpk透视插件怎么安装、内部资料上传带来隐私风险。这款本地运行的 A...
微扑克揭露！wepoker有挂...
您好，wepoker有挂吗透视软件这款游戏可以开挂的，确实是有挂的，需要了解加微【485275054...
WePoKer必备！德扑之星插...
您好，WePoKer必备！德扑之星插件视频（辅助挂），本来真的是有辅助挂下载这款游戏可以开挂的，确实...
红龙PoKer解迷！Alpha...
您好，AlphaQ德州辅助怎么样这款游戏可以开挂的，确实是有挂的，需要了解加微【136704302】...
菠萝智星德州普及！德州苹果版2...
您好：德州苹果版2024最新消息官网这款游戏可以开挂的，确实是有挂的，很多玩家在这款游戏中打牌都会发...
微扑克普及！德扑小助手下载（透...
微扑克普及！德扑小助手下载（透视），往昔是有透视插件；近期一款 AI 黑科技工具火爆出圈，效率开挂的...
德州扑克关于！wepoker透...
德州扑克关于！wepoker透视辅助（透视挂），其实是真的有透视挂教程是一款可以让一直输的玩家，快速...