金融界2024年9月11日消息,天眼查知识产权信息显示,阿里巴巴(中国)有限公司申请一项名为“文本处理模型的训练方法、文本处理方法、问答处理方法及装置“,公开号CN202410711037.9,申请日期为2024年6月。
专利摘要显示,本申请实施例公开了一种文本处理模型的训练方法、文本处理方法、问答处理方法及装置,涉及人工智能技术领域。方法包括:获取多个训练样本,训练样本至少包括文本样本;利用多个训练样本,将大语言模型作为教师模型进行蒸馏,得到作为学生模型的文本处理模型,文本处理模型的参数规模小于所述大语言模型;其中在蒸馏的过程中,利用大语言模型针对文本样本预测的POT(思维程序)信息和COT(思维链)信息指导文本处理模型的训练。本申请通过利用大语言模型预测的POT信息和COT信息共同指导文本处理模型的训练,提高了模型训练的准确率。
来源:金融界