LlamaFactory可视化微调大模型 - 参数详解_开发测试

创始人

2025-01-15 13:05:45

0次

LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation ）、QLoRA（ Quantized LoRA ）等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。

支持混合精度训练，提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

打开我们 LlamaFactory 的 web 运行界面，进入根目录执行下列命令：

llamafactory-cli webui

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860：

我们依次来解释每个参数的选择：

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型，这里都会从 Hugging Face 里面下载，

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法：

这里有三种，full全参数微调， Freeze（冻结部分参数） LoRA&

7小时了解！九游辅助真的假的，... 7小时了解！九游辅助真的假的，雀神广东定制插件辅助（有挂开挂辅助器）；无需打开直接搜索加（薇:136...

我来教教大家！四川游戏家园辅助... 我来教教大家！四川游戏家园辅助软件合法吗，葫芦娃辅助软件（有挂开挂辅助下载）1、下载安装好四川游戏家...

透视了解！天道手游辅助，hhp... 您好：hhpoker辅助软件是真的么这款游戏可以开挂的，确实是有挂的，很多玩家在这款游戏中打牌都会发...

2指南书！微信微乐小程序辅助器... 2指南书！微信微乐小程序辅助器免费安装，广东雀神智能插件安装包（有挂开挂辅助挂）；无需打开直接搜索加...

第七阶段指导！情怀娱乐辅助器，... 第七阶段指导！情怀娱乐辅助器，越乡游破解（有挂开挂辅助挂）；无需打开直接搜索加（薇:13670430...

一分钟秒懂！微信广东雀神挂件辅... 您好：微信广东雀神挂件辅助这款游戏可以开挂的，确实是有挂的，很多玩家在这款游戏中打牌都会发现很多用户...

透视代打！德州透视竞技联盟，w... 透视代打！德州透视竞技联盟，we-poker软件，透明挂教程!（有挂开挂辅助平台）1、下载安装好德州...

第七要领！微乐麻将脚本透视，雀... 第七要领！微乐麻将脚本透视，雀姬辅助脚本（有挂开挂辅助下载）；无需打开直接搜索加薇136704302...

玩家亲测！奇迹辅助思维脚本，贪... 玩家亲测！奇迹辅助思维脚本，贪玩娱乐科技（有挂开挂辅助下载）；无需打开直接搜索加（薇:1367043...

十刹那掌握！哥哥打大a辅助工具... 您好：杭州都莱大菠萝插件这款游戏可以开挂的，确实是有挂的，很多玩家在这款游戏中打牌都会发现很多用户的...