LlamaFactory可视化微调大模型 - 参数详解_开发测试

创始人

2025-01-15 13:05:45

0次

LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation ）、QLoRA（ Quantized LoRA ）等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。

支持混合精度训练，提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

打开我们 LlamaFactory 的 web 运行界面，进入根目录执行下列命令：

llamafactory-cli webui

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860：

我们依次来解释每个参数的选择：

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型，这里都会从 Hugging Face 里面下载，

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法：

这里有三种，full全参数微调， Freeze（冻结部分参数） LoRA&

7分钟辅助（杭州边锋辅助软件）... 7分钟辅助（杭州边锋辅助软件）其实真的是有挂（详细辅助2025新版教程）1、实时杭州边锋辅助软件开挂...

热点推荐“新漫游大厅辅助器”本... 热点推荐“新漫游大厅辅助器”本来是有挂（辅助挂）详细辅助扑克教程；1、这是跨平台的黑科技，在线的操作...

2分钟辅助!龙江博乐填大坑辅助... 2分钟辅助!龙江博乐填大坑辅助(辅助挂)一直真的有挂(详细辅助技巧教程)；小薇（透视辅助）致您一封信...

透视工具！微友辅助器免费版v2... 透视工具！微友辅助器免费版v2.0，新道游修改器，系统教程（有挂神器）；致您一封信；亲爱微友辅助器免...

透视总结！wepoker开脚本... 透视总结！wepoker开脚本视频，随意玩辅助，科技教程（有挂解密）；1）随意玩辅助辅助挂：进一步探...

6分钟辅助（鸿狐辅助器）确实是... 6分钟辅助（鸿狐辅助器）确实是真的有挂（详细辅助力荐教程）1、下载好鸿狐辅助器辅助软件之后点击打开，...

第3分钟辅助!全民内蒙古辅助器... 第3分钟辅助!全民内蒙古辅助器(辅助挂)原来真的有挂(详细辅助安装教程)1）全民内蒙古辅助器辅助挂：...

最新技巧“堆堆乐辅助软件”本来... 最新技巧“堆堆乐辅助软件”本来是有挂（辅助挂）详细辅助透明挂教程1、用户打开应用后不用登录就可以直接...

透视辅助！天蝎大厅辅助，指尖捕... 透视辅助！天蝎大厅辅助，指尖捕鱼bgm，2025版教程（有挂软件）准备好在天蝎大厅辅助ia的高塔上攀...

透视代打！xpoker辅助控制... 透视代打！xpoker辅助控制，闲逸透视app在哪里下载，教你教程（有挂教程）1）闲逸透视app在哪...