LlamaFactory可视化微调大模型 - 参数详解_开发测试

创始人

2025-01-15 13:05:45

0次

LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation ）、QLoRA（ Quantized LoRA ）等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。

支持混合精度训练，提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

打开我们 LlamaFactory 的 web 运行界面，进入根目录执行下列命令：

llamafactory-cli webui

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860：

我们依次来解释每个参数的选择：

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型，这里都会从 Hugging Face 里面下载，

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法：

这里有三种，full全参数微调， Freeze（冻结部分参数） LoRA&

解密关于开挂！德扑圈多功能真的... 解密关于开挂！德扑圈多功能真的有透视挂-一贯真的有透视1、很好的工具软件，可以解锁游戏的德扑圈辅助插...

记者爆料外挂！微扑克多功能真的... 记者爆料外挂！微扑克多功能真的有透视挂-一贯有透视1、微扑克脚本辅助下载、微扑克免费透视脚本等服务，...

重大通报辅助器！WePoKer... 重大通报辅助器！WePoKer多功能真的有透视挂-其实是有透视进入游戏-大厅左侧-新手福利-激活码辅...

安装程序教程透视挂！wpk多功... 安装程序教程透视挂！wpk多功能真的有透视挂-总是是真的有透视1）wpk有没有挂：进一步探索wpk有...

每日必看教程辅助！德扑之星多功... 每日必看教程辅助！德扑之星多功能真的有透视挂-一直是真的有透视1）德扑之星辅助插件：进一步探索德扑之...

推荐一款辅助！德普之星多功能真... 推荐一款辅助！德普之星多功能真的有透视挂-总是是有透视在进入德普之星软件靠谱后，参与本局比赛的八名玩...

实测揭晓透视器！wepoker... 实测揭晓透视器！wepoker多功能真的有透视挂-竟然是有透视1、wepoker脚本辅助下载、wep...

科技通报辅助器！德扑之星多功能... 科技通报辅助器！德扑之星多功能真的有透视挂-都是存在有透视1、进入到德扑之星是否有挂之后，能看到左侧...

每日必看教程透视挂！WePoK... 每日必看教程透视挂！WePoKer多功能真的有透视挂-切实有透视一、WePoKer可以开透视的定义与...

一分钟揭秘透视器！德扑圈多功能... 一分钟揭秘透视器！德扑圈多功能真的有透视挂-一贯存在有透视该软件可以轻松地帮助玩家将德扑圈外卦神器提...