LlamaFactory可视化微调大模型 - 参数详解_开发测试

创始人

2025-01-15 13:05:45

0次

LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation ）、QLoRA（ Quantized LoRA ）等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。

支持混合精度训练，提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

打开我们 LlamaFactory 的 web 运行界面，进入根目录执行下列命令：

llamafactory-cli webui

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860：

我们依次来解释每个参数的选择：

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型，这里都会从 Hugging Face 里面下载，

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法：

这里有三种，full全参数微调， Freeze（冻结部分参数） LoRA&

透视存在!wepoker亲友圈... 透视存在!wepoker亲友圈有用吗(透视)其实存在有辅助神器(有挂功能)-哔哩哔哩1、wepoke...

开挂透视!wepoker手机版... 开挂透视!wepoker手机版辅助!必备攻略辅助挂(的确有挂)-哔哩哔哩wepoker手机版辅助辅助...

透视神器!德普之星辅助工具如何... 透视神器!德普之星辅助工具如何设置(透视)一直真的有辅助修改器(有挂功能)-哔哩哔哩1、该软件可以轻...

曝光透视!wepoker免费脚... 曝光透视!wepoker免费脚本咨询!每日必备辅助挂(有挂规律)-哔哩哔哩一、wepoker免费脚本...

据文件显示!拱趴游戏破解器(透... 据文件显示!拱趴游戏破解器(透视)都是有辅助下载(有挂助手)-哔哩哔哩1、进入到拱趴游戏破解器是否有...

曝光透视!拱趴大菠萝自动计算机... 您好，拱趴大菠萝自动计算机器人这款游戏可以开挂的，确实是有挂的，需要了解加去威信【136704302...

透视好友房!hhpoker的辅... 透视好友房!hhpoker的辅助是真的吗(透视)原来是真的辅助平台(有挂方法)-哔哩哔哩暗藏猫腻，小...

揭幕透视!如何下载德普之星辅助... 揭幕透视!如何下载德普之星辅助软件!推荐一款辅助挂(有挂教学)-哔哩哔哩1、该软件可以轻松地帮助玩家...

透视计算!德普之星透视辅助软件... 透视计算!德普之星透视辅助软件(透视)切实存在有辅助下载(有挂神器)-哔哩哔哩德普之星透视辅助软件辅...

分享透视!pokemmo脚本!... 分享透视!pokemmo脚本!盘点几款辅助挂(有挂规律)-哔哩哔哩在进入pokemmo脚本软件靠谱后...