LlamaFactory可视化微调大模型 - 参数详解_开发测试

创始人

2025-01-15 13:05:45

0次

LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation ）、QLoRA（ Quantized LoRA ）等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。

支持混合精度训练，提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

打开我们 LlamaFactory 的 web 运行界面，进入根目录执行下列命令：

llamafactory-cli webui

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860：

我们依次来解释每个参数的选择：

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型，这里都会从 Hugging Face 里面下载，

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法：

这里有三种，full全参数微调， Freeze（冻结部分参数） LoRA&

脚本解密！wpk透视辅助方法，... 脚本解密！wpk透视辅助方法，有哪些免费的wpk作必弊码（透视）真是是真的app（哔哩哔哩）；1、上...

脚本解谜！hhpoker软件安... 脚本解谜！hhpoker软件安装包，hhpoker视频巡查真的假的（透视）一直真的是有插件（哔哩哔哩...

脚本分享！wpk显示有作必弊，... 脚本分享！wpk显示有作必弊，wpk俱乐部辅助器（透视）总是真的有软件（哔哩哔哩）1、让任何用户在无...

透视关于！wepoker怎么拿... 透视关于！wepoker怎么拿到好牌，wepokerplus辅助（透视）确实真的是有app（哔哩哔哩...

透视详情！hhpoker怎么破... 透视详情！hhpoker怎么破解，hhpoker底牌透视脚本（透视）总是真的有技巧（哔哩哔哩）1、实...

脚本透视！aapoker脚本，... 脚本透视！aapoker脚本，aapoker如何设置胜率（透视）总是是有技巧（哔哩哔哩）小薇（辅助器...

脚本详情！德普之星辅助工具如何... 脚本详情！德普之星辅助工具如何设置，德普之星辅助工具如何打开（透视）总是真的是有脚本（哔哩哔哩）脚本...

透视推荐！wpk官网下载链接，... 透视推荐！wpk官网下载链接，wpk透视辅助（透视）都是是真的教程（哔哩哔哩）1、超多福利：超高返利...

脚本详情！wpk辅助器，wpk... 脚本详情！wpk辅助器，wpk德州局怎么透视（透视）好像是真的软件（哔哩哔哩）1、德州局怎么透视破解...

透视分享！wejoker透视方... 透视分享！wejoker透视方法，wepoker黑侠辅助器（透视）都是真的有脚本（哔哩哔哩）1、用户...