LlamaFactory可视化微调大模型 - 参数详解_开发测试

创始人

2025-01-15 13:05:45

0次

LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation ）、QLoRA（ Quantized LoRA ）等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。

支持混合精度训练，提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

打开我们 LlamaFactory 的 web 运行界面，进入根目录执行下列命令：

llamafactory-cli webui

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860：

我们依次来解释每个参数的选择：

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型，这里都会从 Hugging Face 里面下载，

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法：

这里有三种，full全参数微调， Freeze（冻结部分参数） LoRA&

绝活儿透视挂!中至余干可以装挂... 绝活儿透视挂!中至余干可以装挂(辅助)其实真的是有辅助脚本(哔哩哔哩)1）中至余干可以装挂辅助插件：...

两分钟外挂透视！we-poke... 两分钟外挂透视！we-poker软件，wepoker私人定制透视（真实有挂）-哔哩哔哩暗藏猫腻，小编...

秘籍透视挂!菠萝辅助器1.3(... 秘籍透视挂!菠萝辅助器1.3(辅助)总是是真的有辅助工具(哔哩哔哩)1、菠萝辅助器1.3辅助软件下载...

9分钟外挂透视！wepoker... 9分钟外挂透视！wepoker怎么拿到好牌，德扑之心免费透视（真是有挂）-哔哩哔哩1、上手简单，内置...

经验透视挂!点星休闲辅助器下载... 经验透视挂!点星休闲辅助器下载(辅助)一直真的是有辅助攻略(哔哩哔哩)1、打开软件启动之后找到中间准...

第八分钟外挂透视！wpk俱乐部... 第八分钟外挂透视！wpk俱乐部怎么透视挂，aapoker插件（了解有挂）-哔哩哔哩wpk俱乐部怎么透...

学习透视挂!哈糖大菠萝提高胜率... 学习透视挂!哈糖大菠萝提高胜率(辅助)原来一直总是有辅助工具(哔哩哔哩)哈糖大菠萝提高胜率是不是有人...

9分钟外挂透视！wepoker... 9分钟外挂透视！wepoker智能辅助插件，wepoker智能辅助插件（有人有挂）-哔哩哔哩在进入w...

第4分钟外挂透视！德普之星透视... 第4分钟外挂透视！德普之星透视辅助软件激活码，wepoker到底有没有透视（有挂神器）-哔哩哔哩1、...

妙计透视挂!禅游指尖四川修改器... 妙计透视挂!禅游指尖四川修改器(辅助)原来是真的有辅助技巧(哔哩哔哩)1、许多玩家不知道禅游指尖四川...