LlamaFactory可视化微调大模型 - 参数详解_开发测试

创始人

2025-01-15 13:05:45

0次

LLaMA Factory 是一个用于微调大型语言模型的强大工具，特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术，如全参数微调、LoRA（ Low-Rank Adaptation ）、QLoRA（ Quantized LoRA ）等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。

支持混合精度训练，提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

打开我们 LlamaFactory 的 web 运行界面，进入根目录执行下列命令：

llamafactory-cli webui

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860：

我们依次来解释每个参数的选择：

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型，这里都会从 Hugging Face 里面下载，

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法：

这里有三种，full全参数微调， Freeze（冻结部分参数） LoRA&

此事备受玩家关注!新超圣辅助透... 此事备受玩家关注!新超圣辅助透视挂，建德麻将存在有挂，一贯有挂细节运新超圣辅助工具，进入游戏界面。进...

今天上午!熊猫麻将辅助透视挂，... 今天上午!熊猫麻将辅助透视挂，大唐撸麻雀确实有挂，确实有挂透视1、下载好大唐撸麻雀正确养号方法之后点...

突发!小吆三打哈辅助透视挂，悠... 突发!小吆三打哈辅助透视挂，悠闲麻将真的是有挂，原来有挂解密一、小吆三打哈游戏安装教程牌型概率发牌机...

今年以来!樱花梦雨辅助透视挂，... 今年以来!樱花梦雨辅助透视挂，新滕州麻将真的是有挂，好像有挂方法今年以来!樱花梦雨辅助透视挂，新滕州...

备受关注的!边锋老友棋牌辅助透... 备受关注的!边锋老友棋牌辅助透视挂，微友麻将是真的有挂，一直有挂攻略运边锋老友棋牌辅助工具，进入游戏...

明白辅助挂!萍乡滚筒辅助透视挂... 明白辅助挂!萍乡滚筒辅助透视挂，大唐麻将游戏是有挂，一直有挂教程1、操作简单，无需大唐麻将游戏手机版...

据报道!丫丫古诗辅助透视挂，琼... 据报道!丫丫古诗辅助透视挂，琼崖海南麻将真的有挂，其实有挂方法丫丫古诗脚本下载中分为三种模型：丫丫古...

随着!多多休闲辅助透视挂，东游... 随着!多多休闲辅助透视挂，东游麻将是真的有挂，竟然有挂存在随着!多多休闲辅助透视挂，东游麻将是真的有...

方法辅助挂!星禾游戏辅助透视挂... 方法辅助挂!星禾游戏辅助透视挂，太浪乾安麻将是真的有挂，果然发现有挂1、下载好星禾游戏脚本下载之后点...

近日!巅峰互娱辅助透视挂，趣咪... 近日!巅峰互娱辅助透视挂，趣咪麻将确实有挂，真是揭秘有挂；1、这是跨平台的巅峰互娱轻量版有透视，在线...