LlamaFactory可视化微调大模型 - 参数详解
创始人
2025-01-15 13:05:45
0

LlamaFactory 前言

LLaMA Factory 是一个用于微调大型语言模型的强大工具,特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术,如全参数微调、LoRALow-Rank Adaptation )、QLoRAQuantized LoRA )等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练,多任务微调,还有各种内存优化技术,如梯度检查点、梯度累积等。

支持混合精度训练,提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

LlamaFactory参数基本设置

打开我们 LlamaFactoryweb 运行界面,进入根目录执行下列命令:

llamafactory-cli webui 

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860

我们依次来解释每个参数的选择:

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型,这里都会从 Hugging Face 里面下载,

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法:

这里有三种,full全参数微调, Freeze(冻结部分参数) LoRA&

相关内容

热门资讯

智星德州菠萝外 挂!WEP... 自定义智星德州菠萝外 挂系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微扑克专用辅助器...
红龙扑克辅助工具!红龙扑克电脑... 红龙扑克辅助工具!红龙扑克电脑模拟器(红龙扑克)其实真的有挂(详细辅助挂教程)辅助器中分为三种模型:...
透视辅助!WpK一直真的是有挂... 您好,这款游戏可以开挂的,确实是有挂的,需要了解加微【757446909】很多玩家在这款游戏中打牌都...
第八分钟了解!微扑克辅助工具,... 第八分钟了解!微扑克辅助工具,微扑克数据一贯有挂(详细系统发牌规律教程)1、该软件可以轻松地帮助玩家...
wpk ai辅助!轰趴大菠萝十... 您好,wpk ai辅助这款游戏可以开挂的,确实是有挂的,需要了解加微【136704302】很多玩家在...
aapoker挂(aapoke... aapoker挂(aapoker能玩)aapoker辅助软件(透明挂)都是真的是有挂(详细辅助教程)...
透视辅助!德州aa扑克软件透明... 透视辅助!德州aa扑克软件透明挂,aapoker系统其实是有挂(详细辅助工具教程)1、完成的残局,帮...
黑科技透明挂!wEpOke辅助... 黑科技透明挂!wEpOke辅助插件,德州Wepoke果然真的是有挂(详细外挂教程)1、进入到黑科技之...
微扑克系统发牌规律!众合推扑克... 微扑克系统发牌规律!众合推扑克本来有挂,wpk发牌算法(详细ai代打辅助挂教程);人气非常高,ai更...
透视辅助!wPK透明挂辅助挂,... 您好,这款游戏可以开挂的,确实是有挂的,需要了解加微【757446909】很多玩家在这款游戏中打牌都...