LlamaFactory可视化微调大模型 - 参数详解
创始人
2025-01-15 13:05:45
0次

LlamaFactory 前言

LLaMA Factory 是一个用于微调大型语言模型的强大工具,特别是针对 LLaMA 系列模型。

可以适应不同的模型架构和大小。

支持多种微调技术,如全参数微调、LoRA( Low-Rank Adaptation )、QLoRA( Quantized LoRA )等。

还给我们提供了简单实用的命令行接口。

支持多 cpu 训练,多任务微调,还有各种内存优化技术,如梯度检查点、梯度累积等。

支持混合精度训练,提高训练效率。

本文不再赘述 LlamaFactory 的安装过程

LlamaFactory参数基本设置

打开我们 LlamaFactory 的 web 运行界面,进入根目录执行下列命令:

llamafactory-cli webui 

看到下列界面

在浏览器打开我们开启的 webui 界面 http://127.0.0.1:7860:

我们依次来解释每个参数的选择:

这里是语言选择

选择 zh 即可。

模型选择

选择适合自己的模型,这里都会从 Hugging Face 里面下载,

这一步是自定义路径

一般就用选择好的默认路径即可。

微调方法:

这里有三种,full全参数微调, Freeze(冻结部分参数) LoRA&

相关内容

热门资讯

重大发现透视器!东游大厅透视器... 重大发现透视器!东游大厅透视器多功能AI脚本,东游大厅总是有透视器脚本1、进入游戏-大厅左侧-新手福...
每日必备作弊器!六六互娱作弊器... 每日必备作弊器!六六互娱作弊器多功能AI插件,六六互娱好像存在有作弊器插件1、六六互娱破解器简单,六...
一分钟了解作弊器!战皇大厅作弊... 一分钟了解作弊器!战皇大厅作弊器多功能AI攻略,战皇大厅都是真的有作弊器攻略1、很好的工具软件,可以...
记者发布透视挂!天久大厅透视挂... 记者发布透视挂!天久大厅透视挂多功能AI软件,天久大厅都是真的是有透视挂软件一、天久大厅游戏安装教程...
推荐一款外挂!道游互娱外挂多功... 推荐一款外挂!道游互娱外挂多功能AI软件,道游互娱切实真的是有外挂软件1、完成道游互娱有辅助插件,帮...
如何分辨真伪作弊器!新棋联盟作... 如何分辨真伪作弊器!新棋联盟作弊器多功能AI插件,新棋联盟真是真的是有作弊器插件1、许多玩家不知道新...
一分钟了解透视器!螺旋互娱透视... 一分钟了解透视器!螺旋互娱透视器多功能AI教程,螺旋互娱果然真的是有透视器教程1、进入到螺旋互娱是否...
玩家爆料外挂!至友互娱外挂多功... 玩家爆料外挂!至友互娱外挂多功能AI教程,至友互娱确实真的有外挂教程1、很好的工具软件,可以解锁游戏...
总算了解透视器!新西游大厅透视... 总算了解透视器!新西游大厅透视器多功能AIapp,新西游大厅好像有透视器app1、新西游大厅破解器简...
2分钟细说辅助器!甘孜大厅辅助... 2分钟细说辅助器!甘孜大厅辅助器多功能AI攻略,甘孜大厅果然真的有辅助器攻略1、这是跨平台的甘孜大厅...