手把手教你用LLaMa-Factory微调LLaMa3-深圳市維司達科技有限公司

手把手教你用LLaMa-Factory微调LLaMa3

在大模型应用日益普及的今天，越来越多开发者不再满足于“通用对话”，而是希望训练出一个懂行业知识、会特定表达风格、甚至带点个性色彩的专属AI助手。但面对动辄几十GB的模型和复杂的PyTorch训练脚本，很多人只能望而却步。

有没有一种方式，能让微调这件事变得像配置网页表单一样简单？答案是肯定的——LLaMa-Factory正是为此而生。

它把全参数微调、LoRA、QLoRA这些听起来高深的技术，封装成了几个下拉菜单和输入框。你不需要写一行代码，也能完成从数据准备到模型部署的全流程。更关键的是，它对 LLaMA3 这类主流模型做到了“开箱即用”。

接下来，我会以Meta-Llama-3-8B-Instruct为例，带你一步步跑通整个微调流程。无论你是想打造一个法律咨询机器人，还是定制一个讲段子的AI朋友，这套方法都适用。

我们先从最基础的环境搭建开始。建议使用 Linux 系统（如 Ubuntu 20.04+），并配备至少一块高性能 GPU（推荐 RTX 3090/4090 或 A100，显存 ≥24GB）。

首先克隆项目仓库：

git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory

创建独立的 Conda 虚拟环境，避免依赖冲突：

conda create -n llama_factory python=3.10 conda activate llama_factory

安装核心依赖包：

pip install -e ".[torch,metrics]"

⚠️ 注意：如果你使用的是 CUDA 环境，请确保已正确安装 PyTorch + 对应版本的 CUDA（建议 torch≥2.1.0）。若无 GPU 支持，可改用pip install -e .安装 CPU 版本。

一切就绪后，启动 WebUI 可视化界面：

export CUDA_VISIBLE_DEVICES=0 python src/webui.py

终端输出类似以下信息时，说明服务已成功运行：

Running on local URL: http://127.0.0.1:7860

打开浏览器访问该地址，你会看到一个简洁直观的操作面板。这才是真正意义上的“低门槛微调”——没有命令行恐惧，也没有配置文件焦虑。

由于 LLaMA3 是授权模型，不能直接公开下载。你需要通过官方渠道申请权限，然后选择以下任一方式获取模型权重。

国内用户推荐使用 ModelScope：

git lfs install git clone https://www.modelscope.cn/LLM-Research/Meta-Llama-3-8B-Instruct.git models/Meta-Llama-3-8B-Instruct

境外网络用户可用 Hugging Face：

huggingface-cli login git clone https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct models/Meta-Llama-3-8B-Instruct

⚠️ 请严格遵守 Meta 的许可协议，仅用于研究或合规场景。

将模型放入项目根目录下的models/文件夹，后续框架会自动识别路径。

现在轮到最关键的一步：准备你的训练数据。

LLaMa-Factory 接受标准 JSON 格式的数据集，每条样本包含三个字段：

instruction：任务指令
input：可选输入内容
output：期望模型生成的回答

例如：

[ { "instruction": "解释什么是光合作用", "input": "", "output": "光合作用是植物利用阳光将二氧化碳和水转化为有机物和氧气的过程……" }, { "instruction": "写一封辞职信", "input": "公司名称：ABC科技；离职原因：个人发展", "output": "尊敬的领导：您好！……" } ]

将你的数据保存为data/my_llama3_finetune.json：

mkdir -p data vim data/my_llama3_finetune.json

接着注册这个新数据集。编辑data/dataset_info.json，添加如下条目：

"my_llama3_finetune": { "file_name": "my_llama3_finetune.json" }

注意保持 JSON 结构合法，尤其是逗号问题。完成后刷新 WebUI 页面，“数据集”下拉框中就会出现你的自定义选项。

这里有个实用建议：初期可以先用 50～100 条高质量样本做快速验证，等确认流程跑通后再扩展规模。我见过太多人一开始就塞几千条杂乱数据，结果训练完发现根本没效果。

进入 WebUI 后，点击顶部「SFT」标签页，开始配置训练任务。

基础模型设置

参数	值
Model Type	`llama3`
Model Name or Path	`models/Meta-Llama-3-8B-Instruct`
Template	`llama3`

如果提示模型加载失败，大概率是路径拼写错误，或者缺少 tokenizer_config.json 等必要文件。

微调策略选择

参数	推荐值	说明
Finetuning Type	`lora`	显存友好，适合单卡训练
LoRA Rank	`64`	控制适配矩阵维度，越大越强但耗显存
LoRA Dropout	`0.1`	防止过拟合
Quantization Bit	`none`或`4`	启用 4bit 可进一步降低显存占用

LoRA 是目前最实用的选择。相比全参数微调动辄 80GB 显存需求，LoRA 只需额外训练一小部分参数，一张 24GB 显卡就能搞定。

当然，如果你有双 A100，也可以尝试full模式，性能上限更高。

训练超参数配置

参数	推荐值
Dataset	`my_llama3_finetune`
Max Source Length	`512`
Max Target Length	`512`
Batch Size	`4`
Gradient Accumulation Steps	`4`
Learning Rate	`2e-4`
Num Train Epochs	`3`
Optimizer	`adamw_torch`
LR Scheduler	`cosine`

实际 batch size = 4 × 4 = 16，这对于小数据集来说已经足够稳定。学习率设为2e-4是 LoRA 的常见选择，太高容易震荡，太低收敛慢。

一切就绪后，点击右下角「Start」按钮，训练正式开始。

页面右侧会实时显示 loss 曲线，左下角滚动输出日志：

[INFO] Training epoch 1, step 10/100, loss: 2.103 [INFO] Evaluation loss: 1.876

在一个约 1000 条数据的小型数据集上，LoRA 微调通常耗时20–40 分钟（取决于 GPU 性能）。你可以泡杯咖啡，等它跑完就行。

训练结束后，模型权重默认保存在outputs/sft/my_llama3_finetune/目录下，主要包括：

adapter_model.bin：LoRA 适配层权重
configuration.json
README.md

要测试效果，回到 WebUI 主页，切换至「Inference」标签页：

参数	设置
Model Name or Path	`models/Meta-Llama-3-8B-Instruct`
Adapter Path	`outputs/sft/my_llama3_finetune`
Template	`llama3`

点击「Load」加载模型，即可开始对话测试。

试着输入一条你在训练集中出现过的指令，比如：

instruction: 如何备考公务员考试？
input: 我是应届毕业生，每天有6小时学习时间

如果模型能给出符合预期的专业回答，说明微调成功了！

如果你想把这个模型部署出去，或者集成到其他系统中，还可以将 LoRA 权重合并进原始模型：

python src/export_model.py \ --model_name_or_path models/Meta-Llama-3-8B-Instruct \ --adapter_name_or_path outputs/sft/my_llama3_finetune \ --export_dir exports/llama3-finetuned-merged \ --export_quantization_bit 4 \ --export_device cuda

导出后的完整模型可用于 vLLM、Ollama，甚至转换为 GGUF 格式供 llama.cpp 使用，真正实现跨平台部署。

在实际操作中，你可能会遇到一些典型问题，这里总结了几点经验和解决方案。

CUDA out of memory？

这是最常见的报错。解决思路很明确：降显存。

启用 QLoRA：设置Quantization Bit = 4
减小 Batch Size 到 1 或 2
开启梯度检查点（Gradient Checkpointing）

有时候哪怕只多占几百MB，也会导致OOM。所以宁可训练慢一点，也要保证能跑起来。

模型“学不会”怎么办？

别急着怀疑方法，先排查这几个点：

数据格式是否正确？字段名是不是写成了Instruction（首字母大写）？
是否真的加载了你的 dataset？WebUI 下拉框选对了吗？
LoRA rank 是否太小？低于 32 的话表达能力受限
训练轮数够不够？一般建议至少 3 epochs

我曾经因为忘了注册 dataset_info.json 白跑了两次训练，血泪教训啊。

如何提升中文表现？

LLaMA3 本身英文更强，中文需要额外优化：

使用高质量中文指令数据，如 Alpaca-ZH、Firefly
在微调前加入中文语料进行继续预训练（需 Pretraining 功能）
检查 tokenizer 是否支持中文分词良好（特别是专有名词）

另外，调整 prompt template 也很重要。你可以修改templates.py添加自定义模板，让模型更适应中文对话节奏。

最后分享几个进阶技巧，帮你榨干模型潜力：

技巧	说明
使用 DPO/ORPO 进行偏好对齐	提升回答质量与人类偏好的一致性
多卡训练 + DeepSpeed	配合`--deepspeed ds_config.json`实现大规模训练
自定义 Prompt Template	修改`template.py`添加专属对话风格

比如你想做一个“毒舌版”AI，就可以设计一套带讽刺语气的 system prompt，并在训练时强化这类风格输出。

LLaMa-Factory 的出现，本质上是在推动大模型技术的平民化。它不追求炫技式的创新，而是专注于把复杂的事情变简单。当你能在半小时内完成一次完整的微调闭环，那种掌控感是无可替代的。

更重要的是，这种“可视化+模块化”的设计思路，正在成为 AI 工程的新范式。未来的开发者可能不再需要精通反向传播，而是学会如何组合工具、设计数据、评估结果——这才是真正的生产力跃迁。

现在，轮到你动手了。找一个你熟悉的领域，整理一份百条级别的指令数据，跑一遍这个流程。你会发现，拥有一个“懂你”的AI，并不像想象中那么遥远。

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考