← 返回 AI 开源导航

Llama Factory

训练与微调

GitHub 仓库

一、项目简介

LLaMA Factory 是开源的大模型微调一体化框架，支持上百种模型与多种训练方式（全参、LoRA、QLoRA、PPO、DPO 等），提供 Web UI，让微调变得像填表一样简单，中文社区使用极广。

二、核心特性

  • 模型覆盖广：支持 Llama、Qwen、ChatGLM、Baichuan 等上百种；
  • 训练方式全：预训练、SFT、LoRA、DPO、PPO；
  • Web UI：无需写代码即可配置与启动训练；
  • 数据集支持：内置多种格式与模板；
  • 量化与推理：训练后可直接量化与部署；
  • 中文友好，文档与教程丰富。

三、适用场景

  • 零代码/低代码微调大模型；
  • 快速实验不同微调策略；
  • 企业内部定制专属模型。

四、快速上手

git clone https://github.com/hiyouga/LLaMA-Factory
cd LLaMA-Factory && pip install -e .
llamafactory-cli webui      # 打开可视化界面

五、注意事项

  • 训练需充足显存，建议先用小模型验证；
  • 注意数据集格式与模板匹配；
  • 不同模型支持的训练方式可能有差异。