← 返回 AI 开源导航

Axolotl

训练与微调

GitHub 仓库

一、项目简介

Axolotl 是开源的大模型微调工具，用 YAML 配置驱动，支持全参微调、LoRA、QLoRA、DPO 等多种训练方式，并内置数据集预处理与丰富示例，让微调流程标准化、可复现。

二、核心特性

  • 配置驱动：一份 YAML 描述全部训练参数；
  • 训练方式全面：SFT / LoRA / QLoRA / DPO / 预训练；
  • 数据集预处理：内置多种格式与模板；
  • 与 HF 生态兼容：直接加载权重与数据；
  • 多卡训练支持；
  • 社区示例丰富，上手快。

三、适用场景

  • 快速配置并启动微调；
  • 对比不同微调策略效果；
  • 团队标准化微调流程。

四、快速上手

pip install axolotl
axolotl train examples/llama-3/lora-8b.yml

五、注意事项

  • 配置项较多，需按硬件与数据调整；
  • 注意 PyTorch / CUDA / 依赖版本匹配；
  • 建议先用小模型跑通再扩展。