Torchtune

一、项目简介

torchtune 是 PyTorch 官方开源的 LLM 微调库。它用纯 PyTorch 实现，提供清晰的训练配方（recipes）与可组合的模块，让微调查得明白、改得动，适合想深入理解或定制微调流程的开发者。

二、核心特性

• 纯 PyTorch 实现：无隐藏抽象，代码可读可改；
• 训练配方（Recipes）：内置全参微调、LoRA、QLoRA、DPO 等；
• 模块化设计：模型、数据、优化器可自由组合；
• 与 HF 生态兼容：可直接加载 HF 权重与数据集；
• 官方维护，紧跟 PyTorch 生态；
• 配置驱动：YAML 配置训练流程。

三、适用场景

• 学习与定制 LLM 微调流程；
• 研究型微调实验；
• 需要可控、可审计微调代码的项目。

四、快速上手

pip install torchtune
tune download meta-llama/Llama-3.1-8B-Instruct --output-dir /tmp/model
tune run lora_finetune_single_device --config llama3_1/8B_lora_single_device

五、注意事项

• 相对 PEFT 更底层，需要更多 PyTorch 知识；
• 显存需求依模型与配方而定；
• 注意 PyTorch 与库版本匹配。