Hugging Face Transformers

一、项目简介

Transformers 是 Hugging Face 的旗舰开源库，提供上万预训练模型与统一 API，覆盖 NLP、CV、语音与多模态。它是绝大多数 LLM 项目（vLLM、Dify、LlamaIndex 等）的底层依赖，堪称现代 AI 的「基础设施」。

二、核心特性

• 统一 API：AutoModel / AutoTokenizer 一行加载任意模型；
• 模型生态：Model Hub 上百万模型，含 Llama、Qwen、BERT、Whisper 等；
• 多框架后端：PyTorch、TensorFlow、JAX；
• 训练与推理：Trainer 简化微调，pipeline 开箱推理；
• 多模态：文本、图像、音频、视频统一支持；
• 加速与量化：bitsandbytes、FlashAttention、ONNX 导出。

三、适用场景

• 模型微调（SFT/LoRA）与特征提取；
• 研究实验、原型验证；
• 作为生产推理服务的底层依赖。

四、快速上手

pip install transformers torch
from transformers import pipeline
print(pipeline("sentiment-analysis")("I love open source!"))

五、注意事项

• 原生推理性能不如 vLLM，高并发需配合推理引擎；
• 模型与库版本需匹配，注意 trust_remote_code 安全；
• 大模型推理建议开启量化与 FlashAttention。