Pytorch
一、项目简介
PyTorch 是 Meta 开源的深度学习框架,以动态图(eager mode)和 Pythonic 设计著称,是当前学术界与工业界最主流的训练框架,几乎所有大模型项目(transformers、diffusers 等)都建立在它之上。
二、核心特性
- 动态计算图:灵活易调试;
- 自动微分:autograd 原生支持;
- GPU 加速:CUDA 后端成熟;
- 分布式训练:DDP / FSDP;
- 丰富生态:torchvision、torchaudio、torchtext;
- 部署支持:TorchScript、TorchServe、ONNX 导出。
三、适用场景
- 模型研究与训练;
- 大模型微调与预训练;
- 从实验到生产的深度学习项目。
四、快速上手
pip install torch torchvision
import torch
x = torch.randn(2, 3)
print(x.shape)
五、注意事项
- 需匹配 CUDA 版本才能用 GPU;
- 大模型训练显存需求高;
- 注意版本兼容与 API 变更。