Dvc
一、项目简介
DVC(Data Version Control)是开源的数据与模型版本管理工具,把 Git 的能力延伸到大数据文件、数据集与模型权重,帮助团队追踪实验数据变化并保证可复现。
二、核心特性
- 数据版本管理:像管理代码一样管理数据集;
- 与 Git 集成:通过指针文件追踪大文件;
- 远程存储支持:S3、OSS、本地等;
- 实验追踪:记录指标与参数;
- 流水线(Pipeline):定义可复现流程;
- 模型与数据集共享。
三、适用场景
- 训练数据与模型版本管理;
- 团队协作的可复现实验;
- AI 项目工程化。
四、快速上手
pip install dvc
git init && dvc init
dvc add data/raw
dvc remote add -d storage /tmp/dvcstore
dvc push
五、注意事项
- 需配合 Git 使用;
- 大文件远程存储配置较繁琐;
- 注意存储成本与权限管理。