← 返回 AI 开源导航

Dvc

训练与微调

一、项目简介

DVC(Data Version Control)是开源的数据与模型版本管理工具,把 Git 的能力延伸到大数据文件、数据集与模型权重,帮助团队追踪实验数据变化并保证可复现。

二、核心特性

  • 数据版本管理:像管理代码一样管理数据集;
  • 与 Git 集成:通过指针文件追踪大文件;
  • 远程存储支持:S3、OSS、本地等;
  • 实验追踪:记录指标与参数;
  • 流水线(Pipeline):定义可复现流程;
  • 模型与数据集共享。

三、适用场景

  • 训练数据与模型版本管理;
  • 团队协作的可复现实验;
  • AI 项目工程化。

四、快速上手

pip install dvc
git init && dvc init
dvc add data/raw
dvc remote add -d storage /tmp/dvcstore
dvc push

五、注意事项

  • 需配合 Git 使用;
  • 大文件远程存储配置较繁琐;
  • 注意存储成本与权限管理。