Privategpt
一、项目简介
PrivateGPT 是开源的本地隐私优先 RAG 系统。它把文档问答完全跑在本地(无数据外传),支持接入本地 LLM 与向量库,适合对数据隐私要求高的个人或团队。
二、核心特性
- 完全本地运行:数据不出本机,无需联网;
- 文档问答:支持多种格式文档导入与检索;
- 可替换组件:支持 Ollama、llama.cpp、HuggingFace 等模型;
- API 与界面:提供 Gradio 界面与 REST API;
- 隐私优先设计:无遥测、无外发。
三、适用场景
- 敏感文档(法律、医疗、财务)问答;
- 内网/离线环境知识库;
- 个人私密资料检索。
四、快速上手
git clone https://github.com/imartinez/privateGPT
cd privateGPT && pip install -r requirements.txt
python scripts/ingest_folder.py ./docs
python private_gpt.py
五、注意事项
- 本地推理速度受硬件限制,需选合适模型尺寸;
- 向量库与嵌入模型需自行配置;
- 大规模文档需考虑索引性能。