AI 开源导航

中文English

精选 AI 领域高质量开源项目，按类别整理，支持关键词搜索与排序。

全部AI 应用平台LLM 推理与部署LLM 推理与部署LLM 推理与部署LLM 推理与部署LLM 推理与部署LLM 推理与部署LLM 推理与部署LLM 推理与部署RAG 与知识库RAG 与知识库RAG 与知识库RAG 与知识库RAG 与知识库RAG 与知识库RAG 与知识库RAG 与知识库向量数据库向量数据库向量数据库向量数据库向量数据库向量数据库向量数据库向量数据库图像生成图像生成图像生成图像生成图像生成图像生成图像生成图像生成智能体框架训练与微调训练与微调训练与微调训练与微调训练与微调训练与微调训练与微调训练与微调语音识别语音识别语音识别语音识别语音识别语音识别语音识别语音识别
排序：名称Star最新

Accelerate

一、项目简介 Accelerate 是 Hugging Fa…
训练与微调
GitHub

Agentgpt

一、项目简介 AgentGPT 是可在浏览器中运行的自主 A…
智能体框架
GitHub

Agentscope

一、项目简介 AgentScope 是阿里开源的多智能体开发…
智能体框架
GitHub

Agentverse

一、项目简介 AgentVerse 是多智能体协作平台框架，…
智能体框架
GitHub

Alpa

一、项目简介 Alpa 是开源的分布式深度学习训练与服务系统…
训练与微调
GitHub

Angelptm

一、项目简介 AngelPTM 是腾讯开源的大规模预训练模型…
训练与微调
GitHub

Animatediff

一、项目简介 AnimateDiff 是开源的动画/视频生成…
LLM 推理与部署
GitHub

AnythingLLM

一、项目简介 AnythingLLM 是…
RAG 与知识库协议 MIT★ 67.6kJavaScript
GitHub官网

Aphrodite Engine

一、项目简介 Aphrodite Engine 是面向本地部…
LLM 推理与部署
GitHub

AutoGPT

自主 AI 智能体的代表项目，能自动拆解…
智能体框架协议 Polyform★ 187.8kPython
GitHub官网

Autoawq

一、项目简介 AutoAWQ 是自动化的 AWQ（Activ…
训练与微调
GitHub

Autogen

一、项目简介 AutoGen 是微软开源的多智能体对话框架。…
智能体框架
GitHub

Autogptq

一、项目简介 AutoGPTQ 是易用的 GPTQ 量化工具…
智能体框架
GitHub

Axolotl

一、项目简介 Axolotl 是开源的大模型微调工具，用 Y…
训练与微调
GitHub

Babyagi

一、项目简介 BabyAGI 是极简的任务驱动自主智能体原型…
智能体框架
GitHub

Bagua

一、项目简介 Bagua 是腾讯开源的分布式训练框架，提供梯…
训练与微调
GitHub

Bark Tts

一、项目简介 Bark 是 Suno 开源的文本转语音（TT…
语音识别
GitHub

Bentoml

一、项目简介 BentoML 是开源的模型服务化框架，用于把…
LLM 推理与部署
GitHub

Bitsandbytes

一、项目简介 bitsandbytes 是开源的量化与优化库…
训练与微调
GitHub

Blip

一、项目简介 BLIP 是 Salesforce 开源的视觉…
图像生成
GitHub

Blip2

一、项目简介 BLIP-2 是 BLIP 的升级版本，通过轻…
图像生成
GitHub

Bmtrain

一、项目简介 BMTrain 是 OpenBMB 开源的高效…
训练与微调
GitHub

Camel

一、项目简介 CAMEL 是早期的「角色扮演」多智能体对话框…
智能体框架
GitHub

Chatdev

一、项目简介 ChatDev 是开源的多智能体软件开发框架，…
智能体框架
GitHub

Chroma

轻量级向量数据库，专为 AI 应用设计，…
向量数据库协议 Apache-2.0★ 29.6kPython
GitHub官网

Clearml

一、项目简介 ClearML 是开源的 MLOps 平台，涵…
训练与微调
GitHub

Clip

一、项目简介 CLIP 是 OpenAI 开源的图文对比学习…
图像生成
GitHub

Colossalai

一、项目简介 Colossal-AI 是开源的大规模深度学习…
训练与微调
GitHub

ComfyUI

节点式 Stable Diffusion…
图像生成协议 GPL-3.0★ 143.2kPython
GitHub官网

Controlnet

一、项目简介 ControlNet 是通过额外条件（如边缘、…
图像生成
GitHub

Coqui Tts

一、项目简介 Coqui TTS 是开源的文本转语音工具库，…
语音识别
GitHub

CrewAI

一、项目简介 CrewAI 是轻量级多智…
智能体框架协议 MIT★ 60.1kPython
GitHub官网

DeepSpeed

微软开源的大规模训练优化库，ZeRO 系…
训练与微调协议 Apache-2.0★ 43.3kPython
GitHub官网

Deeplake

一、项目简介 Deep Lake 是面向深度学习与 AI 的…
向量数据库
GitHub

Determined Ai

一、项目简介 Determined AI 是开源的深度学习训…
训练与微调
GitHub

Diffusers

Hugging Face 的扩散模型库，…
图像生成协议 Apache-2.0★ 34.8kPython
GitHub官网

Dify

开源 LLM 应用开发平台，可视化编排 …
AI 应用平台协议 Apache-2.0★ 159.6kTypeScript
GitHub官网

Dspy

一、项目简介 DSPy 是斯坦福开源的「提示编程（Promp…
LLM 推理与部署
GitHub

Dvc

一、项目简介 DVC（Data Version Contro…
训练与微调
GitHub

Elasticsearch

一、项目简介 Elasticsearch 是成熟的开源搜索与…
LLM 推理与部署
GitHub

Embedchain

一、项目简介 Embedchain 是开源的 RAG 框架，…
RAG 与知识库
GitHub

Evaluate

一、项目简介 Evaluate 是 Hugging Face…
训练与微调
GitHub

Exllamav2

一、项目简介 ExLlamaV2 是高性能的 GPU 推理库…
训练与微调
GitHub

FAISS

一、项目简介 FAISS 是 Meta …
向量数据库协议 MIT★ 41.2kC++
GitHub官网

Fairscale

一、项目简介 FairScale 是 Meta（Facebo…
训练与微调
GitHub

FastChat

开源大模型训练、服务与评测平台（含 Vi…
AI 应用平台协议 Apache-2.0★ 39.6kPython
GitHub官网

Faster Whisper

一、项目简介 Faster-Whisper 是基于 CTra…
语音识别
GitHub

Fastgpt

一、项目简介 FastGPT 是开源的知识库问答平台，基于 …
RAG 与知识库
GitHub

Feast

一、项目简介 Feast（Feature Store）是开源…
训练与微调
GitHub

Flash Attention

一、项目简介 FlashAttention 是高效的注意力计…
训练与微调
GitHub

Flashrag

一、项目简介 FlashRAG 是中国人民大学开源的高效 R…
RAG 与知识库
GitHub

Flowise

一、项目简介 Flowise 是开源的低代码 LLM 应用搭…
AI 应用平台
GitHub

Flyte

一、项目简介 Flyte 是开源的云原生工作流与数据编排平台…
训练与微调
GitHub

Fooocus

一、项目简介 Fooocus 是简化版的 Stable Di…
图像生成
GitHub

FunASR

一、项目简介 FunASR 是阿里达摩院…
语音识别协议 Apache-2.0★ 20.8kPython
GitHub官网

GTE / BGE 中文向量模型

中文场景下常用的开源 Embedding…
RAG 与知识库协议 MIT★ 12.3kPython
GitHub官网

Gpt4all

一、项目简介 GPT4All 是 nomic-ai 开源的本…
LLM 推理与部署
GitHub

Gptq For Llama

一、项目简介 GPTQ-for-LLaMa 是较早落地的 G…
训练与微调
GitHub

Gradio

一、项目简介 Gradio 是开源的 Python Web …
AI 应用平台
GitHub

Grounding Dino

一、项目简介 Grounding DINO 是开放集目标检测…
图像生成
GitHub

Guidance

一、项目简介 Guidance 是微软开源的模板化 LLM …
LLM 推理与部署
GitHub

Haystack

一、项目简介 Haystack 是 deepset 开源的端…
RAG 与知识库
GitHub

Hugging Face Transformers

最主流的预训练模型库，覆盖 NLP、CV…
训练与微调协议 Apache-2.0★ 168.2kPython
GitHub官网

Huggingface Datasets

一、项目简介 Hugging Face Datasets 是…
训练与微调
GitHub

Huggingface Hub

一、项目简介 Hugging Face Hub 客户端库，用…
AI 应用平台
GitHub

Imagebind

一、项目简介 ImageBind 是 Meta 开源的多模态…
图像生成
GitHub

Infinity Embeddings

一、项目简介 Infinity 是开源的嵌入推理服务，专注于…
向量数据库
GitHub

Invokeai

一、项目简介 InvokeAI 是开源的 Stable Di…
图像生成
GitHub

Ip Adapter

一、项目简介 IP-Adapter 是图像提示适配器，能用一…
图像生成
GitHub

Jan

一、项目简介 Jan 是开源的本地 ChatGPT 替代品，…
LLM 推理与部署
GitHub

Jax

一、项目简介 JAX 是 Google 开源的数值计算与机器…
训练与微调
GitHub

Jina Embeddings

一、项目简介 Jina Embeddings 是 Jina …
LLM 推理与部署
GitHub

Kedro

一、项目简介 Kedro 是开源的数据科学项目结构与流水线框…
训练与微调
GitHub

Koboldcpp

一、项目简介 KoboldCpp 是易用的本地大语言模型运行…
LLM 推理与部署
GitHub

Kserve

一、项目简介 KServe 是 Kubernetes 原生的…
LLM 推理与部署
GitHub

Ktransformers

一、项目简介 KTransformers 是面向异构计算的大…
训练与微调
GitHub

Label Studio

一、项目简介 Label Studio 是开源的数据标注平台…
LLM 推理与部署
GitHub

Lancedb

一、项目简介 LanceDB 是面向 AI 应用的嵌入式向量…
向量数据库
GitHub

LangChain

最流行的 LLM 应用开发框架，提供链、…
智能体框架协议 MIT★ 148.5kPython
GitHub官网

LangGraph

一、项目简介 LangGraph 是 L…
智能体框架协议 MIT★ 43.9kPython
GitHub官网

Langchain Chatchat

一、项目简介 Langchain-Chatchat（原 La…
RAG 与知识库
GitHub

Langchain4j

一、项目简介 LangChain4j 是 Java 生态的 …
LLM 推理与部署
GitHub

Langflow

低代码可视化的 LLM 应用搭建工具，拖…
AI 应用平台协议 MIT★ 156kPython
GitHub官网

Langfuse

一、项目简介 Langfuse 是开源的…
AI 应用平台协议 MIT★ 36.5kTypeScript
GitHub官网

Langroid

一、项目简介 Langroid 是简洁、Pythonic 的…
智能体框架
GitHub

Langsmith

一、项目简介 LangSmith 是 LangChain 官…
LLM 推理与部署

Lavague

一、项目简介 LaVague 是开源的 Web AI Age…
智能体框架
GitHub

Lightllm

一、项目简介 LightLLM 是轻量级高性能的 LLM 推…
LLM 推理与部署
GitHub

LiteLLM

一、项目简介 LiteLLM 是统一的大…
AI 应用平台协议 MIT★ 62.1kPython
GitHub官网

Llama Factory

一、项目简介 LLaMA Factory 是开源的大模型微调…
训练与微调
GitHub

LlamaIndex

面向 LLM 的数据框架，专注数据接入、…
RAG 与知识库协议 MIT★ 52.7kPython
GitHub官网

Llava

一、项目简介 LLaVA（Large Language an…
图像生成
GitHub

Lmdeploy

一、项目简介 LMDeploy 是上海人工智能实验室开源的大…
LLM 推理与部署
GitHub

LocalAI

一、项目简介 LocalAI 是开源的本…
LLM 推理与部署协议 MIT★ 50kGo
GitHub官网

Marker

一、项目简介 Marker 是开源的文档转换工具，能把 PD…
RAG 与知识库
GitHub

Marqo

一、项目简介 Marqo 是开源的端到端向量搜索引擎。它把「…
向量数据库
GitHub

Megatron Lm

一、项目简介 Megatron-LM 是 NVIDIA 开源…
训练与微调
GitHub

MetaGPT

多智能体协作框架，将软件开发流程拆解为产…
智能体框架协议 MIT★ 71kPython
GitHub官网

Metaflow

一、项目简介 Metaflow 是 Netflix 开源的数…
训练与微调
GitHub

Milvus

分布式向量数据库，支持海量向量的高性能检…
向量数据库协议 Apache-2.0★ 46.5kGo
GitHub官网

Minigpt 4

一、项目简介 MiniGPT-4 是开源的轻量多模态模型，通…
LLM 推理与部署
GitHub

Mlc Llm

一、项目简介 MLC LLM 是通用的大模型部署引擎与编译器…
LLM 推理与部署
GitHub

Mlflow

一、项目简介 MLflow 是开源的机器学习生命周期管理平台…
训练与微调
GitHub

Modelscope

一、项目简介 ModelScope（魔搭）是阿里开源的模型即…
AI 应用平台
GitHub

NVIDIA TensorRT-LLM

NVIDIA 的大模型推理加速库，通过算…
LLM 推理与部署协议 Apache-2.0★ 15kC++
GitHub官网

Nanotron

一、项目简介 nanotron 是 Hugging Face…
训练与微调
GitHub

Nccl

一、项目简介 NCCL（NVIDIA Collective …
训练与微调
GitHub

Ollama

在本地一键下载、运行与管理大语言模型（L…
LLM 推理与部署协议 MIT★ 184.9kGo
GitHub官网

Oneflow

一、项目简介 OneFlow 是开源的深度学习框架，主打「分…
训练与微调
GitHub

Onnx

一、项目简介 ONNX（Open Neural Networ…
LLM 推理与部署
GitHub

Onnx Runtime

一、项目简介 ONNX Runtime 是跨平台的高性能推理…
LLM 推理与部署
GitHub

Open Interpreter

一、项目简介 Open Interpreter 是开源的本地…
LLM 推理与部署
GitHub

Open WebUI

自托管的 LLM 聊天界面，兼容 Oll…
AI 应用平台协议 BSD-3-Clause★ 156.8kSvelte
GitHub官网

Openclip

一、项目简介 OpenCLIP 是开源的 CLIP 模型复现…
图像生成
GitHub

Openhands

一、项目简介 OpenHands（原 OpenDevin）是…
智能体框架
GitHub

Openllm

一、项目简介 OpenLLM 是 BentoML 团队开源的…
LLM 推理与部署
GitHub

Openvino

一、项目简介 OpenVINO 是 Intel 开源的推理优…
LLM 推理与部署
GitHub

Optimum

一、项目简介 Optimum 是 Hugging Face …
LLM 推理与部署协议 Apache-2.0★ 3.5kPython
GitHub

Optuna

一、项目简介 Optuna 是开源的超参数自动优化框架，支持…
训练与微调协议 MIT★ 15kPython
GitHub

Optuna Tuning

一、项目简介 Optuna 是开源的超参数自动优化框架，由 …
训练与微调

Outlines

一、项目简介 Outlines 是开源的结构化文本生成库。它…
LLM 推理与部署协议 Apache-2.0★ 16kPython
GitHub

PEFT

Hugging Face 参数高效微调库…
训练与微调协议 Apache-2.0★ 21.9kPython
GitHub官网

Paddlenlp

一、项目简介 PaddleNLP 是百度飞桨生态的工业级 N…
训练与微调协议 Apache-2.0★ 13kPython
GitHub

Piper Tts

一、项目简介 Piper 是轻量快速的本地文本转语音引擎，基…
语音识别协议 MIT★ 11.3kC++
GitHub

Powerinfer

一、项目简介 PowerInfer 是面向消费级硬件的高速推…
LLM 推理与部署协议 MIT★ 9.9kC++
GitHub

Privategpt

一、项目简介 PrivateGPT 是开源的本地隐私优先 R…
RAG 与知识库
GitHub

Pytorch

一、项目简介 PyTorch 是 Meta 开源的深度学习框…
训练与微调★ 105.2kPython
GitHub

Pytorch Lightning

一、项目简介 PyTorch Lightning 是 PyT…
训练与微调协议 Apache-2.0★ 31.4kPython
GitHub

Qdrant

高性能向量数据库，Rust 实现，支持过…
向量数据库协议 Apache-2.0★ 35.3kRust
GitHub官网

Quivr

一、项目简介 Quivr 是开源的「第二大脑」RAG 助手，…
RAG 与知识库协议 MIT★ 39.6kGo
GitHub

RAGFlow

专注深度文档理解的开源 RAG 引擎，支…
RAG 与知识库协议 Apache-2.0★ 92.9kPython
GitHub官网

Ragas

一、项目简介 RAGAS（Retrieval Augment…
RAG 与知识库协议 Apache-2.0★ 16.2kPython
GitHub

Ragatouille

一、项目简介 RAGatouille 是一个让「后期交互检索…
RAG 与知识库协议 Apache-2.0★ 4kPython
GitHub

Ray

一、项目简介 Ray 是开源的分布式计算框架，提供简洁的 A…
LLM 推理与部署协议 Apache-2.0★ 44.2kPython
GitHub

Redis Vector

一、项目简介 Redis 是广泛应用的高性能内存数据库。借助…
向量数据库★ 77.2kC
GitHub

Segment Anything

一、项目简介 Segment Anything（SAM）是 …
图像生成协议 Apache-2.0★ 55.1kJupyter Notebook
GitHub

Semantic Kernel

一、项目简介 Semantic Kernel 是微软开源的 …
智能体框架协议 MIT★ 28.7kC#
GitHub

Sglang

一、项目简介 SGLang 是由 LMSYS 团队开源的高性…
LLM 推理与部署协议 Apache-2.0★ 38.4kPython
GitHub

Silero Vad

一、项目简介 Silero VAD 是轻量级的语音活动检测（…
语音识别协议 MIT★ 10.6kPython
GitHub

Speechbrain

一、项目简介 SpeechBrain 是开源的语音工具包，基…
语音识别协议 Apache-2.0★ 11.9kPython
GitHub

Spring Ai

一、项目简介 Spring AI 是 Spring 官方推出…
LLM 推理与部署协议 Apache-2.0★ 9.6kJava
GitHub

Stable Diffusion Compvis

一、项目简介 CompVis 的 Stable Diffus…
图像生成★ 73.6kJupyter Notebook
GitHub

Stable Diffusion WebUI

AUTOMATIC1111 维护的经典文…
图像生成协议 AGPL-3.0★ 165.2kPython
GitHub官网

Stable Video Diffusion

一、项目简介 Stable Video Diffusion …
图像生成
GitHub

Streamlit

一、项目简介 Streamlit 是开源的 Python W…
AI 应用平台协议 Apache-2.0★ 46.2kPython
GitHub

Superagi

一、项目简介 SuperAGI 是开源的自主 AI 智能体开…
RAG 与知识库协议 MIT★ 17.7kPython
GitHub

TRL

Hugging Face 的强化学习训练…
训练与微调协议 Apache-2.0★ 19.6kPython
GitHub官网

Tabbyapi

一、项目简介 TabbyAPI 是基于 ExLlamaV2 …
LLM 推理与部署协议 AGPL-3.0★ 1.5kPython
GitHub

Tensorflow Serving

一、项目简介 TensorFlow Serving 是 Go…
LLM 推理与部署协议 Apache-2.0★ 6.4kC++
GitHub

Tensorrt

一、项目简介 TensorRT 是 NVIDIA 的高性能深…
LLM 推理与部署协议 Apache-2.0★ 13.4kC++
GitHub

Text Embeddings Inference

Hugging Face 的向量推理服务…
向量数据库协议 Apache-2.0★ 5.1kRust
GitHub官网

Text Generation Inference

一、项目简介 Text Generation Inferen…
LLM 推理与部署协议 Apache-2.0★ 10.9kPython
GitHub

Text Generation WebUI

功能全面的本地大模型 Web 界面，支持…
LLM 推理与部署协议 AGPL-3.0★ 47.7kPython
GitHub官网

Torchserve

一、项目简介 TorchServe 是 PyTorch 官方…
LLM 推理与部署协议 Apache-2.0★ 4.3kJava
GitHub

Torchtitan

一、项目简介 torchtitan 是 PyTorch 官方…
训练与微调协议 BSD-3-Clause★ 5.9kPython
GitHub

Torchtune

一、项目简介 torchtune 是 PyTorch 官方开…
训练与微调协议 BSD-3-Clause★ 5.8kPython
GitHub

Triton Inference Server

一、项目简介 Triton Inference Server…
LLM 推理与部署协议 BSD-3-Clause★ 11.1kPython
GitHub

Tvm

一、项目简介 Apache TVM 是开源的深度学习编译栈，…
训练与微调协议 Apache-2.0★ 13.9kPython
GitHub

Txtai

一、项目简介 txtai 是开源的语义搜索与工作流引擎。它把…
RAG 与知识库协议 Apache-2.0★ 13.1kPython
GitHub

Typesense

一、项目简介 Typesense 是开源的高性能搜索引擎，主…
向量数据库协议 GPL-3.0★ 27.1kC++
GitHub

Ultralytics Yolo

一、项目简介 Ultralytics YOLO 是当前最主流…
图像生成协议 AGPL-3.0★ 63kPython
GitHub

Unsloth

一、项目简介 Unsloth 是高效的大…
训练与微调协议 Apache-2.0★ 78.6kPython
GitHub官网

Unstructured

一、项目简介 Unstructured 是开源的非结构化数据…
RAG 与知识库协议 Apache-2.0★ 15.7kHTML
GitHub

Vald

一、项目简介 Vald 是 CNCF 生态中的分布式向量搜索…
向量数据库协议 Apache-2.0★ 1.7kGo
GitHub

Verba

一、项目简介 Verba 是 Weaviate 开源的 RA…
RAG 与知识库协议 BSD-3-Clause★ 7.7kPython
GitHub

Vespa

一、项目简介 Vespa 是开源的大规模在线检索与推荐引擎，…
LLM 推理与部署协议 Apache-2.0★ 7.2kJava
GitHub

Weaviate

一、项目简介 Weaviate 是开源的…
向量数据库协议 BSD-3-Clause★ 16.9kGo
GitHub官网

Whisper

OpenAI 开源的通用语音识别模型，多…
语音识别协议 MIT★ 111.3kPython
GitHub官网

Whisper Cpp

一、项目简介 whisper.cpp 是 OpenAI Wh…
语音识别协议 MIT★ 54.8kC++
GitHub

Whisperx

一、项目简介 WhisperX 是在 OpenAI Whis…
语音识别协议 BSD-2-Clause★ 25kPython
GitHub

Xformers

一、项目简介 xFormers 是 Meta 开源的 Tra…
训练与微调★ 10.6kPython
GitHub

Xinference

开源模型推理平台，一条命令即可部署 LL…
LLM 推理与部署协议 Apache-2.0★ 9.6kPython
GitHub官网

Zenml

一、项目简介 ZenML 是开源的 MLOps 框架，用于构…
训练与微调协议 Apache-2.0★ 5.6kPython
GitHub

llama.cpp

纯 C/C++ 实现的 LLM 推理框架…
LLM 推理与部署协议 MIT★ 132.4kC++
GitHub官网

n8n

工作流自动化平台，可将 AI 模型与数百…
AI 应用平台协议 Sustainable Use License★ 208.7kTypeScript
GitHub官网

pgvector

一、项目简介 pgvector 是 Po…
向量数据库协议 PostgreSQL★ 23.5kC
GitHub官网

sentence-transformers

文本向量化（Embedding）主力库，…
RAG 与知识库协议 Apache-2.0★ 19.2kPython
GitHub官网

vLLM

高性能 LLM 推理与服务引擎，核心 P…
LLM 推理与部署协议 Apache-2.0★ 95.6kPython
GitHub官网