← 返回 AI 开源导航

Langsmith

LLM 推理与部署

一、项目简介

LangSmith 是 LangChain 官方推出的 LLM 应用开发运维平台。它提供调用链路追踪、提示版本管理、数据集评测与线上监控,帮助你把 AI 应用从「能跑」推进到「可观测、可迭代、可信任」。

二、核心特性

  • 全链路追踪:记录每次调用的输入输出、工具、耗时;
  • 提示版本管理:版本化、对比与灰度;
  • 数据集评测:批量跑测试集、量化效果;
  • 成本与延迟分析;
  • 与 LangChain / LangGraph 深度集成(也支持纯 SDK)。

三、适用场景

  • AI 应用上线后的质量与成本监控;
  • 提示词迭代回归测试;
  • 团队协作调试 Agent 链路。

四、快速上手

pip install langsmith
export LANGSMITH_API_KEY=...
# 在 LangChain 调用中自动上报 trace

五、注意事项

  • 云端服务需注意数据出境与隐私合规(也可自托管替代方案如 Langfuse);
  • 注意 API key 权限与配额;
  • 追踪数据量大时规划清理策略。