Harness 与 Agent 工程 · AI研发与测试工程 · 2025-11-01

LangSmith+LangGraph本地化部署与离线调试全流程

本地化部署LangSmith+LangGraph,解决企业数据合规与开发连续性难题,这份全流程指南助你轻松实现离线调试。

核心内容:

  1. 企业为何需要本地化部署LLM开发环境:数据合规与开发连续性的双重需求
  2. 三种部署模式技术选型对比:从独立服务器到Kubernetes集群的适用场景分析
  3. 实战四阶段部署指南:从环境准备到完整部署的详细操作步骤

LangSmith+LangGraph本地化部署与离线调试全流程

问题引入:为什么企业需要本地化部署LLM开发环境?

2025年3月,某金融科技公司因使用云端LangSmith服务处理客户敏感数据,违反《数据安全法》第21条"关键信息基础设施运营者在中华人民共和国境内运营中收集和产生的个人信息和重要数据应当在境内存储"的规定,被监管部门处以200万元罚款。该案例揭示了LLM开发工具云端部署在金融、医疗等敏感行业的合规风险。

无独有偶,另一AI创业公司在使用云端服务时遭遇API调用失败,导致整个开发团队停滞3小时。这两个真实事件凸显了本地化部署的迫切性——数据主权与开发连续性已成为企业LLM工程化的核心诉求。

方案解析:三种部署模式的技术选型对比

LangChain生态提供了三种本地化部署方案,我们需要根据团队规模和业务需求选择合适的路径:

部署模式 硬件要求 适用场景 核心优势 部署复杂度
独立服务器 4核8G 个人开发/小型团队 轻量快速,即开即用 ⭐⭐☆☆☆
LangSmith完整部署 8核16G 中大型团队/企业研发 全功能监控,团队协作 ⭐⭐⭐⭐☆
Kubernetes集群 16核64G+ 企业级生产环境 高可用扩展,资源隔离 ⭐⭐⭐⭐⭐

选型建议:开发测试环境优先选择独立服务器模式,生产环境推荐Kubernetes部署。本文将重点讲解最具普适性的"独立服务器+LangSmith监控"组合方案,兼顾开发效率与可观测性。

实战操作:四阶段部署实施指南

第一阶段:环境准备与依赖安装

硬件要求:

1234567891011# Ubuntu系统依赖安装sudo apt update && sudo apt install -y python3.12 python3.12-venv docker.io docker-compose git # 启动Docker服务并设置开机自启sudo systemctl enable --now dockersudo usermod -aG docker $USER # 注意:执行后需注销重新登录 # 验证Docker安装docker --version # 预期输出:Docker version 24.0.0+docker-compose --version # 预期输出:Docker Compose version v2.20.0+

第二阶段:LangSmith本地化部署

2.1 生成安全密钥

12345678# 生成API Key Salt(用于加密API密钥)openssl rand -base64 32# 示例输出:U7MfWaDYNzzgMmvJXKn4Pl41mR5jJVHWrhq6c+6jngE= # 生成JWT Secret(用于服务间认证)openssl rand -base64 32# 示例输出:8DvHV/Am3DVk6eWMiQxiLFZd0OTiCh2LgZ5IX2Wv658=

2.2 创建docker-compose配置文件

在项目根目录创建 docker-compose.yml:

1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768version: '3.8'volumes: langsmith-db-data: langsmith-redis-data: langsmith-clickhouse-data:services: langchain-frontend: image: docker.io/langchain/langsmith-frontend:0.11.4 ports: - "1980:1980" environment: - VITE_BACKEND_AUTH_TYPE=none - VITE_BASIC_AUTH_ENABLED=false depends_on: - langchain-backend langchain-backend: image: docker.io/langchain/langsmith-backend:0.11.4 environment: - PORT=1984 - LANGCHAIN_ENV=local_docker - API_KEY_SALT=U7MfWaDYNzzgMmvJXKn4Pl41mR5jJVHWrhq6c+6jngE= # 替换为实际生成值 - POSTGRES_DATABASE_URI=postgres:postgres@langchain-db:5432/postgres - REDIS_DATABASE_URI=redis://langchain-redis:6379 - CLICKHOUSE_HOST=langchain-clickhouse - CLICKHOUSE_PASSWORD=password ports: - "1984:1984" depends_on: langchain-db: condition: service_healthy langchain-redis: condition: service_healthy langchain-db: image: postgres:14.7 environment: - POSTGRES_PASSWORD=postgres - POSTGRES_USER=postgres - POSTGRES_DB=postgres volumes: - langsmith-db-data:/var/lib/postgresql/data healthcheck: test: ["CMD", "pg_isready", "-U", "postgres"] interval: 5s timeout: 5s retries: 5 langchain-redis: image: redis:7 volumes: - langsmith-redis-data:/data healthcheck: test: ["CMD", "redis-cli", "ping"] interval: 5s timeout: 5s retries: 5 langchain-clickhouse: image: clickhouse/clickhouse-server:24.8 environment: - CLICKHOUSE…
— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/langchain/2025110138796.html