AI 应用不是部署上线就完事了。你需要看见它在做什么、花了多少钱、质量怎么样。
为什么 LLM 应用需要可观测性
传统软件有确定性——给定输入,输出可预期。LLM 应用则不然:同样的 Prompt,今天跑出满分报告,明天可能漏掉关键数据。这种不确定性意味着你必须持续观测,而不只是部署后祈祷。
可观测性要回答四个问题:出了什么问题(追踪)、花了多少钱(成本)、质量怎么样(评估)、哪里最慢(性能)。dify 提供了从轻量到专业的完整解决方案。
第一层:Dify 内置能力
| 能力 | 作用 |
|---|---|
| Dashboard | 调用量、活跃用户、Token 消耗、平均响应时间的日/周/月趋势 |
| 会话日志 | 实时查看每次对话的完整输入输出,支持人工标注和反馈 |
| 运行历史 | 工作流每次执行的节点轨迹,各节点输入/输出/耗时详情 |
| 变量检查器 | 调试模式下检查节点间数据传递,定位变量问题 |
够用场景:个人开发调试、简单应用监控、快速验证原型。
不够的时候:需要跨应用统一视图、Token 成本按模型分组统计、自动化质量评估、长期数据保留——这时就需要外部集成。
第二层:七大外部集成
Dify 原生支持 7 个外部可观测性平台,通过应用的「监控」页面一键启用,零代码改动。
1. Langfuse — 开源自部署首选
| 项目 | 说明 |
|---|---|
| 定位 | 开源 LLM 可观测性平台(MIT 协议) |
| 部署 | Docker Compose 自部署 / Langfuse Cloud 托管 |
| 核心能力 | Trace 追踪、Token 成本分析、Score 评分、Prompt 管理、ClickHouse 高性能分析 |
| 优势 | 数据不出内网、完全免费、无 Trace 数量限制 |
| 适合 | 数据敏感的企业环境、国内服务器、预算有限的团队 |
Langfuse 是大多数自部署 Dify 用户的首选。6 个容器(Web、Worker、PostgreSQL、ClickHouse、Redis、MinIO),4GB 内存即可运行,25 个应用全量接入无压力。
2. LangSmith — 评估能力最强
| 项目 | 说明 |
|---|---|
| 定位 | LangChain 官方 LLM 全生命周期管理平台 |
| 部署 | SaaS 云端(api.smith.langchain.com) |
| 核心能力 | T… |
— 以上为试看内容(约 40%),开通会员后阅读全文 —