Harness 与 Agent 工程 · 日志、监控与故障定位 · 2026-03-20

我们用 AI Observe Stack 观测了 OpenClaw,发现 AI Agent 背后的这些隐患

OpenClaw爆火背后暗藏安全危机,AI Observe Stack如何让AI Agent的行为透明可见?

核心内容:

  1. OpenClaw爆红背后的安全隐患与真实案例
  2. AI Observe Stack如何实现AI行为可视化
  3. 快速搭建可观测系统的实践方案

导读:OpenClaw 成为风靡全球的 AI Agent 同时,它的安全性和 AI Agent 通用的不确定性等问题也引发人们的广泛关注。基于 SelectDB 或 Apache Doris 的 AI Observe Stack 可以为 OpenClaw 提供可观测性,让 AI Agent 的每一个行为清晰可见、安全问题可被洞察,让你看清它的每一个 “脑回路”。

本文基于 AI Observe Stack 构建的 OpenClaw可观测系统是使用 AI 在一天内完成的。用户也可以用阿里云 SelectDB 云服务或者开源 Apache Doris 在几分钟内快速搭建起来亲身体验。

1. OpenClaw:爆火背后的安全危机


OpenClaw 大概是 2026 年最火的开源 AI Agent 平台。它支持通过 WhatsApp、Telegram、Web 等渠道与用户交互,背后的 Agent 可以调用 shell 命令、浏览网页、搜索信息、操作文件、发送消息——几乎无所不能。

但"无所不能"恰恰是问题所在。

OpenClaw 上线短短几周内,安全事件已经井喷。来自 Kaspersky、Cisco、CrowdStrike、Trend Micro 等安全厂商的报告描绘了一幅触目惊心的画面:

Cisco 的分析一针见血:OpenClaw 的安全问题不是配置问题,而是架构问题——它的官方文档自己都写着:"there is no 'perfectly secure' setup"。

这些是行业公开的安全报告。那么,如果我们对一个实际运行中的 OpenClaw 实例做深度审计,会看到什么?

我们的审计结果

我们用 AI Observe Stack(https://github.com/velodb/ai-observe-stack)对一个真实的 OpenClaw 实例进行了 7 天的全量可观测审计,记录了每一次 LLM 调用、每一次工具执行、每一条日志。结果如下:

行业报告告诉你"有风险",而可观测数据让你亲眼看到风险在哪里、有多大。

你以为你在用AI,其实 AI 在用你的权限。

而且,正如 Trend Micro 所指出的,这些问题不是 OpenClaw 独有的,而是 Agent AI 范式的固有问题。几乎所有具备工具调用能力的 AI Agent 都会面临同样的困境。

2. 三个黑盒问题:从 OpenClaw 看所有 AI Agent


OpenClaw 的审计结果揭示了 AI Agent 的三个本质性黑盒问题。传统软件有日志、有监控、有审计,但 AI Agent 不一样——它的行为是非确定性的、上下文驱动的、自主决策的。

2.1 黑盒一:安全黑盒

在 OpenClaw 的审计中,我们看到 Agent 执行了 curl 访问外部 URL、用 exec 操作文件系统、通过 gateway 向用户发送消息。这些操作都是 Agent 自主决定的,用户并不知情。

这不是 OpenClaw 的特例。任何具备工具调用能力的 AI Agent 都可能执行 shell 命令(rm -rf、sudo)、读取敏感文件(.ssh/id_rsa、.env)、发送网络请求(curl、scp)。更危险的是,当 Agent 浏览网页时,恶意网站可以在页面中嵌入 prompt injection 内容——Agent 读到 "ignore previous instructions" 时,它可能真的会执行。

你完全不知道它干了什么。

2.2 黑盒二:成本黑盒

OpenClaw 中最极端的案例:一个用户问题触发了 19 轮 LLM 调用。Agent 的"思考链"是这样的——先搜索网页、再浏览页面、再执行命令、再总结结果。每一步都是一次 LLM 调用,而每次调用都携带了完整的对话历史。

这就是 context window 的滚雪球效应:第一轮调用 3000 tokens,第二轮 8000,第三轮 25000……到第 19 轮已经膨胀到几十万 tokens。一个问题的成本可能是你预期的 100 倍。

这个问题在所有 AI Agent 中普遍存在。月底账单才知道花了多少。

2.3 黑盒三:行为黑盒

OpenClaw 的 工具调用错误率,exec 的调用次数,部分请求的 P95 延迟远是否高于平均值。但如果没有可观测体系,这些数据你根本看不到。

当用户投诉"AI 回答慢"或"AI 回答不准"时,你无法复盘——不知道是 LLM 慢、工具调用失败、还是 Agent 进入了死循环。

出了问题无法复盘。

3. 解决方案:用可观测性打开黑盒


3.1 AI Observe Stack 简介

AI Observe Stack(https://github.com/velodb/ai-observe-stack)是一个开源的 AI 可观测平台,专为 AI Agent 场景设计。它基于三个成熟的开源项目:

组件Progress OpenTelemetry Collector 遥测数据网关,接收 OpenTelemetry 协议数据 Apache Doris 存储层,VARIANT 类型 + 倒排索引,天然适配半结构化数据 Grafana + Doris App 插件 可视化层,支持 SQL 查询和预置 Dashboard

3.2 架构介绍

核心优势:

💡 本文使用开源 Apache Doris 进行演示。如果你的 AI Agent 已经在生产环境运行,需要更高的可用性、弹性扩缩容和免运维体验,可以使用阿里云 SelectDB 云数据库 ——基于 Apache Doris 的全托管云服务,即可获得开箱即用的生产级可观测存储。

产品介绍:

https://www.aliyun.com/product/selectdb?utm_content=g_1000410296

4. 用 AI Observe Stack 观测 OpenClaw


说了这么多问题,怎么解决?我们用 AI Observe Stack 对 OpenClaw 做了完整的可观测接入。以下所有数据来自真实的 OpenClaw 运行环境,通过三个预置 Dashboard 呈现。

4.1 安全审计:你的 Agent 在执行什么命令?

这是你最应该关心的问题。

打开 Security & Audit Dashboard,顶部四个指标卡片一目了然:

数字变红意味着需要立即关注。

4.1.1 Security Event Timeline

往下看时间线图,可以看到安全事件的时间分布:

每种颜色代表一类操作:橙色是 shell 命令执行,蓝色是浏览器操作,紫色是网页抓取,红色是 gateway 调用。如果某个时段出现异常的操作尖峰——比如凌晨 3 点突然执行了大量 shell 命令——你需要警觉。

4.1.2 Top Risk Sessions

哪些会话最危险?Top Risk Sessions 表格按风险评分排序:

风险评分算法:exec×3 + web×2 + outbound×5 + error×1 + sensitive_file×10。得分越高,越需要优先审查。

展开折叠面板,可以深入查看每个风险类型的详细记录:

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/Openclaw/2026032037602.html