AIOps探索:给不能联网的客户做一个AI运维助手到底有多难?


研究AIOps已有大半年,目前手里有不少可落地的方案了,接下来会把这些方案全部整理到我的大模型课程里。

搞了这么久的AIOps,我其实忽略了一个非常普遍的场景,那就是针对那种不能连外网只能私有部署(包括模型、智能体组件)的情况。今天一个同学来找我聊思路。

今天就这个话题,来聊聊这种纯内网环境下的AIOps到底该怎么做!

01 | 先明确:你到底在解决什么问题

大多数离线项目里的运维痛点,本质上就三类:

1)信息获取成本太高

运维同学不在现场,客户不会看日志,环境太封闭。排查一次问题,需要来回沟通很多轮。

我觉得AI最大的价值之一,其实就是“降低信息获取门槛”。比如:客户直接问:“为什么系统打不开?”

AI是可以自动能做这些操作的:

  • 检查服务状态

  • 检查 CPU/内存/磁盘

  • 检查 nginx

  • 检查数据库连接

  • 分析最近日志

  • 给出初步判断

其实大多数情况下,问题其实五分钟就能定位,只是以前缺一个“会看系统”的人。那如果让AI来充当这个角色,效率就会提升很多!

2)重复劳动太多

大量运维工作,本来就是标准化的。比如:

  • 日志收集

  • 健康检查

  • 服务重启

  • 巡检

  • 配置核对

  • 备份检查

  • 证书检查

  • 容量检查

以前这些事情靠人或者脚本,以后应该靠AI。AI 不一定比人聪明,但AI比人“不嫌烦”。

3)知识沉淀不下来

很多公司都有这个问题,当一个经验丰富的运维离职后,整个项目组直接懵。因为所有经验都在那个运维脑子里。

而AI运维助手,本质上是一个“知识沉淀器”。你把下面这些东西全部沉淀下来并灌输给AI:

  • 故障案例

  • 运维 SOP

  • 巡检流程

  • shell 脚本

  • 部署文档

  • 常见报错

  • 中间件经验

那么,后面新人也能快速上手,这才是长期价值。

02 | 离线环境里,最大的挑战不是模型

很多人包括我自己第一反应是:“离线环境没法调用在线大模型API,效果是不是就不行了?”

如果本地部署的模型参数量不大,那效果一定不好,但我们有方法让它变好。现在很多客户已经开始本地部署:

  • DeepSeek

  • Qwen

  • GLM

  • Llama

参数量通常在32B上下。其实,在运维场景里,已经够用,但需要额外配一个RAG。

运维问题有一个特点:那就是它高度垂直,不像通用聊天。运维问题很多是固定模式。比如:“服务启动失败”、“端口占用”、“数据库连接异常”、“磁盘空间不足”、“k8s pod crashloop”等等,这些问题,本来就有大量历史经验。

再加上知识库和脚本辅助,哪怕模型参数量不够大,也能解决我们的问题。

所以,在这里模型的问题不是问题,而是下面这两点:

1)客户允不允许你部署Agent(OpenClaw、Hermes等)

很多客户环境,安全要求极高,尤其政企、能源、金融、军工。他们会非常敏感…

— 以上为试看内容(约 40%),开通会员后阅读全文 —