AIOps探索:给不能联网的客户做一个AI运维助手到底有多难?
研究AIOps已有大半年,目前手里有不少可落地的方案了,接下来会把这些方案全部整理到我的大模型课程里。
搞了这么久的AIOps,我其实忽略了一个非常普遍的场景,那就是针对那种不能连外网只能私有部署(包括模型、智能体组件)的情况。今天一个同学来找我聊思路。
今天就这个话题,来聊聊这种纯内网环境下的AIOps到底该怎么做!
01 | 先明确:你到底在解决什么问题
大多数离线项目里的运维痛点,本质上就三类:
1)信息获取成本太高
运维同学不在现场,客户不会看日志,环境太封闭。排查一次问题,需要来回沟通很多轮。
我觉得AI最大的价值之一,其实就是“降低信息获取门槛”。比如:客户直接问:“为什么系统打不开?”
AI是可以自动能做这些操作的:
检查服务状态
检查 CPU/内存/磁盘
检查 nginx
检查数据库连接
分析最近日志
给出初步判断
其实大多数情况下,问题其实五分钟就能定位,只是以前缺一个“会看系统”的人。那如果让AI来充当这个角色,效率就会提升很多!
2)重复劳动太多
大量运维工作,本来就是标准化的。比如:
日志收集
健康检查
服务重启
巡检
配置核对
备份检查
证书检查
容量检查
以前这些事情靠人或者脚本,以后应该靠AI。AI 不一定比人聪明,但AI比人“不嫌烦”。
3)知识沉淀不下来
很多公司都有这个问题,当一个经验丰富的运维离职后,整个项目组直接懵。因为所有经验都在那个运维脑子里。
而AI运维助手,本质上是一个“知识沉淀器”。你把下面这些东西全部沉淀下来并灌输给AI:
故障案例
运维 SOP
巡检流程
shell 脚本
部署文档
常见报错
中间件经验
那么,后面新人也能快速上手,这才是长期价值。
02 | 离线环境里,最大的挑战不是模型
很多人包括我自己第一反应是:“离线环境没法调用在线大模型API,效果是不是就不行了?”
如果本地部署的模型参数量不大,那效果一定不好,但我们有方法让它变好。现在很多客户已经开始本地部署:
DeepSeek
Qwen
GLM
Llama
参数量通常在32B上下。其实,在运维场景里,已经够用,但需要额外配一个RAG。
运维问题有一个特点:那就是它高度垂直,不像通用聊天。运维问题很多是固定模式。比如:“服务启动失败”、“端口占用”、“数据库连接异常”、“磁盘空间不足”、“k8s pod crashloop”等等,这些问题,本来就有大量历史经验。
再加上知识库和脚本辅助,哪怕模型参数量不够大,也能解决我们的问题。
所以,在这里模型的问题不是问题,而是下面这两点:
1)客户允不允许你部署Agent(OpenClaw、Hermes等)
很多客户环境,安全要求极高,尤其政企、能源、金融、军工。他们会非常敏感…