💡 目录 💡
01 一些背景信息
02 如何防范 - 镜像投毒
03 如何防范 - PyPI 包投毒
北京时间3月24日19点,PyPI 仓库出现了 LiteLLM 1.82.7 版本。13 分钟后,1.82.8 紧随其后。这两个版本没有经过 GitHub 的 PR 流程,官方仓库中找不到对应的 commit。被第三方安全情报中心监测到这两个版本中混淆了恶意代码。
恶意代码会窃取受害系统的敏感数据(包括系统环境变量、SSH 密钥、AWS/Azure 云服务凭据、K8s/Git/Docker/数据库配置、SSL 证书私钥、加密钱包配置及密钥等),数据最终被 RSA 加密打包后外传到攻击者服务器;此外,攻击者还会在目标系统中生成脚本后门,并利用系统服务进行后门持久化驻留。
LiteLLM SDK 在 PyPI 仓库历史总下载量超过4.8亿次,包括知名的开源项目 OpenClaw 也依赖了该开源项目。
Karpathy 在 X 平台警告:"像这样的供应链攻击基本上是现代软件中最令人恐惧的事情。"马斯克转发并评论"Caveat emptor"(买者自负)。
01
一些背景信息:
PyPI 是 Python 官方的包管理仓库,所有 Python 项目的维护者都会把新版本发布到这里。
当企业项目依赖某个 Python 开源项目,开发者们通常会通过运行 pip install -r requirements.txt,pip 会自动从 PyPI 下载所有依赖,这有利于版本的自动化管理。
PyPI 官方对所有发布包,会进行包格式验证、元数据完整性等基础的技术检查,PyPI Token 或密码等身份验证,恶意软件扫描等自动化的审查,但不会提供代码审计、源码一致性验证、沙箱测试等依赖人力或付费资源的测试。
因此这种信任是建立在:相信 PyPI 上的包是安全的,相信包维护者不会上传恶意代码,相信 PyPI Token 不会泄露。
正因为 PyPI 如此便利、如此普及,它才成为攻击者的理想目标。攻击者只需要:
- 窃取一个 PyPI Token。
- 推送一个恶意版本。
- 等待全世界的开发者自动下载。
而开发者几乎不可能发现——因为:
pip install 是自动化的,没人会检查每个包。- 依赖树太深,无法全面审计。
- 大家习惯性地信任 PyPI。
此次 LiteLLM 被投毒事件,猜测是因为目开发者的 PyPI Token 被盗而引发的。
无独有偶。
此前,DockerHub 也发生了 OneAPI 镜像被投毒事件。DockerHub 是世界上最大的容器镜像托管服务,有来自软件供应商、开源项目的超过十万个容器镜像。很多开源软件项目选择在这里发布他们的容器镜像。这使得用户可以很方便地获取、安装和使用这些软件。
02
如何防范 - 镜像投毒
本文作者是另一款开源 AI 网关项目 Higress 的维护成员之一。在关注 Litellm 时,看到了这个问题,所以向大家分享下 Higress 防范此类风险的相关经验。
Higress 是由阿里云开源的网关软件,基于 API 网关的能力之上构建了 AI 网关能力,并且由阿里云 API 网关这款商业产品背后的研发团队共同维护,而非个人项目。Higress 一直使用阿里云容器镜像服务用于镜像存储,并有自己官方的 Helm 仓库(K8s 环境的安装包管理)。
使用阿里云容器镜像服务至少有两个好处:
- 不受 DockerHub 网络封禁影响,对国内用户更友好,镜像拉取速度也更快。
- 可以进行镜像安全扫描,自动拦截有风险的镜像提交。
第二点,也是防范开源镜像投毒的核心,如下截图所示:
基于阿里云容器镜像服务的云…