去年年底,某 SaaS 平台的基础架构负责人老周发现事情不太对。他们的开放平台半年内从 200 多个 API 消费者涨到了将近 2 万,企业客户、ISV 合作伙伴、内部 Agent 应用都在排队接入。网关还是那套自建 Higress,但认证延迟曲线已经从平线变成陡坡:p50 从 1 ms 飙到 50 ms 以上,部分时段成功率跌破 80%;每次批量新增消费者,控制面下发的插件配置就膨胀一截,到后来单次配置逼近 1.2 MB,数据面同步延迟肉眼可见地变长。
老周的困境并非个例。随着 API 数量、合作伙伴和终端应用持续增长,网关需要管理的消费者数量也会从几十、几百快速扩展到数万;进入 Agent 时代后,甚至可能进一步走向百万级。此时,认证能力面对的已不再只是“能否识别一个 API Key”,而是一个更现实的问题:当消费者规模持续增长时,认证链路能否依然保持低延迟、高成功率和可控的配置成本?
本文通过一组本地对照实测,看看开源自建 Higress 与阿里云云原生 API 网关(即 Higress 企业版)在大规模消费者场景下的真实差距。
先看结果:规模越大,性能差距越明显
Cloud Native
在相同运行环境、上游服务和请求模型下,开源实现与企业版的差距集中体现在三组数据上:
- 延迟相差约 34 倍:10000 个消费者下,企业版 p50 为 1.47 ms,开源实现为 50.32 ms;
- 成功率相差 22.86 个百分点:20000 个消费者下,企业版保持 100%,开源实现下降至 77.14%;
- 配置体积相差 8457 倍:20000 个消费者下,企业版为 149 B,开源实现达到 1260089 B(约 1.23 MB),当消费者规模持续上升,多租网关中控制面到数据面到配置下发链路能够保持稳定,而开源实现会成为瓶颈。
这三组数据分别对应生产环境最关心的三个问题:请求是否足够快、流量是否足够稳,以及消费者持续增长时配置成本是否仍然可控。下面分别展开。
为什么消费者增长会拉开性能差距?
Cloud Native
从实测结果看,开源实现适合消费者规模较小的场景;随着消费者数量增长,其认证延迟和配置规模会明显增加。
企业版针对大规模消费者场景进行了专项优化。无论消费者从 100 增长到 10000,还是进一步增长到更大规模,单次认证都不需要承担与消费者总量等比例增长的处理成本。
这种设计把消费者规模从认证执行路径中解耦出来:
- 单次认证开销不会随消费者总量等比例增长;
- 消费者数据与认证执行配置分离,配置规模保持稳定;
- 新增消费者不会线性放大每次请求的认证成本;
- 可结合企业版产品规格和实例资源,承载十万级乃至百万级消费者。
这一差异直接反映在消费者规模增长后的性能、成功率和配置成本上。
延迟与成功率:两万消费者下仍保持稳定
Cloud Native
我们对开源实现与企业版的 key-auth 认证场景进行了本地对照测试。两条链路使用相同的运行环境、上游服务和请求模型,并始终使用最后一个消费者的有效 API Key,以观察消费者规模增长时的性能变化。
测试覆盖 10、100、500、1000、5000、10000 和 20000 个消费者,固定目标 QPS 为 10,每组持续 20 秒。
结果显示,企业版在消费者数量从 10 增长到 20000 的过程中,p50 始终保持在约 1 ms 量级;在 20000 个消费者下,210 次请求全部成功。
开源实现的延迟则随消费者数量明显增长:10000 个消费者时,p50 已达到 50.32 ms,约为企业版的 34 倍;扩展到 20000 个消费者后,成功率下降到 77.14…