💡 目录 💡
01 AI Gateway:自建模型、长上下文与安全拦截
02 Gateway API:多网关隔离与版本兼容
03 Gateway API 推理扩展:让 AI 推理流量获得更合理的调度
04 Ingress 迁移:尽量减少对既有集群资源的改动
05 安全与稳定性
06 Console:配置增多后的操作体验优化
07 CNCF Sandbox 入驻完成
08 谁应该升级?
09 贡献者
Higress 近期发布了 v2.2.3 版本,主仓库共 48 项更新、Higress Console 8 项更新。核心变化包括:
- AI Gateway:新增 vLLM 协议透传与
ai-context-limit上下文限制插件,增强 AI 安全防护与负载均衡,并修复一批多厂商协议兼容问题。 - Gateway API 与推理扩展:支持可配置的 GatewayClass 隔离、默认分离稳定与实验性资源,并修复推理路由在 HTTPRoute 合并时的配置丢失问题。
- Ingress 迁移:支持跳过 IngressClass 创建、正确保留 LoadBalancer hostname,尽量不改动集群中已有的资源。
- 安全与稳定性:
jwt-auth支持 remote JWKS,并加固 OIDC、TLS 校验、限流与 WASM/MCP 运行时。 - Console:LLM provider token 列表支持折叠,并修复多项 MCP 与路由配置问题。
此外,社区层面 Higress 已正式完成 CNCF Sandbox 入驻。下面按主题展开。
01
AI Gateway:自建模型、长上下文与安全拦截
过去几个版本里,Higress 的 AI Gateway 能力一直围绕一个方向演进:让不同模型服务尽量通过统一入口接入,同时少让业务应用自己处理协议差异。v2.2.3 继续在这条线上做了增补,并修掉了一批协议兼容上的小毛病。
新增与增强
- AI Proxy 支持 vLLM 透传 Anthropic Messages 和新版 OpenAI endpoints(#3989)。能原样透传的请求不再做多余转换,链路更短,排查也更轻。
- 新增
ai-context-limitWASM 插件(#4000),可以在网关层提前判断请求是否超过模型上下文限制,省去等请求打到模型服务才失败的浪费。长文档问答、RAG、多轮对话、代码分析这类场景会比较实用。 ai-security-guard 增加结构化拒绝响应、错误路径指标和 AI 日志(#3894),并支持 Embedding API 内容检测(#3895)。安全插件在拦截之后还能把原因说清楚,方便业务侧展示提示、做审计、接告警。ai-load-balancer 新增基于一致性哈希的``cluster_hash策略(#3898);model-router支持保留完整原始模型名(#3916)。
问题修复
- Vertex 场景补齐 tool call ID、保留
thoughtSignature、完善 Claude stream delta 中的 tool call type(#3973、#3985、#3990)。 - Claude API 名称识别从宽泛匹配改成更准确的后缀判断(#3839),减少同一套客户端换个模型就出现异常 400 的概率。
- 修复
ai-cache在 SSE 流式响应首个 chunk 只有 role 时的兼容问题(#3962,修复 #3953)。
02
Gateway API:多网关隔离与版本兼容
Gateway API 正在成为 Kubernetes 入口流量管理的重要标准。它比传统 Ingress 拆得更细:GatewayClass 负责说明谁来管网关,Gateway 负责网关实例,HTTPRoute 等资源负责路由规则。拆得更清楚之后,多团队、多网关、多协议的边界也更容易表达;但标准持续演进,生产环境里也会随之冒出一些现实问题。
新增与增强
- 支持可配置的 GatewayClass 隔离(#3981)。过去 Higress 默认监听固定的 GatewayClass,对单套网关很直接;当一个集群里同时有公网、内网、测试等多套网关时,就需要更明确地分清谁处理哪些资源。现在多套 Higress 可以在同一集群里各自管理对应的资源。
- 默认关闭 alpha Gateway API watch(#3971),把稳定资源和实验性资源分开:常规能力默认启用,实验性能力按需开启,减少版本差异对控制器启动和同步的影响。
问题修复
- 修复 Gateway 状态地址写入(#3980)。对依赖 Gateway 状态做自动化发布、DNS 更新或平台展示的团队来说,状态写准确很重要。
03
Gateway API 推理扩展:让 AI 推理流量获得更合理的调度
普通 Web 服务做负载均衡,常见依据是权重、连接数、健康状态。AI 推理流量会更复杂一些:不同请求可能命中不同模型,不同副本的 GPU 负载不同,队列长度不同,缓存命中情况也不同。Gateway API Inference Extension 想解决的就是这类问题:让网关在转发 AI 推理请求时,可以结合推理后端的状态做更合适的调度。
本次版本修复了 InferencePool 路由配置在 HTTPRoute 合并时可能丢失的问题(#3964)。当多个推理路由挂在同一个网关和域名下时,Higress 需要正确保留每条路由对应的推理调度配置,不能在合并过程中退回普通负载均衡。
这项能力还在跟随 Gateway API Inference Extension 持续演进,但它代表了 AI Gateway 的一个重要方向:网关不再只是入口,也会逐步…