Higress
访问官网
阿里云
模型网关
AI代理
详情介绍
Higress 是阿里开源的 AI Native API Gateway,基于 Istio 和 Envoy 构建的云原生 API 网关,使用 Go 语言编写,可通过 Wasm 插件(Go/Rust/JS)扩展。Higress 提供 AI 网关能力,支持国内外 100+ 主流模型协议转换,并可通过插件机制托管 MCP Server,实现 AI Agent 的工具调用。现为 CNCF Sandbox 项目,GitHub 9000+ Star。
🚀 最新动态
- CNCF Sandbox 项目:从阿里内部项目演进为厂商中立的 CNCF 沙箱项目
- MCP Server 托管:通过插件机制托管 MCP Server,AI Agent 可调用各类工具服务
- OpenAPI 转 MCP:提供 openapi-to-mcp 工具,快速将 OpenAPI 规范转为远程 MCP Server
- Wasm 插件生态:Wasm Plugin Hub 提供丰富的可扩展插件
- GitHub 9K+ Star:开源社区持续增长,OpenSSF Best Practices 认证
🎯 核心功能
- AI 网关:统一代理 100+ 主流大模型 API,协议自动转换,降低集成成本
- MCP 托管:通过插件机制托管 MCP Server,对外暴露为统一 MCP 接口
- OpenAPI 转 MCP:openapi-to-mcp 工具自动将 OpenAPI 规范转为远程 MCP Server
- 语义缓存:对相似请求返回缓存结果,降低 Token 消耗与成本
- Token 管控:精细化 Token 配额、限流与计费管理
- Wasm 插件:支持 Go/Rust/JS 编写自定义插件,灵活扩展
- 统一管理:LLM API 与 MCP API 统一管控,单一入口
- 云原生部署:Docker 一键启动,Kubernetes Helm 部署
💡 适用场景
- 多模型统一接入:企业内部接入多家模型厂商,统一 API 规范
- AI Agent 工具调用:通过 MCP Server 托管,让 Agent 调用各类外部工具
- 成本优化:语义缓存减少重复请求,Token 管控降低开支
- 云原生架构:基于 Istio/Envoy,天然适配 K8s 服务网格
- 协议转换:OpenAI/Anthropic/国产模型协议互转,无缝切换
💪 平台优势
- 阿里开源:源自阿里内部网关实践,生产级稳定性
- CNCF 中立:厂商中立的 CNCF Sandbox 项目,社区共建
- 云原生基因:基于 Istio/Envoy,天然适配微服务与 K8s
- 插件化扩展:Wasm 插件机制,Go/Rust/JS 多语言支持
- AI 原生:专为 AI 场景设计,MCP 与 LLM 网关一体化
- 轻量部署:Docker 一键启动,开箱即用的控制台