AI-native API gateway for AI Agent development and LLM API management.
什么是Higress.AI?
Higress是一个基于Istio和Envoy的AI原生API网关,支持用Go/Rust/JS编写的Wasm插件进行扩展。它提供AI网关、MCP服务器托管、Kubernetes入口控制器、微服务网关和安全网关。Higress AI网关提供多种模型灵活切换与回退重试、大模型内容安全与合规、语义缓存、多API Key均衡、Token配额管理与限流、大模型流量灰度、调用成本审计等功能,帮助企业开发Agent、管理LLM API。
如何使用 Higress.AI?
Higress可以用于开发AI Agents和管理LLM API。它提供多模型切换、内容安全、语义缓存、API Key均衡、Token管理、流量灰度和成本审计等功能。它还支持将现有的RESTful API转换为MCP服务器。
Higress.AI 的核心功能
AI网关
MCP服务器托管
Kubernetes入口控制器
微服务网关
安全网关
多模型灵活切换与回退重试
大模型内容安全与合规
语义缓存
多API Key均衡
Token配额管理与限流
大模型流量灰度
调用成本审计
Higress