ARTICLE · 人工智能
Azure API Management 新增专用 AI 网关层级,用于治理模型与 MCP 工具
一语总结微软发布了 Azure API Management 专用 AI 网关层级(公共预览版),将控制平面围绕模型、MCP 服务器和工具而非 API 进行重组,并提供基于门户的策略与联合工具后端。
微软宣布推出 Azure API Management 的专用 AI 网关层级(公共预览版),该网关作为一种独立的网关体验,其控制平面围绕模型、MCP 服务器和工具而非传统 API 进行组织。现有经典层级和 v2 层级保留其已有的 AI 网关能力。预览支持发布 Foundry 托管的模型(如 OpenAI、Anthropic、Mistral),同时支持 AWS Bedrock、Google Vertex AI 以及直接使用 OpenAI 的模型。所有兼容 OpenAI 的提供商共享同一端点路径,通过模型字段的精确匹配进行路由,因此每个已发布模型需要唯一名称;Anthropic 通过自定义提供商处理,支持 Messages API 直通。策略配置采用门户卡片而非 XML 和表达式,涵盖 Token 和请求限制、配额、Content Safety 和模型回退。网关约一分钟即可完成预配置,无需规划规模单元,可将 OpenTelemetry Token 指标导出到 Application Insights、Datadog、Grafana 及其他客户控制的接收端,并在客户自己的订阅和 Entra 租户中运行。对于工具,网关通过 URL、OpenAPI 规范或内置连接器从远程 MCP 服务器联合后端,覆盖超过 1000 个 SaaS 应用程序,每个后端可配置无认证、API 密钥、OAuth 2.0 或托管身份等认证选项。
- 新层级将控制围绕模型、MCP 服务器和工具而非传统 API 定义进行组织。
微软将其定位为独立的网关体验,因为团队现在会向多个 AI 提供商路由,因此已发布模型和联合工具后端成为主要的治理对象。
- 兼容 OpenAI 的提供商共享一个端点,通过模型字段的精确匹配进行路由。
因此每个已发布模型需要唯一名称,而 Anthropic 通过使用 Messages API 直通的自定义提供商获得支持。
- 基于门户卡片的策略取代 XML 和表达式,满足常见 AI 治理需求。
预览涵盖 Token 和请求限制、配额、Content Safety 和模型回退,网关约一分钟即可完成预配置,无需规划规模单元。
- 工具后端可从远程 MCP 服务器、OpenAPI 规范或内置 SaaS 连接器联合。
来自每个后端的操作成为工具,每个后端可配置无认证、API 密钥、OAuth 2.0 或托管身份等认证方式;内置连接器无需托管服务器即可覆盖超过 1000 个 SaaS 应用。
- 遥测和部署仍由客户掌控。
Token 指标作为 OpenTelemetry 数据导出到 Application Insights、Datadog、Grafana 及其他接收端,同时网关运行在客户的订阅和 Entra 租户中。
Azure API Management 新增专用 AI 网关层级,用于治理模型与 MCP 工具
微软宣布推出 Azure API Management 的专用 AI 网关层级(公共预览版),该网关作为一种独立的网关体验,其控制平面围绕模型、MCP 服务器和工具而非传统 API 进行组织。现有经典层级和 v2 层级保留其已有的 AI 网关能力。预览支持发布 Foundry 托管的模型(如 OpenAI、Anthropic、Mistral),同时支持 AWS Bedrock、Google Vertex AI 以及直接使用 OpenAI 的模型。所有兼容 OpenAI 的提供商共享同一端点路径,通过模型字段的精确匹配进行路由,因此每个已发布模型需要唯一名称;Anthropic 通过自定义提供商处理,支持 Messages API 直通。策略配置采用门户卡片而非 XML 和表达式,涵盖 Token 和请求限制、配额、Content Safety 和模型回退。网关约一分钟即可完成预配置,无需规划规模单元,可将 OpenTelemetry Token 指标导出到 Application Insights、Datadog、Grafana 及其他客户控制的接收端,并在客户自己的订阅和 Entra 租户中运行。对于工具,网关通过 URL、OpenAPI 规范或内置连接器从远程 MCP 服务器联合后端,覆盖超过 1000 个 SaaS 应用程序,每个后端可配置无认证、API 密钥、OAuth 2.0 或托管身份等认证选项。
文章金句
"核心思想在于,团队现在面对的是众多提供商而非单一提供商,因此工具应当反映这一点。
"策略配置采用门户中的卡片形式而非 XML 和表达式,涵盖 Token 和请求限制、配额、Content Safety 与模型回退。
"网关约一分钟即可完成预配置,无需规划规模单元。