安全公告 — 恶意 litellm 版本 1.82.7 与 1.82.8 已从 PyPI 移除(存在 API 密钥外泄风险)。请卸载、轮换已暴露凭据,并升级至安全版本(如 1.82.9+)。运行 pip show litellm 以确认。 PyPI · README

MCP Server 托管架构

位置:enterprise/apps/gateway/internal/mcphost/ — 协议、registry、backend、transport。

MCP Server 托管架构

位置:enterprise/apps/gateway/internal/mcphost/ — 协议、registry、backend、transport。

与 LLM 主线共用进程与中间件链(auth → policy stage mcp_tool → quota → audit),handler 独立分支。默认关闭,见 gateway/mcp-hosting-overview.md

示意图:`/mcp/{server}/*` 进入 Host,再拆成 Registry、Backend、Transport。

组件

组件职责源码
RouterGET /mcp/registry 与三种 transportinternal/server/mcp_handlers.go
Host解析 server、算 EffectiveScopes、调 backendmcphost/host.go
Registrymcp_servers + mcp_tools;内置 demomcphost/registry.go
Entitlementcapability pack 可收回授权mcphost/entitlement.go
Backendecho / openapicustom-go 留口mcphost backends
TransportStreamable HTTP 或 SSE + messagesHost 返回的 endpoint map

数据模型

  • mcp_servers — server 元数据 + backend_config(OpenAPI 原文可存 openapi_json / gzip openapi_blob
  • mcp_tools — 启用工具清单 + JSON Schema
  • gateway_audit_events.mcp_* — 工具调用审计(nullable,Blake2b 链兼容)

OpenAPI → MCP

每个通过白名单的 operationId 映射为一个 MCP tool;parameters + requestBody 合并为 inputSchemaoneOf/anyOf 降级为 object + 描述。

未落地

  • custom-go backend
  • apps/edge-agent 作为 MCP 宿主(该二进制仍是 skeleton)

运维步骤见 runbooks/mcp-hosting.md

Made-with: Damon Li