安全公告 — 恶意 litellm 版本 1.82.7 与 1.82.8 已从 PyPI 移除(存在 API 密钥外泄风险)。请卸载、轮换已暴露凭据,并升级至安全版本(如 1.82.9+)。运行 pip show litellm 以确认。 PyPI · README

Enterprise 部署说明

部署有两条路径,按场景选择。Helm chart 尚未提供。

Enterprise 部署说明

部署有两条路径,按场景选择。Helm chart 尚未提供

路径适用先看
本地化 / 私有化(Docker 自托管)自有服务器或内网;Docker 起 Postgres/Redis,跑前台 + 后台 + Gatewaylocal-selfhost.md
Vercel 托管 + 外部 Gatewayportal/admin 上 Vercel;Go 网关自建或其它主机vercel-env-checklist.md · vercel-git-autodeploy.md

本地开发(不是生产部署)走 enterprise/scripts/start-dev.sh / start-dev-with-infra.sh,见 development/local-dev.md


明文密钥放哪里(不入库)

  • 真实 PEM、Token、DATABASE_URL 只允许写在:enterprise/.local-secrets/
  • 该目录已在 enterprise/.gitignore 中忽略(与 .env*.local 同类),不要提交远端
  • 建议本地自建:enterprise/.local-secrets/vercel-env-values.local.md,从 vercel-env-checklist.md 复制表格后逐项填值

Gateway 上游 Key 用环境变量或 Channel api_key_cipher,不要写进文档仓库。PAT 明文只在创建时看一次,见 gateway/api-tokens.md

数据库

可参考

Made-with: Damon Li