为什么值得关注
LiteLLM 星标 4.9 万+，解决的是真实工程问题：模型供应商太多、API 格式不一、密钥分散、成本难统计。它提供 Python SDK + OpenAI 兼容 Proxy，几乎能无缝替换现有 OPENAI_BASE_URL 配置。
项目亮点
- 统一接口：
completion()调 Anthropic、Gemini、Bedrock、Ollama 等。 - Proxy Server：团队共用一个网关，做限流、日志、fallback。
- 成本追踪：按 model / user 统计 token 花费。
- 与本博客契合：后端
.env的OPENAI_BASE_URL模式与 LiteLLM/One API 同类，适合自建 Agent 与翻译。
适合谁
- 多模型路由：简单任务 7B，复杂任务 Claude/GPT；
- 不想在代码里写死供应商 SDK；
- 需要 审计与配额 的小团队。
部署提示
- 网关层单独部署，不要把 admin key 暴露到公网；
- 配置 fallback 时注意数据驻留合规。
链接
也可与 One API、New API 等同类网关对比选型。