入门教程
LiteLLM 代理端到端教程，用于
智能体与 MCP 网关
4 个项目
Config.yaml 配置
3 项
安装与部署
13 项内容
演示 LiteLLM Cloud
管理后台 UI
6 项内容
架构
12 项
所有端点 (Swagger)
身份验证
10 项内容
预算 + 速率限制
10 项内容
缓存
如需了解 OpenAI/Anthropic 提示词缓存，请点击此处
内存管理
存储用户偏好和反馈，让你的 LLM 在不同会话间记住这些信息。按用户和团队划分作用域，并内置访问控制。
护栏 (Guardrails)
8 项内容
策略
4 个项目
创建自定义插件
修改请求、响应等
LiteLLM 代理 CLI
litellm-proxy CLI 是用于管理 LiteLLM 代理的命令行工具
负载均衡、路由、故障转移
A/B 测试 - 流量镜像
流量镜像允许您将生产流量“模仿”到辅助（静默）模型进行评估目的。静默模型的响应在后台收集，不会影响主请求的延迟或结果。
日志记录、告警、监控指标
5 项内容
发起 LLM 请求
6 项内容
模型访问
6 项内容
密钥管理器
10 项内容
费用跟踪
9 个项目