了解 LiteLLM

LiteLLM 为 100 多个 LLM 提供商提供了一个兼容 OpenAI 的统一接口。从匹配您当前设置的路径开始。

---

从这里开始

请先选择一条路径。

🐍

SDK 快速入门

直接在应用程序代码中使用 LiteLLM。

• 安装
• 首次请求
• 进阶 SDK 功能

🖥️

网关快速入门

将 LiteLLM 作为共享网关运行。

• 启动代理
• 添加模型和密钥
• 连接客户端

✨

✨ 企业版快速入门

LiteLLM 企业版快速入门指南 — LLM、MCP 和智能体网关。

• 部署许可证
• 验证三个网关
• 启用企业级控制

---

常用任务

跳转至特定任务。

⚡

流式响应

在生成时返回 Token。

🧰

使用工具

为您的应用添加函数调用。

🔀

添加路由

重试、回退和负载均衡。

🔑

设置密钥

网关认证、虚拟密钥和访问控制。

📈

添加日志

捕获请求日志和消费数据。

🌐

选择提供商

查找特定于提供商的认证和参数。

---

文档地图

当您已了解所需文档类型时，请使用这些链接。

📚

指南

功能参考。

🛠️

教程

分步集成方案。

不知道从哪里开始？如果您是编写应用代码，请使用 SDK 快速入门；如果您是部署共享基础设施，请使用 网关快速入门；如需试用或进行概念验证 (PoC) 评估，请使用 ✨ 企业版快速入门。