跳至主要内容

快速入门

无需担心配置或 CRUD 端点,即可创建密钥、跟踪支出并添加模型。

快速入门

  • 需要设置代理主密钥 (Proxy Master Key)
  • 需要连接数据库

请遵循 设置指南

1. 启动代理

litellm --config /path/to/config.yaml

#INFO: Proxy running on http://0.0.0.0:4000

2. 进入 UI 界面

http://0.0.0.0:4000/ui # <proxy_base_url>/ui

您的代理 Swagger 可在代理的根路径访问:例如:https://:4000/

4. 修改默认用户名和密码

在代理的 .env 文件中设置以下内容

LITELLM_MASTER_KEY="sk-1234" # this is your master key for using the proxy server
UI_USERNAME=ishaan-litellm # username to sign in on UI
UI_PASSWORD=langchain # password to sign in on UI

访问 LiteLLM UI 时,系统将提示您输入用户名和密码

5. 配置根重定向 URL

DOCS_URL 设置为 "/" 以外的值时,您可以使用 ROOT_REDIRECT_URL 配置根路径 (/) 重定向到哪里

DOCS_URL="/docs" # Set docs to a different path
ROOT_REDIRECT_URL="/ui" # Redirect root path (/) to /ui

默认情况下,DOCS_URL"/",因此仅当您将 DOCS_URL 更改为其他路径时,才需要此设置。

邀请其他用户

允许他人创建/删除他们自己的密钥。

点击此处

模型管理

管理 UI 提供全面的模型管理功能

  • 添加模型:通过 UI 添加新模型,无需重启代理
  • AI Hub:公开模型和代理,供开发者查看可用资源
  • 价格数据同步:通过从 GitHub 同步,使模型定价数据保持最新

有关模型管理的详细信息,请参阅 模型管理

有关共享模型和代理的信息,请参阅 AI Hub

同步模型价格数据

从 GitHub 同步模型价格数据,以保持您的模型成本信息处于最新状态。

禁用管理 UI

在您的环境中设置 DISABLE_ADMIN_UI="True" 以禁用管理 UI。

如果您的安全团队对 UI 使用有额外限制,此功能非常有用。

预期响应