跳至主要内容

快速入门

创建密钥、跟踪支出、添加模型，无需担心配置/CRUD 端点。

快速入门​

  • 需要设置代理主密钥
  • 需要连接数据库

请按照 设置 进行操作

1. 启动代理​

litellm --config /path/to/config.yaml

#INFO: Proxy running on http://0.0.0.0:4000

2. 进入 UI​

http://0.0.0.0:4000/ui # <proxy_base_url>/ui

您的 Proxy Swagger 在代理的根目录下可用：例如：https://:4000/

4. 更改默认用户名 + 密码​

在代理的 .env 文件中设置以下内容

LITELLM_MASTER_KEY="sk-1234" # this is your master key for using the proxy server
UI_USERNAME=ishaan-litellm   # username to sign in on UI
UI_PASSWORD=langchain        # password to sign in on UI

访问 LiteLLM UI 时，系统将提示您输入用户名和密码

5. 配置根重定向 URL​

当 DOCS_URL 设置为除 "/" 以外的其他内容时，可以使用 ROOT_REDIRECT_URL 配置根路径 (/) 重定向到的位置

DOCS_URL="/docs"              # Set docs to a different path
ROOT_REDIRECT_URL="/ui"       # Redirect root path (/) to /ui

默认情况下，DOCS_URL 为 "/"，因此只有在您将 DOCS_URL 更改为其他路径时才需要此设置。

邀请其他用户​

允许其他人创建/删除自己的密钥。

前往此处

模型管理​

Admin UI 提供了全面的模型管理功能

  • 添加模型：通过 UI 添加新模型，无需重启代理
  • AI Hub：将模型和代理公开给开发者，以便他们发现可用资源
  • 价格数据同步：通过从 GitHub 同步来保持模型定价数据的最新状态

有关模型管理的详细信息，请参阅 模型管理。

有关共享模型和代理的信息，请参阅 AI Hub。

同步模型定价数据

从 GitHub 同步模型定价数据，以保持您的模型成本信息最新。

禁用 Admin UI​

在您的环境中设置 DISABLE_ADMIN_UI="True" 以禁用 Admin UI。

如果您的安全团队对 UI 使用有额外的限制，这将很有用。

预期响应