快速入门
无需担心配置或 CRUD 端点,即可创建密钥、跟踪支出并添加模型。
快速入门
- 需要设置代理主密钥 (Proxy Master Key)
- 需要连接数据库
请遵循 设置指南
1. 启动代理
litellm --config /path/to/config.yaml
#INFO: Proxy running on http://0.0.0.0:4000
2. 进入 UI 界面
http://0.0.0.0:4000/ui # <proxy_base_url>/ui
3. 在 Swagger 上获取管理 UI 链接
您的代理 Swagger 可在代理的根路径访问:例如:https://:4000/
4. 修改默认用户名和密码
在代理的 .env 文件中设置以下内容
LITELLM_MASTER_KEY="sk-1234" # this is your master key for using the proxy server
UI_USERNAME=ishaan-litellm # username to sign in on UI
UI_PASSWORD=langchain # password to sign in on UI
访问 LiteLLM UI 时,系统将提示您输入用户名和密码
5. 配置根重定向 URL
当 DOCS_URL 设置为 "/" 以外的值时,您可以使用 ROOT_REDIRECT_URL 配置根路径 (/) 重定向到哪里
DOCS_URL="/docs" # Set docs to a different path
ROOT_REDIRECT_URL="/ui" # Redirect root path (/) to /ui
默认情况下,DOCS_URL 为 "/",因此仅当您将 DOCS_URL 更改为其他路径时,才需要此设置。
邀请其他用户
允许他人创建/删除他们自己的密钥。
模型管理
管理 UI 提供全面的模型管理功能
- 添加模型:通过 UI 添加新模型,无需重启代理
- AI Hub:公开模型和代理,供开发者查看可用资源
- 价格数据同步:通过从 GitHub 同步,使模型定价数据保持最新
有关模型管理的详细信息,请参阅 模型管理。
有关共享模型和代理的信息,请参阅 AI Hub。
同步模型价格数据
从 GitHub 同步模型价格数据,以保持您的模型成本信息处于最新状态。
禁用管理 UI
在您的环境中设置 DISABLE_ADMIN_UI="True" 以禁用管理 UI。
如果您的安全团队对 UI 使用有额外限制,此功能非常有用。
预期响应