快速入门
创建密钥、追踪支出、添加模型,无需担心配置 / CRUD 端点。
快速入门
- 需要设置代理主密钥
- 需要连接数据库
遵循设置
1. 启动代理
litellm --config /path/to/config.yaml
#INFO: Proxy running on http://0.0.0.0:4000
2. 前往界面
http://0.0.0.0:4000/ui # <proxy_base_url>/ui
3. 在 Swagger 上获取管理界面链接
您的代理 Swagger 可在代理根目录下访问:例如:http://localhost:4000/
4. 修改默认用户名 + 密码
在代理的 .env 文件中设置以下内容
LITELLM_MASTER_KEY="sk-1234" # this is your master key for using the proxy server
UI_USERNAME=ishaan-litellm # username to sign in on UI
UI_PASSWORD=langchain # password to sign in on UI
访问 LiteLLM 界面时,系统会提示您输入用户名、密码
邀请其他用户
允许其他人创建/删除他们自己的密钥。
禁用管理界面
在您的环境变量中设置 DISABLE_ADMIN_UI="True"
来禁用管理界面。
如果您的安全团队对界面使用有额外限制,这将非常有用。
预期响应