故障排除与支持
寻求帮助时需要提供的信息
报告问题时,请尽可能包含以下信息。如果您无法提供所有信息,也没关系——尤其是在生产环境中,触发原因可能未知。分享大部分信息将有助于我们更有效地帮助您。
1. LiteLLM 配置文件
您的 config.yaml 文件(删除敏感信息,如 API 密钥)。如果未在配置文件中,请包含 worker 数量。
2. 初始化命令
启动 LiteLLM 的命令(例如,litellm --config config.yaml --num_workers 8 --detailed_debug)。
3. LiteLLM 版本
- 当前版本
- 首次出现问题时的版本(如果不同)
- 如果已升级,版本从 → 更改为
4. 环境变量
不在您配置中的非敏感环境变量(例如,NUM_WORKERS、LITELLM_LOG、LITELLM_MODE)。请勿包含密码或 API 密钥。
5. 服务器规格
CPU 核心数、RAM、操作系统、实例/副本数量等。
6. 数据库和 Redis 使用情况
- 数据库: 使用数据库吗?(设置了
DATABASE_URL),数据库类型和版本 - Redis: 使用 Redis 吗?Redis 版本、配置类型(单机/集群/哨兵)。
7. 端点
您正在使用的且遇到问题的端点(例如,/chat/completions、/embeddings)。
8. 请求示例
导致问题的真实请求示例,包括预期的与实际响应以及任何错误消息。
9. 错误日志、堆栈跟踪和指标
完整的错误日志、堆栈跟踪以及可能有助于诊断问题的服务指标图像(CPU、内存、请求速率等)。
UI 问题
如果您在使用 LiteLLM Admin UI 时遇到问题,请除了上述常规详细信息外,还包括以下信息。
1. 重现步骤
如何触发问题的清晰、逐步描述(例如,“导航到设置 → 团队,单击“创建团队”,填写字段,单击提交 → 出现错误”)。
2. LiteLLM 版本
您正在运行的 LiteLLM 的当前版本。通过 litellm --version 或 UI 的设置页面检查。
3. 架构与部署设置
分布式环境是 UI 问题的一个已知来源。请描述
- LiteLLM 实例/副本数量以及它们的部署方式(例如,Kubernetes、Docker Compose、ECS)
- 负载均衡器类型和配置(例如,ALB、Nginx、Cloudflare Tunnel)——包括是否启用了会话粘性
- 访问 UI 的方式——直接通过 LiteLLM、通过反向代理或通过入口控制器
- 用户和 LiteLLM 服务器之间是否有任何 CDN 或缓存层
4. 网络选项卡请求
打开您的浏览器开发者工具(F12 → 网络选项卡),重现问题,并分享
- 失败的请求——URL、方法、状态码和响应体
- 相关网络活动的屏幕截图或 HAR 导出
- 控制台选项卡中显示的任何 CORS 或混合内容错误
5. 环境变量
与 UI 和代理设置相关的非敏感环境变量,例如
LITELLM_MASTER_KEYPROXY_BASE_URL/LITELLM_PROXY_BASE_URLUI_BASE_PATH- 任何 SSO 相关变量(例如,
GOOGLE_CLIENT_ID、MICROSOFT_TENANT)
请不要包含密码、密钥或 API 密钥。
6. 浏览器和访问详细信息
- 浏览器和版本(例如,Chrome 120、Firefox 121)
- 用于访问 UI 的 访问 URL(删除敏感部分)
- 问题是发生在所有用户还是特定角色(管理员、内部用户等)
7. 屏幕截图或屏幕录像
问题的屏幕截图或简短的屏幕录像非常有帮助。包括任何可见的错误消息、提示或意外行为。
支持渠道
我们的电话号码📞 +1 (770) 8783-106 / +1 (412) 618-6238
我们的邮箱 ✉️ ishaan@berri.ai / krrish@berri.ai