跳至主要内容

故障排除与支持

寻求帮助时需要提供的信息

报告问题时,请尽可能包含以下信息。如果您无法提供所有信息,也没关系——尤其是在生产环境中,触发原因可能未知。分享大部分信息将有助于我们更有效地帮助您。

1. LiteLLM 配置文件

您的 config.yaml 文件(删除敏感信息,如 API 密钥)。如果未在配置文件中,请包含 worker 数量。

2. 初始化命令

启动 LiteLLM 的命令(例如,litellm --config config.yaml --num_workers 8 --detailed_debug)。

3. LiteLLM 版本

  • 当前版本
  • 首次出现问题时的版本(如果不同)
  • 如果已升级,版本从 → 更改为

4. 环境变量

不在您配置中的非敏感环境变量(例如,NUM_WORKERSLITELLM_LOGLITELLM_MODE)。请勿包含密码或 API 密钥。

5. 服务器规格

CPU 核心数、RAM、操作系统、实例/副本数量等。

6. 数据库和 Redis 使用情况

  • 数据库: 使用数据库吗?(设置了 DATABASE_URL),数据库类型和版本
  • Redis: 使用 Redis 吗?Redis 版本、配置类型(单机/集群/哨兵)。

7. 端点

您正在使用的且遇到问题的端点(例如,/chat/completions/embeddings)。

8. 请求示例

导致问题的真实请求示例,包括预期的与实际响应以及任何错误消息。

9. 错误日志、堆栈跟踪和指标

完整的错误日志、堆栈跟踪以及可能有助于诊断问题的服务指标图像(CPU、内存、请求速率等)。


UI 问题

如果您在使用 LiteLLM Admin UI 时遇到问题,请除了上述常规详细信息外,还包括以下信息。

1. 重现步骤

如何触发问题的清晰、逐步描述(例如,“导航到设置 → 团队,单击“创建团队”,填写字段,单击提交 → 出现错误”)。

2. LiteLLM 版本

您正在运行的 LiteLLM 的当前版本。通过 litellm --version 或 UI 的设置页面检查。

3. 架构与部署设置

分布式环境是 UI 问题的一个已知来源。请描述

  • LiteLLM 实例/副本数量以及它们的部署方式(例如,Kubernetes、Docker Compose、ECS)
  • 负载均衡器类型和配置(例如,ALB、Nginx、Cloudflare Tunnel)——包括是否启用了会话粘性
  • 访问 UI 的方式——直接通过 LiteLLM、通过反向代理或通过入口控制器
  • 用户和 LiteLLM 服务器之间是否有任何 CDN 或缓存层

4. 网络选项卡请求

打开您的浏览器开发者工具(F12 → 网络选项卡),重现问题,并分享

  • 失败的请求——URL、方法、状态码和响应体
  • 相关网络活动的屏幕截图或 HAR 导出
  • 控制台选项卡中显示的任何 CORS 或混合内容错误

5. 环境变量

与 UI 和代理设置相关的非敏感环境变量,例如

  • LITELLM_MASTER_KEY
  • PROXY_BASE_URL / LITELLM_PROXY_BASE_URL
  • UI_BASE_PATH
  • 任何 SSO 相关变量(例如,GOOGLE_CLIENT_IDMICROSOFT_TENANT

不要包含密码、密钥或 API 密钥。

6. 浏览器和访问详细信息

  • 浏览器和版本(例如,Chrome 120、Firefox 121)
  • 用于访问 UI 的 访问 URL(删除敏感部分)
  • 问题是发生在所有用户还是特定角色(管理员、内部用户等)

7. 屏幕截图或屏幕录像

问题的屏幕截图或简短的屏幕录像非常有帮助。包括任何可见的错误消息、提示或意外行为。


支持渠道

安排演示 👋

社区 Discord 💭 社区 Slack 💭

我们的电话号码📞 +1 (770) 8783-106 / +1 (412) 618-6238

我们的邮箱 ✉️ ishaan@berri.ai / krrish@berri.ai

Chat on WhatsApp Chat on Discord