跳至主要内容

企业版

信息
  • ✨ SSO 最多可免费使用 5 个用户。超过 5 个用户，则需要企业许可证。 在此处开始使用企业版
  • 企业版适合哪些用户？ 允许 100 多位用户访问 或 10 多个 AI 用例的公司。 如果您不确定，请与我们联系 以讨论您的需求。

适用于需要 SSO、用户管理和 LiteLLM Proxy 专业支持的公司

信息

获取 7 天免费试用密钥 在此处

企业版功能​

包含所有企业版功能。

可通过 AWS / Azure Marketplace 采购

涵盖内容

  • 企业版功能
  • ✅ 功能优先级
  • ✅ 自定义集成
  • ✅ 专业支持 - 专用 Slack/Teams 频道

自托管​

自行管理 - 您可以部署我们的 Docker 镜像或从我们的 pip 包构建自定义镜像，并管理您自己的基础设施。 在这种情况下，我们将向您提供许可证密钥 + 通过专用支持渠道提供支持。

自托管企业版的成本是多少？​

自托管企业版部署需要我们的团队了解您的确切需求。 请与我们联系以了解更多信息

使用企业许可证进行部署如何操作？​

您只需部署 我们的 docker 镜像 并获取企业许可证密钥添加到您的环境中以解锁其他功能（SSO 等）。

LITELLM_LICENSE="eyJ..."

不会有任何数据离开您的环境。

托管 LiteLLM Proxy​

LiteLLM 维护代理，因此您可以专注于您的核心产品。

我们为您的团队提供一个专用代理，并管理基础设施。

状态：GA​

我们的代理已被客户在生产环境中使用。

请访问我们的状态页面查看 实时可靠性

优势​

  • 无需维护，无需基础设施：我们将维护代理，并启动任何其他基础设施（例如：用于支出日志的单独服务器），以确保您可以负载均衡 + 跟踪多个 LLM 项目的支出。
  • 可靠：我们的托管代理经过每秒 1k 请求的测试，使其在高负载下可靠。
  • 安全：LiteLLM 已通过 SOC-2 Type 2 和 ISO 27001 认证，以确保您的数据尽可能安全。

LiteLLM Cloud 支持的数据区域​

您可以在 此处 找到 litellm 支持的数据区域

常见问题解答​

如何设置和验证您的企业许可证​

  1. 将您的许可证密钥添加到环境中
LITELLM_LICENSE="eyJ..."

  1. 重启 LiteLLM Proxy。

  2. 打开 http://<您的代理主机>:<端口>/ — Swagger 页面应显示描述中的 “企业版”。 如果没有，请检查密钥是否正确、未过期，以及代理是否已完全重启。

SLA + 专业支持​

专业支持可以协助 LLM/Provider 集成、部署、升级管理和 LLM Provider 故障排除。 我们无法解决您自己的基础设施相关问题，但我们会指导您修复它们。

  • Sev0 问题 1 小时 - 100% 生产流量失败
  • Sev1 6 小时 - < 100% 生产流量失败
  • Sev2-Sev3 24 小时，太平洋时间上午 7 点至下午 7 点（周一至周六）- 设置问题，例如 Redis 在我们的端工作，但在您的基础设施上不工作。
  • 软件漏洞补丁 72 小时 SLA。

我们可以根据您的需求和问题的严重程度提供定制 SLA

数据安全 / 法律 / 合规性常见问题解答​

数据安全 / 法律 / 合规性常见问题解答

定价​

定价基于使用量。 我们可以确定一个适合您团队的价格，在通话中。

联系我们以了解更多信息

屏幕截图​

1. 创建密钥​

2. 添加模型​

3. 跟踪支出​

4. 配置负载均衡​