添加 LLM 凭证

您可以在界面上添加 LLM 提供商凭证。添加凭证后，您可以在添加新模型时重复使用它们

添加凭证 + 模型

1. 导航至 LLM 凭证页面

前往 模型 -> LLM 凭证 -> 添加凭证

2. 添加凭证

选择您的 LLM 提供商，输入您的 API Key 并点击“添加凭证”

注意：凭证是基于提供商的，如果您选择 Vertex AI，则会看到 Vertex Project、Vertex Location 和 Vertex Credentials 字段

3. 在添加模型时使用凭证

前往 添加模型 -> 现有凭证 -> 在下拉菜单中选择您的凭证

从现有模型创建凭证

如果您已经创建了模型并希望存储模型凭证以便将来使用，请使用此选项

1. 选择要从中创建凭证的模型

前往 模型 -> 选择您的模型 -> 凭证 -> 创建凭证

2. 在添加模型时使用新凭证

前往 添加模型 -> 现有凭证 -> 在下拉菜单中选择您的凭证

常见问题

凭证如何存储？数据库中的凭证如果设置了 LITELLM_SALT_KEY，则使用该密钥进行加密/解密。如果未设置，则使用 LITELLM_MASTER_KEY 进行加密。这些密钥应保密，不要与他人共享。