Secret Managers 概述
信息
LiteLLM 支持从 Azure Key Vault、Google Secret Manager、Hashicorp Vault、CyberArk Conjur 和 AWS Secret Manager 读取密钥(例如 OPENAI_API_KEY) 以及 写入密钥(例如虚拟密钥)。
支持的密钥管理器
- AWS 密钥管理服务 (AWS Key Management Service)
- AWS Secret Manager
- Azure Key Vault
- CyberArk Conjur
- Google Secret Manager
- Google Key Management Service
- Hashicorp Vault
所有密钥管理器设置
所有与密钥管理相关的设置
general_settings:
key_management_system: "aws_secret_manager" # REQUIRED
key_management_settings:
# Storing Virtual Keys Settings
store_virtual_keys: true # OPTIONAL. Defaults to False, when True will store virtual keys in secret manager
prefix_for_stored_virtual_keys: "litellm/" # OPTIONAL.I f set, this prefix will be used for stored virtual keys in the secret manager
# Access Mode Settings
access_mode: "write_only" # OPTIONAL. Literal["read_only", "write_only", "read_and_write"]. Defaults to "read_only"
# Hosted Keys Settings
hosted_keys: ["litellm_master_key"] # OPTIONAL. Specify which env keys you stored on AWS
# K/V pairs in 1 AWS Secret Settings
primary_secret_name: "litellm_secrets" # OPTIONAL. Read multiple keys from one JSON secret on AWS Secret Manager
团队级密钥管理器设置
团队级密钥管理器设置允许每个团队使用自己的密钥管理配置。当创建与团队关联的虚拟密钥时,将使用这些设置。
请按照以下步骤进行配置
-
创建一个团队
打开“团队 (Teams)”页面并点击Create Team(创建团队)以启动模态框。 -
展开“其他设置 (Additional Settings)”
使用Additional Settings开关以显示高级配置面板。
-
配置密钥管理器
在Secret Manager Settings(密钥管理器设置)面板中,粘贴特定于提供程序的 JSON。有关支持的键/值,请参阅各个提供程序页面(AWS、Azure、Google、Hashicorp 等)。目前要求使用 JSON 格式,但我们计划在未来添加对 UI 更友好的编辑器。 -
创建团队
检查输入信息并点击Create Team(创建团队)进行保存。
保存后,LiteLLM 将使用此配置。