跳到主要内容

自定义认证

您现在可以覆盖默认的 API 密钥认证。

方法如下

1. 创建自定义认证文件。​

确保响应类型遵循 UserAPIKeyAuth pydantic 对象。这用于记录特定于该用户密钥的使用情况。

from litellm.proxy._types import UserAPIKeyAuth

async def user_api_key_auth(request: Request, api_key: str) -> UserAPIKeyAuth: 
    try: 
        modified_master_key = "sk-my-master-key"
        if api_key == modified_master_key:
            return UserAPIKeyAuth(api_key=api_key)
        raise Exception
    except: 
        raise Exception

2. 传递文件路径（相对于 config.yaml）​

将文件路径传递给 config.yaml

例如，如果它们都在同一目录下 - ./config.yaml 和 ./custom_auth.py，它看起来像这样

model_list: 
  - model_name: "openai-model"
    litellm_params: 
      model: "gpt-3.5-turbo"

litellm_settings:
  drop_params: True
  set_verbose: True

general_settings:
  custom_auth: custom_auth.user_api_key_auth

实现代码

3. 启动代理​

$ litellm --config /path/to/config.yaml