供应商折扣

为特定提供商应用基于百分比的折扣。这对于与提供商协商的企业定价非常有用。

与 LiteLLM 代理服务器一起使用

第一步：将折扣配置添加到 config.yaml

# Apply 5% discount to all Vertex AI and Gemini costs
cost_discount_config:
  vertex_ai: 0.05  # 5% discount
  gemini: 0.05     # 5% discount
  openrouter: 0.05 # 5% discount
  # openai: 0.10   # 10% discount (example)

步骤 2：启动代理

litellm /path/to/config.yaml

折扣将自动应用于所配置提供商的所有成本计算中。

折扣如何运作

• 折扣会在所有其他成本计算（Token、缓存、工具等）之后应用
• 折扣为百分比形式（0.05 = 5%，0.10 = 10% 等）
• 折扣仅适用于已配置的提供商
• 原始成本、折扣金额和最终成本会在成本明细日志中进行跟踪
• 折扣信息会在响应头中返回
  • x-litellm-response-cost - 折扣后的最终成本
  • x-litellm-response-cost-original - 折扣前的成本
  • x-litellm-response-cost-discount-amount - 折扣金额（以美元计）

支持的供应商

您可以将折扣应用于所有 LiteLLM 支持的提供商。常见示例如下：

• vertex_ai - Google Vertex AI
• gemini - Google Gemini
• openai - OpenAI
• anthropic - Anthropic
• azure - Azure OpenAI
• bedrock - AWS Bedrock
• cohere - Cohere
• openrouter - OpenRouter

请参阅 LlmProviders 枚举以获取完整的提供商列表。