跳至主要内容

集成

本节涵盖了可与 LiteLLM（代理或 SDK）配合使用的各种工具和服务的集成。

可观测性

通过可观测性平台跟踪、调试和分析 LLM 调用。

LLM 可观测性和分析。

指标、追踪和仪表盘。

厂商中立的追踪。

LLM 调试与评估。

Arize / Phoenix

ML 可观测性与评估。

LLM 请求日志记录与分析。

实验追踪。

Weights & Biases

ML 实验追踪。

产品分析。

查看所有可观测性集成 →

警报与监控

设置警报、指标收集和基础设施监控。

指标收集与监控。

事件响应与警报。

Slack、Teams 和 Webhook 警报。

持续性能分析。

护栏（Guardrail）提供商

为 LLM 调用增加安全性和内容过滤功能。

提示注入检测。

Azure 内容安全

内容审查。

Bedrock Guardrails

AWS Bedrock 安全保护。

OpenAI 内容审核

OpenAI 内容策略。

防止凭据泄露。

屏蔽敏感个人信息。

查看所有护栏提供商 →

策略

在您的 LLM 部署中定义并强制执行使用策略。

基于策略的护栏规则。

策略流构建器

可视化策略配置。

预置的策略模板。

AI 工具

将 LiteLLM 连接到 AI 驱动的编码和生产力工具。

自托管 ChatGPT 风格界面。

将 LiteLLM 与 Claude Code 结合使用。

AI 代码编辑器集成。

GitHub Copilot 集成。

开源编码助手。

Retool AI 助手。

智能体 SDK

将 LiteLLM 与智能体框架和 SDK 配合使用。

OpenAI Agents SDK

使用 OpenAI 的 SDK 构建智能体。

Claude Agent SDK

使用 Anthropic 的 SDK 构建智能体。

Google 智能体开发工具包。

应用内 AI Copilot。

构建具有持久记忆的态势感知 LLM 智能体。

实时语音和视频 AI 智能体。

提示词管理

管理、版本化和部署提示词（Prompts）。

LiteLLM 提示词管理

内置提示词管理。

自定义提示词管理

使用您自己的提示词存储。

Arize Phoenix 提示词

使用 Phoenix 进行提示词管理。

使用 AI 智能体进行管理

使用 AI 智能体管理您的 LiteLLM 部署——通过自然语言创建用户、团队、密钥、模型等。

通过 Claude Code 管理 LiteLLM——使用自然语言指令创建密钥、团队、模型等。

可观测性
告警与监控
护栏（Guardrail）提供商
策略
AI 工具
Agent SDK
Prompt Management
通过 AI 代理进行管理

🚅

LiteLLM 企业版

SSO/SAML、审计日志、支出跟踪、多团队管理和护栏 —— 专为生产环境构建。

了解更多 →