/a2a - A2A 智能体网关
/assistants (智能体)
OpenAI 已弃用 Assistants API，该服务将于 2026 年 8 月 26 日关闭。
/audio/transcriptions (音频转录)
概述
/audio/speech (音频语音)
概述
/batches (批处理)
2 个项目
/containers (容器)
管理 OpenAI 代码解释器容器（会话），用于在隔离环境中执行代码。
/containers/files (容器文件)
管理代码解释器容器内的文件。当代码解释器生成输出（图表、CSV、图像等）时，会自动创建这些文件。
/chat/completions (聊天补全)
4 个项目
/completions (补全)
概述
/converse (对话)
通过 LiteLLM Proxy 调用 Bedrock 的 /converse 端点。
/embeddings (嵌入)
快速入门
/files (文件)
2 个项目
/fine_tuning (微调)
2 个项目
/evals (评估)
LiteLLM Proxy 支持 OpenAI 的评估 (Evals) API，允许您创建、管理和运行评估，以根据定义的测试标准衡量模型性能。
/generateContent (生成内容)
使用 LiteLLM 调用 Google AI 的 generateContent 端点，用于文本生成、多模态交互和流式响应。
/guardrails/apply_guardrail (应用护栏)
使用此端点直接调用在 LiteLLM 实例上配置的护栏。这对于需要直接调用护栏的服务非常有用。
/invoke (调用)
通过 LiteLLM Proxy 调用 Bedrock 的 /invoke 端点。
/interactions (交互)
| 功能 | 是否支持 | 备注 |
/v1beta/agents (Gemini 托管智能体)
LiteLLM 现已支持 Google AI Studio 托管智能体 API。通过 LiteLLM 创建、管理和运行自定义智能体。
/memory (内存)
用于在 LiteLLM 代理上存储和检索用户/团队范围内存条目的 CRUD 端点。使用这些端点可以持久化对话上下文、智能体记忆、团队手册或任何针对用户和团队的键值数据。
/images/edits (图像编辑)
LiteLLM 提供映射到 OpenAI /images/edits API 端点的图像编辑功能。现在支持单张和多张图像编辑。
图像生成
概述
[测试版] 图像变体
现已支持 OpenAI 的 /image/variations 端点。
/videos (视频)
| 功能 | 是否支持 |
/vector_stores/\{vector_store_id\}/files
向量存储文件代表存储在向量存储中的各个文件。
/vector_stores - 创建向量存储
创建一个向量存储，可用于存储和搜索文档块，以支持检索增强生成 (RAG) 用例。
/vector_stores/search - 搜索向量存储
根据查询和文件属性过滤器搜索向量存储中的相关数据块。这对于检索增强生成 (RAG) 用例非常有用。
/mcp - 模型上下文协议
17 项
/v1/messages (消息)
3 项
Token 计数
概述
/v1/messages/count_tokens (统计 Token)
概述
/moderations (内容审核)
用法
/ocr (光学字符识别)
| 功能 | 是否支持 |
透传端点 (Anthropic SDK 等)
16 项
/rag/ingest (RAG 摄入)
一体化文档摄入管道：上传 → 分块 → 嵌入 → 向量存储
/rag/query (RAG 查询)
RAG 查询端点：搜索向量存储 → (重排序) → LLM 补全
/realtime (实时)
使用此功能可在 Azure + OpenAI + xAI 等之间进行负载均衡。
/realtime - WebRTC 支持
通过浏览器/移动客户端的 WebRTC 连接到实时 API。LiteLLM 处理身份验证；音频流直接传输到 OpenAI/Azure。
/rerank (重排序)
LiteLLM 的重排序 API 遵循 Cohere API 的请求/响应规范。
/responses (响应)
LiteLLM 提供了一个符合 OpenAI /responses API 规范的端点。
使用 Responses API 进行提示词管理
通过传递 promptid 和可选的 promptvariables，使用 LiteLLM 提示词管理与 /v1/responses 进行交互。
/responses/compact (压缩响应)
使用 OpenAI 的 /responses/compact 端点压缩对话历史记录。
/search (搜索)
12 项
/skills - Anthropic 技能 API
| 功能 | 是否支持 |