deepgram
, fireworks ai
, vision
, 管理界面
, 依赖升级
新模型
Deepgram 语音转文本
新增对 Deepgram 模型的语音转文本支持。 从这里开始
from litellm import transcription
import os
# set api keys
os.environ["DEEPGRAM_API_KEY"] = ""
audio_file = open("/path/to/audio.mp3", "rb")
response = transcription(model="deepgram/nova-2", file=audio_file)
print(f"response: {response}")
Fireworks AI - 支持所有模型的视觉功能
LiteLLM 支持 Fireworks AI 模型的文档内联。这对于非视觉模型但仍需要解析文档/图像等的模型非常有用。如果模型不是视觉模型,LiteLLM 会在 image_url 的 URL 中添加 #transform=inline
查看代码
代理管理界面
测试密钥
标签页显示响应中使用的模型
测试密钥
标签页以.md
,.py
(任何代码/Markdown 格式) 渲染内容
依赖升级
- (安全修复) 升级到
fastapi==0.115.5
https://github.com/BerriAI/litellm/pull/7447
Bug 修复
- 添加对实时模型的健康检查支持 此处
- audio_transcription 模型健康检查错误 https://github.com/BerriAI/litellm/issues/5999