deepgram, fireworks ai, vision, admin ui, 依赖升级
新模型
Deepgram 语音转文本
新增对 Deepgram 模型的语音转文本支持。从这里开始
from litellm import transcription
import os
# set api keys
os.environ["DEEPGRAM_API_KEY"] = ""
audio_file = open("/path/to/audio.mp3", "rb")
response = transcription(model="deepgram/nova-2", file=audio_file)
print(f"response: {response}")
支持所有模型的 Fireworks AI - Vision
LiteLLM 支持 Fireworks AI 模型进行文档内联。这对于非视觉模型但仍需要解析文档/图片等的模型很有用。如果模型不是视觉模型，LiteLLM 会在 image_url 的 URL 中添加 #transform=inline 查看代码
代理管理界面
测试密钥选项卡显示响应中使用的模型
测试密钥选项卡以.md,.py(任何代码/Markdown 格式) 渲染内容
依赖升级
- (安全修复) 升级到
fastapi==0.115.5https://github.com/BerriAI/litellm/pull/7447
错误修复
- 新增对实时模型的健康检查支持 此处
- 使用 audio_transcription 模型时出现健康检查错误 https://github.com/BerriAI/litellm/issues/5999