deepgram
, fireworks ai
, vision
, admin ui
, dependency upgrades
新模型
Deepgram 语音转文本
Deepgram 模型新增语音转文本支持。 从这里开始
from litellm import transcription
import os
# set api keys
os.environ["DEEPGRAM_API_KEY"] = ""
audio_file = open("/path/to/audio.mp3", "rb")
response = transcription(model="deepgram/nova-2", file=audio_file)
print(f"response: {response}")
Fireworks AI - 视觉支持所有模型
LiteLLM 支持 Fireworks AI 模型的文档内联。这对于非视觉模型但仍需要解析文档/图像等的模型很有用。如果模型不是视觉模型,LiteLLM 将在 image_url 的 url 中添加 #transform=inline
查看代码
代理管理界面
测试 Key
标签页显示响应中使用的model
测试 Key
标签页以.md
,.py
格式(任意代码/Markdown 格式)渲染内容
依赖升级
- (安全修复)升级到
fastapi==0.115.5
https://github.com/BerriAI/litellm/pull/7447
错误修复
- 为实时模型添加健康检查支持 这里
- audio_transcription 模型健康检查错误 https://github.com/BerriAI/litellm/issues/5999