一篇标记为“fireworks ai”的帖子

deepgram, fireworks ai, vision, admin ui, dependency upgrades

新模型​

Deepgram 语音转文本​

新增对 Deepgram 模型语音转文本的支持。 由此开始

from litellm import transcription
import os 

# set api keys 
os.environ["DEEPGRAM_API_KEY"] = ""
audio_file = open("/path/to/audio.mp3", "rb")

response = transcription(model="deepgram/nova-2", file=audio_file)

print(f"response: {response}")

Fireworks AI - 所有模型均支持 Vision​

LiteLLM 支持对 Fireworks AI 模型进行文档内嵌。这对于非 Vision 模型但仍需要解析文档/图像等的模型非常有用。如果模型不是 Vision 模型，LiteLLM 将会在 image_url 的 url 中添加 #transform=inline。 查看代码

代理管理界面​

• 测试密钥 选项卡显示响应中使用的 模型

• 测试密钥 选项卡支持渲染 .md, .py (任何代码/Markdown 格式) 内容

依赖升级​

• (安全修复) 升级到 fastapi==0.115.5 https://github.com/BerriAI/litellm/pull/7447

错误修复​

• 增加对实时模型的健康检查支持 在此查看
• audio_transcription 模型健康检查错误 https://github.com/BerriAI/litellm/issues/5999