跳到主要内容

Logfire

Logfire 是一个开源的 LLM 应用可观测性和分析工具,提供详细的生产跟踪以及对质量、成本和延迟的精细视图

信息

我们希望了解如何改进回调!请与 LiteLLM 的创始人会面,或加入我们的Discord

前置要求

确保您已安装以下包以使用此集成

pip install litellm

pip install opentelemetry-api==1.25.0
pip install opentelemetry-sdk==1.25.0
pip install opentelemetry-exporter-otlp==1.25.0

快速入门

Logfire获取您的 Logfire token

litellm.callbacks = ["logfire"]
# pip install logfire
import litellm
import os

# from https://logfire.pydantic.dev/
os.environ["LOGFIRE_TOKEN"] = ""

# LLM API Keys
os.environ['OPENAI_API_KEY']=""

# set logfire as a callback, litellm will send the data to logfire
litellm.success_callback = ["logfire"]

# openai call
response = litellm.completion(
model="gpt-3.5-turbo",
messages=[
{"role": "user", "content": "Hi 👋 - i'm openai"}
]
)

支持和与创始人交流