Weights & Biases - 记录 LLM 输入/输出

提示

这是社区维护的，如果您遇到 bug，请提交 issue https://github.com/BerriAI/litellm

Weights & Biases 帮助 AI 开发者更快地构建更好的模型 https://wandb.ai

信息

我们希望了解如何改进回调！请联系 LiteLLM 创始人或加入我们的 Discord

前提条件

确保您已运行 pip install wandb 以进行此集成

pip install wandb litellm

快速开始

仅用两行代码，即可立即记录您的响应 跨所有提供商 通过 Weights & Biases

litellm.success_callback = ["wandb"]

# pip install wandb 
import litellm
import os

os.environ["WANDB_API_KEY"] = ""
# LLM API Keys
os.environ['OPENAI_API_KEY']=""

# set wandb as a callback, litellm will send the data to Weights & Biases
litellm.success_callback = ["wandb"] 
 
# openai call
response = litellm.completion(
  model="gpt-3.5-turbo",
  messages=[
    {"role": "user", "content": "Hi 👋 - i'm openai"}
  ]
)

支持与创始人交流

• 安排演示 👋
• 社区 Discord 💭
• 我们的电话 📞 +1 (770) 8783-106 / ‭+1 (412) 618-6238‬
• 我们的邮箱 ✉️ ishaan@berri.ai / krrish@berri.ai