跳至主要内容

一篇标记为“批次”的帖子

查看所有标签

Krrish Dholakia
Ishaan Jaffer

batches, guardrails, team management, custom auth


信息

在此获取免费的 7 天 LiteLLM 企业版试用。 从这里开始

无需通话

✨ 批次 API (/batches) 的成本追踪和日志记录

追踪批次创建任务的成本和使用量。 从这里开始

/guardrails/list 端点

向用户显示可用的护栏。 从这里开始

✨ 允许团队添加模型

这使得团队管理员可以通过 litellm 代理调用他们自己的微调模型。 从这里开始

✨ 自定义认证的常见检查

在自定义认证中调用内部 common_checks 函数现在作为一项企业版功能强制执行。这允许管理员在其自定义认证实现中使用 litellm 的默认预算/认证检查。 从这里开始

✨ 分配团队管理员

团队管理员功能已结束 Beta 测试,并转移到我们的企业版层级。这使得代理管理员可以允许其他人管理他们自己团队的密钥/模型(对于生产环境中的项目很有用)。 从这里开始