LiteLLM 是什么？

LiteLLM 是一个开源 LLM 网关，用于管理 100 多个 LLM 的认证、负载均衡和支出跟踪。全部采用 OpenAI 格式。

截图

链接

• 官方网站