LiteLLM

一个开源工具，旨在简化多种大型语言模型（LLM）的调用和管理。通过提供统一的接口，使开发者能够以类似 OpenAI 的 API 风格调用超过 100 个 LLM，包括 OpenAI、Azure、Gemini、Bedrock 等 。