LiteLLM
Бесплатно
Платно
Не нужен VPN
LiteLLM — унифицированный API-слой к 100+ LLM: один формат вызовов для OpenAI, Anthropic, Azure и других. Инфраструктура для AI-инженеров.
Возможности:
- Единый API к множеству LLM-провайдеров
- Снижение vendor lock-in в коде приложения
- Роутинг, ключи и совместимость с OpenAI SDK
- Стандарт для продакшн LLM-шлюзов
Попробовать
Отзывы
