AIPython★ 46,602
BerriAI/litellm
Единый шлюз LLM
Python SDK и прокси‑сервер для вызова 100+ LLM через OpenAI‑совместимый API с учётом затрат, защиты, балансировки нагрузки и логирования.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка >100 провайдеров LLM
- Отслеживание стоимости и ограничений
- Балансировка нагрузки и логирование
#ai-gateway#anthropic#azure-openai#bedrock#gateway#langchain#litellm#llm#llm-gateway#llmops#mcp-gateway#openai
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram