R_REDDYX.XYZ
AIPython★ 219⑂ 32 форковMIT

etalab-ia/OpenGateLLM

ОТКРЫТЫЙ ШЛЮЗ ДЛЯ LLM

OpenGateLLM — открытый универсальный интерфейс для запуска и управления самодеплойными LLM. Позволяет легко подключать модели через API и контролировать их работу в одном месте.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Запускает любые самодеплойные LLM через единый API-шлюз.
  • Предоставляет веб‑панель для мониторинга использования и производительности моделей.
  • Поддерживает интеграцию с популярными фреймворками: Hugging Face, Ollama, vLLM.
  • Упрощает деплой через Docker‑комpose и Kubernetes с готовыми конфигами.
#api#llm#self-hosted
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

MORLOC: ФУНКЦИОНАЛЬНЫЙ ТИПОВАННЫЙ ЯЗЫК★ 219SUNPEAK MCP ФРЕЙМВОРК ДЛЯ AI★ 219ETOS-LLM-STUDIO: AI-ПОМОЩНИК НА iOS★ 219DSH INDUSTRY RESEARCH PACK★ 219СНИЖЕНИЕ ТОКЕНОВ БЕЗ ЛИМИТОВ★ 219ЭМБОДИ: ПОЛНЫЙ MCP ТУЛКИТ ДЛЯ TOUCHDESIGNER★ 219

← ВЕСЬ КАТАЛОГ

etalab-ia/OpenGateLLM — Открытый шлюз для LLM | REDDYX AI