AIPython★ 219⑂ 32 форковMIT
etalab-ia/OpenGateLLM
ОТКРЫТЫЙ ШЛЮЗ ДЛЯ LLM
OpenGateLLM — открытый универсальный интерфейс для запуска и управления самодеплойными LLM. Позволяет легко подключать модели через API и контролировать их работу в одном месте.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запускает любые самодеплойные LLM через единый API-шлюз.
- Предоставляет веб‑панель для мониторинга использования и производительности моделей.
- Поддерживает интеграцию с популярными фреймворками: Hugging Face, Ollama, vLLM.
- Упрощает деплой через Docker‑комpose и Kubernetes с готовыми конфигами.
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram