R_REDDYX.XYZ
AIGo★ 315⑂ 89 форковApache-2.0

sgl-project/rbg

RGB - МАСШТАБИРУЮЩЕЕ LLM-УСЛУГИ

Пакет на Go, позволяющий быстро развернуть LLM‑услуги в Kubernetes с минимальной настройкой.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Поддержка развертывания через Helm
  • Авто‑масштабирование на основе запросов
  • Интеграция с Prometheus и Grafana
#k8s#llm#pd-disagg#sglang
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

KANDEV: AI КАНБАН РАЗРАБОТКИ★ 315PLAMEN – АВТОМАТИЧЕСКИЙ АУДИТОР WEB3★ 315MCP-СЕРВЕРЫ НА NIX★ 315GRAPH RAG ОТ NEURIPS'25★ 315ЛОКАЛЬНАЯ ПАМЯТЬ ДЛЯ AI-АГЕНТОВ★ 315GREYWALL — ИЗОЛИРУЙ ИИ-АГЕНТОВ БЕЗОПАСНО★ 315

← ВЕСЬ КАТАЛОГ

sgl-project/rbg — Rgb - масштабирующее LLM-услуги