R_REDDYX.XYZ
AIShell★ 3,247

llm-d/llm-d

llm-d/llm-d

Achieve state of the art inference performance with modern accelerators on Kubernetes

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Оптимизирован для GPU и TPU в K8s
  • Автоматическое масштабирование inference workloads
  • Минималистичный shell‑интерфейс без зависимостей
#ai#cncf#distributed-inference#gpu#inference#intelligent-routing#kubernetes#llm#model-server
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

OPEN identifiableICO - ИИ НА ДЕСКТОП★ 3247EDGEVER — ИИ-АЛЬТЕРНАТИВА EVERNOTE★ 3247ЧАТ-ИНТЕРФЕЙС ДЛЯ AI-АГЕНТОВ★ 3253PENGUIN-HARNESS - АВТОМАТИЗИРОВАННЫЙ АГЕНТ-ФАБРИКА ДЛЯ ДЕСКТОПА★ 3240ШАБЛОНЫ PRD И ТЕХДИЗАЙНА★ 3257GRAPHJIN - ЕДИНЫЙ ГРАФ ДЛЯ ИИ★ 3236

← ВЕСЬ КАТАЛОГ

llm-d/llm-d — llm-d/llm-d | REDDYX AI