R_REDDYX.XYZ
AIPython★ 69

zimingttkx/QuantumFlow

QuantumFlow: Распределённый инференс LLM

Распределённый фреймворк для планирования инференса LLM с поддержкой нескольких бэкендов и адаптивными стратегиями.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Поддержка vLLM, TGI, SGLang
  • Адаптивные стратегии планирования
  • Управление кластером
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

🤖 SKILLS - НАВЫКИ ДЛЯ НАСТОЯЩИХ ИНЖЕНЕРОВ★ 69Obsidian Центр управления★ 69Рабочая среда JEV для данных★ 69Пассивный приём Meshtastic LoRa★ 70AI для дизайнеров★ 68AWESOME-AGENT-EVOLUTION: КАРТА ЭВОЛЮЦИИ АГЕНТОВ★ 68

← ВЕСЬ КАТАЛОГ

zimingttkx/QuantumFlow — QuantumFlow: Распределённый…