AIPython★ 419⑂ 52 форковAGPL-3.0
MiaAI-Lab/Qwen3.8-Flash-Next-Dual-DGX-Sparks
Qwen3.8 Flash Next Dual DGX
Проект предоставляет ускоренную инференцию модели Qwen3.8 с использованием NVFP4 квантизации и vLLM на архитектуре NVIDIA DGX Spark.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Ускоренная инференция благодаря NVFP4 квантизации и оптимизированному ядру vLLM
- Два узла DGX Spark обеспечивают параллельную обработку и низкую латентность
- Поддержка динамического батчинга и автоматического масштабирования нагрузки
- Лёгкая интеграция через Python API с готовыми скриптами запуска
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram