AIShell★ 261
Entrpi/ds4-on-spark
DS4 НА SPARK: УСКОРЕНИЕ 3X
Однокомандная установка fork ds4 на NVIDIA DGX Spark с ~3‑кратным ускорением prefill и ~1.5‑кратным decode.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Однокомандная установка и быстрый старт
- ~3× ускорение prefill и ~1.5× ускорение decode
- Полная поддержка непрерывного батчинга (continuous batch)
#benchmark#cuda#deepseek-v4-flash#dgx-spark#gb10#gguf#inference#llm#moe
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram