tanishqkumar/ssd

Компактный движок инференса с поддержкой спекулятивного декодирования. Написан на Python.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

• Спекулятивное декодирование
• Лёгкий и быстрый
• Написан на Python

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.