AIPython★ 907
tanishqkumar/ssd
Лёгкий движок инференса SSD
Компактный движок инференса с поддержкой спекулятивного декодирования. Написан на Python.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Спекулятивное декодирование
- Лёгкий и быстрый
- Написан на Python
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram