AIPython★ 888
sgl-project/SpecForge
БЫСТРО ТРЕНИРУЙ СПЕКУЛЯТИВНЫЙ ДЕКОД
SpecForge упрощает обучение моделей спекулятивного декодинга и их экспорт в SGLang для высокопроизводительного обслуживания.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Автоматическое обучение спекулятивных моделей одной командой
- Простой экспорт trained моделей в формат SGLang
- Поддержка популярных базовых LLM и гибкая настройка
#eagle#eagle3#fsdp#llm#pytorch#sglang#training
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram