R_REDDYX.XYZ
AIPython★ 1,285⑂ 393 форковMIT

sgl-project/SpecForge

БЫСТРО ТРЕНИРУЙ СПЕКУЛЯТИВНЫЙ ДЕКОД

SpecForge упрощает обучение моделей спекулятивного декодинга и их экспорт в SGLang для высокопроизводительного обслуживания.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Автоматическое обучение спекулятивных моделей одной командой
  • Простой экспорт trained моделей в формат SGLang
  • Поддержка популярных базовых LLM и гибкая настройка
#eagle#eagle3#fsdp#llm#pytorch#sglang#training
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

n8n-as-code — СУПЕРСИЛА ДЛЯ AI AGENT★ 1285ОТКРЫТЫЙ АВТОНОМНЫЙ АНДРОИД-АГЕНТ★ 1285deepagentsjs - ФРЕЙМВОРК ДЛЯ АГЕНТОВ С 0★ 1284AIPex: AI-АВТОМАТИЗАЦИЯ БРАУЗЕРА★ 1286SKILLEVALUATOR: ОЦЕНКА ИИ-АГЕНТОВ★ 1286ОТКРЫТЫЕ ШАГИ ДЛЯ ИИ★ 1284

← ВЕСЬ КАТАЛОГ

sgl-project/SpecForge — Быстро тренируй спекулятивный декод