R_REDDYX.XYZ
AIPython★ 268⑂ 70 форковMIT

lightseekorg/TorchSpec

TORCHSPEC СПЕКУЛЯТИВНОЕ ДЕКОДИРОВАНИЕ

Библиотека на PyTorch для обучения моделей speculative decoding, ускоряющая генерацию текста.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Нативная интеграция с PyTorch для простого использования
  • Поддержка различных архитектур speculative decoding
  • Автоматическое ускорение генерации без потери качества
#eagle3#fsdp#lightseek#llm#mooncake#pytorch#sglang#tokenspeed#vllm
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

LINEARIS CLI ДЛЯ LINEAR.APP★ 268LLAMA_ROS ROS 2 LLM★ 268GRACE: ИИ-КОД С ЗНАНИЕВЫМИ ГРАФАМИ★ 268МУЛЬТИТЕРМИНАЛ ДЛЯ АГЕНТОВ★ 268ОПТИМИЗАЦИЯ ПРОМПТОВ SEEDANCE 2.5★ 268BKMR УМНЫЙ МЕНЕДЖЕР ЗНАНИЙ★ 268

← ВЕСЬ КАТАЛОГ

lightseekorg/TorchSpec — Torchspec спекулятивное декодирование