R_REDDYX.XYZ
AIC★ 1,028⑂ 111 форковMIT

microsoft/Tutel

TUTEL УСКОРЯЕМ МОЭ НА C

Оптимизированная библиотека Mixture‑of‑Experts для ускоренного инференса LLM с поддержкой FP8, NVFP4 и MXFP4.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Поддержка FP8, NVFP4, MXFP4 для низкой точности
  • Совместим с GptOss, DeepSeek, Kimi‑K2, Qwen3
  • Написан на чистом C, минимальные зависимости
#deepseek#llm#mixture-of-experts#moe#pytorch
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

ТРЕЙДМЕМОРИ ПРОТОКОЛ: ИИ ТРЕЙДИНГ★ 1028ОБЕДИНЯЕМ CLOUDBASE И ИИ★ 1029EASY-AGENT: AI КОДИРОВЩИК В ТЕРМИНАЛЕ★ 1029ОБЗОР MULTIMODAL CHAIN-OF-THOUGHT★ 1029Патч ClawGod для Claude★ 1026Распределённый LLM для всех★ 1030

← ВЕСЬ КАТАЛОГ

microsoft/Tutel — Tutel ускоряем моэ на C | REDDYX AI