R_REDDYX.XYZ
AIPython★ 3,101⑂ 204 форковApache-2.0

ridgerchu/matmulfreellm

MATMUL-FREE LLM НА PYTHОН

Проект matmulfreellm реализует языковую модель без обычных операций умножения матриц, используя линейные трансформеры. Это позволяет существенно снизить вычислительную нагрузку при обучении и инференсе больших языковых моделей.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Выполняет forward-pass LLM без матричного умножения через линейное внимание.
  • Совместим с API HuggingFace Transformers для быстрой загрузки моделей.
  • Поддерживает обучение и дообучение на стандартных наборах данных (WikiText, C4).
  • Снижает потребление GPU памяти до 40% по сравнению с классическими трансформерами.
#large-language-model#linear-transformer#llm
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

basic-memory - ПАМЯТЬ ДЛЯ AI ЧАТОВ★ 3102AI AGENT MICROSERVICE В PYTHON★ 3098MCP СЕРВЕР ДЛЯ SHADCN UI★ 3098paper-search-mcp - БЫСТРЫЙ ПОИСК НАУЧНЫХ РАБОТ★ 3097Бесплатная генерация видео★ 3094ZSeven-W/openpencil★ 3093

← ВЕСЬ КАТАЛОГ

ridgerchu/matmulfreellm — Matmul-Free LLM на pythон