ridgerchu/matmulfreellm

Проект matmulfreellm реализует языковую модель без обычных операций умножения матриц, используя линейные трансформеры. Это позволяет существенно снизить вычислительную нагрузку при обучении и инференсе больших языковых моделей.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

• Выполняет forward-pass LLM без матричного умножения через линейное внимание.
• Совместим с API HuggingFace Transformers для быстрой загрузки моделей.
• Поддерживает обучение и дообучение на стандартных наборах данных (WikiText, C4).
• Снижает потребление GPU памяти до 40% по сравнению с классическими трансформерами.

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.