AIC++★ 855⑂ 94 форковApache-2.0
Helldez/BigMoeOnEdge
BIGMOEONEDGE - СУПЕР МОЭ НА ТЕЛЕФОНЕ
Проект позволяет запускать модели Mixture‑of‑Experts размером 284 B на устройстве с 12 ГБ ОЗУ, используя только CPU и llama.cpp без потери точности.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запуск 284B MoE на 12 ГБ RAM
- CPU‑only, без необходимости GPU
- Потеря точности отсутствует, работает на llama.cpp
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram