AIC++★ 374
Helldez/BigMoeOnEdge
BIGMOEONEDGE - СУПЕР МОЭ НА ТЕЛЕФОНЕ
Проект позволяет запускать модели Mixture‑of‑Experts размером 284 B на устройстве с 12 ГБ ОЗУ, используя только CPU и llama.cpp без потери точности.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запуск 284B MoE на 12 ГБ RAM
- CPU‑only, без необходимости GPU
- Потеря точности отсутствует, работает на llama.cpp
#android#cpp#edge-ai#gemma#gguf#gpt-oss#inference#llama-cpp#llm#mixture-of-experts#moe#on-device-ai
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram