AIC★ 691⑂ 23 форковMIT
hyperionaidev/smolmaxxing
SMOLMAXXING: LLM НА МИКРОКОНТРОЛЛЕРАХ
Библиотека на C для запуска LLM на микроконтроллерах и слабом железе. Альтернатива llama.cpp с фокусом на минимальный расход памяти. Поддерживает квантование и разные архитектуры моделей.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запускает LLM на микроконтроллерах с 256 KB RAM
- Написан на чистом C без зависимостей
- Поддерживает GGUF, квантование 2-8 бит
- Работает на ARM, RISC-V, x86 bare metal
#edge-ai#llama-cpp#llama-cpp-alternative#llm#local-llm#local-llm-support#on-device#quantization#quantization-algorithms
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram