Edge AI: open-source проекты на GitHub
18 репозиториев по теме Edge AI, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
AI РАМКА ДЛЯ УСТРОЙСТВ
Этот проект предлагает low-bit quant kernels и runtime для consumer устройств. Поддержка Android, ARM и edge-ai фреймворков.
★ 6,192 · C++Эффективный ИИ для мобильных устройств
Движок искусственного интеллекта с минимальной задержкой для смартфонов и носимых устройств.
★ 4,949 · COLARES — СВОЁ ОБЛАКО ДАННЫХ
Olares — открытая персональная облачная платформа на Go для полного контроля над вашими данными.
★ 4,558 · GoДвижок аудио-инференса на C++
Единый C++ движок на базе ggml для запуска аудио-моделей (TTS, STT, VAD, конвертация голоса) без зависимостей от Python.
★ 4,234 · C++Универсальная платформа FedML
Универсальная библиотека для распределённого обучения, сервиса моделей и федеративного обучения с кросc-облачным планировщиком.
★ 4,046 · PythonOGAM ОФЛАЙН AI ШВЕЙЦАРСКИЙ НОЖ
OGAM — чат, зрение, речь и генерация изображений офлайн на вашем устройстве без ключей и данных в сети.
★ 3,380 · TypeScriptИнженерия производительности CPU
Курс по изучению производительности процессора от одной инструкции до инференса в продакшене. Включает только первоисточники и запускаемый бенчмарк для каждой секции.
★ 1,160 · CMASTERAGENT - МОЩНЫЙ AI АГЕНТ ОФЛАЙН
MasterAgent позволяет создавать AI‑агентов, работающих полностью на устройстве с суб‑100ms задержкой на Qualcomm NPU без облака.
★ 976 · C++JEVOS: БИНАРНЫЕ РЕШЕНИЯ НА НОУТБУКЕ
Jevos — открытая альтернатива Jev для решений да/нет. Работает полностью локально на CPU через FastAPI. Данные не покидают устройство.
★ 963 · PythonBIGMOEONEDGE - СУПЕР МОЭ НА ТЕЛЕФОНЕ
Проект позволяет запускать модели Mixture‑of‑Experts размером 284 B на устройстве с 12 ГБ ОЗУ, используя только CPU и llama.cpp без потери точности.
★ 855 · C++SMOLMAXXING: LLM НА МИКРОКОНТРОЛЛЕРАХ
Библиотека на C для запуска LLM на микроконтроллерах и слабом железе. Альтернатива llama.cpp с фокусом на минимальный расход памяти. Поддерживает квантование и разные арх
★ 691 · CFLUTTER EDGE AI: ПРЯМО НА УСТРОЙСТВЕ
On-device AI для Flutter: Gemma и другие LLM, мультимодальность, вызов функций, эмбеддинги, RAG и речь. Поддерживается Android, iOS, Web, macOS, Windows и Linux.
★ 663 · JavaScriptXYBRID: AI НА УСТРОЙСТВЕ
xybrid — framework для создания приложений с on‑device AI на Rust.
★ 524 · RustSHODH-MEMORY - УМНАЯ ПАМЯТЬ ДЛЯ ИИ
Шодх-мемори — когнитивная память для AI-агентов: учится на опыте, забывает лишнее, укрепляя важное. Один бинарник, полностью офлайн.
★ 323 · RustCARWATCH AI-АГЕНТ АВТО
CarWatch превращает Raspberry Pi 5, видеорегистратор и локальный ИИ в чат-агент для машины. Общайтесь с автомобилем, получайте данные и управляйте функциями в реальном вр
★ 305 · PythonОФФЛАЙН LLM НА АНДРОИД: ПОЛНАЯ ПРИВАТНОСТЬ
OfflineLLM запускает любые GGUF-модели локально через llama.cpp с ARM-оптимизацией. Никаких сетевых разрешений: настройки зашифрованы, есть биометрическая блокировка и за
★ 291 · KotlinON-DEVICE AI SDK KOTLIN
Llamatik — on-device AI SDK для Kotlin Multiplatform (Android, iOS, Desktop, JVM, WASM). Поддерживает LLM inference, Speech-to-Text, генерацию изображений, Agent Framewor
★ 220 · KotlinGUARDIANDB: РУСТ ДЕКЕНТР БД
GuardianDB — быстрая локальная децентрализованная БД на Rust и Iroh, обеспечивающая высокопроизводительное хранение и обработку данных.
★ 214 · RustНовые проекты по теме — в Telegram
Telegram →