R_REDDYX.XYZ

Edge AI: open-source проекты на GitHub

18 репозиториев по теме Edge AI, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064On Device AI 37Android 105Llama Cpp 49Ios 91RAG 507Llamacpp 33Local LLM 102LLM Inference 76Local AI 73MCP 1593Self Hosted 348AI Agent 680Gguf 45
cactus-compute/engine

AI РАМКА ДЛЯ УСТРОЙСТВ

Этот проект предлагает low-bit quant kernels и runtime для consumer устройств. Поддержка Android, ARM и edge-ai фреймворков.

★ 6,192 · C++
cactus-compute/cactus

Эффективный ИИ для мобильных устройств

Движок искусственного интеллекта с минимальной задержкой для смартфонов и носимых устройств.

★ 4,949 · C
beclab/Olares

OLARES — СВОЁ ОБЛАКО ДАННЫХ

Olares — открытая персональная облачная платформа на Go для полного контроля над вашими данными.

★ 4,558 · Go
0xShug0/audio.cpp

Движок аудио-инференса на C++

Единый C++ движок на базе ggml для запуска аудио-моделей (TTS, STT, VAD, конвертация голоса) без зависимостей от Python.

★ 4,234 · C++
FedML-AI/FedML

Универсальная платформа FedML

Универсальная библиотека для распределённого обучения, сервиса моделей и федеративного обучения с кросc-облачным планировщиком.

★ 4,046 · Python
off-grid-ai/OGAM

OGAM ОФЛАЙН AI ШВЕЙЦАРСКИЙ НОЖ

OGAM — чат, зрение, речь и генерация изображений офлайн на вашем устройстве без ключей и данных в сети.

★ 3,380 · TypeScript
usamahz/cpu-performance-engineering

Инженерия производительности CPU

Курс по изучению производительности процессора от одной инструкции до инференса в продакшене. Включает только первоисточники и запускаемый бенчмарк для каждой секции.

★ 1,160 · C
OpenSparX/MasterAgent

MASTERAGENT - МОЩНЫЙ AI АГЕНТ ОФЛАЙН

MasterAgent позволяет создавать AI‑агентов, работающих полностью на устройстве с суб‑100ms задержкой на Qualcomm NPU без облака.

★ 976 · C++
feder-cr/jev

JEVOS: БИНАРНЫЕ РЕШЕНИЯ НА НОУТБУКЕ

Jevos — открытая альтернатива Jev для решений да/нет. Работает полностью локально на CPU через FastAPI. Данные не покидают устройство.

★ 963 · Python
Helldez/BigMoeOnEdge

BIGMOEONEDGE - СУПЕР МОЭ НА ТЕЛЕФОНЕ

Проект позволяет запускать модели Mixture‑of‑Experts размером 284 B на устройстве с 12 ГБ ОЗУ, используя только CPU и llama.cpp без потери точности.

★ 855 · C++
hyperionaidev/smolmaxxing

SMOLMAXXING: LLM НА МИКРОКОНТРОЛЛЕРАХ

Библиотека на C для запуска LLM на микроконтроллерах и слабом железе. Альтернатива llama.cpp с фокусом на минимальный расход памяти. Поддерживает квантование и разные арх

★ 691 · C
DenisovAV/flutter_edge_ai

FLUTTER EDGE AI: ПРЯМО НА УСТРОЙСТВЕ

On-device AI для Flutter: Gemma и другие LLM, мультимодальность, вызов функций, эмбеддинги, RAG и речь. Поддерживается Android, iOS, Web, macOS, Windows и Linux.

★ 663 · JavaScript
xybrid-ai/xybrid

XYBRID: AI НА УСТРОЙСТВЕ

xybrid — framework для создания приложений с on‑device AI на Rust.

★ 524 · Rust
varun29ankuS/shodh-memory

SHODH-MEMORY - УМНАЯ ПАМЯТЬ ДЛЯ ИИ

Шодх-мемори — когнитивная память для AI-агентов: учится на опыте, забывает лишнее, укрепляя важное. Один бинарник, полностью офлайн.

★ 323 · Rust
ThinkOffApp/CarWatch

CARWATCH AI-АГЕНТ АВТО

CarWatch превращает Raspberry Pi 5, видеорегистратор и локальный ИИ в чат-агент для машины. Общайтесь с автомобилем, получайте данные и управляйте функциями в реальном вр

★ 305 · Python
jegly/OfflineLLM

ОФФЛАЙН LLM НА АНДРОИД: ПОЛНАЯ ПРИВАТНОСТЬ

OfflineLLM запускает любые GGUF-модели локально через llama.cpp с ARM-оптимизацией. Никаких сетевых разрешений: настройки зашифрованы, есть биометрическая блокировка и за

★ 291 · Kotlin
llamatik/Llamatik

ON-DEVICE AI SDK KOTLIN

Llamatik — on-device AI SDK для Kotlin Multiplatform (Android, iOS, Desktop, JVM, WASM). Поддерживает LLM inference, Speech-to-Text, генерацию изображений, Agent Framewor

★ 220 · Kotlin
wmaslonek/guardian-db

GUARDIANDB: РУСТ ДЕКЕНТР БД

GuardianDB — быстрая локальная децентрализованная БД на Rust и Iroh, обеспечивающая высокопроизводительное хранение и обработку данных.

★ 214 · Rust

Новые проекты по теме — в Telegram

Telegram →
Edge AI — 18 open-source проектов на GitHub | REDDYX AI