LLM: open-source проекты на GitHub
2064 репозиториев по теме LLM, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
KVPRESS: СЖАТИЕ КЭША LLM
Библиотека для лёгкого сжатия KV‑кеша LLM, ускоряющая генерацию и снижающая потребление GPU памяти.
★ 1,254 · PythonLLMGATEWAY: ЕДИНЫЙ API ДЛЯ ВСЕХ LLM
Управляйте запросами к разным LLM-провайдерам через один унифицированный интерфейс. 1.2K ⭐ на GitHub.
★ 1,252 · TypeScriptLightAgent: ЛЁГКИЙ AI-АГЕНТ С ПАМЯТЬЮ
Лёгкий фреймворк AI-агентов с памятью, MCP и навыками. Поддерживает мультиагентное взаимодействие, самообучение и основные LLM.
★ 1,247 · Pythonantigravity-workspace-template - МУЛЬТИ-АГЕНТНЫЙ ДВИЖОК ДЛЯ КОДА
Мульти-агентная система знаний для Claude Code, Cursor, Codex CLI с ответами на основе кода и номеров строк файлов. Работает в любой AI IDE.
★ 1,246 · PythonРЕКОМЕНДАЦИИ НА СТЕРОИДАХ
Фреймворк для рекомендательных моделей на PyTorch. Простой в использовании и легко расширяемый.
★ 1,242 · Jupyter NotebookAWESOME AI SDKS – КОЛЛЕКЦИЯ
База SDK, фреймворков и инструментов для создания, отладки и развертывания автономных AI‑агентов. Упрощает выбор и ускоряет разработку.
★ 1,241DARK-MOON АВТОНОМНЫЙ ИИ ПЕНТЕСТ
Автономный ИИ-движок для непрерывного пентеста веб, облака, AD и Kubernetes с реальной эксплуатацией уязвимостей.
★ 1,238 · PythonGRAPHGEN: СИНТЕЗ ДАННЫХ ИЗ ГРАФОВ
GraphGen создаёт синтетические данные для дообучения LLM на основе графов знаний. Интегрирован с LlamaFactory, использует структурированные знания для генерации качествен
★ 1,234 · PythonНативный AI-ассистент
Бесплатный open-source AI-помощник для собеседований и встреч. Лучшая альтернатива Cluely, Final Round AI и Interview Coder. Транскрипция в реальном времени, незаметный р
★ 1,229 · TypeScriptСОЗДАВАЙТЕ AI-АГЕНТЫ НА GO
Мощный фреймворк для построения интеллектуальных систем-агентов с использованием LLM и внешних инструментов.
★ 1,229 · GoLIGHTMEM — ПАМЯТЬ ДЛЯ LLM БЕЗ ЛИШНИХ ЗАТРАТ
Легковесная генерация с расширенной памятью от авторов ICLR 2026. 934 звезды на GitHub.
★ 1,223 · PythonR-KV: СЖИМИРУЙ KV-КЭШ НА 1200+ ЗВЁЗД
NeurIPS 2025: умное сжатие KV-кэша для reasoning-моделей с учётом избыточности. Быстрее, меньше памяти, та же точность.
★ 1,223 · PythonЗАРАБАТЫВАЙ С ИИ ПРОЕКТЫ
Коллекция открытых AI‑проектов на Python, которые помогут быстро монетизировать идеи и автоматизировать заработок.
★ 1,221 · PythonNNCFF - УСКОРЯЕМ ИНФЕРЕНС МОДЕЛЕЙ
NNCFF — фреймворк сжатия нейросетей для ускоренного inference в OpenVINO™. Сокращает размер модели, сохраняя точность.
★ 1,221 · PythonAWESOME AI COMPANION: КОЛЛЕКЦИЯ ПРОЕКТОВ
Список открытых проектов для создания долгосрочных AI‑компаньонов: фронтенды, бекенды, память, hardware и интеграции с миром.
★ 1,220 · PythonUQLM: ДЕТЕКТИРУЕМ ГАЛЛЮЦИНАЦИИ LLM
Python-пакет для обнаружения галлюцинаций языковых моделей на основе количественной оценки неопределённости.
★ 1,217 · PythonEvoOntology: онтология агентов
EvoOntology — саморазвивающаяся онтологическая прослойка для агентов данных, которая автоматически строит и обновляет знания на основе взаимодействий с Claude Code и Code
★ 1,213 · PythonСКАЧИВАЙ МОДЕЛИ HUGGINGFACE ЛЕГКО
Утилита на Go для загрузки моделей и датасетов с HuggingFace. Поддерживает CLI вызов и работу через API, кэширует файлы локально.
★ 1,213 · GoRAGLITE - БЫСТРЫЙ RAG НА DUCKDB
Простой инструмент для построения RAG-пайплайнов с DuckDB или PostgreSQL на Python.
★ 1,212 · PythonНАЗВАНИЕ - АГЕНТ ШЕЛЛ В EMACS
Agent Shell — нативный буфер Emacs для взаимодействия с LLM-агентами через протокол ACP. Позволяет чатить с ИИ прямо из редактора.
★ 1,210 · Emacs LispСАЙТ ДЛЯ РАЗРАБОТЧИКОВ AI
🌎💎 site-for-developers — это curated список AI-инструментов, созданный специально для разработчиков. В проекте собраны лучшие инструменты для работы с LLM, RAG, мультим
★ 1,210ЧАТ-JS: ПРОДАКШН-ГОТОВЫЙ AI ЧАТ
Production-ready AI чат на TypeScript. Легко кастомизировать и интегрировать в любой проект.
★ 1,203 · TypeScriptСУБТИТРЫ ЦЕЛЫМИ СЕЗОНАМИ ЗА МИНУТЫ
Переводи целый сезон субтитров за один проход. Поддержка .srt/.ass/.vtt/.lrc, 120+ языков, 27 LLM-провайдеров. Тайминг не трогаем!
★ 1,201 · TypeScriptХОЛЛАМА: ЧАТ С LLM В БРАУЗЕРЕ
hollama — минималистичный чат с LLM, работающий полностью в браузере. Подключается к локальным моделям через Ollama и хранит диалоги в локальном хранилище.
★ 1,199 · TypeScriptAI УЧЕНИЕ: РОДОКОРНЫЕ КАРТЫ
Полный набор дорожных карт и ресурсов по AI, ML, DL и Data Science — от новичка до эксперта.
★ 1,195TINY VLLM: СОБЕРИ СВОЙ LLM
Мини‑версия vLLM на C++ и CUDA для быстрого вывода больших языковых моделей. Позволяет создавать собственный высокопроизводительный движок inference.
★ 1,194 · C++SAGE: МУЛЬТИАГЕНТНАЯ СИСТЕМА ДЛЯ СЛОЖНЫХ ЗАДАЧ
Фреймворк на Python для создания мультиагентных систем, способных решать сложные задачи совместно.
★ 1,193 · PythonФРЕЙМВОРК ФОНДОВЫХ МОДЕЛЕЙ
Практическая лаборатория для создания и тестирования приложений на Apple Foundation Models.
★ 1,192 · SwiftVIM С AI АССИСТЕНТОМ
Плагин vim-ai интегрирует модели OpenAI и ChatGPT прямо в Vim/Neovim. Он предлагает автодополнение кода, генерацию фрагментов и объяснение кода через чат с ИИ. Поддержива
★ 1,191 · PythonADK-JS МОЩНЫЙ НАБОР ДЛЯ ИИ АГЕНТОВ
ADK‑JS — это open‑source TypeScript‑тулкит для создания, оценки и развертывания продвинутых AI‑агентов с полным контролем и гибкостью.
★ 1,190 · TypeScriptМаршрут оптимизации LLM inference
10‑недельный план по изучению сервиса и ускорения работы больших языковых моделей, включающий практики vLLM, SGLang, квантизации и спекулятивного декодирования.
★ 1,179 · HTMLEasyRead: перевод статей
Локальный перевод PDF-статей с английского на русский, вывод оригинала и перевода рядом, возможность задавать вопросы ИИ во время чтения и управлять библиотекой литератур
★ 1,177 · JavaScriptGUFO: ИНФЕРЕНС НА STRIX HALO
gufo — inference engine для AMD Strix Halo на C++. Qwen Flash Next Q4_K_XL выдаёт 59.41 tok/s (1 юзер) и 157.22 tok/s (8 юзеров). Qwen27B Q4_K_XL с DFlash2 даёт 70.56 tok
★ 1,176 · C++RUST RUNTIME ДЛЯ ИНФЕРЕНСА И РЕДАКТИРОВАНИЯ LLM
larql — Runtime на Rust для запуска, сервирования и редактирования моделей. Формат VINDEX3 делает модели исполняемыми и инспектируемыми. 1173⭐ на GitHub.
★ 1,175 · RustLangChain на Elixir
Реализация фреймворка LangChain на Elixir, позволяющая интегрировать большие языковые модели в проекты.
★ 1,171 · ElixirПОДКЛЮЧАЙ ATLASIAN К ИИ
Официальный удалённый MCP‑сервер Atlassian безопасно соединяет Jira, Confluence, Bitbucket и другие сервисы с ИИ‑ассистентами через OAuth 2.1 или токены.
★ 1,165 · JavaScriptNEBULA — AI-АССИСТЕНТ PENTEST
Автоматизирует разведку, заметки и анализ уязвимостей в тестах на проникновение.
★ 1,162 · PythonПЕРСОНАЛЬНЫЙ AI АГЕНТ
nod — open-source AI-агент с собственной виртуальной машиной. Он следит за счетами, готовит звонки и отменяет пробные_periodы на сайтах, спрашивая подтверждение перед дей
★ 1,160 · TypeScriptSTRIDE GPT УГРОЗ МОДЕЛИРОВАНИЕ AI
Стратегический инструмент для автоматического создания угрозовых моделей по методологии STRIDE с использованием GPT от OpenAI.
★ 1,157 · PythonCONNECTONION АГЕНТСКИЙ ФРЕЙМВОРК
Самый продвинутый фреймворк для совместной работы AI-агентов на Python. Позволяет быстро создавать и связывать агентов для сложных задач.
★ 1,155 · PythonClaude Code для финансов
Claude Code, адаптированный для финансового сектора. Повышает эффективность анализа, моделирования и принятия решений.
★ 1,154 · PythonFESS: ПОИСК С ИИ В БИЗНЕСЕ
Fess – открытый поисковый сервер на OpenSearch, индексирующий веб, файлы, БД и облака, поддерживающий более 20 языков и семантический поиск с ИИ/RAG.
★ 1,151 · JavaAI НАРРАТОР ФИЛЬМОВ
Генерирует озвученные видео-резюме фильмов по одному текстовому запросу. Объединяет LLM для сценария, FFmpeg для монтажа и Python‑скрипты для полной автоматизации. Резуль
★ 1,148 · PythonRAG-RETRIEVAL УНИФИЦИРУЕМ ПОИСК
Проект объединяет эффективное fine-tuning методов поиска RAG: эмбеддинги, ColBERT и реранкер.
★ 1,138 · PythonВечная память для AI-агентов
лёгкий сервер долговременной памяти с поддержкой откатов и визуализацией. Замена Vector RAG и OpenClaw.
★ 1,137 · PythonSAG: WORKBENCH ДЛЯ ДОКУМЕНТНОГО RAG
Готовый воркбенч для поиска по документам на базе SAG. TypeScript, 1136 звёзд!
★ 1,136 · TypeScriptRULESYNC: УТИЛИТА ДЛЯ AI-АГЕНТОВ
CLI-утилита для управления правилами AI-агентов при кодинге. 1135 звёзд на GitHub!
★ 1,135 · TypeScriptГИД ПО AI СИСТЕМАМ
Практический гайд по проектированию production-ready AI систем и оценке их качества для инженеров.
★ 1,132SCHEMA-GUIDED REASONING АГЕНТ
sgr-agent-core — фреймворк для построения агентных систем с использованием Schema-Guided Reasoning на Python от neuraldeep community.
★ 1,128 · PythonObserval — платформа наблюдения и оценки AI-агентов
Observal — платформа для мониторинга, оценки и отладки AI-агентов с участием человека в цикле обратной связи. Необходима для создания надёжных продакшн-конвейеров.
★ 1,118 · PythonMOMO CODE: АГЕНТ ИИ ДЛЯ КОДА
MOMO CODE — AI-агент для программирования на TypeScript с CLI. Он evolves вместе с вами, подстраиваясь под стиль кода и предлагая улучшения в реальном времени.
★ 1,112 · TypeScriptМОДЕЛИ БОЛЬШЕ VRAM НА SSD
inferssd запускает MoE-модели, превышающие RAM и VRAM, стримя экспертов с SSD. Построен на llama.cpp, поддерживает GGUF, CUDA и Apple Silicon. 288 звёзд на GitHub.
★ 1,108 · C++OPENJUDGE - НОВЫЙ AI-ОЦЕНЩИК
Унифицированный фреймворк для оценки качества AI-агентов. 671⭐. Python.
★ 1,105 · PythonJAMAIBASE ИИ-ТАБЛИЦА ДЛЯ КОМАНДЫ
Таблица, где ячейки объединяются в пайплайны AI, позволяя экспериментировать с промптами и моделями в реальном времени.
★ 1,103 · PythonBurp Suite AI‑агент
Расширение для Burp Suite, добавляющее встроенные инструменты MCP, AI‑анализ, контроль приватности и функции пассивного и активного сканирования.
★ 1,102 · KotlinКОММАРК: ПАРСЕР MARKDOWN С ПОДДЕРЖКОЙ AI
Comark — открытый парсер и рендерер Markdown, поддерживающий компоненты, атрибуты и плагины. Он транслирует вывод ИИ в React, Vue, Svelte, Angular, HTML и терминал, работ
★ 1,101 · TypeScriptОНТОГПТ: ИЗВЛЕЧЕНИЕ ОНТОЛОГИЙ
Ontogpt — LLM‑инструмент для извлечения онтологий из текста, включая метод SPIRES. Он строит иерархические таксономии и генерирует схемы OWL/RDF, готовые к использованию
★ 1,099 · Jupyter NotebookMARKLLM: WATERMARK ДЛЯ LLM
MarkLLM — открытый инструментарий для водяных знаков больших языковых моделей. Позволяет внедрять, проверять и сравнивать разные схемы водяных знаков. Поддерживает популя
★ 1,093 · PythonAWESOME MCP SERVERS: ТОП ЛИСТ
Подборка лучших серверов Model Context Protocol для удобной работы с ИИ-агентами.
★ 1,092МОЩНЫЕ ИНСТРУМЕНТЫ ДЛЯ АГЕНТОВ
Набор инструментов на Python, расширяющих возможности AI‑агентов.
★ 1,089 · PythonНовые проекты по теме — в Telegram
Telegram →