LLM: open-source проекты на GitHub
2064 репозиториев по теме LLM, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
BROWSERKITTEN: ВЫБИРАЙ И ЭКСПОРТИРУЙ
Расширение для Chrome: выделяешь на странице, описываешь задачу — получаешь редактируемый PPTX. Работает по модели BYOK, в песочнице, без серверов.
★ 2,392 · JavaScriptБЫСТРЫЙ AI-АГЕНТ НА FASTAPI
Шаблон для создания production-ready AI-агентов с FastAPI и LangGraph. Позволяет быстро запускать scalable и безопасные сервисы.
★ 2,385 · PythonLUMEN: AI-КОММИТЫ И КРАСИВЫЕ DIFF В CLI
Красиво визуализируйте git diff, генерируйте коммиты с помощью AI и получайте сводки изменений прямо из терминала.
★ 2,341 · RustCODE-INTERPRETER - ИСПОЛНЯЙ ИИ-КОД БЕЗ ОГРАНИЧЕНИЙ
Пакет SDK на Python и JS/TS для безопасного выполнения кода, сгенерированного ИИ, прямо в вашем приложении.
★ 2,333 · Pythonclaude-real-video - СМОТРИ ВИДЕО С КЛОДОМ
Позволяет любой LLM «смотреть» видео: извлекает ключевые кадры и транскрипт, работает локально.
★ 2,319 · PythonAGENTIC CONTEXT ENGINE
Платформа позволяет агентам учиться на опыте и улучшать свои ответы. Теперь доступна как хостинг‑решение на kayba.ai
★ 2,316 · PythonFABLE-METHOD - ТРИ КЛЮЧА
Протокол от Claude Fable 5: три шага – Think, Act, Prove – превращены в реальный workflow для любого LLM.
★ 2,313 · PythonНАЗВАНИЕ - MAXTEXT JAX LLM
Простой, быстрый и масштабируемый фреймворк для больших языковых моделей на JAX и Python.
★ 2,309 · PythonSILLYTAVERN НА RUST
Классический Sillytavern переписан на Tauri/Rust — быстрее, легче, надёжнее. 716 звёзд на GitHub.
★ 2,308 · JavaScriptFIGURES4PAPERS - ИДЕАЛЬНЫЕ ГРАФИКИ ДЛЯ СТАТЕЙ
Python-скрипты для создания качественных графиков для публикаций в топовых AI-конференциях и журналах.
★ 2,299 · PythonМенеджер агентов кода
Управляйте несколькими агентами Claude Code, OpenCode и другими через TUI или веб-интерфейс, с поддержкой мобильного доступа.
★ 2,288 · RustTRAINER: РАСПРЕДЕЛЁННОЕ ОБУЧЕНИЕ
Проект trainer позволяет распределённо обучать модели ИИ и выполнять fine‑tuning LLM в Kubernetes, написан на Go.
★ 2,284 · GoКУРИРУЕМЫЕ РЕСУРСЫ ДЛЯ IN-CONTEXT LEARNING
Сборник лучших материалов по in-context learning и промпт-инженерии. 2248 звёзд на GitHub. Нотбуки Jupyter с актуальными техниками для ChatGPT, GPT-3 и FlanT5.
★ 2,253 · Jupyter NotebookPROMA: УНИВЕРСАЛЬНЫЙ ИИ-АГЕНТ
Proma объединяет Claude, Pi и любые LLM в одном агенте, работающем в Feishu чатах и ваших скриптах.
★ 2,246 · TypeScriptbeelzebub - AI-ДРИВЕННАЯ LOW-CODE ВИРТУАЛИЗАЦИЯ
Beelzebub — фреймворк низкоуровневого кода для безопасного обмана систем, использующий ИИ для виртуализации окружения.
★ 2,238 · GoПлагины и навыки для Claude Code
425 плагинов, 2810 навыков и 200 агентов для Claude Code. Открытый маркетплейс с менеджером пакетов ccpi CLI.
★ 2,236 · PythonЛОКАЛЬНЫЕ AI МОДЕЛИ НА RUST
Мгновенные и управляемые предобученные AI модели, работающие локально. 2205 звёзд — проект набирает популярность.
★ 2,236 · RustМЕММИ-АГЕНТ ОБЩАЯ ПАМЯТЬ ИИ
Личный ИИ‑агент и локальный хаб памяти для всех ИИ‑ассистентов. Обеспечивает общее управляемое хранилище контекста, чтобы каждый ИИ помнил одного и того же пользователя.
★ 2,217 · TypeScriptЗАПУСКАЙ LLM ЛОКАЛЬНО В NODE.JS
Запускайте AI-модели прямо на своём компьютере через node.js. Принудительная валидация JSON-схемы прямо на уровне генерации.
★ 2,205 · TypeScriptAWESOME LLM LONG CONTEXT - ТОП ПАПЕРЫ
Подборка must-read статей и блогов о долгосрочном контексте в LLM: новые методы, обзоры и практики.
★ 2,192Быстрый локальный ИИ движок
Rapid-MLX — самый быстрый локальный ИИ‑движок для Apple Silicon, работающий 4.2× быстрее Ollama и обеспечивающий кэшированное время первого токена всего 0.08с.
★ 2,185 · PythonNESTIA - AI ПОМОЩНИК ДЛЯ NESTJS
Nestia упрощает разработку NestJS-приложений, предоставляя готовые утилиты и интегрируя AI‑чатбот для быстрого прототипирования.
★ 2,182 · TypeScriptAI ЧАТБОТ ФРЕЙМВОРК НА PYTHON
Framework для создания чат-ботов с NLU и ИИ на Python. Поддерживает интеграцию с LLM и предоставляет готовый диалоговый менеджер. Активно развивается, уже 2166 звёзд на G
★ 2,182 · TypeScriptZEROSHOT - АВТОНОМНАЯ КОМАНДА РАЗРАБОТЧИКОВ
Укажи задачу — получи готовый код продакшн-уровня. Поддержка Claude Code, OpenAI Codex, OpenCode и Gemini CLI.
★ 2,174 · JavaScriptWAKU-AGENT — ЛИЧНЫЙ AI АГЕНТ
Персональный AI-агент на Python: локальный запуск, память, цикл и оценка задач — всё готово за считанные минуты чтения кода.
★ 2,173 · PythonTENSORFOLD: БЫСТРОЕ ДЕКОДИРОВАНИЕ LLM
TensorFold обеспечивает точное и быстрое декодирование LLM на Apple Silicon через MLX, предоставляя API, совместимый с OpenAI. Проект на Python уже собрал 526 звёзд и под
★ 2,172 · PythonКЕРНЕЛ-МЕМОРИ: ПАМЯТЬ AI
Открытый исследовательский проект на C#, предоставляющий гибкую систему памяти для пользователей, команд и приложений.
★ 2,162 · C#VLLM-ASCEND: ПЛАГИН ДЛЯ ASCEND НА ГИТХАБЕ
Community-плагин для vLLM на железе Ascend от сообщества, написанный на C++. Набирает звёзды — уже 2156!
★ 2,156 · C++ZERO-TO-SGLANG: ОБУЧЕНИЕ LLM ИНФЕРЕНСУ
Курс от Datawhale и SGLang教你 с нуля понять инференс LLM, собрать мини‑версию SGLang и изучить исходный код, чтобы оформить первый PR. Доступно на английском и китайском.
★ 2,136 · PythonLLM-SPACE — ПРОТОТИПИРУЙТЕ АГЕНТОВ ЛЕГКО
Десктопное приложение для разработки и тестирования LLM-агентов с глубоким контролем каждого шага.
★ 2,130 · TypeScriptЕДИНЫЙ МЕНЕДЖЕР MCP СЕРВЕРОВ
Унифицированное приложение для управления MCP-серверами. Запускайте, настраивайте и оркестрируйте всё из одного места.
★ 2,127 · TypeScriptГОЛОСОВОЙ AI НА ARDUINO
Realtime Voice AI с 100+ моделями на ESP32. Защищённые WebSocket и Edge Functions для AI-устройств.
★ 2,118 · TypeScriptMCP СЕРВЕР ДЛЯ GITLAB
MCP сервер для GitLab предоставляет более 100 инструментов для работы с проектами, мерж‑реквестами, задачами, пайплайнами и вики через REST и GraphQL API. Позволяет интег
★ 2,105 · TypeScriptОТКРЫТОЕ НАУЧНОЕ АГЕНТСКОЕ РАБОЧЕЕ
Open Science — локальная AI‑рабочая станция для исследователей, альтернатива Claude Science с поддержкой моделей и воспроизводимых экспериментов.
★ 2,100 · TypeScriptAI ЛЕГИОН АВТОНОМНОГО ПЕНТЕСТА
Автономный пентаст-легион с AI-командиром и роем рабочих. Чемпион Tencent IAD: 3-е место из 634 команд, 8 часов без людей, 1B токенов обыграл 4.5B. Реализует тест Нюва: д
★ 2,088 · PythonSOLID-GLASS ДИЗАЙН-СИСТЕМА ДЛЯ ИИ
Solid‑glass — это дизайн‑система на TypeScript для создания интерфейсов AI‑агентов. Она предоставляет Material‑like компоненты, тактильную обратную связь и технические ут
★ 2,071 · TypeScriptSUPERSUGAR GLUE ИИ ИНТЕГРАТОР
Superglue превращает естественный язык в готовые инструменты и интеграции для long‑tail и enterprise‑систем. Получите решения без кода.
★ 2,069 · TypeScriptNOTTE - ФРЕЙМВОРК ДЛЯ ВЕБ-АГЕНТОВ
notte — фреймворк для веб-агентов: создавай и деплой serverless-функции автоматизации в надёжном браузерном окружении.
★ 2,061 · PythonБЫСТРЫЙ ЗАПУСК LLM НА NPU
FastFlowLM запускает LLMs на AMD Ryzen AI NPU за минуты, давая производительность, сравнимую с Ollama, но с оптимизацией под NPU.
★ 2,050 · C++ЗАПУСКАЙ НЕЙРОСЕТИ ЛОКАЛЬНО
Подборка лучших платформ и инструментов для запуска LLM на своём железе. 2000+ звёзд!
★ 2,045INDEX‑TRANSLATE МУЛЬТИЯЗЫЧНЫЙ AI
Index‑Translate — мультиязычное семейство моделей перевода на LLM. Реализовано на Python, 345★ на GitHub, поддерживает fine‑tuning и inference для десятков языков.
★ 2,044 · PythonAWESOME LANGGRAPH: ВСЕ ПОД ИЗМЕРЕНИЕМ
Полный каталог LangChain+LangGraph: концепции QT, проекты, инструменты и шаблоны для LLM и многократных агентов
★ 2,043 · JavaScriptLLAMA.VIM: LLM ПРЯМО В VIM
Плагин для Vim, который добавляет автодополнение кода и текста с помощью больших языковых моделей. 2000+ звёзд на GitHub.
★ 2,042 · Vim ScriptKVCACHED: УСКОРИТЕ GPU КЭШ
Виртуализированный эластичный KV‑кеш для динамического совместного использования GPU, ускоряет inference LLM и снижает задержки.
★ 2,041 · PythonSUPERLINKED INFERENCE ENGINE
Открытый сервер для инференса эмбеддингов, реранкинга и извлечения данных. 2000+ звёзд на GitHub.
★ 2,029 · PythonAI-АССИСТЕНТ PY-GPT ДЛЯ ВСЕХ
Desktop AI Assistant на основе множества моделей: GPT-5, GPT-4, Gemini и другие, с голосом, vision, RAG и генерацией изображений.
★ 2,027 · PythonRAGHUB: РЕСУРСЫ И ФРЕЙМВОРКИ RAG
Сообщество собирает лучшие RAG-фреймворки, проекты и материалы для разработчиков ИИ. Вноси вклад и открывай новые решения.
★ 2,019ANY-LLM: ОДИН ИНТЕРФЕЙС ДЛЯ ВСХ LLM
Библиотека на Python для унифицированной работы с провайдерами LLM через единый интерфейс.
★ 2,010 · PythonЛОКАЛЬНЫЙ AI-АГЕНТ С ОТКРЫТЫМ ИСКОДНИКОМ
Atomic-Chat — приватный AI-движок для локального запуска LLM без интернета. Полностью offline на вашем компьютере. ⭐ 967 звёзд на GitHub.
★ 2,008 · TypeScriptVLLM-METAL: УСКОРЯЕМ LLM НА APPLE SILICON
vllm-metal — это сообщество‑поддерживаемый плагин аппаратного ускорения для vLLM на процессорах Apple Silicon. Использует фреймворк Metal и MLX для эффективного выполнени
★ 1,997 · PythonOBSIDIAN AI ТЕКСТОГЕНЕРАТОР
Плагин позволяет генерировать текст в Obsidian с помощью OpenAI, Anthropic, Google и локальных моделей.
★ 1,996 · TypeScriptMCP - АГЕНТ С ДОКУМЕНТАЦИЕЙ МС
Официальный сервер и CLI Microsoft Learn MCP — даёт ИИ-агентам мгновенный доступ к проверенной документации и примерам кода.
★ 1,992 · TypeScript3D-моделирование на Python для LLM
Библиотека для программного создания 3D-моделей кодом, оптимизированная для генерации большими языковыми моделями. Экспорт в GLTF/STL.
★ 1,992 · HTMLОДИН ФАЙЛ, ВСЕ ДАННЫЕ
Утилита, которая собирает контент из GitHub, arXiv, YouTube и др. в один текстовый файл для подачи в LLM.
★ 1,977 · PythonПОДБОРКА МЕТОДОВ JAILBREAK LLM
Awesome-Jailbreak-on-LLMs — это подборка передовых методов взлома больших языковых моделей. В репозитории собраны статьи, код, наборы данных, оценки и анализ эффективност
★ 1,977Нанокодер — локальный помощник
Красивый локальный агент для кодинга в терминале, созданный сообществом для сообщества ⚒
★ 1,957 · TypeScriptНЕЙРОН-АИ PHP ФРЕЙМВОРК
Фреймворк на PHP для создания ИИ-агентов, соединяющий LLM, векторные БД и память.
★ 1,951 · PHPHELLOAGENTS - ЛЕГКИЙ СТАРТ АГЕНТОВ
Простой фреймворк для создания ИИ‑агентов на Python, основанный на tutorial hello-agents. Позволяет быстро собрать и запустить автономных помощников.
★ 1,945 · PythonBRUTEFORCEAI - УМНЫЙ БРУТФОРС
Инструмент на Python, использующий LLM для умного подбора паролей и автоматизации атак на вход.
★ 1,935 · PythonMCP-СЕРВЕР ДЛЯ КОНТЕКСТА КОДА
aoci-code — локальный MCP-сервер и CLI на Go. Индексирует код и схемы БД в единую карту репозитория. Помогает ИИ-агентам (Claude Code, Cursor, Codex) быстрее разбираться
★ 1,918 · GoНовые проекты по теме — в Telegram
Telegram →