Llama: open-source проекты на GitHub
106 репозиториев по теме Llama, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
Ollama: Локальные LLM
Запуск языковых моделей (Kimi-K2.5, DeepSeek, Qwen, Gemma и др.) локально на вашем устройстве — просто и быстро.
★ 171,194 · GoВысокопроизводительный движок LLM
Высокопроизводительный и память‑эффективный движок для инференса и обслуживания больших языковых моделей.
★ 79,783 · PythonУнифицированная настройка LLM
Библиотека для эффективного дообучения более 100 языковых и vision‑моделей, представленная на ACL 2024.
★ 71,186 · PythonUnsloth Studio: локальный UI
Веб‑интерфейс для обучения и запуска открытых моделей (Gemma 4, Qwen3.6, DeepSeek, gpt‑oss) непосредственно на своём компьютере.
★ 64,107 · PythonЛокальный AI движок
LocalAI — открытый движок для запуска любых моделей (LLM, visão, голос, изображение, видео) на любом оборудовании без необходимости GPU.
★ 46,221 · GoAider: AI-программирование в терминале
Aider — AI-ассистент для парного программирования в терминале. Помогает писать, редактировать и рефакторить код.
★ 44,686 · PythonAIRLLM: 70B МОДЕЛЬ НА 4GB GPU
Запуск огромных LLM на слабом железе. AirLLM позволяет инференс 70B моделей всего на одной 4GB видеокарте.
★ 42,461 · Jupyter NotebookЧатБот на LangChain
Локальное RAG-приложение на LangChain для работы с LLM (ChatGLM, Qwen, Llama) с поддержкой агентов и загрузки собственных знаний.
★ 38,014 · PythonAstrBot – ИИ-ассистент
Платформа для создания ИИ-агентов, объединяющая множество мессенджеров, LLM и плагинов, предоставляющая открытую альтернативу OpenClaw.
★ 32,052 · PythonSGLang: Фреймворк LLM
SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых и мультимодальных моделей.
★ 27,854 · PythonУпаковка репозитория для AI
Инструмент упаковывает весь репозиторий в один файл, удобный для подачи в LLMs и другие AI‑сервисы.
★ 24,631 · TypeScriptБесплатные API LLM
Список бесплатных ресурсов для доступа к большим языковым моделям через API.
★ 21,370 · PythonИнтерфейс для чат‑ботов
Графический интерфейс для работы с ChatGPT API и другими LLM: поддержка агентов, вопросов по файлам, дообучения и веб‑поиска.
★ 15,339 · Pythonms-swift: обучение LLM
Фреймворк для тонкой настройки 600+ языковых и 300+ мультимодальных моделей. Поддержка PEFT, полная донастройка, CPT/SFT/DPO/GRPO.
★ 14,178 · PythonOPENLLM: ЗАПУСК LLM КАК OPENAI API
OpenLLM позволяет запускать любые открытые LLM (Llama, Qwen, DeepSeek) как OpenAI-совместимые API одной командой. Включает чат-UI, современные бэкенды инференса и готовые
★ 12,607 · PythonSHELL_GPT - ИИ АССИСТЕНТ ДЛЯ TERMINAL
Shell GPT — это инструмент командной строки, основанный на GPT-5, который ускоряет выполнение задач и повышает эффективность работы.
★ 12,312 · PythonLangChain4j для JVM
Библиотека Java для LLM‑приложений: единый API к провайдерам и векторным хранилищам, tool calling, агенты, RAG и интеграция с Quarkus и Spring Boot.
★ 11,973 · JavaLUDWIG - LOW-CODE AI ФРЕЙМВОРК
Создавайте LLM и нейросети без кода. Простота для кастомных AI-моделей включена!
★ 11,791 · PythonBISHENG — платформа LLM DevOps
Открытая платформа для разработки корпоративных AI-приложений нового поколения: рабочие процессы GenAI, RAG, агенты и многое другое.
★ 11,373 · TypeScriptTensorZero: LLMOps платформа
Открытая платформа LLMOps, объединяющая шлюз LLM, наблюдаемость, оценку, оптимизацию и эксперименты.
★ 11,366 · RustOUMI ЛЁГКАЯ НАСТРОЙКА LLM
OUMI позволяет быстро fine‑tune (SFT/RL), оценивать и развёртывать модели Qwen, Gemma и любые открытые агентные LLM/VLM без лишней сложности.
★ 9,433 · PythonXINFERENCE - ЛЮБАЯ LLM В ОДНУ СТРОКУ
Замените GPT на любую открытую модель, изменив одну строку кода. Запускайте LLM, мультимодальные и speech-модели через единый production-ready API.
★ 9,318 · PythonGENIEX: LLMs НА УСТРОЙСТВАХ
Запускайте передовые мультимодальные модели на GPU, NPU и CPU — от ПК до мобильных и IoT устройств.
★ 8,530 · RustGPTCache: СЕМАНТИЧНЫЙ КЭШ ДЛЯ LLM
GPTCache предоставляет семантическое кеширование запросов к большим языковым моделям, уменьшая токенопотребление и ускоряя ответы. Полностью интегрирован с LangChain и ll
★ 8,224 · PythonNEXA-SDK AI ВЕЗДЕ И ВСЕГДА
Запускай передовые LLMs и VLMs на GPU, NPU и CPU — от ПК до мобильных и IoT устройств. Поддержка моделей GPT-OSS, Granite-4, Qwen-3-VL и др.
★ 8,094 · RustLMDeploy: ЛЁГКОЕ РАЗВЁРТЫВАНИЕ LLM
Набор инструментов для сжатия, деплоя и обслуживания LLM. ⭐ 7873 | Python
★ 7,873 · PythonK8SGPT: АССИСТЕНТ KUBERNETES
k8sgpt использует ИИ для анализа кластеров Kubernetes, выявляя проблемы и предлагая мгновенные исправления.
★ 7,846 · GoОБЪЕДИНЯЙ LLM МОДЕЛИ ЛЕГКО
Mergekit предоставляет инструменты для объединения предобученных LLM, комбинируя веса, средние значения и слои разных архитектур, например Llama. Результат — одна модель,
★ 7,452 · Pythonllm-scraper - ПАРСИНГ ВЕБ-СТРАНИЦ С LLM
Преобразуйте любую веб‑страницу в структурированные данные с помощью мощных LLM – без парсинга и регулярок.
★ 6,811 · TypeScriptENCHANTED - ЧАТ С ОТКРЫТЫМИ МОДЕЛЯМИ
Enchanted — приложение для iOS и macOS, позволяющее общаться с локальными моделями Llama2, Mistral и Vicuna через Ollama.
★ 6,019 · SwiftHARNESS-SDK: СОЗДАЙ AI-АГЕНТ БЫСТРО
Model‑driven SDK позволяет создавать AI‑агентов всего несколькими строками кода на Python.
★ 5,999 · PythonСтриндс-агенты SDK
Модельный подход к созданию AI-агентов всего в несколько строк кода.
★ 5,888 · PythonGPU менеджер кластера
Управление GPU-кластерами с автоматической настройкой и оркестрацией движков инференса (vLLM, SGLang) для высокопроизводительного развёртывания моделей ИИ.
★ 5,041 · PythonH2O LLM STUDIO ВЫШЛА БЕСПЛАТНО
Фреймворк для fine-tuning LLM с графическим интерфейсом. Настройте языковые модели без написания кода!
★ 4,972 · PythonLLAMA-SWAP - НАДЁЖНАЯ ЗАМЕНА МОДЕЛЕЙ
Утилита для бесшовной замены моделей на локальных серверах (llama.cpp, vLLM и др.)
★ 4,328 · GoLightLLM - БЫСТРЫЙ ИНФЕРЕНС LLM
Лёгкий и быстрый фреймворк для инференса и сервинга больших языковых моделей на Python. Простое масштабирование и высокая производительность.
★ 4,092 · PythonLemonade SDK
Lemonade помогает пользователям запускать локальные AI-приложения, оптимизируя работу LLM на их GPU и NPU. Присоединяйтесь к нашему Discord!
★ 4,059 · C++LANGRID - МУЛЬТИАГЕНТ ИИ ДЛЯ КОДА
Простой фреймворк для создания агентов на базе LLM с поддержкой памяти и инструментов.
★ 4,029 · PythonEagle: Новое поколение визуальных ИИ-моделей
Eagle — передовые мультимодальные модели в формате VLM, разработанные по Data-Centric стратегии. 2700+ звёзд на GitHub и активное развитие.
★ 3,857 · PythonLLAMASHARP - ЛОКАЛЬНЫЙ LLM НА C#
Библиотека на C#/.NET для эффективного запуска LLM моделей LLaMA и LLaVA на локальном устройстве.
★ 3,826 · C#SIDEKICK: ЛОКАЛЬНЫЙ AI ЧАТ
Sidekick — нативное macOS приложение для чата с локальной LLM, которое берёт ответы из файлов, папок и веб‑страниц. Работает полностью офлайн на llama.cpp, без внешних AP
★ 3,324 · SwiftAGiXT: АВТОМАТИЗАЦИЯ AI-АГЕНТОВ
Платформа для оркестрации AI-агентов с адаптивной памятью, плагинами и поддержкой множества AI-провайдеров.
★ 3,192 · PythonLlamaIndexTS фреймворк
Фреймворк для создания серверных приложений на основе LLM с удобным управлением данными.
★ 3,083 · TypeScriptMAID: УПРАВЛЯЙ ИИ-МОДЕЛЯМИ
Бесплатный инструмент для работы с локальными и удалёнными LLM: llama.cpp, Anthropic, DeepSeek и др.
★ 2,776 · TypeScriptPAPERSGPT — AI ДЛЯ ZOTERO
Мощный AI-плагин для Zotero с поддержкой ChatGPT, Gemini, Claude, DeepSeek и других моделей. 2459 звёзд!
★ 2,709 · JavaScriptXTRUING: ПЕРСОНАЛИЗУЙ LLM
xTuring упрощает создание и персонализацию собственных LLM: от подготовки данных до fine‑tuning. Инструмент поддерживает адаптеры, готовые пайплайны и экспорт моделей. Пр
★ 2,681 · PythonОМАГЕНТ: МУЛЬТИМОДАЛЬНЫЙ AGENT
OmAgent — фреймворк для мультимодальных агентов на Gemini, GPT-4 и др. LLM. Позволяет быстро прототипировать и деплоить через Gradio, поддерживает RAG и шаблоны чат-ботов
★ 2,670 · PythonЛокальный Claude Code
Запускайте Claude Code полностью на устройстве с Apple Silicon, используя MLX‑нативный сервер, совместимый с Anthropic API. Поддерживает локальные модели Qwen 3.5 122B, L
★ 2,578 · PythonLLM АГЕНТ ФРЕЙМВОРК В COMFYUI
Framework объединяет LLM-агентов, Omost, GPT‑Sovits, ChatTTS и OCR в ComfyUI с поддержкой Feishu, Discord и всех популярных LLM.
★ 2,390 · Pythonbeelzebub - AI-ДРИВЕННАЯ LOW-CODE ВИРТУАЛИЗАЦИЯ
Beelzebub — фреймворк низкоуровневого кода для безопасного обмана систем, использующий ИИ для виртуализации окружения.
★ 2,238 · GoЛОКАЛЬНЫЕ AI МОДЕЛИ НА RUST
Мгновенные и управляемые предобученные AI модели, работающие локально. 2205 звёзд — проект набирает популярность.
★ 2,236 · RustЗАПУСКАЙ LLM ЛОКАЛЬНО В NODE.JS
Запускайте AI-модели прямо на своём компьютере через node.js. Принудительная валидация JSON-схемы прямо на уровне генерации.
★ 2,205 · TypeScriptБЫСТРЫЙ ЗАПУСК LLM НА NPU
FastFlowLM запускает LLMs на AMD Ryzen AI NPU за минуты, давая производительность, сравнимую с Ollama, но с оптимизацией под NPU.
★ 2,050 · C++LLAMA.VIM: LLM ПРЯМО В VIM
Плагин для Vim, который добавляет автодополнение кода и текста с помощью больших языковых моделей. 2000+ звёзд на GitHub.
★ 2,042 · Vim ScriptСБОРКА ЛУЧШИХ LLM НАВЫКОВ
Кураторский список навыков и инструментов для AI-агентов, работающих с Claude Code, Codex и Gemini CLI.
★ 1,865 · PythonDETIKZIFY РИСУЕТ LATEX-СХЕМЫ МГНОВЕННО
DeTikZify превращает словесные описания или ручные эскизы в готовый TikZ‑код для LaTeX. Проект использует модели из HuggingFace и Llama для обратного генерирования график
★ 1,831 · PythonСОЗДАЁШБОТОВ БЕЗ КОДА
dialoqbase — фреймворк для быстрого создания AI-ботов и RAG-приложений. Загружайте документы и общайтесь с ними.
★ 1,787 · TypeScriptБЫСТРЫЙ МУЛЬТИМОДАЛЬНЫЙ LLM НА МОБИЛЕ
Библиотека на C++ обеспечивает запуск мультимодальных LLM прямо на смартфонах с высокой скоростью и низким энергопотреблением.
★ 1,533 · C++tt-metal - МЕТАЛЛИЧЕСКАЯ БИБЛИОТЕКА ОПЕРАЦИЙ
Библиотека TT-NN операторов и низкоуровневая модель программирования ядер TT-Metalium для ускорения AI‑ workloads на собственном оборудовании.
★ 1,505 · C++RISUAI: СОЗДАВАЙ СВОИ ИСТОРИИ
Risuai позволяет легко создавать интерактивные ролевые сюжеты с LLM, используя TypeScript.
★ 1,491 · TypeScriptНовые проекты по теме — в Telegram
Telegram →