R_REDDYX.XYZ

Llama: open-source проекты на GitHub

106 репозиториев по теме Llama, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064Openai 691GPT 154Mistral 41Ollama 237Deepseek 223Qwen 101Chatgpt 312Anthropic 449Chatbot 168Gemini 348MCP 1593Llama3 28Claude 971
ollama/ollama

Ollama: Локальные LLM

Запуск языковых моделей (Kimi-K2.5, DeepSeek, Qwen, Gemma и др.) локально на вашем устройстве — просто и быстро.

★ 171,194 · Go
vllm-project/vllm

Высокопроизводительный движок LLM

Высокопроизводительный и память‑эффективный движок для инференса и обслуживания больших языковых моделей.

★ 79,783 · Python
hiyouga/LlamaFactory

Унифицированная настройка LLM

Библиотека для эффективного дообучения более 100 языковых и vision‑моделей, представленная на ACL 2024.

★ 71,186 · Python
unslothai/unsloth

Unsloth Studio: локальный UI

Веб‑интерфейс для обучения и запуска открытых моделей (Gemma 4, Qwen3.6, DeepSeek, gpt‑oss) непосредственно на своём компьютере.

★ 64,107 · Python
mudler/LocalAI

Локальный AI движок

LocalAI — открытый движок для запуска любых моделей (LLM, visão, голос, изображение, видео) на любом оборудовании без необходимости GPU.

★ 46,221 · Go
Aider-AI/aider

Aider: AI-программирование в терминале

Aider — AI-ассистент для парного программирования в терминале. Помогает писать, редактировать и рефакторить код.

★ 44,686 · Python
lyogavin/airllm

AIRLLM: 70B МОДЕЛЬ НА 4GB GPU

Запуск огромных LLM на слабом железе. AirLLM позволяет инференс 70B моделей всего на одной 4GB видеокарте.

★ 42,461 · Jupyter Notebook
chatchat-space/Langchain-Chatchat

ЧатБот на LangChain

Локальное RAG-приложение на LangChain для работы с LLM (ChatGLM, Qwen, Llama) с поддержкой агентов и загрузки собственных знаний.

★ 38,014 · Python
AstrBotDevs/AstrBot

AstrBot – ИИ-ассистент

Платформа для создания ИИ-агентов, объединяющая множество мессенджеров, LLM и плагинов, предоставляющая открытую альтернативу OpenClaw.

★ 32,052 · Python
sgl-project/sglang

SGLang: Фреймворк LLM

SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых и мультимодальных моделей.

★ 27,854 · Python
yamadashy/repomix

Упаковка репозитория для AI

Инструмент упаковывает весь репозиторий в один файл, удобный для подачи в LLMs и другие AI‑сервисы.

★ 24,631 · TypeScript
cheahjs/free-llm-api-resources

Бесплатные API LLM

Список бесплатных ресурсов для доступа к большим языковым моделям через API.

★ 21,370 · Python
GaiZhenbiao/ChuanhuChatGPT

Интерфейс для чат‑ботов

Графический интерфейс для работы с ChatGPT API и другими LLM: поддержка агентов, вопросов по файлам, дообучения и веб‑поиска.

★ 15,339 · Python
modelscope/ms-swift

ms-swift: обучение LLM

Фреймворк для тонкой настройки 600+ языковых и 300+ мультимодальных моделей. Поддержка PEFT, полная донастройка, CPT/SFT/DPO/GRPO.

★ 14,178 · Python
bentoml/OpenLLM

OPENLLM: ЗАПУСК LLM КАК OPENAI API

OpenLLM позволяет запускать любые открытые LLM (Llama, Qwen, DeepSeek) как OpenAI-совместимые API одной командой. Включает чат-UI, современные бэкенды инференса и готовые

★ 12,607 · Python
TheR1D/shell_gpt

SHELL_GPT - ИИ АССИСТЕНТ ДЛЯ TERMINAL

Shell GPT — это инструмент командной строки, основанный на GPT-5, который ускоряет выполнение задач и повышает эффективность работы.

★ 12,312 · Python
langchain4j/langchain4j

LangChain4j для JVM

Библиотека Java для LLM‑приложений: единый API к провайдерам и векторным хранилищам, tool calling, агенты, RAG и интеграция с Quarkus и Spring Boot.

★ 11,973 · Java
ludwig-ai/ludwig

LUDWIG - LOW-CODE AI ФРЕЙМВОРК

Создавайте LLM и нейросети без кода. Простота для кастомных AI-моделей включена!

★ 11,791 · Python
dataelement/bisheng

BISHENG — платформа LLM DevOps

Открытая платформа для разработки корпоративных AI-приложений нового поколения: рабочие процессы GenAI, RAG, агенты и многое другое.

★ 11,373 · TypeScript
tensorzero/tensorzero

TensorZero: LLMOps платформа

Открытая платформа LLMOps, объединяющая шлюз LLM, наблюдаемость, оценку, оптимизацию и эксперименты.

★ 11,366 · Rust
oumi-ai/oumi

OUMI ЛЁГКАЯ НАСТРОЙКА LLM

OUMI позволяет быстро fine‑tune (SFT/RL), оценивать и развёртывать модели Qwen, Gemma и любые открытые агентные LLM/VLM без лишней сложности.

★ 9,433 · Python
xorbitsai/inference

XINFERENCE - ЛЮБАЯ LLM В ОДНУ СТРОКУ

Замените GPT на любую открытую модель, изменив одну строку кода. Запускайте LLM, мультимодальные и speech-модели через единый production-ready API.

★ 9,318 · Python
qualcomm/GenieX

GENIEX: LLMs НА УСТРОЙСТВАХ

Запускайте передовые мультимодальные модели на GPU, NPU и CPU — от ПК до мобильных и IoT устройств.

★ 8,530 · Rust
zilliztech/GPTCache

GPTCache: СЕМАНТИЧНЫЙ КЭШ ДЛЯ LLM

GPTCache предоставляет семантическое кеширование запросов к большим языковым моделям, уменьшая токенопотребление и ускоряя ответы. Полностью интегрирован с LangChain и ll

★ 8,224 · Python
qualcomm/nexa-sdk

NEXA-SDK AI ВЕЗДЕ И ВСЕГДА

Запускай передовые LLMs и VLMs на GPU, NPU и CPU — от ПК до мобильных и IoT устройств. Поддержка моделей GPT-OSS, Granite-4, Qwen-3-VL и др.

★ 8,094 · Rust
InternLM/lmdeploy

LMDeploy: ЛЁГКОЕ РАЗВЁРТЫВАНИЕ LLM

Набор инструментов для сжатия, деплоя и обслуживания LLM. ⭐ 7873 | Python

★ 7,873 · Python
k8sgpt-ai/k8sgpt

K8SGPT: АССИСТЕНТ KUBERNETES

k8sgpt использует ИИ для анализа кластеров Kubernetes, выявляя проблемы и предлагая мгновенные исправления.

★ 7,846 · Go
arcee-ai/mergekit

ОБЪЕДИНЯЙ LLM МОДЕЛИ ЛЕГКО

Mergekit предоставляет инструменты для объединения предобученных LLM, комбинируя веса, средние значения и слои разных архитектур, например Llama. Результат — одна модель,

★ 7,452 · Python
mishushakov/llm-scraper

llm-scraper - ПАРСИНГ ВЕБ-СТРАНИЦ С LLM

Преобразуйте любую веб‑страницу в структурированные данные с помощью мощных LLM – без парсинга и регулярок.

★ 6,811 · TypeScript
gluonfield/enchanted

ENCHANTED - ЧАТ С ОТКРЫТЫМИ МОДЕЛЯМИ

Enchanted — приложение для iOS и macOS, позволяющее общаться с локальными моделями Llama2, Mistral и Vicuna через Ollama.

★ 6,019 · Swift
strands-agents/harness-sdk

HARNESS-SDK: СОЗДАЙ AI-АГЕНТ БЫСТРО

Model‑driven SDK позволяет создавать AI‑агентов всего несколькими строками кода на Python.

★ 5,999 · Python
strands-agents/sdk-python

Стриндс-агенты SDK

Модельный подход к созданию AI-агентов всего в несколько строк кода.

★ 5,888 · Python
gpustack/gpustack

GPU менеджер кластера

Управление GPU-кластерами с автоматической настройкой и оркестрацией движков инференса (vLLM, SGLang) для высокопроизводительного развёртывания моделей ИИ.

★ 5,041 · Python
h2oai/h2o-llmstudio

H2O LLM STUDIO ВЫШЛА БЕСПЛАТНО

Фреймворк для fine-tuning LLM с графическим интерфейсом. Настройте языковые модели без написания кода!

★ 4,972 · Python
mostlygeek/llama-swap

LLAMA-SWAP - НАДЁЖНАЯ ЗАМЕНА МОДЕЛЕЙ

Утилита для бесшовной замены моделей на локальных серверах (llama.cpp, vLLM и др.)

★ 4,328 · Go
ModelTC/LightLLM

LightLLM - БЫСТРЫЙ ИНФЕРЕНС LLM

Лёгкий и быстрый фреймворк для инференса и сервинга больших языковых моделей на Python. Простое масштабирование и высокая производительность.

★ 4,092 · Python
lemonade-sdk/lemonade

Lemonade SDK

Lemonade помогает пользователям запускать локальные AI-приложения, оптимизируя работу LLM на их GPU и NPU. Присоединяйтесь к нашему Discord!

★ 4,059 · C++
langroid/langroid

LANGRID - МУЛЬТИАГЕНТ ИИ ДЛЯ КОДА

Простой фреймворк для создания агентов на базе LLM с поддержкой памяти и инструментов.

★ 4,029 · Python
NVlabs/Eagle

Eagle: Новое поколение визуальных ИИ-моделей

Eagle — передовые мультимодальные модели в формате VLM, разработанные по Data-Centric стратегии. 2700+ звёзд на GitHub и активное развитие.

★ 3,857 · Python
SciSharp/LLamaSharp

LLAMASHARP - ЛОКАЛЬНЫЙ LLM НА C#

Библиотека на C#/.NET для эффективного запуска LLM моделей LLaMA и LLaVA на локальном устройстве.

★ 3,826 · C#
johnbean393/Sidekick

SIDEKICK: ЛОКАЛЬНЫЙ AI ЧАТ

Sidekick — нативное macOS приложение для чата с локальной LLM, которое берёт ответы из файлов, папок и веб‑страниц. Работает полностью офлайн на llama.cpp, без внешних AP

★ 3,324 · Swift
Josh-XT/AGiXT

AGiXT: АВТОМАТИЗАЦИЯ AI-АГЕНТОВ

Платформа для оркестрации AI-агентов с адаптивной памятью, плагинами и поддержкой множества AI-провайдеров.

★ 3,192 · Python
run-llama/LlamaIndexTS

LlamaIndexTS фреймворк

Фреймворк для создания серверных приложений на основе LLM с удобным управлением данными.

★ 3,083 · TypeScript
Mobile-Artificial-Intelligence/maid

MAID: УПРАВЛЯЙ ИИ-МОДЕЛЯМИ

Бесплатный инструмент для работы с локальными и удалёнными LLM: llama.cpp, Anthropic, DeepSeek и др.

★ 2,776 · TypeScript
papersgpt/papersgpt-for-zotero

PAPERSGPT — AI ДЛЯ ZOTERO

Мощный AI-плагин для Zotero с поддержкой ChatGPT, Gemini, Claude, DeepSeek и других моделей. 2459 звёзд!

★ 2,709 · JavaScript
stochasticai/xTuring

XTRUING: ПЕРСОНАЛИЗУЙ LLM

xTuring упрощает создание и персонализацию собственных LLM: от подготовки данных до fine‑tuning. Инструмент поддерживает адаптеры, готовые пайплайны и экспорт моделей. Пр

★ 2,681 · Python
om-ai-lab/OmAgent

ОМАГЕНТ: МУЛЬТИМОДАЛЬНЫЙ AGENT

OmAgent — фреймворк для мультимодальных агентов на Gemini, GPT-4 и др. LLM. Позволяет быстро прототипировать и деплоить через Gradio, поддерживает RAG и шаблоны чат-ботов

★ 2,670 · Python
nicedreamzapp/claude-code-local

Локальный Claude Code

Запускайте Claude Code полностью на устройстве с Apple Silicon, используя MLX‑нативный сервер, совместимый с Anthropic API. Поддерживает локальные модели Qwen 3.5 122B, L

★ 2,578 · Python
heshengtao/comfyui_LLM_party

LLM АГЕНТ ФРЕЙМВОРК В COMFYUI

Framework объединяет LLM-агентов, Omost, GPT‑Sovits, ChatTTS и OCR в ComfyUI с поддержкой Feishu, Discord и всех популярных LLM.

★ 2,390 · Python
beelzebub-labs/beelzebub

beelzebub - AI-ДРИВЕННАЯ LOW-CODE ВИРТУАЛИЗАЦИЯ

Beelzebub — фреймворк низкоуровневого кода для безопасного обмана систем, использующий ИИ для виртуализации окружения.

★ 2,238 · Go
floneum/kalosm

ЛОКАЛЬНЫЕ AI МОДЕЛИ НА RUST

Мгновенные и управляемые предобученные AI модели, работающие локально. 2205 звёзд — проект набирает популярность.

★ 2,236 · Rust
withcatai/node-llama-cpp

ЗАПУСКАЙ LLM ЛОКАЛЬНО В NODE.JS

Запускайте AI-модели прямо на своём компьютере через node.js. Принудительная валидация JSON-схемы прямо на уровне генерации.

★ 2,205 · TypeScript
ROCm/FastFlowLM

БЫСТРЫЙ ЗАПУСК LLM НА NPU

FastFlowLM запускает LLMs на AMD Ryzen AI NPU за минуты, давая производительность, сравнимую с Ollama, но с оптимизацией под NPU.

★ 2,050 · C++
ggml-org/llama.vim

LLAMA.VIM: LLM ПРЯМО В VIM

Плагин для Vim, который добавляет автодополнение кода и текста с помощью больших языковых моделей. 2000+ звёзд на GitHub.

★ 2,042 · Vim Script
Prat011/awesome-llm-skills

СБОРКА ЛУЧШИХ LLM НАВЫКОВ

Кураторский список навыков и инструментов для AI-агентов, работающих с Claude Code, Codex и Gemini CLI.

★ 1,865 · Python
potamides/DeTikZify

DETIKZIFY РИСУЕТ LATEX-СХЕМЫ МГНОВЕННО

DeTikZify превращает словесные описания или ручные эскизы в готовый TikZ‑код для LaTeX. Проект использует модели из HuggingFace и Llama для обратного генерирования график

★ 1,831 · Python
n4ze3m/dialoqbase

СОЗДАЁШБОТОВ БЕЗ КОДА

dialoqbase — фреймворк для быстрого создания AI-ботов и RAG-приложений. Загружайте документы и общайтесь с ними.

★ 1,787 · TypeScript
UbiquitousLearning/mllm

БЫСТРЫЙ МУЛЬТИМОДАЛЬНЫЙ LLM НА МОБИЛЕ

Библиотека на C++ обеспечивает запуск мультимодальных LLM прямо на смартфонах с высокой скоростью и низким энергопотреблением.

★ 1,533 · C++
tenstorrent/tt-metal

tt-metal - МЕТАЛЛИЧЕСКАЯ БИБЛИОТЕКА ОПЕРАЦИЙ

Библиотека TT-NN операторов и низкоуровневая модель программирования ядер TT-Metalium для ускорения AI‑ workloads на собственном оборудовании.

★ 1,505 · C++
kwaroran/Risuai

RISUAI: СОЗДАВАЙ СВОИ ИСТОРИИ

Risuai позволяет легко создавать интерактивные ролевые сюжеты с LLM, используя TypeScript.

★ 1,491 · TypeScript

Новые проекты по теме — в Telegram

Telegram →
Llama — 106 open-source проектов на GitHub | REDDYX AI