R_REDDYX.XYZ

Qwen3: open-source проекты на GitHub

30 репозиториев по теме Qwen3, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064Qwen 101Deepseek 223Llama 106Speculative Decoding 21GPT Oss 20Llama3 28Local LLM 102Moe 23RAG 507Deepseek R1 24LLM Inference 76Quantization 29Gguf 45
vllm-project/vllm

Высокопроизводительный движок LLM

Высокопроизводительный и память‑эффективный движок для инференса и обслуживания больших языковых моделей.

★ 79,783 · Python
Mintplex-Labs/anything-llm

AI-продуктивность на устройстве

Универсальный инструмент для продуктивности с ИИ, работающий локально и обеспечивающий полную конфиденциальность без сложной настройки.

★ 59,922 · JavaScript
modelscope/ms-swift

ms-swift: обучение LLM

Фреймворк для тонкой настройки 600+ языковых и 300+ мультимодальных моделей. Поддержка PEFT, полная донастройка, CPT/SFT/DPO/GRPO.

★ 14,178 · Python
qualcomm/GenieX

GENIEX: LLMs НА УСТРОЙСТВАХ

Запускайте передовые мультимодальные модели на GPU, NPU и CPU — от ПК до мобильных и IoT устройств.

★ 8,530 · Rust
zilliztech/deep-searcher

DEEP SEARCHER AI AGENT

Deep‑searcher — открытый Python‑фреймворк для глубокого исследования приватных данных. Предлагает альтернативу Reason и Search с агентным RAG, поддерживая Claude и DeepSe

★ 8,395 · Python
qualcomm/nexa-sdk

NEXA-SDK AI ВЕЗДЕ И ВСЕГДА

Запускай передовые LLMs и VLMs на GPU, NPU и CPU — от ПК до мобильных и IoT устройств. Поддержка моделей GPT-OSS, Granite-4, Qwen-3-VL и др.

★ 8,094 · Rust
johnbean393/Sidekick

SIDEKICK: ЛОКАЛЬНЫЙ AI ЧАТ

Sidekick — нативное macOS приложение для чата с локальной LLM, которое берёт ответы из файлов, папок и веб‑страниц. Работает полностью офлайн на llama.cpp, без внешних AP

★ 3,324 · Swift
syv-ai/HyperQwen

HyperQwen: Qwen на потребительских GPU

Проект оптимизирует запуск больших моделей Qwen на доступных GPU с помощью vLLM патчей и реквантизации. Достигает 127 ток/с на 24 ГБ.

★ 2,713 · Python
papersgpt/papersgpt-for-zotero

PAPERSGPT — AI ДЛЯ ZOTERO

Мощный AI-плагин для Zotero с поддержкой ChatGPT, Gemini, Claude, DeepSeek и других моделей. 2459 звёзд!

★ 2,709 · JavaScript
meizhong986/WhisperJAV

WHISPERJAV СУБТИТРЫ БЕЗ ШУМА

Генератор субтитров для видео на основе Qwen3‑ASR, Whisper и локального LLM, устойчив к шуму и идеально подходит для JAV‑контента.

★ 2,465 · Python
RunanywhereAI/wally

ГОЛОСОВОЙ АССИСТЕНТ ДЛЯ MAC

Wally позволяет голосом управлять Mac и искать в локальных документах без выхода в интернет. Работает на Apple Silicon, использует оффлайн LLM через llama.cpp и RAG‑поиск

★ 1,571 · C++
RunanywhereAI/RCLI

RCLI — Голосовой ИИ

Голосовой ИИ с RAG без облака: общайтесь с Mac и запрашивайте документы локально.

★ 1,507 · C++
peonist-ai/halogen-flash-server

БЫСТРЫЙ ЗАПУСК QWEN3.8 НА AMD

Проект предоставляет скрипты для мгновенного развёртывания Qwen3.8-Flash-Next на GPU AMD Strix Halo (gfx1151) через HIP. Все зависимости собираются автоматически, а infer

★ 1,349 · Shell
synchopate/llama-modchip

ЗАПУСКАЕМ 284B LLM НА CPU БЕЗ GPU

llama-modchip запускает DeepSeek-V4-Flash 284B на чистом CPU 64GB RAM: 44.4 tok/s префилл, 9-14 tok/s генерация. 30B MoE модели до 111 tok/s. Контекст 256K, восстановлени

★ 1,234 · Python
EvolvingLMMs-Lab/LLaVA-OneVision-2

МУЛЬТИМОДАЛЬНОЕ БУДУЩЕЕ УЖЕ ЗДЕСЬ

Полностью open-source фреймворк для обучения мультимодальных моделей — доступен каждому. Python.

★ 1,050 · Python
YeonwooSung/llm-architecture-from-scratch

РЕАЛИЗУЕМ LLM АРХИТЕКТУРЫ С НУЛЯ

Проект содержит чистые реализации современных LLM архитектур на PyTorch. Включает DeepSeek-R1, DeepSeek-V3, Gemma 3, Kimi K2 и Llama 4. Идеально для изучения внутренней с

★ 856 · Python
ARahim3/kaggle-tpu-lab

БЕСПЛАТНЫЙ TPU ДЛЯ QWEN3.8-27B

Проект kaggle-tpu-lab запускает Qwen3.8-27B (bf16) на бесплатном TPU Kaggle, предоставляя OpenAI‑совместимый API. Поддерживает контекст 262 к токенов и скорость ~130 токе

★ 801 · Python
pegainfer-project/pegainfer

PEGAINFER: РАСТ + CUDA ИНФЕР

Движок LLM на чистом Rust с CUDA‑ускорением, совместимый с OpenAI API, запускает Qwen3 и Kimi‑K2 без PyTorch.

★ 742 · Rust
prabanta-dev/janas

JANAS: БЫСТРЫЙ ИНФЕРЕНС LLM

janas запускает huge LLM (до 48 ГБ) на ноутбуке 32 ГБ, обгоняя llama.cpp в 8‑10 раз. На Qwen3-Next-80B даёт 37 ток/сек без draft и 62 ток/сек при чтении GGUF. Поддерживае

★ 712 · C
zhongkaifu/TensorSharp

TENSORSHARP - МОЩНЫЙ .NET LLM

Библиотека для быстрого запуска GGUF моделей на .NET с поддержкой GPU, консольного приложения, веб‑чата и API, совместимого с Ollama и OpenAI.

★ 679 · C#
NVIDIA-NeMo/Automodel

AUTOMODEL — РАСПРЕДЕЛЁННОЕ ОБУЧЕНИЕ LLM/VLM

Нативная библиотека PyTorch для распределённого обучения LLM/VLM с поддержкой Hugging Face из коробки. ⭐ 576 звёзд на GitHub.

★ 576 · Python
AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-DFlash

QWEN3.6-27B УЛЬТИМЕЙТ ВЕРСИЯ

Полностью без цензуры, улучшенная версия Qwen3.6-27B с NVFP4 и DFlash спекулятивным декодированием.

★ 495 · Python
zolotukhin/zinc

ZINC - ЛОКАЛЬНЫЙ LLM НА GPU

Zinc — движок инференса LLM на Zig, работающий на AMD GPU и Apple Silicon без внешних зависимостей.

★ 395 · Zig
JakeATX/llamAmpere

LLAMAMPERE: УСКОРЕНИЕ LLM НА RTX 3090

Форк llama.cpp с оптимизацией под Ampere GPU. Даёт 110+ токенов/с на Qwen 3.8 при 100K контексте. Работает на 12 ГБ VRAM с 200K+ контекстом.

★ 380 · C++
hud-evals/hud-python

HUD-PYTHON RL СРЕДА ОЦЕНКИ

OSS-среда для RL с готовыми инструментами оценки агентов. Запускай, настраивай, получай результаты.

★ 329 · Python
sophgo/LLM-TPU

LLM-TPU - ЗАПУСКАЙ AI НА BM1684X

Запускай генеративные ИИ-модели на Sophgo BM1684X/BM1688 с высокой скоростью и низким потреблением.

★ 323 · C++
beehive-lab/jitllm

JITLLM: ВЫСОКОПРОИЗВОДИТЕЛЬНЫЙ LLM НА JVM

JITLLM — Java‑фреймворк для высокопроизводительного инференса и serving LLM на JVM. Поддерживает ускорение GPU, форматы GGUF иquantized модели, а также интеграцию с DeepS

★ 295 · Java
microsoft/AesCode

ЭСТЕТИЧЕСКАЯ ГЕНЕРАЦИЯ HTML/CSS ИЗ ПРОМПТОВ

AesCode превращает промпты в редактируемые HTML/CSS-инфографики. Использует генераторы изображений как эстетические наводки и cross-modal rewards с RL (Qwen3) для верифиц

★ 281 · Python
usedotai/dot-reflex

Контроллер восстановления AI агентов

Open-source инструмент для управления исполнением и восстановлением работы AI‑агентов, использующих код и внешние инструменты. Обеспечивает надёжное выполнение задач и ав

★ 54 · Python
huyxdang/Text-GPT-Live

Тренировка GPT за $50

Проект показывает, как обучить собственную модель GPT-подобного типа за бюджет в 50 долларов, используя доступные облачные ресурсы и открытый код.

★ 45 · Python

Новые проекты по теме — в Telegram

Telegram →
Qwen3 — 30 open-source проектов на GitHub | REDDYX AI