R_REDDYX.XYZ

Qlora: open-source проекты на GitHub

13 репозиториев по теме Qlora, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064Fine Tuning 48Lora 50Transformers 49Quantization 29Pytorch 91Qwen 101Rlhf 19Machine Learning 188Agent 540Deepseek 223Large Language Models 151Llama 106Moe 23
hiyouga/LlamaFactory

Унифицированная настройка LLM

Библиотека для эффективного дообучения более 100 языковых и vision‑моделей, представленная на ACL 2024.

★ 71,186 · Python
lyogavin/airllm

AIRLLM: 70B МОДЕЛЬ НА 4GB GPU

Запуск огромных LLM на слабом железе. AirLLM позволяет инференс 70B моделей всего на одной 4GB видеокарте.

★ 42,461 · Jupyter Notebook
MakazhanAlpamys/Soup

СУП: ОБУЧАЕМ LLM ЛЕГКО

Soup дообучает LLM из одного YAML, используя слой потоковой передачи — 8B модель на ноутбуке с 4 ГБ VRAM.

★ 10,552 · Python
bitsandbytes-foundation/bitsandbytes

BITSANDBYTES: КОМПРЕССИЯ LLM НА PYTORCH

Библиотека для квантования больших языковых моделей до k‑бит, позволяющая запускать LLM на обычном железе через PyTorch.

★ 8,246 · Python
whitecircle/halo

HALO: ФРЕЙМВОРК ОБУЧЕНИЯ LLM

Halo — открытый фреймворк от White Circle для обучения больших языковых и мультимодальных моделей. Поддерживает агентное обучение, async-RL, распределённое обучение и fin

★ 862 · Python
Epistates/pmetal

PMETAL: УСКОРЕНИЕ LLM НА APPLE SILICON

PMetal — фреймворк на Rust для высокопроизводительного запуска LLM на Apple Silicon. Поддерживает локальный инференс fine‑tuning LoRA/QLoRA сервинг квантизацию и ускорени

★ 333 · Rust
DaoyuanLi2816/mini-verl

Mini-Verl на одной GPU

Проект позволяет запускать документированный подмножество verl‑style OPD на одной потребительской видеокарте, используя типизированную конфигурацию, Parquet‑prompts и арт

★ 311 · Python
TYH-labs/unsloth-buddy

Лёгкое дообучение LLM-ассистентов

Zero-friction дообучение любых LLM для Claude Code, Gemini CLI и ACP-агентов: от настройки среды до обучения (LoRA, SFT, DPO, GRPO) с поддержкой NVIDIA и Apple Silicon.

★ 237 · Python
Saivineeth147/lora-speedrun

Спринт тонкой настройки LoRA

Проект ускоряет fine-tuning моделей с LoRA, фиксируя задачу и аппаратное обеспечение, и выводит результаты в открытый wall‑clock лидерборд на базе модифицированного nanog

★ 151 · Python
trynullsec/nullsec-s1

Безопасный LLM для кода

Система на базе LLM, анализирующая AI‑сгенерированный код на уязвимости и предлагающая автоматические исправления. Интегрируется в CI/CD для непрерывной защиты приложений

★ 57 · Python
usedotai/dot-reflex

Контроллер восстановления AI агентов

Open-source инструмент для управления исполнением и восстановлением работы AI‑агентов, использующих код и внешние инструменты. Обеспечивает надёжное выполнение задач и ав

★ 54 · Python
DaoyuanLi2816/can-i-finetune-this

Можно ли дообучить

Инструмент для проверки, поместится ли модель Hugging Face в память вашей GPU и возможно ли её дообучение локально.

★ 31 · Python
zorost/sparkduet

SparkDuet: на-demand библиотека моделей

Проект предоставляет единый OpenAI‑совместимый эндпоинт для запуска моделей DeepSeek и Qwen, обслуживает их через два vLLM‑лейна (TP=2) на кластере NVIDIA DGX Spark и под

★ 0 · Python

Новые проекты по теме — в Telegram

Telegram →
Qlora — 13 open-source проектов на GitHub | REDDYX AI