Qlora: open-source проекты на GitHub
13 репозиториев по теме Qlora, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
Унифицированная настройка LLM
Библиотека для эффективного дообучения более 100 языковых и vision‑моделей, представленная на ACL 2024.
★ 71,186 · PythonAIRLLM: 70B МОДЕЛЬ НА 4GB GPU
Запуск огромных LLM на слабом железе. AirLLM позволяет инференс 70B моделей всего на одной 4GB видеокарте.
★ 42,461 · Jupyter NotebookСУП: ОБУЧАЕМ LLM ЛЕГКО
Soup дообучает LLM из одного YAML, используя слой потоковой передачи — 8B модель на ноутбуке с 4 ГБ VRAM.
★ 10,552 · PythonBITSANDBYTES: КОМПРЕССИЯ LLM НА PYTORCH
Библиотека для квантования больших языковых моделей до k‑бит, позволяющая запускать LLM на обычном железе через PyTorch.
★ 8,246 · PythonHALO: ФРЕЙМВОРК ОБУЧЕНИЯ LLM
Halo — открытый фреймворк от White Circle для обучения больших языковых и мультимодальных моделей. Поддерживает агентное обучение, async-RL, распределённое обучение и fin
★ 862 · PythonPMETAL: УСКОРЕНИЕ LLM НА APPLE SILICON
PMetal — фреймворк на Rust для высокопроизводительного запуска LLM на Apple Silicon. Поддерживает локальный инференс fine‑tuning LoRA/QLoRA сервинг квантизацию и ускорени
★ 333 · RustMini-Verl на одной GPU
Проект позволяет запускать документированный подмножество verl‑style OPD на одной потребительской видеокарте, используя типизированную конфигурацию, Parquet‑prompts и арт
★ 311 · PythonЛёгкое дообучение LLM-ассистентов
Zero-friction дообучение любых LLM для Claude Code, Gemini CLI и ACP-агентов: от настройки среды до обучения (LoRA, SFT, DPO, GRPO) с поддержкой NVIDIA и Apple Silicon.
★ 237 · PythonСпринт тонкой настройки LoRA
Проект ускоряет fine-tuning моделей с LoRA, фиксируя задачу и аппаратное обеспечение, и выводит результаты в открытый wall‑clock лидерборд на базе модифицированного nanog
★ 151 · PythonБезопасный LLM для кода
Система на базе LLM, анализирующая AI‑сгенерированный код на уязвимости и предлагающая автоматические исправления. Интегрируется в CI/CD для непрерывной защиты приложений
★ 57 · PythonКонтроллер восстановления AI агентов
Open-source инструмент для управления исполнением и восстановлением работы AI‑агентов, использующих код и внешние инструменты. Обеспечивает надёжное выполнение задач и ав
★ 54 · PythonМожно ли дообучить
Инструмент для проверки, поместится ли модель Hugging Face в память вашей GPU и возможно ли её дообучение локально.
★ 31 · PythonSparkDuet: на-demand библиотека моделей
Проект предоставляет единый OpenAI‑совместимый эндпоинт для запуска моделей DeepSeek и Qwen, обслуживает их через два vLLM‑лейна (TP=2) на кластере NVIDIA DGX Spark и под
★ 0 · PythonНовые проекты по теме — в Telegram
Telegram →