R_REDDYX.XYZ

Transformer: open-source проекты на GitHub

33 репозиториев по теме Transformer, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064Machine Learning 188Pytorch 91Inference 88Deep Learning 101Qwen 101Openai 691RAG 507Large Language Models 151Deepseek 223Glm 24NLP 82GPT 154Moe 23
huggingface/transformers

🤗 Transformers

Фреймворк для определения моделей машинного обучения в тексте, зрении, аудио и мультимодальных моделях, для инференса и обучения.

★ 160,482 · Python
vllm-project/vllm

Высокопроизводительный движок LLM

Высокопроизводительный и память‑эффективный движок для инференса и обслуживания больших языковых моделей.

★ 79,783 · Python
ggml-org/whisper.cpp

whisper.cpp: C/C++ порт Whisper

Высокопроизводительный порт модели распознавания речи OpenAI Whisper на C/C++ для локального и кроссплатформенного использования.

★ 49,828 · C++
sgl-project/sglang

SGLang: Фреймворк LLM

SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых и мультимодальных моделей.

★ 27,854 · Python
SYSTRAN/faster-whisper

БЫСТРАЯ ТРАНСКРИБЦИЯ РЕЧИ

Faster Whisper — ускоренная версия модели Whisper для распознавания речи, построенная на CTranslate2. Поддерживает量化 модели и обеспечивает реальное‑временное транскрибиро

★ 26,758 · Python
p-e-w/heretic

Удаление цензуры в языковых моделях, ПОЛНАЯ АВТОМАТИЗАЦИЯ

Проект устраняет автоматическую цензуру в языковых моделях, делая их ответы свободными и без ограничений.

★ 20,881 · Python
FlashML-org/FreeToken

FreeToken: локальный запуск моделей

FreeToken позволяет запускать большие ИИ‑модели на своём ПК, обеспечивая скорость и эффективность уровня дата‑центра без необходимости в облачных ресурсах.

★ 17,197 · Python
alibaba/MNN

MNN: БЫСТРЫЙ AI НА УСТРОЙСТВЕ

Лёгкий и молниеносный inference engine от Alibaba для on-device LLM и Edge AI.

★ 15,386 · C++
FareedKhan-dev/kimi-k3-in-c

KIMI K3: 2.78 ТРЛН ПАРАМЕТРОВ

Запуск модели Kimi K3 с 2,78 трлн параметров на одном CPU, используя всего 8,24 ГБ RAM без BLAS, фреймворков и GPU.

★ 12,109 · C
cactus-compute/engine

AI РАМКА ДЛЯ УСТРОЙСТВ

Этот проект предлагает low-bit quant kernels и runtime для consumer устройств. Поддержка Android, ARM и edge-ai фреймворков.

★ 6,192 · C++
cactus-compute/cactus

Эффективный ИИ для мобильных устройств

Движок искусственного интеллекта с минимальной задержкой для смартфонов и носимых устройств.

★ 4,949 · C
vllm-project/vllm-omni

vllm-omni

Фреймворк для эффективного инференса мультимодальных моделей. Объединяет текст, изображения и аудио в единой системе вывода.

★ 4,863 · Python
datawhalechina/diy-llm

DIY-LLM: ПОЛНЫЙ КУРС LLM С КОДОМ

Проект diy-llm предлагает шесть пошаговых Jupyter‑ноутбуков, охватывающих предобучение данных, токенизацию, Transformer, MoE, распределённое обучение, масштабирующие зако

★ 2,960 · Jupyter Notebook
Xnhyacinth/Awesome-LLM-Long-Context-Modeling

AWESOME LLM LONG CONTEXT - ТОП ПАПЕРЫ

Подборка must-read статей и блогов о долгосрочном контексте в LLM: новые методы, обзоры и практики.

★ 2,192
vllm-project/vllm-ascend

VLLM-ASCEND: ПЛАГИН ДЛЯ ASCEND НА ГИТХАБЕ

Community-плагин для vLLM на железе Ascend от сообщества, написанный на C++. Набирает звёзды — уже 2156!

★ 2,156 · C++
safe-graph/graph-fraud-detection-papers

ГРАФЫ ПРОТИВ МОШЕННИКОВ

Кураторский список статей по обнаружению мошенничества с помощью графов и трансформеров.

★ 1,907
WeiboAI/VibeThinker

VIBETHINKER: МОДЕЛЬ НА 1.5B

Крошечная модель с мощным логическим мышлением — Diversity-Driven Optimization пробуждает разум большого LLM. 577 ★ уже!

★ 1,589 · Python
GradientHQ/parallax

PARALLAX: СОЗДАЙ ИИ КЛАСТЕР

Parallax позволяет быстро развернуть распределённый сервис inference на любой инфраструктуре.

★ 1,301 · Python
unum-cloud/UForm

MULTIMODAL AI ДЛЯ КОНТЕНТА

UForm — компактный MULTIMODAL AI для понимания и генерации контента. Обрабатывает multilingual тексты, изображения и видео, работая в 5 раз быстрее OpenAI CLIP и LLaVA.

★ 1,253 · Python
Ramakm/ai-hands-on

AI-HANDS-ON: ИЗУЧАЙ AI С НУЛЯ

Коллекция ноутбуков и файлов для изучения AI с нуля. 1137 звёзд на GitHub.

★ 1,137 · Jupyter Notebook
XHToken/Spark-X2.6

SPARK-X2.6: АГЕНТЫ НА УСТРОЙСТВЕ

Открытая серия моделей Spark-x2.5 с фокусом на агентские способности. Работают локально на устройстве без облака. 814 звёзд на GitHub.

★ 911
microsoft/multilspy

MULTILSPY — PYTHON LSP КЛИЕНТ

multilspy — это библиотека LSP-клиента на Python, упрощающая взаимодействие с языковыми серверами для IDE и анализа кода.

★ 615 · Python
zolotukhin/zinc

ZINC - ЛОКАЛЬНЫЙ LLM НА GPU

Zinc — движок инференса LLM на Zig, работающий на AMD GPU и Apple Silicon без внешних зависимостей.

★ 395 · Zig
theaniketgiri/create-llm

СОЗДАЙ LLM ЗА СЕКУНДЫ

CLI-инструмент создаёт готовые к обучению PyTorch‑проекты для LLM за считанные секунды. Аналог create‑next‑app, но для языковых моделей. Написан на TypeScript, уже собрал

★ 373 · TypeScript
AspirinCode/awesome-AI4MolConformation-MD

awesome-AI4MolConformation-MD - ИИ ГЕНЕРАЦИЯ МОЛЕКУЛ

Сборник конформаций малых молекул, РНК, пептидов, белков и ферментов, полученных с помощью генеративного ИИ и молекулярной динамики.

★ 307
hongbo-miao/hongbomiao.com

НАЗВАНИЕ - ХОНГБОМИАО LAB

Персональная R&D лаборатория на Python с 298 звёздами, объединяющая разработчиков для обмена знаниями и совместного роста.

★ 300 · Python
myylogic/cevahir-ai

CEVAHIR AI ОТКРЫТЫЙ ИИ ДВИГАТЕЛЬ

Полноценный open‑source движок для обучения токенизаторов, трансформеров и когнитивного рассуждения, готовый к чат‑потоку.

★ 293 · Python
microsoft/monitors4codegen

MONITOR-GUIDED DECODING ДЛЯ CODE LLM

Артефакт NeurIPS 2023: Monitor-Guided Decoding кодовых LLM со статическим анализом контекста репозитория. Включает multispy — Python-клиент LSP для интеграции с языковыми

★ 279 · Python
TYH-labs/unsloth-buddy

Лёгкое дообучение LLM-ассистентов

Zero-friction дообучение любых LLM для Claude Code, Gemini CLI и ACP-агентов: от настройки среды до обучения (LoRA, SFT, DPO, GRPO) с поддержкой NVIDIA и Apple Silicon.

★ 237 · Python
OpenMachine-ai/transformer-tricks

TRANSFORMER-TRICKS - УСКОРЕНИЕ ТРАНСФОРМЕРОВ

Набор приемов и утилит для ускорения трансформеров: оптимизация attention, квантование и кэширование вычислений.

★ 236 · TeX
InferMatrixLab/vllm-rlt

VLLM ИНФЕРЕНС: LOOPED TRANSFORMERS

vllm-rlt — движок вывода в стиле vLLM для looped transformers. Реализует планирование и выполнение на уровне циклов через композируемые стадии. 207 звёзд на GitHub.

★ 227 · Python
walkinglabs/modern-llm-notebook

Курс по LLM с нуля

Практический курс на 23 Jupyter‑ноутбуках, где вы создаёте токенизаторы, attention, MoE, RLHF, инференс, оценку и дистилляцию современных LLM на PyTorch.

★ 53 · Jupyter Notebook
yassa9/dvlt.cu

DVLT на CUDA без зависимостей

Проект переносит NVIDIA DVLT на чистый CUDA/C++, позволяя подавать изображения и получать 3D точечное облако вместе с позициями камеры. Всё упаковано в один быстрый 5‑МБ

★ 31 · Cuda

Новые проекты по теме — в Telegram

Telegram →
Transformer — 33 open-source проектов на GitHub | REDDYX AI