Transformer: open-source проекты на GitHub
33 репозиториев по теме Transformer, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
🤗 Transformers
Фреймворк для определения моделей машинного обучения в тексте, зрении, аудио и мультимодальных моделях, для инференса и обучения.
★ 160,482 · PythonВысокопроизводительный движок LLM
Высокопроизводительный и память‑эффективный движок для инференса и обслуживания больших языковых моделей.
★ 79,783 · Pythonwhisper.cpp: C/C++ порт Whisper
Высокопроизводительный порт модели распознавания речи OpenAI Whisper на C/C++ для локального и кроссплатформенного использования.
★ 49,828 · C++SGLang: Фреймворк LLM
SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых и мультимодальных моделей.
★ 27,854 · PythonБЫСТРАЯ ТРАНСКРИБЦИЯ РЕЧИ
Faster Whisper — ускоренная версия модели Whisper для распознавания речи, построенная на CTranslate2. Поддерживает量化 модели и обеспечивает реальное‑временное транскрибиро
★ 26,758 · PythonУдаление цензуры в языковых моделях, ПОЛНАЯ АВТОМАТИЗАЦИЯ
Проект устраняет автоматическую цензуру в языковых моделях, делая их ответы свободными и без ограничений.
★ 20,881 · PythonFreeToken: локальный запуск моделей
FreeToken позволяет запускать большие ИИ‑модели на своём ПК, обеспечивая скорость и эффективность уровня дата‑центра без необходимости в облачных ресурсах.
★ 17,197 · PythonMNN: БЫСТРЫЙ AI НА УСТРОЙСТВЕ
Лёгкий и молниеносный inference engine от Alibaba для on-device LLM и Edge AI.
★ 15,386 · C++KIMI K3: 2.78 ТРЛН ПАРАМЕТРОВ
Запуск модели Kimi K3 с 2,78 трлн параметров на одном CPU, используя всего 8,24 ГБ RAM без BLAS, фреймворков и GPU.
★ 12,109 · CAI РАМКА ДЛЯ УСТРОЙСТВ
Этот проект предлагает low-bit quant kernels и runtime для consumer устройств. Поддержка Android, ARM и edge-ai фреймворков.
★ 6,192 · C++Эффективный ИИ для мобильных устройств
Движок искусственного интеллекта с минимальной задержкой для смартфонов и носимых устройств.
★ 4,949 · Cvllm-omni
Фреймворк для эффективного инференса мультимодальных моделей. Объединяет текст, изображения и аудио в единой системе вывода.
★ 4,863 · PythonDIY-LLM: ПОЛНЫЙ КУРС LLM С КОДОМ
Проект diy-llm предлагает шесть пошаговых Jupyter‑ноутбуков, охватывающих предобучение данных, токенизацию, Transformer, MoE, распределённое обучение, масштабирующие зако
★ 2,960 · Jupyter NotebookAWESOME LLM LONG CONTEXT - ТОП ПАПЕРЫ
Подборка must-read статей и блогов о долгосрочном контексте в LLM: новые методы, обзоры и практики.
★ 2,192VLLM-ASCEND: ПЛАГИН ДЛЯ ASCEND НА ГИТХАБЕ
Community-плагин для vLLM на железе Ascend от сообщества, написанный на C++. Набирает звёзды — уже 2156!
★ 2,156 · C++ГРАФЫ ПРОТИВ МОШЕННИКОВ
Кураторский список статей по обнаружению мошенничества с помощью графов и трансформеров.
★ 1,907VIBETHINKER: МОДЕЛЬ НА 1.5B
Крошечная модель с мощным логическим мышлением — Diversity-Driven Optimization пробуждает разум большого LLM. 577 ★ уже!
★ 1,589 · PythonPARALLAX: СОЗДАЙ ИИ КЛАСТЕР
Parallax позволяет быстро развернуть распределённый сервис inference на любой инфраструктуре.
★ 1,301 · PythonMULTIMODAL AI ДЛЯ КОНТЕНТА
UForm — компактный MULTIMODAL AI для понимания и генерации контента. Обрабатывает multilingual тексты, изображения и видео, работая в 5 раз быстрее OpenAI CLIP и LLaVA.
★ 1,253 · PythonAI-HANDS-ON: ИЗУЧАЙ AI С НУЛЯ
Коллекция ноутбуков и файлов для изучения AI с нуля. 1137 звёзд на GitHub.
★ 1,137 · Jupyter NotebookSPARK-X2.6: АГЕНТЫ НА УСТРОЙСТВЕ
Открытая серия моделей Spark-x2.5 с фокусом на агентские способности. Работают локально на устройстве без облака. 814 звёзд на GitHub.
★ 911MULTILSPY — PYTHON LSP КЛИЕНТ
multilspy — это библиотека LSP-клиента на Python, упрощающая взаимодействие с языковыми серверами для IDE и анализа кода.
★ 615 · PythonZINC - ЛОКАЛЬНЫЙ LLM НА GPU
Zinc — движок инференса LLM на Zig, работающий на AMD GPU и Apple Silicon без внешних зависимостей.
★ 395 · ZigСОЗДАЙ LLM ЗА СЕКУНДЫ
CLI-инструмент создаёт готовые к обучению PyTorch‑проекты для LLM за считанные секунды. Аналог create‑next‑app, но для языковых моделей. Написан на TypeScript, уже собрал
★ 373 · TypeScriptawesome-AI4MolConformation-MD - ИИ ГЕНЕРАЦИЯ МОЛЕКУЛ
Сборник конформаций малых молекул, РНК, пептидов, белков и ферментов, полученных с помощью генеративного ИИ и молекулярной динамики.
★ 307НАЗВАНИЕ - ХОНГБОМИАО LAB
Персональная R&D лаборатория на Python с 298 звёздами, объединяющая разработчиков для обмена знаниями и совместного роста.
★ 300 · PythonCEVAHIR AI ОТКРЫТЫЙ ИИ ДВИГАТЕЛЬ
Полноценный open‑source движок для обучения токенизаторов, трансформеров и когнитивного рассуждения, готовый к чат‑потоку.
★ 293 · PythonMONITOR-GUIDED DECODING ДЛЯ CODE LLM
Артефакт NeurIPS 2023: Monitor-Guided Decoding кодовых LLM со статическим анализом контекста репозитория. Включает multispy — Python-клиент LSP для интеграции с языковыми
★ 279 · PythonЛёгкое дообучение LLM-ассистентов
Zero-friction дообучение любых LLM для Claude Code, Gemini CLI и ACP-агентов: от настройки среды до обучения (LoRA, SFT, DPO, GRPO) с поддержкой NVIDIA и Apple Silicon.
★ 237 · PythonTRANSFORMER-TRICKS - УСКОРЕНИЕ ТРАНСФОРМЕРОВ
Набор приемов и утилит для ускорения трансформеров: оптимизация attention, квантование и кэширование вычислений.
★ 236 · TeXVLLM ИНФЕРЕНС: LOOPED TRANSFORMERS
vllm-rlt — движок вывода в стиле vLLM для looped transformers. Реализует планирование и выполнение на уровне циклов через композируемые стадии. 207 звёзд на GitHub.
★ 227 · PythonКурс по LLM с нуля
Практический курс на 23 Jupyter‑ноутбуках, где вы создаёте токенизаторы, attention, MoE, RLHF, инференс, оценку и дистилляцию современных LLM на PyTorch.
★ 53 · Jupyter NotebookDVLT на CUDA без зависимостей
Проект переносит NVIDIA DVLT на чистый CUDA/C++, позволяя подавать изображения и получать 3D точечное облако вместе с позициями камеры. Всё упаковано в один быстрый 5‑МБ
★ 31 · CudaНовые проекты по теме — в Telegram
Telegram →