R_REDDYX.XYZ

Amd: open-source проекты на GitHub

15 репозиториев по теме Amd, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064Cuda 46Llama 106Pytorch 91Nvidia 23GPU 45Deepseek 223Inference 88Qwen 101Qwen3 30Vllm 62AI Agents 1303Llama Cpp 49Local AI 73
vllm-project/vllm

Высокопроизводительный движок LLM

Высокопроизводительный и память‑эффективный движок для инференса и обслуживания больших языковых моделей.

★ 79,783 · Python
LMCache/LMCache

LMCache: Ускорение LLM

Самый быстрый слой кэширования KV для больших языковых моделей, повышающий производительность и снижающий задержки.

★ 8,292 · Python
Osmantic/ODS

ODS - ТВОЙ AI СЕРВЕР ДОМА

ODS превращает любой компьютер в мощный AI‑сервер: LLM‑инференс, чат, голос, агенты, RAG и генерация изображений.

★ 7,832 · Shell
lemonade-sdk/lemonade

Lemonade SDK

Lemonade помогает пользователям запускать локальные AI-приложения, оптимизируя работу LLM на их GPU и NPU. Присоединяйтесь к нашему Discord!

★ 4,059 · C++
ROCm/FastFlowLM

БЫСТРЫЙ ЗАПУСК LLM НА NPU

FastFlowLM запускает LLMs на AMD Ryzen AI NPU за минуты, давая производительность, сравнимую с Ollama, но с оптимизацией под NPU.

★ 2,050 · C++
uccl-project/uccl

UCCL: GPU СВЯЗЬ НА МАКСИМУМЕ

Быстрая библиотека для эффективного обмена данными между GPU: коллективные операции, P2P и ускорение инференса.

★ 1,586 · C++
FastFlowLM/FastFlowLM

БЫСТРЫЕ LLM НА AMD

Запускайте LLM на AMD Ryzen™ AI за минуты. Как Ollama, но глубоко оптимизировано для AMD-чипов! C++

★ 1,464 · C++
peonist-ai/halogen-flash-server

БЫСТРЫЙ ЗАПУСК QWEN3.8 НА AMD

Проект предоставляет скрипты для мгновенного развёртывания Qwen3.8-Flash-Next на GPU AMD Strix Halo (gfx1151) через HIP. Все зависимости собираются автоматически, а infer

★ 1,349 · Shell
gufo-org/gufo

GUFO: ИНФЕРЕНС НА STRIX HALO

gufo — inference engine для AMD Strix Halo на C++. Qwen Flash Next Q4_K_XL выдаёт 59.41 tok/s (1 юзер) и 157.22 tok/s (8 юзеров). Qwen27B Q4_K_XL с DFlash2 даёт 70.56 tok

★ 1,176 · C++
SemiAnalysisAI/InferenceX

INFERENCEX – БЕНЧМАРК ИНФЕРЕНСЕ

Open‑source бенчмарк непрерывного инференса для Qwen3.5, DeepSeek, GPTOSS и новых ускорителей.

★ 1,016 · Python
Light-Heart-Labs/DreamServer

DreamServer: Локальный AI

DreamServer — открытый проект для локального запуска LLM с чат‑интерфейсом, голосовым управлением, агентами, workflows, RAG и генерацией изображений, работающий без облак

★ 523 · Python
JMS1717/ming-voice

ЛОКАЛЬНЫЙ SPEECH-TO-SPEECH АССИСТЕНТ НА GPU

Полностью локальный голосовой ассистент с задержкой ~0.23с от конца фразы до ответа. Работает на AMD/Nvidia GPU под Windows и Linux без отправки аудио в облако.

★ 448 · Python
zolotukhin/zinc

ZINC - ЛОКАЛЬНЫЙ LLM НА GPU

Zinc — движок инференса LLM на Zig, работающий на AMD GPU и Apple Silicon без внешних зависимостей.

★ 395 · Zig
hogeheer499-commits/strix-halo-guide

STRIX HALO LLM НАСТРОЙКА

Руководство по LLM на Ryzen AI MAX+ 395 и Radeon 8060S через Ollama, llama.cpp и ROCm. Достигаем 100 токен/с 30B Qwen и 140 токен/с CHADROCK MTP.

★ 373 · Python
AMD-AGI/Hyperloom

HYPERLOOM АВТООПТИМИЗАЦИЯ LLM НА AMD

Hyperloom — агентная система, которая автоматически оптимизирует рабочие нагрузки больших языковых моделей на GPU AMD. Она подбирает ядра и параметры для максимальной про

★ 271 · Python

Новые проекты по теме — в Telegram

Telegram →
Amd — 15 open-source проектов на GitHub | REDDYX AI