R_REDDYX.XYZ
AIC++★ 2,156

vllm-project/vllm-ascend

VLLM-ASCEND: ПЛАГИН ДЛЯ ASCEND НА ГИТХАБЕ

Community-плагин для vLLM на железе Ascend от сообщества, написанный на C++. Набирает звёзды — уже 2156!

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Поддержка железа Ascend из коробки
  • Активное community-driven развитие
  • Написан на быстром C++
#ascend#inference#llm#llm-serving#llmops#mlops#model-serving#transformer#vllm
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

V-Modal AI SDK Flutter★ 2154JS-код в нейросеть★ 2153КЕРНЕЛ-МЕМОРИ: ПАМЯТЬ AI★ 2162AI АГЕНТЫ ДЛЯ КОДА И РЕВЬЮ★ 2149CLAUDE CODE КОНФИГ ДЛЯ ТРАЙЛ★ 2148Lucebox Hub★ 2167

← ВЕСЬ КАТАЛОГ

vllm-project/vllm-ascend — Vllm-Ascend: плагин для Ascend на…