AIC++★ 2,156
vllm-project/vllm-ascend
VLLM-ASCEND: ПЛАГИН ДЛЯ ASCEND НА ГИТХАБЕ
Community-плагин для vLLM на железе Ascend от сообщества, написанный на C++. Набирает звёзды — уже 2156!
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка железа Ascend из коробки
- Активное community-driven развитие
- Написан на быстром C++
#ascend#inference#llm#llm-serving#llmops#mlops#model-serving#transformer#vllm
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram