AIC++★ 1,420
uccl-project/uccl
UCCL: GPU СВЯЗЬ НА МАКСИМУМЕ
Быстрая библиотека для эффективного обмена данными между GPU: коллективные операции, P2P и ускорение инференса.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Коллективные и P2P операции
- Перенос KV-кэша и RL-весов
- GPU-driven маршрутизация
#ai#allreduce#amd#broadcom#collective#cuda#gpu#hpc#kvcache#llm#moe#networking
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram