AIRust★ 291
avifenesh/memra
MEMRA - ИИ УСКОРИТЕЛЬ ДЛЯ RTX
Memra — это реализация inference LLM с нуля, оптимизированная под архитектуры RTX 5090 (sm_120a) и H100 (sm_90a) на Rust.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка sm_120a и sm_90a
- Написана на чистом Rust без внешних зависимостей
- Эффективное использование памяти GPU
#ai#blackwell#cuda#gguf#gpu-kernels#hoper#inference#llama-cpp#llm#llm-inference#moe#nvfp4
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram