AIRust★ 7,803⑂ 570 форковApache-2.0
magnitudedev/magnitude
Движок инференса с автонастройкой
Open source движок для запуска LLM, автоматически оптимизирующий ядра под ваше железо. В 2 раза быстрее Ollama на Apple Silicon, NVIDIA, AMD, Intel и CPU.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Автооптимизация ядер под конкретное железо
- В 2 раза быстрее Ollama на тех же моделях
- Поддержка Apple Silicon, NVIDIA, AMD, Intel, CPU
- Написан на Rust для максимальной производительности
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram