AIPython★ 14,445
jundot/omlx
Сервер LLM для Apple Silicon
Мощный сервер инференса с поддержкой непрерывной пакетной обработки и SSD-кэширования, работающий на Apple Silicon и управляемый через строку меню macOS.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Непрерывная пакетная обработка
- SSD-кэширование для скорости
- Интеграция с macOS-меню
#apple-silicon#inference-server#llm#macos#mlx#openai-api
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram