AIPython★ 2,185
raullenchai/Rapid-MLX
Быстрый локальный ИИ движок
Rapid-MLX — самый быстрый локальный ИИ‑движок для Apple Silicon, работающий 4.2× быстрее Ollama и обеспечивающий кэшированное время первого токена всего 0.08с.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- 4.2x ускорение по сравнению с Ollama на Apple Silicon
- Кэшированное время первого токена 0.08с
- 100% поддержка вызова инструментов с 17 парсерами
- Кэш промптов, разделение reasoning и облачная маршрутизация
#apple-silicon#claude-code#cursor#deepseek#fastapi#hacktoberfest#inference#llm#local-llm#m1#m2#m3
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram