AIPython★ 1,260
waybarrios/vllm-mlx
vllm-mlx - Сервер LLM для Apple Silicon с поддержкой мультимодальных моделей
OpenAI и Anthropic совместимый сервер для Apple Silicon. Запускайте LLM и модели с поддержкой зрения с непрерывной пакетной обработкой и вызовом инструментов MCP. 400+ токенов/с.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- 400+ токенов/с на Apple Silicon
- Поддержка Llama, Qwen-VL, LLaVA
- Совместимость с Claude Code
#anthropic#apple-silicon#audio-processing#claude-code#computer-vision#image-understanding#inference#llm#machine-learning#macos#mllm#mlx
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram