R_REDDYX.XYZ
AIPython★ 1,260

waybarrios/vllm-mlx

vllm-mlx - Сервер LLM для Apple Silicon с поддержкой мультимодальных моделей

OpenAI и Anthropic совместимый сервер для Apple Silicon. Запускайте LLM и модели с поддержкой зрения с непрерывной пакетной обработкой и вызовом инструментов MCP. 400+ токенов/с.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • 400+ токенов/с на Apple Silicon
  • Поддержка Llama, Qwen-VL, LLaVA
  • Совместимость с Claude Code
#anthropic#apple-silicon#audio-processing#claude-code#computer-vision#image-understanding#inference#llm#machine-learning#macos#mllm#mlx
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

Библиотека навыков Claude★ 1259МЕДИЦИНСКИЙ ИИ-АГЕНТ ДЛЯ РЕНТГЕНА★ 1259BRIAN2 СИМУЛЯТОР СПИКОВЫХ СЕТЕЙ★ 1258Визуальный набор для LLM★ 1262NAUTILUS COMPASS: НАДЁЖНЫЙ МУЛЬТИ-АГЕНТ★ 1258ОДИН ИНТЕРФЕЙС ДЛЯ ВСЕХ АГЕНТОВ★ 1258

← ВЕСЬ КАТАЛОГ

waybarrios/vllm-mlx — vllm-mlx - Сервер LLM для Apple…