R_REDDYX.XYZ
AIPython1,016

noonghunna/club-3090

Запуск LLM на RTX 3090

Готовые конфиги Qwen и Gemma для запуска на 1–2 RTX 3090 через vLLM, llama.cpp и SGLang.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • vLLM, llama.cpp, SGLang
  • Конфигурации для Qwen и Gemma
  • Поддержка 1–2 GPU
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог
noonghunna/club-3090 — Запуск LLM на RTX 3090 | REDDYX AI