AIPython★ 1,016
noonghunna/club-3090
Запуск LLM на RTX 3090
Готовые конфиги Qwen и Gemma для запуска на 1–2 RTX 3090 через vLLM, llama.cpp и SGLang.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- vLLM, llama.cpp, SGLang
- Конфигурации для Qwen и Gemma
- Поддержка 1–2 GPU
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram