AIGo★ 297⑂ 31 форковApache-2.0
T-Crypt/berth
GPU ПО ОЧЕРЕДИ БЕЗ КРАШЕЙ
Berth арендует видеокарту движкам чата, изображений и голоса по очереди. Два процесса никогда не загрузятся вместе и не уронят друг друга. Один бинарник на Go, зависимостей нет.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Арендует GPU движкам чата, картинок и голоса по очереди
- Предотвращает одновременную загрузку двух моделей и краши
- Работает с llama-cpp, llama-swap и ComfyUI
- Один бинарник на Go без внешних зависимостей
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram