AIRust★ 299⑂ 23 форковMIT
llamastash/llamastash
ЛЛАМАСТЭШ ТЕРМИНАЛЬНЫЙ LLM МЕНЕДЖЕР
llamastash — терминальный менеджер локальных LLM без накладных расходов. Запускает, контролирует и направляет модели GGUF через единый OpenAI‑совместимый endpoint.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запускает любые GGUF‑модели в один клик из терминала.
- Автоматически следит за здоровьем процесса и перезапускает при сбое.
- Маршрутизирует запросы к выбранной модели через единый OpenAI‑совместимый API.
- Поддерживает hot‑swap моделей без перезапуска сервера, zero‑overhead.
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram