R_REDDYX.XYZ
AIRust★ 299⑂ 23 форковMIT

llamastash/llamastash

ЛЛАМАСТЭШ ТЕРМИНАЛЬНЫЙ LLM МЕНЕДЖЕР

llamastash — терминальный менеджер локальных LLM без накладных расходов. Запускает, контролирует и направляет модели GGUF через единый OpenAI‑совместимый endpoint.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Запускает любые GGUF‑модели в один клик из терминала.
  • Автоматически следит за здоровьем процесса и перезапускает при сбое.
  • Маршрутизирует запросы к выбранной модели через единый OpenAI‑совместимый API.
  • Поддерживает hot‑swap моделей без перезапуска сервера, zero‑overhead.
#ai#gguf#llamacpp#llm#lmstudio#local-ai#ollama
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

ID-LoRA: Видео с ИИ★ 299FonaTech Chronos★ 299skill-based-architecture - ГЕНЕРАТОР НАВЫКОВ ДЛЯ AI★ 299ОТКРЫТЫЙ ИИ-АГЕНТ ДЛЯ КОДА★ 299PLUGINS БИБЛИОТЕКА OPENAI CODEX★ 300HIVEMIND – ЕДИНЫЙ МОЗГ ДЛЯ АГЕНТОВ★ 298

← ВЕСЬ КАТАЛОГ

llamastash/llamastash — Лламастэш терминальный LLM менеджер