AIRust★ 1,464⑂ 92 форковApache-2.0
ollaya-dev/ollaya
Локальный сервис для моделей решений
Ollaya позволяет загружать и запускать открытые модели принятия решений — Laya, decider, NLI и GLiClass — через TypeSafe‑совместимый API, как Ollama для LLM.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запуск моделей Laya, decider, NLI и GLiClass локально через один эндпоинт
- TypeSafe‑совместимый REST‑API с автогенерацией клиентских типов
- Поддержка горячей перезагрузки моделей без перезапуска сервера
- Интеграция с Ollama‑клиентом для единого управления LLM и решателями
#calibration#classification#decision-models#gliclass#jev#laya#llm-routing#local-inference#nli#ollama#onnx#onnxruntime
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram