AITypeScript★ 2,116
withcatai/node-llama-cpp
ЗАПУСКАЙ LLM ЛОКАЛЬНО В NODE.JS
Запускайте AI-модели прямо на своём компьютере через node.js. Принудительная валидация JSON-схемы прямо на уровне генерации.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Локальный запуск моделей без серверов
- JSON-схема на уровне генерации
- TypeScript-биндинги для llama.cpp
#ai#bindings#catai#cmake#cmake-js#cuda#embedding#function-calling#gguf#gpu#grammar#json-schema
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram