AIGo★ 496
hybridgroup/yzma
YZMA: ЛОКАЛЬНЫЙ LLM В GO
Интеграция llama.cpp в Go-приложения для локального инференса с аппаратным ускорением. 496 звёзд на GitHub.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Прямая интеграция llama.cpp
- Аппаратное ускорение на клиенте
- Локальный инференс без облака
#arduino-uno-q#cuda#gguf#golang#jetson-orin-nano#llama#llamacpp#llm#metal#purego#raspberry-pi#rocm
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram