AIRust★ 206
timtoole02/Camelid
CAMELID: ЛОКАЛЬНЫЙ ИИ НА RUST
Camelid — бэкенд для локального вывода на Rust, совместимый с моделями через доказательную совместимость. Поддерживает Apple Silicon, GGUF, Llama и другие LLM, работает полностью оффлайн. Уже 200+ звёзд на GitHub.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Выполняет локальный вывод LLM на чистом Rust, без серверов и внешних зависимостей.
- Поддерживает модели GGUF на Apple Silicon с оптимизированными ядрами для ARM.
- Проверяет доказательную совместимость моделей перед загрузкой, гарантируя корректность.
- Работает полностью оффлайн, идеально для локальных first и edge‑устройств.
#apple-silicon#gguf#inference#llama#llm#local-first#metal#openai-compatible#quantization#rust#windows
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram