AIRust★ 31
maximecb/bebelm
Pure Rust LFM2.5-8B-A1B
CPU-only реализация модели LiquidAI LFM2.5-8B-A1B на чистом Rust. Позволяет выполнять инференс текста без GPU и внешних библиотек.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Запуск LFM2.5-8B-A1B inference на CPU без необходимости GPU
- Полностью написан на безопасном Rust, без внешних зависимостей кроме стандартной библиотеки
- Поддерживает генерацию текста с низкой латентностью и совместим с форматом Hugging Face
- Лёгкая сборка и запуск через Cargo, готов к интеграции в Rust-приложения
#cpu#inference#llm#local-ai#local-llm#rust
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram