AIHTML★ 1,019
wangeai/K3Flight
K3Flight локальный инференс
Запуск модели Kimi K3 локально на CPU с потреблением около 55 ГБ ОЗУ. Однофайловый сервер инференса для Linux, построенный на cPilot Runtime.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Инференс Kimi K3 на CPU без GPU, требует ~55 ГБ ОЗУ.
- Один исполняемый файл, легко разворачивается на любой Linux‑системе.
- Основан на лёгком runtime cPilot, обеспечивает быстрый старт и низкие накладные расходы.
#cpu-inference#edge-ai#inference-engine#kimi-k3#local-llm#low-memory#moe
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram