AIC★ 2,717
FareedKhan-dev/kimi-k3-in-c
KIMI K3: 2.78 ТРЛН ПАРАМЕТРОВ
Запуск модели Kimi K3 с 2,78 трлн параметров на одном CPU, используя всего 8,24 ГБ RAM без BLAS, фреймворков и GPU.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Портируемый C99 код без зависимостей
- Инференс на одном CPU за 8.24 ГБ RAM
- 2.78 трлн параметров, нет GPU и BLAS
#avx2#c99#cpu-inference#deep-learning#from-scratch#inference-engine#kimi-k3#linear-attention#llm#llm-inference#machine-learning#memory-efficient
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram