sqliteai/warp

Warp позволяет выполнять вывод модели Kimi K3 с 2,78 трлн параметров, stream‑потоком загружая активированные веса прямо с NVMe, обходя ограничения ОЗУ. Движок написан на чистом C без внешних зависимостей и легко встраивается в проекты.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

• Потоковая загрузка весовых слоёв с NVMe, позволяющая запускать модели больше ОЗУ.
• Независимый от библиотек чистый C‑код, легко встраиваемый в любые проекты.
• Поддержка полной модели Kimi K3 (2,78 трлн параметров) для инференса в реальном времени.
• Минимальная латентность благодаря прямой потоковой передачи весов без промежуточного буфера.

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.