R_REDDYX.XYZ
AIC★ 2,559⑂ 194 форковApache-2.0

sqliteai/warp

Warp потоковый вывод

Warp позволяет выполнять вывод модели Kimi K3 с 2,78 трлн параметров, stream‑потоком загружая активированные веса прямо с NVMe, обходя ограничения ОЗУ. Движок написан на чистом C без внешних зависимостей и легко встраивается в проекты.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Потоковая загрузка весовых слоёв с NVMe, позволяющая запускать модели больше ОЗУ.
  • Независимый от библиотек чистый C‑код, легко встраиваемый в любые проекты.
  • Поддержка полной модели Kimi K3 (2,78 трлн параметров) для инференса в реальном времени.
  • Минимальная латентность благодаря прямой потоковой передачи весов без промежуточного буфера.
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

Deep-Research-skills - УСКОРИТЕ ГЛУБОКИЙ АНАЛИЗ★ 2559OpenUsage — Упрaвление подписками★ 2560МОСТ МЕЖДУ ПЕРЕДАЧЕЙ ДАННЫХ★ 2562Claude Code для терминала★ 2554DOCMD — ДОКУМЕНТАЦИЯ ЗА СЕКУНДЫ★ 2565NITROSTACK: ПОЛНЫЙ СТЕК ИИ★ 2565

← ВЕСЬ КАТАЛОГ

sqliteai/warp — Warp потоковый вывод | REDDYX AI