R_REDDYX.XYZ
AIC++★ 3,339⑂ 710 форковApache-2.0

Neroued/ninfer

Высокопроизводительный инференс на GPU

Оптимизированный C++ движок для быстрого инференса выбранных моделей на одиночных GPU. Поддерживает конкретные чекпойнты и архитектуры видеокарт.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Инференс конкретных чекпойнтов моделей
  • Оптимизация под отдельные GPU архитектуры
  • C++ реализация для максимальной скорости
  • Работа на одиночном GPU без распределения
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

PY-XIAOZHI - AI АССИСТЕНТ С ГОЛОСОМ★ 3335Генерация 3D-моделей из изображений★ 3345Инструменты Claude★ 3331ARTEX: AI пентест фреймворк★ 3347FREECAD ВЕДЁТ AI-ДИАЛОГ★ 3349РЕЙТИНГ ХАЛЛЮЦИНАЦИЙ LLM★ 3327

← ВЕСЬ КАТАЛОГ

Neroued/ninfer — Высокопроизводительный инференс на GPU