R_REDDYX.XYZ
AIPython★ 904⑂ 75 форковApache-2.0

mosecorg/mosec

MOSEC - МАКСИМАЛЬНАЯ ПРОИЗВОДИТЕЛЬНОСТЬ ML

Быстрый фреймворк для сервиса ML моделей с динамическим батчингом и CPU/GPU пайплайнами.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Динамический батчинг для повышения throughput
  • Поддержка CPU и GPU пайплайнов одновременно
  • Простая интеграция с любой Python моделью
#cv#deep-learning#gpu#hacktoberfest#jax#llm#llm-serving#machine-learning#machine-learning-platform#mlops#model-serving#mxnet
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

KAI РЕВОЛЮЦИЯ В КАРМАНЕ★ 904MASTER-FETCH: ОБХОД CLOUDFLARE★ 904FIM AI One★ 903CODERUNNER ЛОКАЛЬНАЯ ПЕСОЧНИЦА ДЛЯ AI★ 903ROME - АГЕНТНАЯ ОС БУДУЩЕГО★ 902Лёгкий движок инференса SSD★ 907

← ВЕСЬ КАТАЛОГ

mosecorg/mosec — Mosec - максимальная производительность ML