AIPython★ 901
mosecorg/mosec
MOSEC - МАКСИМАЛЬНАЯ ПРОИЗВОДИТЕЛЬНОСТЬ ML
Быстрый фреймворк для сервиса ML моделей с динамическим батчингом и CPU/GPU пайплайнами.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Динамический батчинг для повышения throughput
- Поддержка CPU и GPU пайплайнов одновременно
- Простая интеграция с любой Python моделью
#cv#deep-learning#gpu#hacktoberfest#jax#llm#llm-serving#machine-learning#machine-learning-platform#mlops#model-serving#mxnet
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram