AIPython★ 8,663
bentoml/BentoML
BENTOML ПРОСТОЙ ПУТЬ К AI API
Сервируйте модели и AI‑приложения за считанные минуты: API, очереди, мульти‑модельные пайплайны и LLM‑сервисы.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Построение inference API из любой модели за один клик
- Очереди задач и масштабируемые job‑queues
- Поддержка multi‑model пайплайнов и LLM‑приложений
#ai-inference#deep-learning#generative-ai#inference-platform#llm#llm-inference#llm-serving#llmops#machine-learning#ml-engineering#mlops#model-inference-service
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram