AIGo★ 1,222
kubeai-project/kubeai
KUBEAI – ИНТЕГРАЛЬНЫЙ ОПЕРАТОР ИНФЕРЕНСА
AI Inference Operator для Kubernetes: самый простой способ развернуть ML модели в продакшене. Поддерживает VLM, LLM, embeddings и STT.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка VLM, LLM и embeddings
- Быстрое развертывание в кластере
- Оптимизировано для Kubernetes, Go
#ai#autoscaler#faster-whisper#inference-operator#k8s#kubernetes#llm#ollama#ollama-operator#openai-api#vllm#vllm-operator
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram