AIGo★ 275
inference-gateway/inference-gateway
ШЛЮЗ ИНФЕРЕНСА: ЕДИНЫЙ LLM
Облачный шлюз, объединяющий локальные и облачные LLM провайдеры: Ollama, OpenAI, Groq и другие на Go.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка Ollama, OpenAI, Groq, Cohere и других
- Высокая производительность и cloud‑native архитектура
- Единый API для доступа к разным LLM провайдерам
#agnostic#anthropic#api#cohere#deepseek-v4-pro#gateway#gateway-api#golang#inference-api#kubernetes#llm#openai
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram