R_REDDYX.XYZ
AIGo★ 213⑂ 48 форковApache-2.0

inference-gateway/inference-gateway

ШЛЮЗ ИНФЕРЕНСА: ЕДИНЫЙ LLM

Облачный шлюз, объединяющий локальные и облачные LLM провайдеры: Ollama, OpenAI, Groq и другие на Go.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Поддержка Ollama, OpenAI, Groq, Cohere и других
  • Высокая производительность и cloud‑native архитектура
  • Единый API для доступа к разным LLM провайдерам
#agnostic#anthropic#api#cohere#deepseek-v4-pro#gateway#gateway-api#golang#inference-api#kubernetes#llm#openai
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

ультразвуковой детектор дронов★ 213СТРОКА СТАТУСА ДЛЯ CLAUDE CODE ОТ ZOO★ 213TAOS САМООБУЧАЮЩИЙСЯ AI ОС★ 213УПРАВЛЯЙ AI-КОДЕРОМ С ТЕЛЕФОНА★ 213AMAZON-BEDROCK-RAG - УМНЫЙ RAG★ 213GRACE: INT4 QWEN3-VL DISTILL★ 213

← ВЕСЬ КАТАЛОГ

inference-gateway/inference-gateway — Шлюз инференса: единый…