R_REDDYX.XYZ

AI Gateway: open-source проекты на GitHub

45 репозиториев по теме AI Gateway, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.

// СМЕЖНЫЕ ТЕМЫ

LLM 2064Openai 691LLM Gateway 26Anthropic 449Claude Code 1573MCP 1593LLM Proxy 18LLMOps 81MCP Gateway 26Openai Compatible 39Self Hosted 348Codex 841Gemini 348AI Agents 1303
cheaper-inference/OmniRoute

ОДИН ШЛЮЗ — 375 ИИ ПРОВАЙДЕРОВ

OmniRoute — бесплатный MIT-шлюз с одним эндпойнтом к 375 провайдерам (150+ бесплатных) и 1400+ моделям. Поддерживает Claude Code, Cursor, Copilot. Автофоллбэк по квотам и

★ 87,451 · TypeScript
BerriAI/litellm

Единый шлюз LLM

Python SDK и прокси‑сервер для вызова 100+ LLM через OpenAI‑совместимый API с учётом затрат, защиты, балансировки нагрузки и логирования.

★ 46,602 · Python
Kong/kong

API-шлюз Kong

Открытый API и AI шлюз для управления трафиком, обеспечения безопасности и расширения функционала через плагины.

★ 43,377 · Lua
QuantumNous/new-api

Единый шлюз ИИ-моделей

Единый центр агрегации и распределения ИИ-моделей, позволяющий конвертировать любые LLM под форматы OpenAI, Claude и Gemini.

★ 32,817 · Go
casdoor/casdoor

CASDOOR — IAM ДЛЯ AI-АГЕНТОВ

Открытый IAM-сервер с веб-интерфейсом: OAuth, OIDC, SAML, LDAP, MCP, MFA и интеграции с LLM-агентами.

★ 13,687 · Go
Portkey-AI/gateway

Portkey-AI/gateway

A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI Guardrails with 1 fast & friendly API.

★ 11,847 · TypeScript
TykTechnologies/tyk

TYK ОТКРЫТЫЙ AI ШЛЮЗ

Tyk — open‑source шлюз для API и AI, работающий с REST, GraphQL, TCP, gRPC и MCP. Поддерживает управление трафиком, аутентификацию и масштабирование в облачных средах.

★ 10,886 · Go
decolua/9router

AI‑код без ограничений

Бесконечный бесплатный AI‑коддинг: подключай любые IDE к Claude/GPT/Gemini через 40+ провайдеров с автофоллбеком и экономией 40% токенов.

★ 9,759 · JavaScript
katanemo/plano

PLANO: ИИ-ПРОКСИ ДЛЯ АГЕНТОВ

AI-native прокси и плоскость данных для агентных приложений с оркестрацией и безопасностью.

★ 6,567 · Rust
weave-os/router

БЫСТРЫЙ РОУТЕР МОДЕЛЕЙ ДЛЯ АГЕНТОВ

Маршрутизатор направляет каждый запрос к оптимальной модели за менее 50 мс, сокращая расходы на 40‑70 % простой заменой эндпоинта. Реализован на Go, уже собрал 4174 звезд

★ 5,622 · Go
maximhq/bifrost

Шлюз для корпоративного ИИ

Самый быстрый шлюз ИИ: 50x быстрее LiteLLM, поддержка 1000+ моделей, балансировка нагрузки, кластерный режим, ограничения и накладные расходы менее 100 мкс при 5k RPS.

★ 5,089 · Go
vllm-project/semantic-router

Системный интеллектуальный маршрутизатор

Интеллектуальный маршрутизатор для управления смешанными моделями в облаке, дата-центрах и на периферии.

★ 4,182 · Go
seakee/CPA-Manager-Plus

МОНИТОРИНГ AI-ШЛЮЗОВ С ИИ

Self-hosted дашборд для отслеживания запросов, стоимости, ошибок и квот CPA/CLIProxyAPI и OpenAI-совместимых шлюзов.

★ 4,085 · TypeScript
nextlevelbuilder/goclaw

GOCLAW - AI-АГЕНТЫ НА GO С ПЕРВОГО ВЗГЛЯДА

GoClaw — это OpenClaw, переписанный на Go с многопользовательской изоляцией и 5-уровневой безопасностью для масштабируемого развёртывания команд AI-агентов.

★ 3,188 · Go
agentgateway/agentgateway

AGENTGATEWAY: ПРОКСИ ДЛЯ AI АГЕНТОВ

AgentGateway — это новый прокси‑сервер на Rust, упрощающий взаимодействие ИИ‑агентов и MCP‑серверов. Поддерживает масштабируемую маршрутизацию и низкую латентность.

★ 2,871 · Rust
Continuum-AI-Corp/OrcaRouter-Lite

ORCALITE LLM РОУТЕР САМОХОСТИНГ

Самохостинговый роутер LLM с управляемой защитой и OpenAI‑совместимым API. Поддерживает BYOK, одно рабочее пространство и потоковую генерацию. Для сложного маршрутизации

★ 2,794 · Python
theagentrouter/agent-router

ЕДИНЫЙ ШЛЮЗ ДЛЯ AI-СЕРВИСОВ

agent-router — это шлюз на Envoy Gateway, обеспечивающий единый доступ к различным генеративным AI‑сервисам. Реализован на Go, работает в Kubernetes и поддерживает станда

★ 2,404 · Go
kaitranntt/ccs

Мульти-AI CLI прокси

Переключение между Claude, Gemini, Copilot и 300+ моделей через CLIProxyAPI OAuth прокси с визуальной панелью и поддержкой удалённого прокси.

★ 2,364 · TypeScript
APIParkLab/APIPark

APIPARK AI‑ШЛЮЗ НОВОГО ПОКОЛЕНИЯ

APIPark — шлюз для всех моделей: единый вход, управление LLM‑запросом, балансировка нагрузки/failover. Поддерживает OpenAI, Claude, Gemini, DeepSeek и др., обеспечивая за

★ 1,826 · TypeScript
envoyproxy/ai-gateway

AI-GATEWAY: ЕДИНЫЙ ШЛЮЗ ДЛЯ AI

Проект ai-gateway обеспечивает единый доступ к различным генеративным ИИ‑сервисам через Envoy Gateway, написанный на Go.

★ 1,717 · Go
LiteLLM-Labs/litellm-agent-control-plane

litellm-agent-control-plane

Управление разом всеми агентами в одном месте.

★ 1,332 · Rust
theopenco/llmgateway

LLMGATEWAY: ЕДИНЫЙ API ДЛЯ ВСЕХ LLM

Управляйте запросами к разным LLM-провайдерам через один унифицированный интерфейс. 1.2K ⭐ на GitHub.

★ 1,252 · TypeScript
ThinkWatchProject/ThinkWatch-Lite

ЛОКАЛЬНЫЙ GATEWAY CLAUDE

ThinkWatch-Lite — локальный gateway для Claude Code, Codex и других AI-клиентов. Переключает upstream-ы без редактирования клиентов, сохраняет API-ключи и блокирует вредо

★ 1,070 · TypeScript
kittors/CliRelay

CLIRELAY - ЕДИНЫЙ ШЛЮЗ ДЛЯ AI КОДИРОВАНИЯ

Self‑hosted AI gateway объединяет OpenAI, Claude, Gemini и Codex в одном endpoint с веб‑консолью, логами запросов и квотами расходов.

★ 1,055 · Go
future-agi/future-agi

Оценка AI приложений

Открытая платформа для оценки и улучшения LLM и AI-агентов с поддержкой трассировки, симуляций и датасетов. Локальный запуск.

★ 971 · Python
mozilla-ai/otari

OTARI: ШЛЮЗ ДЛЯ 40+ ПРОВАЙДЕРОВ

Самохостируемый шлюз, совместимый с OpenAI API, объединяющий более 40 провайдеров LLM с виртуальными ключами, бюджетами и аналитикой использования.

★ 930 · Python
gotempsh/temps

TEMPS: ОДИН ИСТИННЫЙ AI-PLATFORM

Темпс — открытая AI-native платформа на Rust, объединяющая деплой, аналитику, трекинг ошибок и песочницы в одном самодостаточном бинарнике.

★ 917 · Rust
ENTERPILOT/GoModel

GOMODEL: AI-GATEWAY НА GO

Лёгкий unified API-шлюз для OpenAI, Anthropic, Gemini, Groq, xAI и Ollama. Альтернатива LiteLLM с мониторингом, guardrails и трекингом стоимости.

★ 909 · Go
ThinkWatchProject/ThinkWatch

ThinkWatch: AI Bastion Host

Корпоративный бастион для безопасного доступа к AI API и MCP с унифицированной прокси-службой, RBAC, аудитом, лимитированием и учётом затрат. Поддержка OpenAI, Anthropic,

★ 868 · Rust
respanai/respan-gateway

ЕДИНЫЙ ШЛЮЗ ДЛЯ ВСЕХ LLM

respan-gateway — единый эндпоинт для всех LLM-провайдеров. Поддерживает любой SDK, любую модель и инструменты. Один бинарник на Rust заменяет десятки интеграций.

★ 833 · Rust
higress-group/HiRoute

HIROUTE — УМНЫЙ РОУТЕР AI МОДЕЛЕЙ

Локальный роутер направляет рутину дешёвым моделям, а сложные задачи — мощным. Снижает расходы на подписки Codex и Claude Code, сохраняя качество. Написан на Rust.

★ 465 · Rust
eliasbiondo/antirion

БЫСТРЕЙШИЙ AI GATEWAY НА RUST

Antirion — открытый AI-шлюз в одном Rust-бинарнике. Маршрутизирует, защищает, лимитирует бюджет и наблюдает за вызовами LLM: OpenAI, Anthropic, Gemini, Bedrock. Встроенна

★ 462 · Rust
caidaoli/ccLoad

CCLOAD: ИИ ШЛЮЗ БЕЗ РУЧНОГО ПЕРЕКЛЮЧЕНИЯ

AI-шлюз с умным роутингом, авто-фэйловером и мониторингом запросов в реальном времени.

★ 440 · Go
WizisCool/oh-my-cpa

OH-MY-CPA SELF-HOSTED AI GATEWAY

Само-хостинг контрольной плоскости и консоли наблюдаемости использования для CLIProxyAPI (CPA). Подключайте AI‑провайдеры, управляйте клиентскими ключами, получайте поток

★ 407 · TypeScript
routerhubSI/uncensored-ai-api

ВСЕ LLM В ОДНОМ API

Шлюз к Claude, GPT, Gemini, Grok, DeepSeek, GLM, Qwen и Kimi по одному ключу. Поддерживает нецензурные и аблитерированные варианты моделей. Совместим с OpenAI и Anthropic

★ 405
schmitech/orbit

ORBIT САМОХОСТИНГ ИИ

Orbit — self‑hosted платформа для частного RAG и мультимодельных AI‑приложений на Python.

★ 364 · Python
starbaser/ccproxy

CCPROXY МОДЫ ДЛЯ CLAUDE CODE

ccproxy позволяет перехватывать любые запросы к Claude Code и модифицировать ответы, а также подключать собственные модели через /model

★ 360 · Python
taichuy/1flowbase

1FLOWBASE АГЕНТ-ПЛАТФОРМА НА RUST

Open-source полноценный стек для AI-агентов: шлюзы, бекенд, React-блоки, автогенерация CRUD и трассировки.

★ 293 · Rust
ferro-labs/ai-gateway

AI-GATEWAY: ЕДИНЫЙ ШЛЮЗ ДЛЯ LLM

Unified AI gateway supporting 30+ LLMs with caching, guardrails, A/B testing and cost controls. Built in Go for maximum speed and scalability.

★ 291 · Go
w8123/EnterpriseAgentFramework

ЭНТЕРПРАЙЗ ИИ АГЕНТ

Платформа для регистрации бизнес‑API как ИИ‑возможностей в Java/Spring Boot: создание агентов через GraphSpec, MCP/A2A/Gateway и мониторинг выполнения.

★ 273 · Java
LintenAI/linten

ОДИН API ДЛЯ 100+ МОДЕЛЕЙ

Linten — открытый AI-шлюз с единым OpenAI-совместимым API для 100+ моделей. Поддерживает виртуальные ключи, трекинг расходов, маршрутизацию и guardrails. Разворачивается

★ 242 · Python
GetBusbar/busbar

BUSBAR: УПРАВЛЕНИЕ AI‑АГЕНТАМИ

busbar — это управляющая плоскость выполнения для AI‑агентов, которая контролирует каждый запрос к модели, вызов MCP‑инструмента, делегирование A2A и последующее действие

★ 222 · Rust
api7/aisix

ОТКРЫТЫЙ AI GATEWAY НА RUST

aisix — единый OpenAI-совместимый API для OpenAI, Anthropic, Gemini, Bedrock. Поддерживает роутинг, guardrails, кэширование, лимиты и наблюдаемость. 201 звезда на GitHub.

★ 220 · Rust
1Panel-dev/1Panel-Gateway

1Panel AI Шлюз

1Panel AI Gateway — это комплексное решение для управления AI-сервисами: единый вход, интеллектуальная маршрутизация и полный аудит соответствия, обеспечивающие безопасно

★ 86
hadihonarvar/flock

Самостоятельный шлюз LLM

Один бинарник Go превращает ваши Mac и Linux‑машины в приватный кластер инференса с мульти‑машинным роутингом, шардингом через llama.cpp‑RPC и поддержкой API OpenAI и Ant

★ 38 · Go

Новые проекты по теме — в Telegram

Telegram →
AI Gateway — 45 open-source проектов на GitHub | REDDYX AI