AI Gateway: open-source проекты на GitHub
45 репозиториев по теме AI Gateway, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
ОДИН ШЛЮЗ — 375 ИИ ПРОВАЙДЕРОВ
OmniRoute — бесплатный MIT-шлюз с одним эндпойнтом к 375 провайдерам (150+ бесплатных) и 1400+ моделям. Поддерживает Claude Code, Cursor, Copilot. Автофоллбэк по квотам и
★ 87,451 · TypeScriptЕдиный шлюз LLM
Python SDK и прокси‑сервер для вызова 100+ LLM через OpenAI‑совместимый API с учётом затрат, защиты, балансировки нагрузки и логирования.
★ 46,602 · PythonAPI-шлюз Kong
Открытый API и AI шлюз для управления трафиком, обеспечения безопасности и расширения функционала через плагины.
★ 43,377 · LuaЕдиный шлюз ИИ-моделей
Единый центр агрегации и распределения ИИ-моделей, позволяющий конвертировать любые LLM под форматы OpenAI, Claude и Gemini.
★ 32,817 · GoCASDOOR — IAM ДЛЯ AI-АГЕНТОВ
Открытый IAM-сервер с веб-интерфейсом: OAuth, OIDC, SAML, LDAP, MCP, MFA и интеграции с LLM-агентами.
★ 13,687 · GoPortkey-AI/gateway
A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI Guardrails with 1 fast & friendly API.
★ 11,847 · TypeScriptTYK ОТКРЫТЫЙ AI ШЛЮЗ
Tyk — open‑source шлюз для API и AI, работающий с REST, GraphQL, TCP, gRPC и MCP. Поддерживает управление трафиком, аутентификацию и масштабирование в облачных средах.
★ 10,886 · GoAI‑код без ограничений
Бесконечный бесплатный AI‑коддинг: подключай любые IDE к Claude/GPT/Gemini через 40+ провайдеров с автофоллбеком и экономией 40% токенов.
★ 9,759 · JavaScriptPLANO: ИИ-ПРОКСИ ДЛЯ АГЕНТОВ
AI-native прокси и плоскость данных для агентных приложений с оркестрацией и безопасностью.
★ 6,567 · RustБЫСТРЫЙ РОУТЕР МОДЕЛЕЙ ДЛЯ АГЕНТОВ
Маршрутизатор направляет каждый запрос к оптимальной модели за менее 50 мс, сокращая расходы на 40‑70 % простой заменой эндпоинта. Реализован на Go, уже собрал 4174 звезд
★ 5,622 · GoШлюз для корпоративного ИИ
Самый быстрый шлюз ИИ: 50x быстрее LiteLLM, поддержка 1000+ моделей, балансировка нагрузки, кластерный режим, ограничения и накладные расходы менее 100 мкс при 5k RPS.
★ 5,089 · GoСистемный интеллектуальный маршрутизатор
Интеллектуальный маршрутизатор для управления смешанными моделями в облаке, дата-центрах и на периферии.
★ 4,182 · GoМОНИТОРИНГ AI-ШЛЮЗОВ С ИИ
Self-hosted дашборд для отслеживания запросов, стоимости, ошибок и квот CPA/CLIProxyAPI и OpenAI-совместимых шлюзов.
★ 4,085 · TypeScriptGOCLAW - AI-АГЕНТЫ НА GO С ПЕРВОГО ВЗГЛЯДА
GoClaw — это OpenClaw, переписанный на Go с многопользовательской изоляцией и 5-уровневой безопасностью для масштабируемого развёртывания команд AI-агентов.
★ 3,188 · GoAGENTGATEWAY: ПРОКСИ ДЛЯ AI АГЕНТОВ
AgentGateway — это новый прокси‑сервер на Rust, упрощающий взаимодействие ИИ‑агентов и MCP‑серверов. Поддерживает масштабируемую маршрутизацию и низкую латентность.
★ 2,871 · RustORCALITE LLM РОУТЕР САМОХОСТИНГ
Самохостинговый роутер LLM с управляемой защитой и OpenAI‑совместимым API. Поддерживает BYOK, одно рабочее пространство и потоковую генерацию. Для сложного маршрутизации
★ 2,794 · PythonЕДИНЫЙ ШЛЮЗ ДЛЯ AI-СЕРВИСОВ
agent-router — это шлюз на Envoy Gateway, обеспечивающий единый доступ к различным генеративным AI‑сервисам. Реализован на Go, работает в Kubernetes и поддерживает станда
★ 2,404 · GoМульти-AI CLI прокси
Переключение между Claude, Gemini, Copilot и 300+ моделей через CLIProxyAPI OAuth прокси с визуальной панелью и поддержкой удалённого прокси.
★ 2,364 · TypeScriptAPIPARK AI‑ШЛЮЗ НОВОГО ПОКОЛЕНИЯ
APIPark — шлюз для всех моделей: единый вход, управление LLM‑запросом, балансировка нагрузки/failover. Поддерживает OpenAI, Claude, Gemini, DeepSeek и др., обеспечивая за
★ 1,826 · TypeScriptAI-GATEWAY: ЕДИНЫЙ ШЛЮЗ ДЛЯ AI
Проект ai-gateway обеспечивает единый доступ к различным генеративным ИИ‑сервисам через Envoy Gateway, написанный на Go.
★ 1,717 · Golitellm-agent-control-plane
Управление разом всеми агентами в одном месте.
★ 1,332 · RustLLMGATEWAY: ЕДИНЫЙ API ДЛЯ ВСЕХ LLM
Управляйте запросами к разным LLM-провайдерам через один унифицированный интерфейс. 1.2K ⭐ на GitHub.
★ 1,252 · TypeScriptЛОКАЛЬНЫЙ GATEWAY CLAUDE
ThinkWatch-Lite — локальный gateway для Claude Code, Codex и других AI-клиентов. Переключает upstream-ы без редактирования клиентов, сохраняет API-ключи и блокирует вредо
★ 1,070 · TypeScriptCLIRELAY - ЕДИНЫЙ ШЛЮЗ ДЛЯ AI КОДИРОВАНИЯ
Self‑hosted AI gateway объединяет OpenAI, Claude, Gemini и Codex в одном endpoint с веб‑консолью, логами запросов и квотами расходов.
★ 1,055 · GoОценка AI приложений
Открытая платформа для оценки и улучшения LLM и AI-агентов с поддержкой трассировки, симуляций и датасетов. Локальный запуск.
★ 971 · PythonOTARI: ШЛЮЗ ДЛЯ 40+ ПРОВАЙДЕРОВ
Самохостируемый шлюз, совместимый с OpenAI API, объединяющий более 40 провайдеров LLM с виртуальными ключами, бюджетами и аналитикой использования.
★ 930 · PythonTEMPS: ОДИН ИСТИННЫЙ AI-PLATFORM
Темпс — открытая AI-native платформа на Rust, объединяющая деплой, аналитику, трекинг ошибок и песочницы в одном самодостаточном бинарнике.
★ 917 · RustGOMODEL: AI-GATEWAY НА GO
Лёгкий unified API-шлюз для OpenAI, Anthropic, Gemini, Groq, xAI и Ollama. Альтернатива LiteLLM с мониторингом, guardrails и трекингом стоимости.
★ 909 · GoThinkWatch: AI Bastion Host
Корпоративный бастион для безопасного доступа к AI API и MCP с унифицированной прокси-службой, RBAC, аудитом, лимитированием и учётом затрат. Поддержка OpenAI, Anthropic,
★ 868 · RustЕДИНЫЙ ШЛЮЗ ДЛЯ ВСЕХ LLM
respan-gateway — единый эндпоинт для всех LLM-провайдеров. Поддерживает любой SDK, любую модель и инструменты. Один бинарник на Rust заменяет десятки интеграций.
★ 833 · RustHIROUTE — УМНЫЙ РОУТЕР AI МОДЕЛЕЙ
Локальный роутер направляет рутину дешёвым моделям, а сложные задачи — мощным. Снижает расходы на подписки Codex и Claude Code, сохраняя качество. Написан на Rust.
★ 465 · RustБЫСТРЕЙШИЙ AI GATEWAY НА RUST
Antirion — открытый AI-шлюз в одном Rust-бинарнике. Маршрутизирует, защищает, лимитирует бюджет и наблюдает за вызовами LLM: OpenAI, Anthropic, Gemini, Bedrock. Встроенна
★ 462 · RustCCLOAD: ИИ ШЛЮЗ БЕЗ РУЧНОГО ПЕРЕКЛЮЧЕНИЯ
AI-шлюз с умным роутингом, авто-фэйловером и мониторингом запросов в реальном времени.
★ 440 · GoOH-MY-CPA SELF-HOSTED AI GATEWAY
Само-хостинг контрольной плоскости и консоли наблюдаемости использования для CLIProxyAPI (CPA). Подключайте AI‑провайдеры, управляйте клиентскими ключами, получайте поток
★ 407 · TypeScriptВСЕ LLM В ОДНОМ API
Шлюз к Claude, GPT, Gemini, Grok, DeepSeek, GLM, Qwen и Kimi по одному ключу. Поддерживает нецензурные и аблитерированные варианты моделей. Совместим с OpenAI и Anthropic
★ 405ORBIT САМОХОСТИНГ ИИ
Orbit — self‑hosted платформа для частного RAG и мультимодельных AI‑приложений на Python.
★ 364 · PythonCCPROXY МОДЫ ДЛЯ CLAUDE CODE
ccproxy позволяет перехватывать любые запросы к Claude Code и модифицировать ответы, а также подключать собственные модели через /model
★ 360 · Python1FLOWBASE АГЕНТ-ПЛАТФОРМА НА RUST
Open-source полноценный стек для AI-агентов: шлюзы, бекенд, React-блоки, автогенерация CRUD и трассировки.
★ 293 · RustAI-GATEWAY: ЕДИНЫЙ ШЛЮЗ ДЛЯ LLM
Unified AI gateway supporting 30+ LLMs with caching, guardrails, A/B testing and cost controls. Built in Go for maximum speed and scalability.
★ 291 · GoЭНТЕРПРАЙЗ ИИ АГЕНТ
Платформа для регистрации бизнес‑API как ИИ‑возможностей в Java/Spring Boot: создание агентов через GraphSpec, MCP/A2A/Gateway и мониторинг выполнения.
★ 273 · JavaОДИН API ДЛЯ 100+ МОДЕЛЕЙ
Linten — открытый AI-шлюз с единым OpenAI-совместимым API для 100+ моделей. Поддерживает виртуальные ключи, трекинг расходов, маршрутизацию и guardrails. Разворачивается
★ 242 · PythonBUSBAR: УПРАВЛЕНИЕ AI‑АГЕНТАМИ
busbar — это управляющая плоскость выполнения для AI‑агентов, которая контролирует каждый запрос к модели, вызов MCP‑инструмента, делегирование A2A и последующее действие
★ 222 · RustОТКРЫТЫЙ AI GATEWAY НА RUST
aisix — единый OpenAI-совместимый API для OpenAI, Anthropic, Gemini, Bedrock. Поддерживает роутинг, guardrails, кэширование, лимиты и наблюдаемость. 201 звезда на GitHub.
★ 220 · Rust1Panel AI Шлюз
1Panel AI Gateway — это комплексное решение для управления AI-сервисами: единый вход, интеллектуальная маршрутизация и полный аудит соответствия, обеспечивающие безопасно
★ 86Самостоятельный шлюз LLM
Один бинарник Go превращает ваши Mac и Linux‑машины в приватный кластер инференса с мульти‑машинным роутингом, шардингом через llama.cpp‑RPC и поддержкой API OpenAI и Ant
★ 38 · GoНовые проекты по теме — в Telegram
Telegram →