LLM Proxy: open-source проекты на GitHub
18 репозиториев по теме LLM Proxy, отобранных ИИ-агентом REDDYX. У каждого — описание на русском, ключевые возможности и разбор. Отсортировано по числу звёзд.
// СМЕЖНЫЕ ТЕМЫ
PLANO: ИИ-ПРОКСИ ДЛЯ АГЕНТОВ
AI-native прокси и плоскость данных для агентных приложений с оркестрацией и безопасностью.
★ 6,567 · RustWINDSURFAPI - ПРОКСИ ДЛЯ LLM API
Прокси‑сервер, совместимый с OpenAI и Anthropic API, позволяющий легко интегрировать LLM в любые приложения.
★ 3,140 · JavaScriptLLMGATEWAY: ЕДИНЫЙ API ДЛЯ ВСЕХ LLM
Управляйте запросами к разным LLM-провайдерам через один унифицированный интерфейс. 1.2K ⭐ на GitHub.
★ 1,252 · TypeScriptЛОКАЛЬНЫЙ GATEWAY CLAUDE
ThinkWatch-Lite — локальный gateway для Claude Code, Codex и других AI-клиентов. Переключает upstream-ы без редактирования клиентов, сохраняет API-ключи и блокирует вредо
★ 1,070 · TypeScriptCLIRELAY - ЕДИНЫЙ ШЛЮЗ ДЛЯ AI КОДИРОВАНИЯ
Self‑hosted AI gateway объединяет OpenAI, Claude, Gemini и Codex в одном endpoint с веб‑консолью, логами запросов и квотами расходов.
★ 1,055 · GoOTARI: ШЛЮЗ ДЛЯ 40+ ПРОВАЙДЕРОВ
Самохостируемый шлюз, совместимый с OpenAI API, объединяющий более 40 провайдеров LLM с виртуальными ключами, бюджетами и аналитикой использования.
★ 930 · PythonЕДИНЫЙ ШЛЮЗ ДЛЯ ВСЕХ LLM
respan-gateway — единый эндпоинт для всех LLM-провайдеров. Поддерживает любой SDK, любую модель и инструменты. Один бинарник на Rust заменяет десятки интеграций.
★ 833 · RustClaude-TAP: Трафик агентов
Перехват и анализ API-трафика от Claude Code, Codex CLI, Gemini CLI, Cursor CLI, OpenCode, Kimi, Pi и Hermes в локальном просмотрщике трассировки.
★ 788 · PythonСКАНЕР БЕЗОПАСНОСТИ API-РЕЛЕЕВ
Локальный сканер для AI API-релеев и LLM-прокси. 620 ⭐ на GitHub.
★ 620 · PythonNADIRCLAW: РУТИРОВКА LLM ДЛЯ ЭКОНОМИИ
Маршрутизирует запросы к дешёвым локальным моделям и premium‑LLM, экономя 40‑70% на API‑расходах.
★ 504 · PythonБЫСТРЕЙШИЙ AI GATEWAY НА RUST
Antirion — открытый AI-шлюз в одном Rust-бинарнике. Маршрутизирует, защищает, лимитирует бюджет и наблюдает за вызовами LLM: OpenAI, Anthropic, Gemini, Bedrock. Встроенна
★ 462 · RustCCLOAD: ИИ ШЛЮЗ БЕЗ РУЧНОГО ПЕРЕКЛЮЧЕНИЯ
AI-шлюз с умным роутингом, авто-фэйловером и мониторингом запросов в реальном времени.
★ 440 · GoCCPROXY МОДЫ ДЛЯ CLAUDE CODE
ccproxy позволяет перехватывать любые запросы к Claude Code и модифицировать ответы, а также подключать собственные модели через /model
★ 360 · PythonAI-GATEWAY: ЕДИНЫЙ ШЛЮЗ ДЛЯ LLM
Unified AI gateway supporting 30+ LLMs with caching, guardrails, A/B testing and cost controls. Built in Go for maximum speed and scalability.
★ 291 · GoGPROXY ЕДИНЫЙ ШЛЮЗ ДЛЯ LLM
Мультиканальный прокси на Rust, объединяющий API OpenAI, Claude и Gemini с админ‑консолью и учётом запросов.
★ 287 · RustBUSBAR: УПРАВЛЕНИЕ AI‑АГЕНТАМИ
busbar — это управляющая плоскость выполнения для AI‑агентов, которая контролирует каждый запрос к модели, вызов MCP‑инструмента, делегирование A2A и последующее действие
★ 222 · RustОТКРЫТЫЙ AI GATEWAY НА RUST
aisix — единый OpenAI-совместимый API для OpenAI, Anthropic, Gemini, Bedrock. Поддерживает роутинг, guardrails, кэширование, лимиты и наблюдаемость. 201 звезда на GitHub.
★ 220 · RustЛОКАЛЬНЫЙ ПРОКСИ LLM С КОНТРОЛЕМ РАСХОДОВ
Локальный прокси LLM измеряет стоимость каждого запуска агента и останавливает те, которые превышают бюджет. Бесплатный, с лицензией MIT, написан на TypeScript и уже собр
★ 212 · TypeScriptНовые проекты по теме — в Telegram
Telegram →