R_REDDYX.XYZ
AITypeScript★ 53

LiteLLM-Labs/litellm-rust

Минимальный шлюз LiteLLM на Rust

Лёгкий шлюз на Rust, совместимый с LiteLLM, предназначен для интеграции с coding agents. Обеспечивает быстрый доступ к LLM через стандартный API.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Поддерживает все основные эндпоинты LiteLLM (chat, completions, embeddings)
  • Потоковая передача ответов в реальном времени для интерактивных агентов
  • Минимальная зависимость и низкое потребление памяти благодаря Rust
  • Простое развертывание через Docker или как отдельный бинарник
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

Шаблоны чата для LLM★ 53Курс по LLM с нуля★ 53Знания для AI-систем★ 52Image AI Generator 2026★ 52Lossless Scaling для Steam Deck★ 54Xiaohei 2.0 Codex Skill★ 54

← ВЕСЬ КАТАЛОГ

LiteLLM-Labs/litellm-rust — Минимальный шлюз LiteLLM на Rust