AIPython★ 604
Continuum-AI-Corp/OrcaRouter-Lite
ORCALITE LLM РОУТЕР САМОХОСТИНГ
Самохостинговый роутер LLM с управляемой защитой и OpenAI‑совместимым API. Поддерживает BYOK, одно рабочее пространство и потоковую генерацию. Для сложного маршрутизации используйте хостинговый OrcaRouter.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- OpenAI‑совместимый эндпоинт с поддержкой chat/completions и embeddings.
- BYOK: подключайте свои ключи от Anthropic, OpenAI, Cohere и других провайдеров.
- Единое рабочее пространство с управлением токенами и лимитами безопасности.
- Потоковая генерация (streaming) и автоматический fallback при ошибках.
#ai-gateway#ai-gateway-client#ai-gateways#anthropic-api#byok#fastapi#gemini-api#litellm#llm-router#llm-router-server#new-api#new-api-pro
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram