AIGo★ 211
ferro-labs/ai-gateway
AI-GATEWAY: ЕДИНЫЙ ШЛЮЗ ДЛЯ LLM
Unified AI gateway supporting 30+ LLMs with caching, guardrails, A/B testing and cost controls. Built in Go for maximum speed and scalability.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Кеширование запросов для снижения latency и стоимости
- Guardrails и фильтрация контента для безопасности
- A/B тестирование и контроль затрат в реальном времени
#ai-gateway#ai-infrastructure#guardrails#litellm#llm#llm-cost#llm-gateway#llm-proxy#llm-strategy#llmops#mcp#openai-compatible
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram