AIRust★ 219
traceloop/hub
HUB: RUST LLM GATEWAY
High‑scale LLM gateway на Rust с встроенной наблюдаемостью через OpenTelemetry. Легко масштабируем и готов к продакшну.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Высокая пропускная способность и низкая задержка
- Полная интеграция с OpenTelemetry для метрик и трассировки
- Написан на безопасном и быстром Rust
#artificial-intelligence#datascience#generative-ai#llm#llmops#ml#model-monitoring#observability#open-source#opentelemetry#rust
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram