AIRust★ 5,122⑂ 458 форковApache-2.0
huggingface/text-embeddings-inference
TEXT-EMBEDDINGS-INFERENCE - МГНОВЕННЫЙ ВЫВОД ЭМБЕДДИНГОВ
Быстрый инференс для моделей текстовых эмбеддингов на Rust, обеспечивающий низкую латентность и высокую пропускную способность.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка популярных моделей (BERT, Sentence‑Transformer)
- Асинхронный API с gRPC и HTTP endpoints
- Минимальные зависимости, чистый Rust без GC
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram