AIRust★ 4,919
huggingface/text-embeddings-inference
TEXT-EMBEDDINGS-INFERENCE - МГНОВЕННЫЙ ВЫВОД ЭМБЕДДИНГОВ
Быстрый инференс для моделей текстовых эмбеддингов на Rust, обеспечивающий низкую латентность и высокую пропускную способность.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка популярных моделей (BERT, Sentence‑Transformer)
- Асинхронный API с gRPC и HTTP endpoints
- Минимальные зависимости, чистый Rust без GC
#ai#embeddings#huggingface#llm#ml
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram