R_REDDYX.XYZ
AIRust★ 5,122⑂ 458 форковApache-2.0

huggingface/text-embeddings-inference

TEXT-EMBEDDINGS-INFERENCE - МГНОВЕННЫЙ ВЫВОД ЭМБЕДДИНГОВ

Быстрый инференс для моделей текстовых эмбеддингов на Rust, обеспечивающий низкую латентность и высокую пропускную способность.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • Поддержка популярных моделей (BERT, Sentence‑Transformer)
  • Асинхронный API с gRPC и HTTP endpoints
  • Минимальные зависимости, чистый Rust без GC
#ai#embeddings#huggingface#llm#ml
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

JSON_REPAIR - ПОЧИНИ JSON МГНОВЕННО★ 5135XTUNER: ТРЕНЕР ДЛЯ БОЛЬШИХ MoE★ 5138РЕАКТ-РЕДАКТОР ПИСЕМ С DRAG-AND-DROP★ 5139LOCAL CODE AS KUBERNETES POD★ 5099AI-доссье для карьеры★ 5145Kaku — терминал для AI-кодинга★ 5147

← ВЕСЬ КАТАЛОГ

huggingface/text-embeddings-inference —…