AIPython★ 787
sgl-project/sglang-omni
SGLANG-OMNI: ОМНИ-СЕРВИС ДЛЯ ИИ
SGLang-Omni обеспечивает высокопроизводительный запуск моделей TTS, ASR и речевых omni-моделей на Python.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Поддержка TTS, ASR и omni-моделей в одном сервисе
- Высокая пропускная способность и низкая латентность
- Простая интеграция через Python API
#asr#audio-generation#cuda#inference#llm#model-serving#multimodal#openai-api#pytorch#qwen#sglang#speech
Открыть на GitHub →Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram