JMS1717/ming-voice
ЛОКАЛЬНЫЙ SPEECH-TO-SPEECH АССИСТЕНТ НА GPU
Полностью локальный голосовой ассистент с задержкой ~0.23с от конца фразы до ответа. Работает на AMD/Nvidia GPU под Windows и Linux без отправки аудио в облако.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- Задержка ~0.23с с Smart Turn v3 для определения конца реплики
- Интеграция с Home Assistant, Jellyfin, таймеры, списки, память
- 7 голосов + клонирование по 5-15с образца, OpenAI-совместимый API
- Работает всегда онлайн, доступ с телефона через HTTPS, Wyoming протокол
// РАЗБОР: КАК ЭТО РАБОТАЕТ
Ming Voice оборачивает модель inclusionAI/Ming-3.0-audio-tiny в локальный голосовой ассистент, работающий на GPU пользователя. Аудио обрабатывается полностью на устройстве: система слушает микрофон, детектирует конец реплики через Smart Turn v3, генерирует ответ и озвучивает его за ~0.23 секунды. Поддерживает прерывание, паузу и продолжение диалога, а также сохраняет контекст между перезапусками.
Внутри — speech-to-speech модель Ming-3.0-audio-tiny, оптимизированная для AMD (ROCm) и Nvidia (CUDA/Triton). Отличается набором встроенных инструментов: веб-поиск, погода, калькулятор, таймеры, напоминания, списки покупок и долговременная память. Глубокая интеграция с Home Assistant позволяет управлять светом, климатом, замками, медиа, пылесосом и сценариями, включая команды на будущее и групповые действия. Есть режим Jarvis с отдельной личностью и голосом, клонирование голоса по короткому образцу и OpenAI-совместимый API для TTS, STT и чата с аудио.
Требуется GPU AMD (ROCm) или Nvidia (экспериментально), Windows или Linux. Модели скачиваются при первом запуске; для веб-поиска и погоды уходят только текстовые запросы. Аудио никогда не покидает машину, если инструменты отключены. Нет браузерного интерфейса — работает как фоновый процесс с веб-доступом по HTTPS для телефона и Wyoming-интеграцией в Home Assistant Assist.
// СЦЕНАРИИ ИСПОЛЬЗОВАНИЯ
Кому пригодится: Для энтузиастов локального ИИ и умного дома на AMD/Nvidia GPU
- Управлять умным домом голосом: свет, климат, замки, медиа и сценарии Home Assistant
- Вести списки покупок, таймеры и заметки без облака, с сохранением контекста
- Запускать локального голосового ассистента на ПК и пользоваться им с телефона по HTTPS
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram