R_REDDYX.XYZ
VoicePython★ 5,706⑂ 950 форковApache-2.0

remsky/Kokoro-FastAPI

DOCKER-WRAPPER KOKORO-82M TTS С OPENAI API

Docker-образ с FastAPI-обёрткой над моделью Kokoro-82M для синтеза речи. Предоставляет OpenAI-совместимый API, веб-сокеты для голосовых агентов и веб-интерфейс для генерации аудио.

// КЛЮЧЕВЫЕ ОСОБЕННОСТИ

  • OpenAI-совместимый API и веб-сокеты для LiveKit/Pipecat
  • Мультиязычность: 8 языков включая русский, китайский, японский
  • Мультиспикер, SSML, таймстемпы слов, клонирование голосов
  • Готовые образы для CPU, NVIDIA CUDA, AMD ROCm, Apple MPS

// РАЗБОР: КАК ЭТО РАБОТАЕТ

Проект упаковывает Kokoro-82M в FastAPI с OpenAI-совместимым API (/v1/audio/speech, realtime). Веса загружаются с проверкой sha256 закреплённого коммита HF; при несовпадении — сервер не стартует. Образы для linux/amd64/arm64: CPU, NVIDIA CUDA (cu126/128/129), AMD ROCm (эксп.); на Apple Silicon — нативно через MPS.

Веб-сокеты ElevenLabs/Cartesia для LiveKit/Pipecat, Inno Clone-Tuner для кастомных голосов, опц. WebUI с read-along. SSML, инлайн-мультиспикер с весами, фонемы, таймстемпы слов/чанков. 8 языков: en-US/GB, es, fr, hi, it, ja, pt-BR, zh.

Требуется Docker; для GPU — NVIDIA Container Toolkit или ROCm. CPU-образ на любом x86_64/arm64. Модель ~300 Мб кэшируется. Нет авторизации — деплой в доверенной сети или за прокси. В проде фиксируйте тег, не :latest.

// СЦЕНАРИИ ИСПОЛЬЗОВАНИЯ

Кому пригодится: Разработчикам голосовых агентов и TTS-сервисов для локального развёртывания

  • Развернуть локальный TTS-бэкенд для голосового ассистента на LiveKit
  • Сгенерировать аудиокнигу с несколькими голосами и таймкодами для синхронизации
  • Создать клон голоса через Clone-Tuner и использовать через OpenAI API

// БЫСТРЫЙ СТАРТ

docker run -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu:latest
docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest
docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest-cu128
docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest
docker run --device=/dev/kfd --device=/dev/dri -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-rocm:latest
./start-gpu_mac.sh

Команды взяты из README репозитория — перед запуском сверьтесь с актуальной версией на GitHub.

#fastapi#kokoro#kokoro-82m#kokoro-tts#multi-speaker-tts#mutilingual-audio#openai-compatible-api#openwebui#pytorch#read-along#realtime-api#sillytavern
Открыть на GitHub →

Новые репозитории каждые 30 минут

REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.

Подписаться в Telegram
← Весь каталог

// ПОХОЖИЕ РЕПОЗИТОРИИ

ЛОКАЛЬНЫЙ ГОЛОСОВОЙ ДИКТОВАНИЕ ДЛЯ ВСЕХ ОС★ 6802VIETNAMESE TTS С КЛОНИРОВАНИЕМ ГОЛОСА НА УСТРОЙСТВЕ★ 3432МАЛЕНЬКАЯ АНГЛИЙСКАЯ TTS-МОДЕЛЬ 4.5М ПАРАМЕТРОВ★ 673ЛОКАЛЬНЫЙ SPEECH-TO-SPEECH АССИСТЕНТ НА GPU★ 448ОФФЛАЙН AI СТУДИЯ ГОЛОСА НА RUST★ 312ГОЛОСОВАЯ СТУДИЯ НА MAC С MLX★ 247

← ВЕСЬ КАТАЛОГ

remsky/Kokoro-FastAPI — Docker-Wrapper Kokoro-82m TTS с…