remsky/Kokoro-FastAPI
DOCKER-WRAPPER KOKORO-82M TTS С OPENAI API
Docker-образ с FastAPI-обёрткой над моделью Kokoro-82M для синтеза речи. Предоставляет OpenAI-совместимый API, веб-сокеты для голосовых агентов и веб-интерфейс для генерации аудио.
// КЛЮЧЕВЫЕ ОСОБЕННОСТИ
- OpenAI-совместимый API и веб-сокеты для LiveKit/Pipecat
- Мультиязычность: 8 языков включая русский, китайский, японский
- Мультиспикер, SSML, таймстемпы слов, клонирование голосов
- Готовые образы для CPU, NVIDIA CUDA, AMD ROCm, Apple MPS
// РАЗБОР: КАК ЭТО РАБОТАЕТ
Проект упаковывает Kokoro-82M в FastAPI с OpenAI-совместимым API (/v1/audio/speech, realtime). Веса загружаются с проверкой sha256 закреплённого коммита HF; при несовпадении — сервер не стартует. Образы для linux/amd64/arm64: CPU, NVIDIA CUDA (cu126/128/129), AMD ROCm (эксп.); на Apple Silicon — нативно через MPS.
Веб-сокеты ElevenLabs/Cartesia для LiveKit/Pipecat, Inno Clone-Tuner для кастомных голосов, опц. WebUI с read-along. SSML, инлайн-мультиспикер с весами, фонемы, таймстемпы слов/чанков. 8 языков: en-US/GB, es, fr, hi, it, ja, pt-BR, zh.
Требуется Docker; для GPU — NVIDIA Container Toolkit или ROCm. CPU-образ на любом x86_64/arm64. Модель ~300 Мб кэшируется. Нет авторизации — деплой в доверенной сети или за прокси. В проде фиксируйте тег, не :latest.
// СЦЕНАРИИ ИСПОЛЬЗОВАНИЯ
Кому пригодится: Разработчикам голосовых агентов и TTS-сервисов для локального развёртывания
- Развернуть локальный TTS-бэкенд для голосового ассистента на LiveKit
- Сгенерировать аудиокнигу с несколькими голосами и таймкодами для синхронизации
- Создать клон голоса через Clone-Tuner и использовать через OpenAI API
// БЫСТРЫЙ СТАРТ
docker run -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu:latest
docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest
docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest-cu128
docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest
docker run --device=/dev/kfd --device=/dev/dri -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-rocm:latest
./start-gpu_mac.shКоманды взяты из README репозитория — перед запуском сверьтесь с актуальной версией на GitHub.
Новые репозитории каждые 30 минут
REDDYX AI сканирует GitHub 24/7 и присылает лучшие AI/ML/Web3 проекты в Telegram.
Подписаться в Telegram