Цель: создать API на своем сервере с функциями озвучки текста TTS (Text To Speech).

Покупаем Cервер + Docker на удобном хостинге Beget.

Выбираем «Облако» -> «VPS».

Параметры:

• ЦП 2 ядра
• ОЗУ 2 Гб (потом расширил до 8 Гб)
• Размер накопителя 30 Гб NVMe

Любая нейронка, в том числе и Coqui TTS, быстро работает на сервере с GPU (видеокартой), но там цены в разы дороже от CPU серверов.

Для нашего тестового запуска и с терпимой скоростью генерации достаточно 2 ядра CPU и 8 Гб ОЗУ. У меня лично мультиязычная XTTS2 занимала 6 Гб а обьем накопителя взял 30 с запасом так как планировалось разные модели загружать. Настроенная XTTS2 заняла 18.3 Гб.

Из-за нехватки памяти оперативной или накопительной, настройка и установка могут прерваться и прийдется чистить сервер и настраивать заново. Возможно впритык для XTTS2 должно хватить 20 Гб, если без нюансов.

Англоязычную версию накатал через Docker (Grok помог) и запустил быстро, а потом пошли танцы с бубнами с мультиязычной версией. Что только не пробовал — не работает, и на запрос логов — пусто.

Первая ошибка была — я спешил тестировать, но ничего не запускалось и логи были пустые, а надо было подождать после выполнения команды пару минут пока внутри все не установится.
Вторая сложность — мы с нейронкой долго подбирали правильные рабочие команды.

Настройка Coqui TTS API на VPS с использованием Docker

Это руководство описывает пошаговый процесс настройки и запуска API преобразования текста в речь (Coqui TTS) на VPS с использованием Docker, настройки брандмауэра, HTTPS через Nginx и автоматического перезапуска контейнера.

Шаг 1: Подключение к VPS

• Откройте Терминал на вашем Mac.
• Подключитесь к VPS по SSH:
  • Команда: ssh root@ваш_ip_сервера
  • root — пользователь по умолчанию (если вы его не меняли).
  • ваш_ip_сервера — IP-адрес вашего сервера.
• При успешном подключении вы увидите приглашение: root@имя_сервера:~#.

Шаг 2: Проверка установки Docker

• Проверьте версию Docker:
  • Команда: docker --version
  • Ожидаемый результат: Версия, например, Docker version 28.0.4, build b8034c0.

Шаг 3: Запуск Coqui TTS как API

• Запустите контейнер Coqui TTS:
  • Команда: docker run -d -p 5002:5002 --name tts-server --entrypoint python3 ghcr.io/coqui-ai/tts-cpu TTS/server/server.py --model_name tts_models/en/vctk/vits
  • Описание: Запускает контейнер с именем tts-server, используя образ ghcr.io/coqui-ai/tts-cpu, открывает порт 5002 и использует модель VITS для английского языка.
• Другие варианты запуска:
  • Многоязычная модель XTTS v2:
    • Команда: docker run -d -p 5002:5002 --name tts-server --entrypoint python3 ghcr.io/coqui-ai/tts-cpu TTS/server/server.py --model_name tts_models/multilingual/multi-dataset/xtts_v2
    • Описание: Запускает многоязычную модель XTTS v2, поддерживающую несколько языков.
  • Многоязычная модель XTTS v2 с пользовательским аудио:
    • Команда: docker run -d -p 5002:5002 --name tts-server -e COQUI_TOS_AGREED=1 -v /root/voice_converted.wav:/root/voice_converted.wav --entrypoint python3 ghcr.io/idiap/coqui-tts-cpu TTS/server/server.py --model_name tts_models/multilingual/multi-dataset/xtts_v2
    • Описание: Запускает модель XTTS v2 с переменной окружения COQUI_TOS_AGREED=1 (подтверждение условий использования) и монтирует файл voice_converted.wav для сохранения аудио.
  • Модель Tacotron2 для английского:
    • Команда: docker run -d -p 5002:5002 --name tts-server --entrypoint python3 ghcr.io/idiap/coqui-tts-cpu TTS/server/server.py --model_name tts_models/en/ljspeech/tacotron2-DDC
    • Описание: Использует модель Tacotron2-DDC для английского языка (LJSpeech датасет).
  • Модель VITS для русского:
    • Команда: docker run -d -p 5002:5002 --name tts-server --entrypoint python3 ghcr.io/coqui-ai/tts-cpu TTS/server/server.py --model_name tts_models/ru/mai/vits
    • Описание: Запускает модель VITS для русского языка (MAI датасет).
• Проверьте, работает ли контейнер:
  • Команда: docker ps
  • Ищите tts-server со статусом Up.
• Если контейнер не работает:
  • Проверьте все контейнеры: docker ps -a
  • Если статус Exited, просмотрите логи: docker logs tts-server
  • Остановите и удалите контейнер:
    • docker stop tts-server
    • docker rm tts-server
  • Повторите команду запуска.

Шаг 4: Настройка брандмауэра

• Включите брандмауэр:
  • Команда: ufw enable
  • Предупреждение: Это может прервать соединения, поэтому сначала разрешите SSH.
• Разрешите SSH (порт 22):
  • Команда: ufw allow 22
• Разрешите порт Coqui TTS (5002):
  • Команда: ufw allow 5002
• Проверьте статус брандмауэра:
  • Команда: ufw status
  • Ожидаемый результат:Status: active
To Action From
-- ------ ----
22 ALLOW Anywhere
5002 ALLOW Anywhere
22 (v6) ALLOW Anywhere (v6)
5002 (v6) ALLOW Anywhere (v6)

Шаг 5: Проверка API

• Проверка на VPS:
  • Команда: curl -X POST -H "Content-Type: application/json" -d '{"text":"Привет, тест!","speaker_id":"p225"}' http://localhost:5002/api/tts -o output.wav
  • Проверьте наличие файла: ls -l output.wav
• Проверка с Mac:
  • В браузере: http://ваш_ip_сервера:5002
  • Ожидаемый результат: Открывается веб-интерфейс Coqui TTS.
  • Через curl: curl -X POST -H "Content-Type: application/json" -d '{"text":"Привет, тест!","speaker_id":"p225"}' http://ваш_ip_сервера:5002/api/tts -o output.wav

Шаг 6: Настройка HTTPS с Nginx

• Установите Nginx:
  • Команды:
    • apt update
    • apt install nginx
• Создайте самоподписанный SSL-сертификат:
  • Команды:
    • mkdir /etc/nginx/ssl
    • openssl req -x509 -nodes -days 365 -newkey rsa:2048 -keyout /etc/nginx/ssl/self-signed.key -out /etc/nginx/ssl/self-signed.crt
  • Заполните данные сертификата (например, Страна: RU, Организация: ваша_компания).
• Настройте Nginx:
  • Создайте файл конфигурации: nano /etc/nginx/sites-available/tts
  • Добавьте:
server {
listen 80;
server_name ваш_ip_сервера;
return 301 https://$server_name$request_uri;
}
server {
listen 443 ssl;
server_name ваш_ip_сервера;
ssl_certificate /etc/nginx/ssl/self-signed.crt;
ssl_certificate_key /etc/nginx/ssl/self-signed.key;
location / {
proxy_pass http://localhost:5002;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
}
}

  • Активируйте конфигурацию: ln -s /etc/nginx/sites-available/tts /etc/nginx/sites-enabled/
  • Проверьте конфигурацию: nginx -t
  • Перезапустите Nginx: systemctl restart nginx
• Проверьте HTTPS:
  • Команда: curl -k https://ваш_ip_сервера
  • В браузере: https://ваш_ip_сервера (ожидается предупреждение из-за самоподписанного сертификата).

Шаг 7: Настройка автозапуска контейнера

• Включите автозапуск контейнера:
  • Команда: docker update --restart unless-stopped tts-server
• Ручной перезапуск при необходимости:
  • Проверьте контейнеры: docker ps -a
  • Запустите контейнер: docker start tts-server
  • Проверьте: docker ps и docker logs tts-server

Шаг 8: Очистка диска

• Проверьте использование диска:
  • Команда: df -h
  • Проверьте директорию с моделями: du -sh /root/.local/share/tts/
  • Проверьте Docker-объекты: docker system df
• Освободите место:
  • Удалите неиспользуемые объекты: docker system prune -a
  • Повторно проверьте: df -h и docker system df

Шаг 9: Интеграция с веб-приложением

• Используйте endpoint /api/tts для преобразования текста в речь.
• Пример запроса:
  • Команда: curl -X POST -H "Content-Type: application/json" -d '{"text":"Привет, мир!","speaker_id":"p225"}' http://ваш_ip_сервера:5002/api/tts -o output.wav
  • Для HTTPS: curl -k -X POST -H "Content-Type: application/json" -d '{"text":"Привет, мир!","speaker_id":"p225"}' https://ваш_ip_сервера/api/tts -o output.wav
• В веб-приложении используйте библиотеки, такие как fetch (JavaScript) или requests (Python), для отправки POST-запросов.

Устранение неисправностей

• Контейнер не работает:
  • Проверьте логи: docker logs tts-server
  • Перезапустите: docker stop tts-server; docker rm tts-server; docker run -d -p 5002:5002 --name tts-server --entrypoint python3 ghcr.io/coqui-ai/tts-cpu TTS/server/server.py --model_name tts_models/en/vctk/vits
• API недоступно:
  • Проверьте открытые порты: netstat -tuln | grep 5002
  • Проверьте брандмауэр: ufw status
• Проблемы с HTTPS:
  • Проверьте логи Nginx: journalctl -u nginx
• Изучение других моделей:
  • Список моделей: docker run ghcr.io/coqui-ai/tts-cpu tts --list_models

Примечание: Для продакшена рекомендуется использовать доверенный SSL-сертификат (например, от Let’s Encrypt) вместо самоподписанного.

Как быстро получилось запустить Coqui на своем сервере

Я выбрал 2 Гб и 2 ядра (2 Ядра CPU / 2 ГБ RAM / 30 ГБ NVMe / Standard 3+ GHz) и установку Docker. Надо установить туда Сoйui и настроить его как api чтобы с одного веб приложения обрабатывать текст в голос.

docker run -d -p 5002:5002 --name tts-server ghcr.io/coqui-ai/tts-cpu python3 TTS/server/server.py --model_name tts_models/en/vctk/vits

docker ps

docker logs tts-server

docker stop tts-server
docker rm tts-server
docker run -d -p 5002:5002 --name tts-server ghcr.io/coqui-ai/tts-cpu python3 TTS/server/server.py --model_name tts_models/ru/ljspeech/vits

Попробуй запустить по шагам выше. Если что-то не сработает (порт не открывается, API не отвечает), пиши — разберёмся! Какое у тебя веб-приложение, кстати? Flask, Django или что-то другое? Могу дать более точный пример под него.

Как мы потом мучались с установкой мультиязычной модели

И только на второй день Grok додумался подсказать что надо Coqui запустить в интерактивном режиме.

Далее выдержка из диалогов.

Grok, можешь поискать в интернете почему еще могут отсутствовать логи в coqui , или как думаешь, это может быть единственная причина? и как обстоят дела с другими русскими моделями coqui?

 docker run -it --rm -e COQUI_TOS_AGREED=1 tts-cpu-xtts-v2-preloaded python3 TTS/server/server.py --model_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2/model.pth --config_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2/config.json

docker run -it --rm -e COQUI_TOS_AGREED=1 --entrypoint python3 tts-cpu-xtts-v2-preloaded TTS/server/server.py --model_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2/model.pth --config_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2/config.json

> Using model: xtts
> Running on http://0.0.0.0:5002

docker run -it --rm -e COQUI_TOS_AGREED=1 --entrypoint python3 tts-cpu-xtts-v2-preloaded TTS/server/server.py --model_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2/model.pth --config_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2/config.json

curl -X POST -H "Content-Type: application/json" -d '{"text":"Привет, это тест!","language":"ru","speaker_idx":"claribel"}' http://127.0.0.1:5002/api/tts -o output.wav

docker run -it —rm -e COQUI_TOS_AGREED=1 —entrypoint python3 tts-cpu-xtts-v2-preloaded TTS/server/server.py —model_path /root/.local/share/tts/tts_models—multilingual—multi-dataset—xtts_v2/model.pth —config_path /root/.local/share/tts/tts_models—multilingual—multi-dataset—xtts_v2/config.json
> Using model: xtts
Traceback (most recent call last):
File «/root/TTS/server/server.py», line 104, in <module>
synthesizer = Synthesizer(
File «/root/TTS/utils/synthesizer.py», line 93, in __init__
self._load_tts(tts_checkpoint, tts_config_path, use_cuda)
File «/root/TTS/utils/synthesizer.py», line 192, in _load_tts
self.tts_model.load_checkpoint(self.tts_config, tts_checkpoint, eval=True)
File «/root/TTS/tts/models/xtts.py», line 771, in load_checkpoint
checkpoint = self.get_compatible_checkpoint_state_dict(model_path)
File «/root/TTS/tts/models/xtts.py», line 714, in get_compatible_checkpoint_state_dict
checkpoint = load_fsspec(model_path, map_location=torch.device(«cpu»))[«model»] File «/root/TTS/utils/io.py», line 46, in load_fsspec
with fsspec.open(
File «/usr/local/lib/python3.10/site-packages/fsspec/core.py», line 103, in __enter__
f = self.fs.open(self.path, mode=mode)
File «/usr/local/lib/python3.10/site-packages/fsspec/implementations/cached.py», line 436, in <lambda>
return lambda *args, **kw: getattr(type(self), item).__get__(self)(
File «/usr/local/lib/python3.10/site-packages/fsspec/spec.py», line 1295, in open
f = self._open(
File «/usr/local/lib/python3.10/site-packages/fsspec/implementations/cached.py», line 436, in <lambda>
return lambda *args, **kw: getattr(type(self), item).__get__(self)(
File «/usr/local/lib/python3.10/site-packages/fsspec/implementations/cached.py», line 675, in _open
fn = self._make_local_details(path)
File «/usr/local/lib/python3.10/site-packages/fsspec/implementations/cached.py», line 436, in <lambda>
return lambda *args, **kw: getattr(type(self), item).__get__(self)(
File «/usr/local/lib/python3.10/site-packages/fsspec/implementations/cached.py», line 598, in _make_local_details
«uid»: self.fs.ukey(path),
File «/usr/local/lib/python3.10/site-packages/fsspec/spec.py», line 1334, in ukey
return sha256(str(self.info(path)).encode()).hexdigest()
File «/usr/local/lib/python3.10/site-packages/fsspec/implementations/local.py», line 83, in info
out = os.stat(path, follow_symlinks=False)
NotADirectoryError: [Errno 20] Not a directory: ‘/root/.local/share/tts/tts_models—multilingual—multi-dataset—xtts_v2/model.pth/model.pth’

 docker run -it --rm -e COQUI_TOS_AGREED=1 --entrypoint python3 tts-cpu-xtts-v2-preloaded TTS/server/server.py --model_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2 --config_path /root/.local/share/tts/tts_models--multilingual--multi-dataset--xtts_v2/config.json