Open WebUI 2026: свой ChatGPT локально за 10 минут

ЗАЧЕМ ВООБЩЕ ЛОКАЛЬНЫЙ ЧАТ В 2026

Причин ровно три, и все они прагматичные, а не про идеологию.

Первая — приватность. Всё, что вы вставляете в облачный чат, покидает вашу машину: куски прод-кода, клиентские данные, внутренние доки. Для многих компаний это прямое нарушение договоров о неразглашении. Локальный чат физически не отправляет ничего наружу — трафик не выходит за пределы вашего сервера.

Вторая — деньги. Подписки на топовые API складываются в ощутимую сумму, а тяжёлый рабочий поток (генерация тестов, рефакторинг, разбор логов пачками) съедает токены быстро. Своя модель на своём железе после разовой закупки GPU стоит только электричество.

Третья — контроль. Никаких внезапных депрекейтов модели, смен цен, региональных блокировок и «сервис перегружен». Модель лежит у вас на диске и работает ровно так, как вчера.

Open WebUI (бывший ollama-webui) закрывает эти три пункта разом, давая при этом интерфейс, который не стыдно показать команде. Свежие релизы и форки таких инструментов удобно отслеживать в каталоге REDDYX.

ЧТО ТАКОЕ OPEN WEBUI И ПОЧЕМУ ИМЕННО ОН

Open WebUI — это фронтенд-слой поверх бэкенда с моделями. Сам он модели не запускает: он общается с движком инференса (чаще всего Ollama, но подойдёт любой OpenAI-совместимый эндпоинт) и отдаёт вам знакомый чат-интерфейс в браузере.

Что он реально умеет из коробки:

• Мультимодельные диалоги — переключение между моделями внутри одного чата.
• RAG: подгрузка своих документов (PDF, docx, txt) с индексацией и цитированием.
• Веб-поиск через подключаемые провайдеры — модель отвечает по свежим данным.
• Мультипользовательский режим с ролями и правами — то есть можно поднять на команду.
• Кастомные системные промпты, «модели-персоны», пресеты параметров.
• Загрузка изображений в мультимодальные модели, генерация картинок через внешний бэкенд.

Ключевое: проект живой, коммитов много, комьюнити большое. Это не заброшенный pet-project, а зрелый инструмент, который реально стоит в проде у команд.

OPEN WEBUI ПРОТИВ ОБЛАКА И АЛЬТЕРНАТИВ

Чтобы не гадать, где ваш кейс, — сравнительная таблица.

Честный вывод: облако по-прежнему выигрывает по потолку интеллекта самых больших моделей. Но для 80% ежедневных задач разработчика — объяснить код, накидать регулярку, разобрать stack trace, сгенерить boilerplate — локальная модель среднего размера справляется, а данные не утекают.

ЧТО НУЖНО ПО ЖЕЛЕЗУ

Главный вопрос — не CPU, а видеопамять (VRAM), потому что от неё зависит, какую модель вы влезете запустить с адекватной скоростью.

• 8 ГБ VRAM — модели уровня 7–8B в квантизации Q4. Быстро, для повседневных задач хватает.
• 16 ГБ VRAM — комфортно крутятся 13–14B, а с натяжкой и 20B+ в жёсткой квантизации.
• 24 ГБ и выше — 30B+ модели, длинный контекст, приятная скорость.
• Apple Silicon (M-серия) — унифицированная память работает отлично, Ollama на Mac заводится без бубна.

Без дискретного GPU тоже работает — на CPU, но медленно: маленькие модели дадут читаемую, хоть и неспешную выдачу. Для теста концепции нормально, для ежедневной работы захочется видеокарту. По замерам сообщества скорость на GPU обычно в разы выше, чем на чистом CPU того же класса.

УСТАНОВКА ЗА 10 МИНУТ

Порядок такой: сначала движок с моделями (Ollama), потом интерфейс (Open WebUI). Ниже — рабочий сценарий на Docker, самый воспроизводимый способ.

Шаг 1. Ставим Ollama и тянем модель

# Linux — установка Ollama одной строкой
curl -fsSL https://ollama.com/install.sh | sh

# Проверяем, что демон поднялся
ollama --version

# Тянем модель (пример — компактная модель ~8B, замените на нужную)
ollama pull llama3.1:8b

# Быстрый тест прямо в терминале
ollama run llama3.1:8b "Привет. Ответь одним предложением, что ты умеешь."

На macOS ставьте Ollama через официальный установщик (.dmg), команды pull/run те же. На Windows есть нативный установщик, либо ставьте всё через WSL2 + Docker.

Шаг 2. Поднимаем Open WebUI в Docker

# Один контейнер, цепляется к Ollama на хосте
docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Разбор по флагам:

1. -p 3000:8080 — интерфейс будет на http://localhost:3000.
2. --add-host=host.docker.internal — чтобы контейнер достучался до Ollama, запущенного на самом хосте.
3. -v open-webui:/app/backend/data — именованный том, чтобы диалоги, пользователи и настройки пережили перезапуск и обновление контейнера.
4. --restart always — поднимется сам после ребута сервера.

Открываете http://localhost:3000, регистрируете первого пользователя (он автоматически становится админом), выбираете модель в шапке — и всё, чат работает. Реально укладывается в 10 минут, если модель уже скачалась.

Шаг 3. (Опционально) всё одним docker-compose

services:
  ollama:
    image: ollama/ollama:latest
    volumes:
      - ollama:/root/.ollama
    restart: unless-stopped

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - open-webui:/app/backend/data
    depends_on:
      - ollama
    restart: unless-stopped

volumes:
  ollama:
  open-webui:

Один docker compose up -d — и оба сервиса в одной сети, без возни с host-gateway. Это предпочтительный вариант для сервера.

ПОДКЛЮЧАЕМ RAG И ВНЕШНИЕ API

Тут Open WebUI выходит за рамки «просто чата».

Свои документы. В интерфейсе есть раздел с базой знаний: загружаете файлы, они индексируются, и модель отвечает с опорой на них, показывая цитаты-источники. Для разбора внутренней документации или большого договора это спасает от копипаста портянок в промпт.

OpenAI-совместимые эндпоинты. Open WebUI не привязан к Ollama намертво. В настройках добавляете любой совместимый бэкенд — облачный API, свой vLLM-сервер, шлюз-роутер. То есть в одном интерфейсе держите и локальные модели для чувствительных данных, и мощную облачную для сложных задач, переключаясь одним кликом.

Веб-поиск. Подключаете провайдера поиска — модель начинает подтягивать свежие факты, а не отвечать по устаревшим весам. Полезно, когда локальная модель обучалась давно.

БЕЗОПАСНОСТЬ ПРИ ВЫНОСЕ НАРУЖУ

Если ставите на домашней машине для себя — можно расслабиться. Но как только Open WebUI смотрит в интернет (например, чтобы пользоваться с телефона), включайте голову.

• Не публикуйте порт 3000 голым в сеть. Ставьте reverse-proxy (nginx / Caddy / Traefik) с HTTPS.
• Закройте открытую регистрацию. После создания первого админа выключите свободный signup в настройках, иначе любой прохожий заведёт себе аккаунт.
• Ollama держите внутри Docker-сети, не выставляйте её порт 11434 наружу — это неавторизованный доступ к вашим моделям.
• Обновляйтесь. Проект быстрый, фиксы прилетают часто; тяните свежий образ регулярно.
• Ещё чище — доступ только через VPN (WireGuard/Tailscale), тогда сервис вообще не торчит в публичный интернет.

Смысл всей затеи — приватность, и было бы иронично слить её кривой публикацией порта.

Если собираете свой локальный стек и не хотите пропускать новые движки, обёртки и модели — их пачками разбирают в Telegram-канале REDDYX AI — новые репозитории каждые 30-60 минут.