Open WebUI stellt eine browserbasierte Benutzeroberfläche für lokale KI-Modelle bereit. In Verbindung mit Ollama können Benutzer Modelle auswählen und über einen Webbrowser verwenden.
Dieser Artikel zeigt die Installation von Open WebUI als Docker-Container. Ollama wird dabei nativ auf demselben Ubuntu-Server betrieben.
Die Anleitung ist für Ubuntu Server 24.04 LTS ausgelegt. Folgende Komponenten müssen bereits installiert sein:
wikisudo-Rechten8080Prüfen Sie den Ollama-Dienst:
sudo systemctl status ollama
Prüfen Sie die lokale Ollama-API:
curl http://127.0.0.1:11434/api/tags
Bei einer erfolgreichen Verbindung wird eine JSON-Antwort mit den installierten Modellen zurückgegeben.
Falls noch kein Modell vorhanden ist, laden Sie beispielsweise gemma3:4b herunter:
ollama pull gemma3:4b
Prüfen Sie die Docker-Installation:
sudo docker version
Open WebUI läuft in einem Docker-Container. Da Ollama auf demselben Server nativ installiert ist, wird der Container mit dem Host-Netzwerk gestartet.
Starten Sie Open WebUI:
sudo docker run -d \
--network=host \
-v open-webui:/app/backend/data \
-e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
Das Docker-Volume open-webui speichert Benutzerkonten, Einstellungen und Chatverläufe dauerhaft.
Der Tag main verweist auf die jeweils aktuelle Version. Für den produktiven Betrieb sollte nach einem erfolgreichen Test eine feste Versionsnummer verwendet werden.
Prüfen Sie den Containerstatus:
sudo docker ps --filter name=open-webui
Zeigen Sie bei Bedarf die Startprotokolle an:
sudo docker logs --tail=100 open-webui
Öffnen Sie folgende Adresse in einem Browser:
http://<IP-DES-SERVERS>:8080
Das erste auf einer neuen Installation angelegte Benutzerkonto erhält Administratorrechte.
Melden Sie sich an und wählen Sie gemma3:4b in der Modellauswahl aus.
Senden Sie beispielsweise folgende Anfrage:
Wenn das Modell antwortet, funktioniert die Verbindung zwischen Open WebUI und Ollama.
Falls keine Modelle angezeigt werden, öffnen Sie in Open WebUI:
Admin Panel > Settings > Connections
Die Ollama-Adresse sollte auf folgende URL zeigen:
Prüfen Sie zusätzlich auf dem Ubuntu-Server:
curl http://127.0.0.1:11434/api/tags
Da Open WebUI mit --network=host gestartet wird, kann der Container die lokale Ollama-Adresse direkt verwenden.
Laden Sie das aktuelle Container-Image:
sudo docker pull ghcr.io/open-webui/open-webui:main
Stoppen und entfernen Sie den bisherigen Container:
sudo docker stop open-webui
sudo docker rm open-webui
Starten Sie Open WebUI anschließend erneut:
sudo docker run -d \
--network=host \
-v open-webui:/app/backend/data \
-e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
Die Daten im Docker-Volume open-webui bleiben dabei erhalten.
Open WebUI verwendet Benutzerkonten. Trotzdem sollte Port 8080 nicht ungeschützt aus dem Internet erreichbar sein.
Für den Zugriff aus dem Internet empfiehlt sich ein VPN oder ein Reverse Proxy mit HTTPS. Bei einem Reverse Proxy muss die Unterstützung für WebSockets aktiviert sein.
Für eine rein interne Verwendung kann der Zugriff mit UFW auf das lokale Netzwerk beschränkt werden:
sudo ufw allow from 192.168.1.0/24 to any port 8080 proto tcp
Passen Sie das Subnetz an die eigene Umgebung an.
Prüfen Sie den Containerstatus:
sudo docker ps -a --filter name=open-webui
Zeigen Sie die Protokolle an:
sudo docker logs open-webui
Prüfen Sie, ob Port 8080 bereits verwendet wird:
sudo ss -tulpn | grep 8080
Prüfen Sie die installierten Ollama-Modelle:
ollama ls
Prüfen Sie die Ollama-API:
curl http://127.0.0.1:11434/api/tags
Starten Sie bei Bedarf beide Dienste neu:
sudo systemctl restart ollama
sudo docker restart open-webui
Öffnen Sie die Weboberfläche testweise in einem privaten Browserfenster. Falls sie dort funktioniert, löschen Sie den Cache und die Website-Daten für die Open-WebUI-Adresse.
Stoppen und entfernen Sie den Container:
sudo docker stop open-webui
sudo docker rm open-webui
Die gespeicherten Daten bleiben zunächst im Docker-Volume erhalten.
Zum vollständigen Löschen aller Open-WebUI-Daten entfernen Sie zusätzlich das Volume:
sudo docker volume rm open-webui
Achtung: Dadurch werden Benutzerkonten, Einstellungen und Chatverläufe endgültig gelöscht.
 |
Autor: Florian Müller Florian Müller hat bereits 2008 seine Ausbildung bei Thomas-Krenn gemacht und war danach in der internen IT-Administration tätig. Mittlerweile ist er im Presales Consulting Team und unterstützt Kunden und Kollegen beim Sizing und der Planung von komplexen IT-Projekten.
|
