Wanneer je experimenteert met lokale taalmodellen, is de standaard commandline-interface van tools zoals Ollama niet altijd even intuïtief voor dagelijks gebruik. Open WebUI (voorheen Ollama WebUI) biedt hiervoor een uitstekende oplossing. Het is een feature-rijke, self-hosted webinterface die sterk doet denken aan commerciële chat-omgevingen, maar volledig lokaal draait met behoud van je privacy.

Wat is Open WebUI?

Open WebUI fungeert als een gebruiksvriendelijke schil rondom je lokale of remote LLM-backend. De applicatie ondersteunt uit de doos Ollama en OpenAI-compatibele API's. Belangrijke functionaliteiten zijn onder meer:

RTE & Markdown: Volledige ondersteuning voor Markdown, code highlighting en wiskundige formules (LaTeX).
RAG (Retrieval-Augmented Generation): De mogelijkheid om documenten (PDF's, txt-bestanden) te uploaden en te bevragen via lokale embeddings.
Multi-user beheer: Ondersteuning voor meerdere gebruikersaccounts met rolgebaseerde toegangscontrole.
Web Search Integratie: Optionele koppeling met zoekmachines zoals SearXNG om actuele informatie op te halen.

Stap 1: Ollama voorbereiden

Voordat je Open WebUI start, moet Ollama operationeel zijn en minimaal één model geladen hebben. Installeer Ollama via de officiële kanalen en download een model naar keuze via de terminal:

ollama run llama3

Standaard draait Ollama op http://localhost:11434. Zorg dat deze poort bereikbaar is voor de container waarin Open WebUI draait.

Stap 2: Open WebUI installeren via Docker

De meest betrouwbare en eenvoudige manier om Open WebUI te implementeren is via Docker. Voer het volgende commando uit om de container te starten:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Hiermee wordt de webinterface lokaal beschikbaar op poort 3000. Via de flag --add-host kan de container eenvoudig communiceren met Ollama op de hostmachine.

Stap 3: Eerste gebruik en basisinstellingen

Navigeer na de start in je browser naar http://localhost:3000. Bij het eerste bezoek word je gevraagd om een administrator-account aan te maken. Dit account krijgt volledige rechten over de omgeving.

Na het inloggen detecteert Open WebUI automatisch de modellen die via Ollama beschikbaar zijn. In het instellingenmenu kun je vervolgens:

Systeemprompts en parameters (zoals temperatuur en contextvenster) per model afstemmen.
Authenticatie-instellingen beheren voor extra gebruikers binnen je netwerk.
Externe API-sleutels configureren indien je ook clouddiensten wilt aansluiten.

Verken meer technische achtergronden en overzichten in onze LLM Hub.