Viele KI-Projekte beginnen unspektakulär.

Jemand startet Open WebUI lokal. Ein Modell wird angebunden. Erste Kolleginnen und Kollegen testen Prompts. Nach zwei Tagen liegen die ersten Chatverläufe, Dokumente, API-Keys und Benutzerkonten irgendwo in einem Docker-Volume. Nach einer Woche fragt jemand, wer Zugriff hat. Nach zwei Wochen fragt jemand, ob das auch mit Microsoft Login geht.

Spätestens dann ist klar: Eine KI-Oberfläche ist nicht nur ein hübsches Chatfenster. Sie ist ein internes System. Sie braucht eine Datenbank, Authentifizierung, Rollen, Protokollierung, persistente Volumes und klare Grenzen.

Die folgende Docker-Compose-Datei setzt genau dort an. Sie betreibt Open WebUI mit PostgreSQL im Hintergrund, Redis für WebSocket-Unterstützung, Qdrant als Vektordatenbank und Microsoft Entra ID als zentrale Anmeldung.

Die Kernaussage ist einfach: Open WebUI wird erst dann unternehmensfähig, wenn Datenhaltung, Anmeldung und Retrieval sauber getrennt und bewusst betrieben werden.

Simon Willison schreibt seit Jahren sehr praxisnah über LLMs, Tools, Prompt Injection und die Grenzen scheinbar intelligenter Systeme. Die Denkrichtung passt gut zu diesem Setup: Nicht das Modell allein macht ein brauchbares KI-System. Entscheidend ist die Umgebung, in der es läuft. Also Authentifizierung, Rechte, Datenflüsse, Logs und die Frage, was das System überhaupt darf.

Ein LLM ist kein magischer Mitarbeiter. Es ist eher ein sehr schneller Kollege, der mit beeindruckender Ruhe auch dann antwortet, wenn die Infrastruktur gerade aus drei Containern, einem vergessenen Volume und einer falsch geschriebenen Environment-Variable besteht.