9 Min. Lesezeit 7. Juni 2026

Odysseus AI mit Ollama einrichten: lokales Modell verbinden

Ein fokussierter Leitfaden für die Odysseus-AI-Ollama-Einrichtung mit Docker und nativem Setup, Endpoint-Beispielen und Provider-Fehlern.

Odysseus AI Wiki
Odysseus AI Wiki
Inoffizielle redaktionelle Hinweise auf Grundlage der öffentlichen Odysseus-AI-Dokumentation und lokaler Self-Hosting-Muster.
Diagramm zur Odysseus-AI-Ollama-Einrichtung mit lokalen Modell-Endpoints

Kurzantwort: Für Odysseus AI in Docker und Ollama auf dem Host zuerst http://host.docker.internal:11434/v1 verwenden. Laufen beide Dienste nativ auf derselben Maschine, mit http://127.0.0.1:11434/v1 beginnen. Danach Ollama und ein vorhandenes Modell prüfen, bevor der Provider geändert wird.

In dieser Anleitung

Bei der Einrichtung von Odysseus AI mit Ollama müssen zwei Ebenen getrennt werden: Der Ollama-Server muss antworten, und Odysseus AI muss ihn aus der richtigen Laufzeitumgebung erreichen. Diese Seite erklärt Docker zum Host, native Wege unter Windows/Linux/macOS, lokale Modellbeispiele und die typischen Fälle, in denen der Provider zwar verbindet, aber kein Modell zeigt.

Den Ollama-Endpoint nach der Laufzeit wählen

Der häufigste Fehler bei der Odysseus-AI-Ollama-Einrichtung ist eine native localhost-URL im Docker-Container. Der Endpoint muss aus Sicht des Odysseus-Prozesses erreichbar sein, nicht nur auf dem Host installiert sein.

host.docker.internal:11434/v1 gilt für Odysseus AI in Docker und Ollama auf dem Host. 127.0.0.1:11434/v1 ist der erste Versuch bei zwei nativen Diensten auf derselben Maschine. Erst Ollama und ein Modell testen, dann Prompts oder Agenten untersuchen.

Ollama-Endpoint vom Docker zum Host
http://host.docker.internal:11434/v1

Docker-zu-Host-Ollama einrichten und prüfen

Eine Odysseus-AI-Ollama-Einrichtung mit Docker überschreitet eine Netzwerkgrenze. localhost im Container zeigt auf den Container selbst; deshalb muss der Host-Endpoint explizit sein und Ollama auf einer erreichbaren Adresse lauschen.

Der erste Test bleibt lokal. Beweise eine Verbindung zwischen Container und Ollama, bevor Ports veröffentlicht oder Modell-Tags geändert werden.

1. Ollama bei Bedarf über den eigenen Loopback hinaus lauschen lassen

Wenn Docker Ollama nicht erreicht, Ollama mit einem expliziten Host-Binding starten. Ohne klares Verständnis der Netzfreigabe auf vertrauenswürdige lokale Nutzung beschränken.

OLLAMA_HOST=0.0.0.0:11434 ollama serve

2. Bestätigen, dass Ollama mindestens ein Modell besitzt

Odysseus AI kann den Endpoint erreichen und trotzdem kein nutzbares Modell anzeigen, wenn Ollama noch nichts geladen hat. Für einen Verbindungstest zuerst ein kleines Modell laden.

ollama list
ollama pull llama3.2:3b

3. Den Docker-Endpoint in den Odysseus-AI-Einstellungen eintragen

Die OpenAI-kompatible Base-URL in den Modell- oder Diensteinstellungen verwenden. Für diesen Docker-zu-Host-Weg localhost nur bei abweichender Docker-Konfiguration nutzen.

http://host.docker.internal:11434/v1

4. Containerzustand vor der Prompt-Fehlersuche prüfen

Wenn der Odysseus-Dienst beeinträchtigt ist, zuerst diesen Fehler beheben. Ein Modell-Endpoint repariert keinen fehlerhaften Containerstart, keine fehlende Umgebungsdatei und keine kranke Abhängigkeit.

docker compose ps
docker compose logs --tail=120 odysseus

Native Ollama-Einrichtung unter Windows, Linux und macOS

Wenn Odysseus AI und Ollama nativ in derselben Sitzung laufen, zeigt localhost meist auf die erwartete Maschine. Der UI-Port kann abweichen, Ollama nutzt aber häufig 11434, solange OLLAMA_HOST nicht geändert wurde.

Für Mac-Fragen den bestehenden macOS-Leitfaden nutzen; Windows und Hardwareplanung bleiben in den vorhandenen Setup- und Requirements-Seiten, damit diese Verbindungsseite fokussiert bleibt.

Setup Zuerst zu testender Endpoint Darauf achten
Natives Odysseus unter Windows + Ollama unter Windows http://127.0.0.1:11434/v1 localhost verwenden, wenn beide Dienste nativ auf demselben Windows-Rechner laufen.
Natives Odysseus unter Linux + Ollama http://127.0.0.1:11434/v1 Dienstberechtigungen prüfen, wenn einer der Prozesse als Hintergrunddienst läuft.
Nativer macOS- oder Apple-Silicon-Weg http://127.0.0.1:11434/v1 Der Odysseus-UI-Port kann abweichen, Ollama bleibt aber meist auf 11434.
Odysseus in Docker + Ollama auf dem Host http://host.docker.internal:11434/v1 Den Docker-Hostnamen verwenden, da container-localhost nicht der Host-Rechner ist.

Odysseus-AI-Ollama-Provider- und Endpoint-Fehler beheben

Fehler von unten nach oben lesen: Ollama-Prozess, erreichbarer Endpoint, gelistetes Modell, Provider-Einstellung und erst dann Prompts. So wird ein Netzwerkfehler nicht mit einem Modellproblem verwechselt.

Symptom Wahrscheinliche Ursache Lösung
Verbindung abgelehnt Ollama läuft nicht oder lauscht nur dort, wo Odysseus ihn nicht erreichen kann. Ollama starten, Port 11434 bestätigen und für Docker-zu-Host-Tests ein explizites OLLAMA_HOST-Binding verwenden.
Host-Browser funktioniert, Docker schlägt aber fehl Der Endpoint verwendet localhost innerhalb des Containers. Den Endpoint auf http://host.docker.internal:11434/v1 umstellen.
Kein Modell wird angezeigt Es wurde kein Modell geladen oder der Modell-Tag ist falsch. ollama list ausführen, ein kleines Modell laden und den exakten Tag auswählen.
Erste Antwort langsam Das Modell wird geladen oder ist für den Rechner zu groß. Vor Agenten, Tools oder Dokumenten ein kleineres Modell testen.
Unerwartete LAN-Freigabe Ein Dienst wurde ohne Vertrauensgrenze an alle Schnittstellen gebunden. Zum reinen localhost-Binding zurückkehren, sofern Firewall, VPN und Authentifizierung nicht bewusst eingerichtet sind.

Abschlusscheck vor produktiver Nutzung

Ein funktionierendes Setup sollte diese Prüfungen in dieser Reihenfolge bestehen. Beim ersten Fehler anhalten und diese Ebene beheben.

  1. Ollama antwortet auf dem Host und ollama list zeigt ein Modell.
  2. Der Odysseus-Dienst ist in Docker oder den nativen Logs fehlerfrei.
  3. Der Endpoint passt zur Runtime-Struktur.
  4. Ein kleiner Prompt funktioniert, bevor größere Agenten oder Dokument-Workflows gestartet werden.
  5. Jede LAN-Freigabe ist authentifiziert und beabsichtigt.
Das erste Setup lokal halten

Für die Verbindung von Odysseus AI mit Ollama müssen die Dienste nicht im öffentlichen Internet stehen. Lokal bleiben, bis Authentifizierung, Firewall und Reverse-Proxy bewusst eingerichtet sind.

Prüfnotizen 2026 für die Odysseus-AI-Ollama-Einrichtung

Vor einer Änderung am Modellnamen die Laufzeitgrenze und die Base-URL prüfen. Derselbe Ollama-Server kann nativ localhost und im Container host.docker.internal benötigen.

Ein sicheres Beispiel: Modell auflisten, den Endpoint aus derselben Laufzeitebene wie Odysseus AI testen und erst danach die Provider-Konfiguration speichern. Bei einem Fehler den Modell-Tag zunächst beibehalten.

Pruefung Gutes Ergebnis Massnahme bei Fehler
Ollama-API des Hosts Der Host erreicht http://127.0.0.1:11434, bevor Odysseus beteiligt ist. Ollama starten, ein kleines Modell laden und die API zuerst testen.
Docker-zu-Host-Verbindung Odysseus im Container verwendet host.docker.internal:11434/v1. localhost im Container nicht verwenden, außer Ollama läuft im selben Netzwerk.
Native Verbindung Odysseus nativ verwendet 127.0.0.1:11434/v1, wenn Ollama auf demselben Rechner läuft. Docker-spezifische Hostnamen entfernen und mit einem kleinen Prompt testen.
  1. Der neue Abschnitt trennt Docker, native Ausfuehrung und Ollama-Endpunkte, bevor Einstellungen geaendert werden.
  2. Aktualisiert mit 2026-Hinweisen zu offiziellen Quellen, lokaler Ausfuehrung, Ollama und passenden Setup-Guides.
  3. Die Seitenintention von den benachbarten Setup-Leitfäden getrennt halten.

FAQ: Odysseus AI mit Ollama einrichten

Mit Odysseus AI in Docker und Ollama auf dem Host zuerst http://host.docker.internal:11434/v1 testen. Bei Fehlern Binding und Docker-Netzwerk prüfen, bevor das Modell geändert wird.

Die OpenAI-kompatible Base-URL mit /v1 verwenden, wenn das Provider-Feld dieses Format erwartet. Dokumentation und tatsächlichen Endpoint abgleichen.

Nein. Ollama ist in diesem Setup ein separater Modellserver. Odysseus AI verbindet sich damit, startet Ollama aber nicht im Container.

Wenn Odysseus AI und Ollama nativ unter Windows laufen, zuerst http://127.0.0.1:11434/v1 testen. host.docker.internal nur verwenden, wenn Odysseus in Docker und Ollama auf dem Host läuft.

Der Server kann erreichbar sein, obwohl kein Modell geladen ist oder der Tag nicht stimmt. ollama list ausführen, den Tag bestätigen und danach das Odysseus-AI-Modell prüfen.

In der Regel ja. Ollama ist der Modellserver, Odysseus AI der Workspace, der sich verbindet. Beide Ebenen separat starten und anschließend die Verbindung prüfen.

Quellen und offizielle Referenzen

  1. Offizielles Odysseus-AI-GitHub-Repository - Hinweise zu Docker, Windows, Apple Silicon und Ollama-Endpoints.
  2. Ollama-API-Dokumentation - API-Verhalten des lokalen Modellservers.
  3. Docker-Desktop-Netzwerkdokumentation - Verhalten der Host-Netzwerkverbindung mit host.docker.internal.

Verwandte Odysseus-AI-Setup-Guides

Zuletzt aktualisiert: 13. Aug. 2026

Zurück zum Odysseus AI Wiki