Ollama und Hardware

Ollama & Hardware einrichten

Der Refinery-Workflow wertet deine Screenshots mit einem lokalen KI-Vision-Modell aus. Dieses Modell läuft über Ollama — eine kostenlose Software, die du einmalig installierst. Alles Übrige (die Java-Laufzeit, ein zusätzlicher Texterkennungs-Abgleich) ist bereits in der App enthalten.

Deine Bilder verlassen den Rechner nie. Die gesamte Auswertung läuft lokal. Es gibt keinen Cloud-Modus.

Der Blueprints-Workflow braucht kein Ollama — nur Refinery.

Diese Seite begleitet dich durch die Vorprüfung & Setup (Schritt 1 des Refinery-Workflows) und durch die Ollama-Einrichtung von Grund auf.

---

1. Ollama installieren (einmalig)

1. Herunterladen: Öffne ollama.com/download und lade den Windows-Installer.
2. Installieren: Den Installer ausführen. Ollama startet nach der Installation in der Regel automatisch als Hintergrunddienst (du erkennst es am Symbol im System-Tray).
3. Läuft Ollama nicht von selbst? Öffne ein Terminal (PowerShell oder Eingabeaufforderung) und gib ein:

   ollama serve
   

   Ollama lauscht dann lokal auf Port 11434 (Adresse http://localhost:11434).

Das war die einzige Software, die du extern installieren musst. Das KI-Modell selbst lädst du im nächsten Schritt — am bequemsten direkt aus der App.

---

2. Das KI-Modell laden

Die App wählt anhand deiner Hardware automatisch das passende Modell vor (siehe Abschnitt 4). Du hast zwei Möglichkeiten, es zu laden:

Variante A — bequem aus der App (empfohlen)

Fehlt das Modell, zeigt die Vorprüfung „Modell ‚…' ist nicht installiert." und einen Knopf „Laden". Ein Klick lädt das Modell mit Fortschrittsanzeige herunter (einmalig, ca. 6 GB für das große Modell). Danach prüft die App automatisch erneut und ist bereit.

Variante B — von Hand im Terminal

Alternativ im Terminal:

ollama pull qwen3-vl:8b-instruct

oder, für 8-GB-Grafikkarten bzw. CPU-Betrieb, das kompakte Modell:

ollama pull qwen3-vl:4b-instruct

Anschließend in der App auf „Erneut prüfen" klicken.

Der Download braucht Internet und einige GB Speicherplatz. Das eigentliche Auslesen läuft danach komplett offline.

---

3. Der „Vorprüfung & Setup"-Schritt im Überblick

Beim Öffnen des Schritts laufen die Prüfungen automatisch los. Zwei Karten und ein Banner:

Karte „Ollama-Laufzeit"

Zeigt das Endpoint-Feld (Standard http://localhost:11434), das gewählte Modell und einen Status:

Status	Bedeutung	Was tun
🟢 „Erreichbar · Modell vorhanden · bereit."	Alles in Ordnung.	Weiter.
🟠 „Modell ‚…' ist nicht installiert."	Ollama läuft, aber das Modell fehlt.	„Laden" klicken (oder ollama pull … von Hand).
🟠 „Lade Modell… …"	Der Download läuft.	Warten; danach prüft die App selbst erneut.
🔴 „Modell-Download fehlgeschlagen: …"	Download abgebrochen (Netz/Speicher).	Internet & freien Speicher prüfen, „Erneut prüfen".
🔴 „Ollama ist nicht erreichbar."	Ollama läuft nicht oder die Adresse stimmt nicht.	Ollama installieren/starten, Endpoint prüfen, „Erneut prüfen" (siehe Abschnitt 5).

Karte „Hardware-Vorprüfung"

Zeigt GPU, VRAM und RAM, das automatisch gewählte Modell („Auto-Auswahl: …") und eine Stufen-Leiste CPU · MIN 8 GB · EMPF 12 GB+ sowie die geschätzte Dauer pro Bild.

Banner „Star Citizen"

• 🟢 „Star Citizen läuft nicht — GPU frei." — alles gut.
• 🟠 „Star Citizen läuft — VLM und Spiel teilen sich GPU/VRAM. Für eine sichere Extraktion SC schließen." — mit Häkchen „Trotzdem fortfahren".

Empfehlung: Star Citizen vor der Extraktion schließen. Das Spiel und die KI konkurrieren um die Grafikkarte; läuft beides, drohen Ruckler, lange Wartezeiten oder Abstürze. Willst du trotzdem weiter, setze das Häkchen.

Wann geht es weiter?

Der Knopf „Weiter: Bilder laden" wird frei, sobald

1. die Ollama-Karte grün (bereit) ist und
2. Star Citizen geschlossen ist oder du „Trotzdem fortfahren" angehakt hast.

Die Hardware-Stufe blockiert nie — selbst im CPU-Modus kommst du weiter (nur langsamer).

---

4. Hardware-Stufen: welches Modell, welche Geschwindigkeit

Die App entscheidet anhand des erkannten dedizierten Grafikspeichers (VRAM):

Stufe	VRAM	Modell	Modus	Dauer pro Bild (gemessen)
Empfohlen	≥ 12 GB	qwen3-vl:8b-instruct	GPU	≈ 4–5 s
Minimum	≥ 8 GB	qwen3-vl:4b-instruct	GPU	≈ 4 s
Darunter / kein nutzbares GPU	< 8 GB oder unbekannt	qwen3-vl:4b-instruct	CPU	≈ 30 s (funktioniert, langsam)

Wichtige Hinweise:

• CPU-Modus funktioniert vollwertig — dieselbe geprüfte Genauigkeit, nur ungefähr eine halbe Minute pro Bild statt Sekunden. Schwächere Prozessoren sind entsprechend langsamer.
• Unbekanntes VRAM ⇒ CPU-Modus (vorsichtshalber). Bei manchen AMD-/Intel-GPUs kann der VRAM nicht ausgelesen werden; dann wählt die App vorsichtshalber CPU. Du kannst über die Auswahl (siehe unten) auf das GPU-Modell umstellen — passt es nicht ganz in den Speicher, lagert Ollama automatisch in den RAM aus und es läuft eben etwas langsamer, scheitert aber nicht.
• GPU-Name „unbekannt" ist auf AMD/Intel normal — die Namens-Erkennung funktioniert nur bei NVIDIA. Das VRAM wird trotzdem versucht auszulesen.

Auswahl bei Stufe „Minimum" / „Darunter"

Auf diesen Stufen bietet die App zwei Optionen zur Auswahl:

• „Low-VRAM-Modell (qwen3-vl:4b-instruct)" — das kompakte Modell auf der GPU.
• „CPU-Modus — funktioniert, aber langsam (≈ … s pro Bild)" — erzwingt reinen CPU-Betrieb.

Auf der Stufe Empfohlen wird immer das große Modell auf der GPU genutzt — ohne Auswahl.

Kleiner Bonus auf der Stufe „Empfohlen": Hast du zusätzlich das Modell qwen3-vl:4b-instruct installiert, nutzt die App es als zweite Meinung („Verify"-Durchlauf) für eine noch höhere Genauigkeit (+~1,5 s pro Bild). Das ist rein optional und wird nie automatisch heruntergeladen.

---

5. Den Endpoint ändern (Ollama auf anderem Port/Rechner)

Standardmäßig erwartet die App Ollama unter http://localhost:11434. Läuft Ollama woanders, trägst du die Adresse in das „Endpoint"-Feld der Ollama-Karte ein und klickst „Erneut prüfen".

• Anderer Port: z. B. http://localhost:11500.
• Anderer Rechner im Netzwerk: z. B. http://192.168.1.50:11434. Damit Ollama auf dem anderen Rechner Verbindungen aus dem Netzwerk annimmt, muss es dort mit der Umgebungsvariable OLLAMA_HOST (z. B. 0.0.0.0:11434) vor dem Start von ollama serve konfiguriert sein.

Hinweis: Die App selbst kennt keine Umgebungsvariable für den Endpoint — sie nutzt ausschließlich das Eingabefeld. OLLAMA_HOST ist eine Einstellung von Ollama, nicht von dieser App. Nach dem Ändern des Felds immer „Erneut prüfen" klicken (das Bearbeiten allein prüft nicht neu).

---

6. Die „Hilfe"-Seite in der App

Oben rechts in der Vorprüfung öffnet „Hilfe" ein Fenster („Hilfe — Voraussetzungen & Installation") mit genau diesen Inhalten: wie die Bilderkennung funktioniert, die Hardware-Tabelle, die drei Ollama-Schritte (ollama.com/download, ollama serve, ollama pull qwen3-vl:8b-instruct) und Tipps für gute Ergebnisse. Der erste Schritt ist ein anklickbarer Link direkt zur Ollama-Download-Seite. Schließen mit ✕, Klick daneben, Esc oder „Verstanden".

---

7. Kein zusätzliches Setup nötig: der OCR-Abgleich

Die App bringt eine klassische Texterkennung (OCR) als zweiten, unabhängigen Prüfer bereits mit — sie hilft, einzelne Ziffern gegenzuprüfen, die das KI-Modell verwechselt. Dafür musst du nichts installieren, herunterladen oder einstellen. Sie braucht weder GPU noch Ollama und läuft im Hintergrund.

Merksatz: Das einzige, was du extern installierst, ist Ollama + ein Vision-Modell. Alles andere ist eingebaut.

---

8. Häufige Stolpersteine

Problem	Lösung
„Ollama ist nicht erreichbar." trotz installiertem Ollama	Läuft der Ollama-Dienst? (Tray-Symbol, oder ollama serve.) Stimmt der Endpoint? Dann „Erneut prüfen".
Ich habe Ollama/das Modell erst nach der Prüfung installiert	Die Vorprüfung läuft pro Sitzung nur einmal automatisch. Klicke „Erneut prüfen" (Ollama-Karte) bzw. den „Erneut prüfen"-Knopf der Hardware-Karte, damit die App die Änderung bemerkt.
Endpoint geändert, nichts passiert	Nach dem Ändern des Felds „Erneut prüfen" klicken — das Bearbeiten allein prüft nicht neu.
Modell-Download bricht ab	Internetverbindung und freien Speicher (~6 GB) prüfen; notfalls von Hand ollama pull … und dann „Erneut prüfen".
Extraktion sehr langsam	Vermutlich CPU-Modus oder Star Citizen läuft parallel. SC schließen; bei genug VRAM auf das GPU-Modell stellen.
GPU wird als „unbekannt" angezeigt	Bei AMD/Intel normal; solange eine Stufe gewählt ist, funktioniert die Extraktion.

Weitere Fehlerfälle: Fehlerbehebung & FAQ.

---

Weiter: Gute Screenshots aufnehmen · Workflow: Refinery