Halluzinationen verschwinden nicht

„Mit dem nächsten Modell-Sprung wird das Halluzinations-Problem deutlich kleiner." Diese Aussage taucht in Vendor-Decks seit 2022 zuverlässig auf. Jedes neue Frontier-Modell wird mit Versprechen einer „signifikanten Reduktion" angekündigt. Vier Modell-Generationen später ist die Halluzinations-Rate gesunken, aber nicht verschwunden. Sie wird auch nicht verschwinden. Halluzinationen sind keine Modell-Defekte, sondern eine strukturelle Eigenschaft statistischer Modelle. Wer Marketing-Setups baut, die dieses Problem voraussetzen, baut sicher. Wer auf „bessere Modelle" wartet, verbrennt strategische Zeit.

Was Halluzinationen wirklich sind

Sprachmodelle produzieren nicht „Wahrheit". Sie produzieren das wahrscheinlichste nächste Token. Bei Anfragen mit klarer Faktenbasis (Was ist die Hauptstadt Frankreichs?) ist die wahrscheinlichste Antwort meistens korrekt. Bei Anfragen mit unklarer oder unvollständiger Faktenbasis (Was hat die XY GmbH 2024 als Umsatz gemacht?) ist die wahrscheinlichste Antwort eine, die plausibel klingt, aber nicht zwingend stimmt.

Das ist kein Defekt. Das ist die Funktionsweise. Modelle, die nicht wissen, was die richtige Antwort ist, halten nicht inne, sie produzieren weiter. Das ist statistisch begründet, nicht kulturell. „Vorsichtigere" Modelle gibt es, sie sind aber an anderer Stelle teurer (mehr Verweigerung, weniger Hilfsbereitschaft).

Drei Halluzinations-Typen im Marketing

• Faktische Halluzinationen. Erfundene Zahlen, Studien, Zitate. „Laut einer Studie der Universität X aus 2023..." Die Studie gibt es nicht. Klassiker in Recherche-Workflows.
• Quellen-Halluzinationen. Korrekte Aussage, falsche Quelle. Das Modell erinnert sich an etwas, attribuiert es aber falsch. In Deep-Research-Reports besonders gefährlich.
• Kontext-Halluzinationen. Das Modell füllt Lücken mit Annahmen. Aus „die Marke ist jung" wird „die Marke ist agil, mutig und nahbar". Aus drei vorhandenen veganen Produkten wird ein vegan zertifizierter Trail-Schuh.

Alle drei Typen treten 2026 weiter auf. Frequenz schwankt nach Modell-Generation und Domäne, Existenz nicht.

Warum „bessere Modelle" das Problem nicht lösen

Grund 1: Statistik bleibt Statistik. Bessere Modelle haben mehr Trainings-Daten und feinere Wahrscheinlichkeits-Verteilungen. Was sie nicht wissen, wissen sie weiterhin nicht. Sie halluzinieren nur überzeugender.

Grund 2: Verlagerung statt Lösung. Hersteller arbeiten gegen Halluzinationen mit Reinforcement Learning, mit Quellen-Erzwingung (Tool-Use), mit Vorsichts-Schichten. Das reduziert offensichtliche Halluzinationen. Subtilere Halluzinationen werden dabei schwerer erkennbar. Risiko verschiebt sich, verschwindet nicht.

Grund 3: Edge Cases skalieren mit Use Cases. Wer mehr KI nutzt, hat mehr Anfragen. Auch wenn der Halluzinations-Anteil prozentual sinkt, steigt die absolute Halluzinations-Menge in der Praxis weiter. Quality-Gate-Aufwand wächst, nicht schwindet.

Was Marken daraus für ihre Setup-Architektur lernen

• Quality Gates sind Architektur, nicht Bürokratie. Wer ein Setup baut, das mit Halluzinationen rechnet, baut Quality Gates an Pre-Generation, Post-Generation, Pre-Publication und Post-Publication.
• Quellen-Validierung ist Pflicht, nicht Optional. Jede Zahl, die in einen Kundenkontakt geht, wird gegen die Original-Quelle gegengeprüft. Jedes wörtliche Zitat wird verifiziert.
• Modell-Wahl pro Use Case bleibt Entscheidung. Manche Modelle sind in spezifischen Domänen weniger anfällig (Claude in tiefen Texten, Gemini in faktendichten Anfragen, GPT in strukturierten Aufgaben). Multi-Modell-Routing reduziert Halluzinations-Risiko.

Was die Diskussion verschweigt

Aspekt 1: Halluzinations-Tests selektieren stark. Die häufig kommunizierten Halluzinations-Raten basieren auf standardisierten Benchmarks (TruthfulQA, HaluEval). In Marketing-Use-Cases sind die Raten oft anders verteilt als die Benchmarks suggerieren.

Aspekt 2: Selbst-Korrektur ist begrenzt. „Bist du sicher?" als Rückfrage führt häufig zu Doppel-Halluzinationen. Modelle ändern oft korrekte Antworten, wenn sie unter Druck stehen. Validierung muss extern passieren, nicht intern.

Aspekt 3: Halluzinationen werden mit Vertrauen häufiger gefährlich. Wenn ein Team einem Modell vertraut, sinkt die Quality-Gate-Disziplin. Halluzinationen, die früher gefangen worden wären, rutschen durch. Das ist ein Setup-Problem, kein Modell-Problem.

Take

Halluzinationen 2026 sind eine strukturelle Bedingung, mit der Marketing-Setups arbeiten. Wer das voraussetzt, baut Setups, die in den nächsten drei bis fünf Jahren tragen. Wer auf „bessere Modelle" wartet, schiebt Quality-Gate-Investitionen, die er sowieso machen muss. Die Halluzinations-Realität ist nicht bedauerlich, sie ist die zu akzeptierende Setup-Bedingung. Marken, die das früh akzeptieren, sind in fünf Jahren strukturell besser aufgestellt als Marken, die es nicht akzeptieren.

Was folgt

In den nächsten Quartalen werden voraussichtlich erste KI-spezifische Versicherungs-Produkte entstehen, die Halluzinations-Risiken im Marketing-Setup absichern. Erste Pilot-Produkte gibt es 2026 bereits in den USA. Wann das in DACH ankommt, ist offen.