KI-Halluzinationen über die eigene Marke erkennen und managen

1. Wie Halluzinationen über Marken und Produkte überhaupt entstehen

Sprachmodelle erzeugen Antworten, indem sie statistisch wahrscheinliche Wortfolgen generieren, nicht indem sie einen gespeicherten Fakt exakt abrufen. Wenn zu einer Marke oder einem Produkt in den Trainingsdaten wenig, widersprüchliches oder veraltetes Material vorhanden war, füllt das Modell diese Lücke mit einer plausibel klingenden, aber nicht zwangsläufig korrekten Aussage, ohne dass dies für Nutzer auf den ersten Blick erkennbar wäre.

Ein häufiges Muster ist zudem die Verwechslung ähnlich benannter Marken oder Produkte, insbesondere bei kleineren Anbietern, deren Namen einer bekannteren Marke ähneln oder deren Produktlinie sich über die Zeit verändert hat. Auch veraltete Informationen, etwa zu eingestellten Produkten oder überholten Preisangaben, werden von Modellen mit statischem Trainingsstand als aktuell dargestellt, sofern keine aktuelle Websuche eingebunden ist.

2. Typische Halluzinations-Muster bei Produktdaten, Preisen und Verfügbarkeit

Bei E-Commerce-relevanten Anfragen zeigen sich wiederkehrende Fehlerarten: erfundene technische Spezifikationen, die plausibel klingen, aber nicht existieren, falsche Preisangaben, die auf veralteten oder mit anderen Produkten vermischten Daten beruhen, sowie Aussagen zur Verfügbarkeit, die naturgemäß nie zuverlässig aus Trainingsdaten stammen können, weil sich Lagerbestände laufend ändern.

Besonders kritisch sind Aussagen zu Garantie-, Rückgabe- oder Versandbedingungen, weil sie im Zweifel eine rechtliche Erwartungshaltung beim Nutzer erzeugen, die vom Unternehmen anschließend erfüllt werden muss oder zu Beschwerden führt, wenn eine KI-Antwort großzügigere Konditionen suggeriert, als tatsächlich gelten. Diese Kategorie von Fehlaussagen verdient deshalb besondere Priorität im Monitoring, weil sie über reine Reputationsschäden hinaus operative und rechtliche Konsequenzen haben kann.

3. Warum such-gestützte KI-Systeme andere Fehlerquellen haben als reine Trainingsdaten-Antworten

Systeme wie Perplexity, Claude oder die KI-Suchfunktionen von ChatGPT und Google beziehen ihre Antworten nicht mehr ausschließlich aus statischem Trainingswissen, sondern rufen bei Bedarf aktuelle Webinhalte ab und lassen das Modell darauf aufbauend antworten, ein Verfahren, das gemeinhin als Retrieval Augmented Generation bezeichnet wird. Das reduziert klassische Trainingsdaten-Halluzinationen deutlich, ersetzt sie aber durch eine neue Fehlerquelle: das sogenannte Grounding-Versagen, bei dem das Modell eine gefundene Quelle falsch zusammenfasst oder eine Aussage einer falschen Quelle zuschreibt.

Für Markenverantwortliche bedeutet das, dass Monitoring nicht nur prüfen sollte, ob eine Aussage korrekt ist, sondern auch, ob die dazu angegebene Quelle tatsächlich diese Aussage stützt. Eine korrekt klingende Antwort mit falsch zugeordneter Quelle ist ebenso problematisch wie eine offensichtlich erfundene Aussage, weil sie im Ernstfall schwerer als Fehler zu belegen ist, gerade gegenüber Dritten wie Kunden oder Journalisten, die sich auf die genannte Quelle berufen.

4. Systematisches Monitoring: ein Prompt-Set gegen die eigene Marke aufbauen

Der erste Schritt eines belastbaren Monitorings ist ein festes, wiederholbares Set an Prompts, das die typischen Fragen abdeckt, die potenzielle Kunden oder Journalisten realistischerweise stellen würden, etwa zu Produkteigenschaften, Vergleichen mit Wettbewerbern, Unternehmensgeschichte, Garantiebedingungen und aktuellen Kontroversen, sofern vorhanden. Dieses Set sollte über die Zeit stabil bleiben, damit Veränderungen im Antwortverhalten überhaupt vergleichbar erkennbar werden.

Sinnvoll ist außerdem eine Staffelung nach Risikograd: Fragen mit hohem geschäftlichem Risiko, etwa zu Sicherheit, Garantie oder rechtlichen Rahmenbedingungen, sollten häufiger geprüft werden als allgemeine Imagefragen. Ein einfaches Tabellenblatt mit Frage, geprüftem System, Datum, Antwortinhalt und Bewertung der Korrektheit reicht für den Einstieg vollkommen aus und lässt sich später bei Bedarf automatisieren.

5. Vorgehen und Frequenz für regelmäßige Prompt-Audits

Für kleinere und mittlere Unternehmen ist ein manueller, aber disziplinierter monatlicher Durchlauf über die relevantesten KI-Systeme, mindestens ChatGPT mit aktivierter Suche, Claude, Perplexity und Google AI Overviews, ein realistischer Startpunkt, der ohne zusätzliche Werkzeuge auskommt. Größere Unternehmen mit stärkerer Markenbekanntheit und entsprechend höherem Risiko profitieren von einer API-gestützten Automatisierung, die dieselben Prompts programmatisch gegen mehrere Modelle ausführt und Antworten versioniert archiviert.

Unabhängig vom Automatisierungsgrad sollte jede Prüfrunde denselben Prompt-Wortlaut verwenden, weil bereits kleine Formulierungsunterschiede zu deutlich unterschiedlichen Antworten führen können. Ergebnisse sollten zudem mit Zeitstempel archiviert werden, damit sich bei einer später auftretenden Beschwerde oder Presseanfrage nachweisen lässt, seit wann ein bestimmtes Fehlverhalten eines KI-Systems bekannt war und wie darauf reagiert wurde.

6. Korrektur-Strategie eins: autoritative Quellen gezielt stärken

Der wirkungsvollste, wenn auch langsamste Hebel gegen wiederkehrende Fehlinformationen ist, autoritative, gut strukturierte Informationen an den Stellen bereitzustellen, aus denen KI-Systeme bevorzugt schöpfen: die eigene Website mit klaren, aktuellen Fakten, ein gepflegtes Wikidata-Element mit korrekten Strukturdaten sowie, sofern relevant, ein sachlich formulierter Wikipedia-Eintrag ohne werbliche Sprache. Diese Quellen gelten bei den meisten Systemen als vergleichsweise vertrauenswürdig und werden entsprechend häufiger als Grundlage herangezogen.

Ergänzend hilft eine konsistente, sich nicht widersprechende Darstellung derselben Kernfakten über mehrere unabhängige Quellen hinweg, etwa Fachpresse-Artikel, Branchenverzeichnisse und die eigene Website, weil Modelle Aussagen tendenziell stärker gewichten, wenn sie aus mehreren voneinander unabhängigen Quellen übereinstimmend bestätigt werden, statt nur einmalig auf der eigenen Domain zu stehen.

7. Korrektur-Strategie zwei: direkte Anfragen an KI-Anbieter

Die meisten großen KI-Anbieter bieten inzwischen einen Feedback-Mechanismus innerhalb der Chat-Oberfläche, über den einzelne fehlerhafte Antworten gemeldet werden können, üblicherweise über eine Daumen-runter-Bewertung mit Freitextkommentar. Diese Meldungen fließen zwar nicht garantiert in eine sofortige Korrektur ein, tragen aber zu den Trainings- und Bewertungsdaten bei, mit denen zukünftige Modellversionen verbessert werden.

Bei schwerwiegenden, wiederholt auftretenden Fehlern, etwa systematisch falschen Sicherheits- oder Garantieaussagen, lohnt sich zusätzlich der direkte, formelle Kontakt über die offiziellen Support- oder Trust-and-Safety-Kanäle des jeweiligen Anbieters, mit konkreten Beispielen, Datum und Kontext der fehlerhaften Antwort. Ein pauschaler Beschwerdebrief ohne konkrete, reproduzierbare Beispiele wird in der Praxis selten bearbeitet.

8. Eskalationsstufen je nach Schweregrad der Fehlinformation

Nicht jede Ungenauigkeit rechtfertigt denselben Aufwand. Harmlose Abweichungen, etwa eine leicht veraltete, aber im Kern korrekte Produktbeschreibung, lassen sich meist allein durch aktualisierte eigene Inhalte beheben. Reputationsschädigende Aussagen, etwa falsche Behauptungen zu Qualitätsproblemen oder negativen Vorfällen, verdienen eine aktive Kombination aus Quellenkorrektur und direkter Meldung an den Anbieter.

Rechtlich relevante Fehlinformationen, etwa falsche Sicherheitsangaben bei Produkten mit Gesundheitsbezug oder unzutreffende Aussagen zu Zertifizierungen, sollten zusätzlich rechtlich geprüft und dokumentiert werden, auch um im Streitfall belegen zu können, dass das Unternehmen selbst korrekte Informationen bereitgestellt und die Fehlinformation aktiv gemeldet hat. Diese Dokumentation kann in Haftungsfragen entscheidend sein.

9. Praxisbeispiel: Falsche Versand- oder Rückgabeangaben in einem Magento-Shop erkennen

Ein realistisches Szenario ist eine KI-Antwort, die einem Magento-Shop pauschal ein kostenloses Rückgaberecht von dreißig Tagen zuschreibt, obwohl tatsächlich abweichende, produktkategorieabhängige Fristen gelten. Wird diese Aussage in mehreren Prompt-Audits reproduzierbar bestätigt, sollte zunächst geprüft werden, ob die eigene Rückgabeseite die tatsächlichen Bedingungen klar genug und ohne widersprüchliche Altdaten in anderen Bereichen der Website darstellt.

Häufig liegt die Ursache in inkonsistenten Angaben zwischen verschiedenen Seitenbereichen, etwa einer allgemeinen AGB-Seite mit einer pauschalen Frist und einzelnen Produktseiten mit abweichenden, kategoriespezifischen Regelungen. Nach der Korrektur der Quelldaten empfiehlt sich eine erneute Prüfung nach einigen Wochen, weil sich veraltete KI-Antworten je nach Aktualisierungszyklus des jeweiligen Systems nicht sofort, sondern zeitversetzt ändern.

10. Zusammenfassung

11. FAQ: KI-Halluzinationen: Das Wichtigste auf einen Blick