Verke Editorial

Kann KI schlechte Ratschläge halluzinieren? Ja – so erkennst und handhabst du sie

Verke Editorial · April 28, 2026

Kann KI schlechte Ratschläge halluzinieren? Ja. Große Sprachmodelle erfinden gelegentlich Dinge, die plausibel klingen – eine Studie, die nicht existiert, eine fehlerhafte Quellenangabe, einen Rat, der nicht zu deiner Situation passt, ein selbstbewusst formuliertes Konzept, das frei erfunden ist. Coaching-Kontexte haben etwas geringere Risiken als medizinische oder juristische, aber schlechte Ratschläge zählen trotzdem. Die ehrliche Version dieses Artikels lautet: Schutzmechanismen reduzieren Halluzinationen, beseitigen sie aber nicht, und die eigene Kalibrierung der Nutzer:innen ist Teil davon, wie ein gut funktionierendes KI-Coaching-Werkzeug nützlich bleibt.

Der Artikel zeigt, wo Halluzinationen auftauchen, wie Verke darauf ausgelegt ist, die Hochrisiko-Kategorien abzufangen, und wie du dein Vertrauen als Nutzer:in kalibrieren kannst – grob: „Behandle KI-Vorschläge wie Ratschläge eines klugen Freundes, der nicht alles weiß." Verkes Haltung ist, „ich bin mir nicht sicher" über selbstbewusst-aber-falsch zu stellen und Coaching auf Erkundung statt Diagnose auszurichten. Nichts davon macht Halluzinationen unmöglich. Es macht die Fehlermuster aber erkennbar und die Korrekturschritte einfach.

Ein Sprachmodell sagt anhand der Muster in seinen Trainingsdaten den wahrscheinlichsten nächsten Text voraus. Meistens ist der wahrscheinlichste nächste Text auch der richtige – deshalb funktionieren diese Werkzeuge so gut. Manchmal aber ist der wahrscheinlichste nächste Text falsch. Das Modell produziert eine selbstbewusst klingende Antwort ohne sachliche Grundlage. Genau die Sprachflüssigkeit ist das, was viele in die Irre führt: Die falsche Antwort liest sich genauso geschmeidig wie eine richtige, weil die Aufgabe des Modells flüssiger Text ist, nicht überprüfter Text.

Das ist kein Lügen – das Modell hat keine Absicht, kein Ziel, keinen Täuschungsversuch. Es fehlt ihm schlicht eine eigene „Wahrheits"-Komponente, die die Ausgabe vor der Erzeugung mit der Realität abgleicht. Neuere Techniken (Retrieval, Tool-Use, Selbstkonsistenz-Checks, Refusal-Training) reduzieren Halluzinationen spürbar, und die Rate sinkt mit jeder Modellgeneration weiter. Ganz beseitigen lassen sie sich aber nicht. KI-Ausgaben als „meistens richtig, aber bei wichtigen Punkten überprüfen" zu behandeln ist heute die richtige Kalibrierung – und dürfte es noch einige Jahre bleiben.

Erfundene Quellenangaben

Die klassische Halluzinationsform: „Eine Harvard-Studie von 2019 hat gezeigt, dass …", gefolgt von einem selbstbewusst klingenden Befund, den es bei der Recherche gar nicht gibt. Die Studie ist erfunden, die Autor:innen sind erfunden, der Journalname mag echt sein, der Aufsatz aber nicht. Prüfe Quellen, auf die es dir ankommt, vor dem Gebrauch über PubMed oder Google Scholar. Wenn eine URL angegeben ist, klick durch und vergleich, ob das Abstract wirklich aussagt, was behauptet wurde – manchmal ist die URL real, aber die zugehörige Zusammenfassung ist falsch.

Konkrete medizinische oder juristische Beratung

Dosierungen, Wechselwirkungen, juristische Vorgaben, konkrete rechtliche Verfahren – alles, wo die Antwort exakt richtig sein muss, weil sie sonst Schaden anrichtet. Selbst wenn die Antwort des Modells zufällig stimmt, ist es das falsche Werkzeug für solche Fragen, weil du gar nicht überprüfen kannst, ob es diesmal richtig lag. Lass alles, was du in diesen Bereichen tatsächlich umsetzen willst, immer von einer approbierten Fachperson (Ärztin, Apotheker, Anwältin, Steuerberater) prüfen. Verkes Coaches sind so angelegt, dass sie solche Fragen direkt ablehnen statt zu improvisieren – siehe nächster Abschnitt.

Selbstbewusste Antworten in engen Themengebieten

Nischenstörungsbilder mit dünner Trainingsdatenlage, regionale Vorschriften, die den Großteil der Welt nicht interessieren, einzelne Therapeut:innen mit Namen, kleine Berufs-Communities. Das Modell hat gerade genug Muster in den Trainingsdaten, um etwas Flüssiges zu produzieren, aber nicht genug, um zu wissen, ob es stimmt. Die Kombination aus Sprachfluss und Nischenthema ist das Hauptsignal – wenn das Thema obskur, die Antwort aber selbstbewusst ist, sollte die Kalibrierung anspringen.

Plausibel klingende, aber falsche Konzepte

Erfundene „Fünf-Schritte-Methoden" und „vier Säulen von …", die in der Fachliteratur nicht existieren. Das Modell hat genug Selbsthilfe-typische Struktur gesehen, um überzeugend wirkende Versionen davon zu erzeugen, auch wenn das konkrete Konzept frei erfunden ist. Wenn ein Konzept für eine Entscheidung wichtig ist, schlage Autor oder Methodennamen nach, bevor du es als gängige Praxis behandelst. Echte Konzepte haben echte Wikipedia-Artikel, Bücher und Quellen; erfundene nicht.

Themenbezogene Schutzmechanismen

Die Coaches sind darauf ausgelegt, die Hochrisiko-Kategorien abzulehnen statt zu improvisieren. Medikamentendosierung, Wechselwirkungen, juristische Einschätzungen, diagnostische Aussagen, alles, was in approbiertes Fachgebiet hineinreicht – die Reaktion ist Verweisen statt Versuchen. „Das klingt nach einer Frage für einen Apotheker" ist eine Stärke, keine Einschränkung. Das Produkt antwortet lieber gar nicht als falsch.

Zitationsdisziplin

Wenn ein Coach auf eine Studie oder Methode verweist, enthält die Quellenangabe eine echte URL, die nachgeprüft werden kann (der Artikel zu StopOverthinking auf dieser Seite zitiert genau aus diesem Grund A-Tjak et al. 2015 mit PubMed-Link – Leser:innen sollen durchklicken und prüfen können). Kann der Coach etwas nicht überprüfbar belegen, verschiebt sich die Formulierung zu „es gibt Hinweise darauf, dass" oder „das ist ein verbreitetes Muster im Feld" – nicht zu erfundenen Details. Die Messlatte ist: „Eine Leserin könnte das in 30 Sekunden überprüfen."

Konservative Voreinstellungen

Wenn das Gespräch auf einen hohen Schweregrad hindeutet, ist die Voreinstellung, klinische Versorgung sichtbar zu machen statt selbst Hilfe zu improvisieren. Krisennahe Themen werden an Krisenangebote weitergeleitet. Diagnosenahe Themen an eine Fachperson. Das Produkt ist darauf ausgelegt, im Zweifel auf „Bring das bitte zu einem Menschen" zu setzen – genau dort, wo eine durchgerutschte Halluzination den größten Schaden anrichten würde.

Kalibrierung ist geteilte Arbeit. Das Produkt liefert seinen Teil mit Schutzmechanismen und Zitationsdisziplin; deinen Teil bilden ein paar einfache Gewohnheiten, die Halluzinationen viel weniger teuer machen, wenn sie doch passieren:

• Behandle KI-Vorschläge wie Ratschläge eines klugen Freundes, der nicht alles weiß. Nützlicher Ausgangspunkt, nicht das letzte Wort.
• Prüfe Quellen, bevor du sie weitergibst oder danach handelst. PubMed und Google Scholar sind 30-Sekunden-Checks.
• Frag „wie sicher bist du dir dabei?" – Modelle können auf Nachfrage manchmal Unsicherheit anzeigen, und die Antwort ist aufschlussreich.
• Für alles Medizinische, Juristische oder Finanzielle – lass es von einer approbierten/zugelassenen Person prüfen. KI ist als primäre Quelle in diesen Bereichen das falsche Werkzeug.
• Wenn etwas nicht zu deiner Situation passt, sag es. Die Antwort kalibriert sich an dem, was du ergänzt – generischer Rat ist oft ein Zeichen, dass der Coach die Besonderheiten noch nicht ganz verstanden hat.

Selbsthilfe und KI-Coaching können viel leisten, aber sie haben Grenzen. Eine schwere Depression, die nicht weicht, Panikattacken, die deinen Alltag unterbrechen, Gedanken an Selbstverletzung, eine aktive Traumaverarbeitung oder eine Substanzabhängigkeit – das sind Signale, mit einer approbierten Fachperson zu arbeiten, und kein Anlass, das Coaching-Tool noch stärker zu beanspruchen. Kostengünstige Angebote findest du z. B. bei opencounseling.com oder internationale Hilfsangebote über findahelpline.com. Es gibt keinen Preis dafür, länger zu warten als nötig.

Kalibrierung – „stimmt dieser Gedanke (oder dieser Rat) tatsächlich?" – ist Kern der KVT. Judiths Ansatz behandelt Überzeugungen als Hypothesen, die geprüft werden, statt als Fakten, die man einfach schluckt. Genau diese Haltung erlaubt es, jede Quelle (auch einen KI-Coach) zu nutzen, ohne ihr zu sehr zu vertrauen. Sie ist auch in der Meta-Variante stark: Sie merkt es, wenn du dich zu sehr auf eine einzelne Quelle stützt – Buch, Podcast, Freundin, App – und holt dich zurück zu deinem eigenen Urteil als letzter Instanz. Mehr zur Methode unter Kognitive Verhaltenstherapie.

Probier eine KVT-Übung mit Judith – kein Konto nötig