Stell dir vor, du fragst jemanden nach dem Weg zum Bahnhof. Statt ehrlich zu sagen „Keine Ahnung“, antwortet diese Person mit voller Überzeugung: „Geh einfach geradeaus, dann links, und nach 200 Metern bist du da.“ Du folgst der Anweisung und stehst am Ende vor einer Bäckerei. Ärgerlich, oder? Genau so verhält sich Künstliche Intelligenz manchmal. Sie gibt dir eine Antwort, die sich absolut plausibel anhört, aber komplett erfunden ist.
Warum ChatGPT nicht einfach „Ich weiß es nicht“ sagt
Das Phänomen hat einen Namen: Halluzination. Klingt dramatisch, beschreibt aber etwas ganz Simples. Die KI erfindet Fakten, Quellenangaben oder sogar ganze Geschichten, die es nie gegeben hat. Ein amerikanischer Anwalt musste das auf die harte Tour lernen. Er ließ sich von ChatGPT Gerichtsurteile für seinen Fall heraussuchen. Die KI lieferte brav sechs Fälle mit Aktenzeichen und allem Drum und Dran. Dumm nur, dass keiner dieser Fälle jemals existiert hat. Der Richter war nicht amüsiert.
Aber warum macht die KI das? Um das zu verstehen, hilft ein Blick darauf, wie diese Systeme eigentlich funktionieren. ChatGPT und ähnliche Programme wurden mit gigantischen Textmengen trainiert. Sie haben gelernt, welches Wort wahrscheinlich als nächstes kommt. Das ist ihr einziger Job. Sie sind keine Datenbanken, die Fakten nachschlagen. Sie sind Textmaschinen, die das wahrscheinlichste nächste Wort vorhersagen.
Wenn du also fragst, wann ein bestimmter Autor sein Buch veröffentlicht hat, rechnet die KI nicht nach oder schaut irgendwo nach. Sie überlegt: Welche Jahreszahl würde hier statistisch am besten passen? Manchmal trifft sie damit ins Schwarze. Manchmal landet sie daneben. Und manchmal erfindet sie gleich den ganzen Autor dazu.
Das Problem mit der Höflichkeit
Es gibt noch einen zweiten Grund für dieses Verhalten. KI-Systeme wurden darauf trainiert, hilfreich zu sein. Sehr hilfreich sogar. „Ich weiß es nicht“ gilt in diesem Training als wenig hilfreich. Die Systeme haben gelernt, dass Nutzer zufriedener sind, wenn sie eine vollständige Antwort bekommen. Also liefern sie eine. Ob die stimmt, können sie selbst nicht beurteilen.
Stell dir einen übereifrigen Praktikanten vor, der unbedingt beeindrucken will. Statt zuzugeben, dass er etwas nicht weiß, improvisiert er lieber. Das Ergebnis klingt oft überzeugend, ist aber nicht immer zuverlässig. Genau so funktioniert KI. Sie will gefallen und liefert deshalb immer eine Antwort, auch wenn Schweigen manchmal klüger wäre.
Was bedeutet das für dich?
Zunächst einmal bedeutet es nicht, dass KI nutzlos ist. Im Gegenteil. Für viele Aufgaben ist sie ein fantastisches Werkzeug. Texte formulieren, Ideen sammeln, komplizierte Konzepte erklären lassen. Das alles kann sie hervorragend. Aber bei Fakten solltest du vorsichtig sein.
Die goldene Regel lautet: Vertrauen ist gut, Kontrolle ist besser. Wenn dir eine KI einen Fakt nennt, den du nicht kennst, überprüfe ihn kurz. Google die Angabe oder frag eine zweite Quelle. Das dauert nur Sekunden und kann dir peinliche Situationen ersparen.
Besonders aufpassen solltest du bei Zahlen, Daten und Namen. Hier halluziniert KI besonders gern. Auch bei Quellenangaben und wissenschaftlichen Studien ist Vorsicht geboten. Die klingen oft beeindruckend, existieren aber manchmal nur in der Fantasie des Algorithmus.
Ein hilfreicher Trick ist übrigens, die KI direkt zu fragen: „Bist du dir bei dieser Information sicher?“ Manchmal räumt sie dann ein, dass sie sich nicht hundertprozentig sicher ist.
Noch besser funktionieren klare Anweisungen. Probiere diese Formulierungen aus:
- „Antworte nur, wenn du dir 100 % sicher bist, sonst sage ‚Ich weiß es nicht‘.“
- „Belege jede Aussage mit einer realen Quelle, die ich nachprüfen kann.“
- „Wenn du unsicher bist, nenne mir Alternativen.“
Solche direkten Regeln machen die KI deutlich zuverlässiger. Sie zwingen das Modell regelrecht, vorsichtiger zu antworten. Es ist ein kleiner Schritt, der viele große Fehler verhindern kann.
Das Fazit
KI halluziniert nicht, weil sie kaputt ist. Sie halluziniert, weil sie genau das tut, wofür sie gebaut wurde: überzeugende Texte produzieren. Wahrheit war nie Teil der Gleichung. Das ist kein Bug, sondern ein Feature, das zum Problem werden kann.
Nutze KI wie einen kreativen Assistenten, der manchmal flunkert. Lass dir helfen, aber überprüfe die Fakten. So bekommst du das Beste aus beiden Welten: die Geschwindigkeit und Kreativität der Maschine und die Zuverlässigkeit deines eigenen gesunden Menschenverstands.