Halluzination
Kurz gesagtEine Halluzination ist eine flüssige, sicher klingende KI-Antwort, die falsch oder erfunden ist oder nicht zu den gegebenen Quellen passt.
Einfach erklärt
Ein Sprachmodell schreibt den Text, der am besten passt, nicht den Text, den es geprüft hat. Fehlt ihm ein Fakt, kann es trotzdem eine glatte Antwort liefern, und sie kann falsch sein. Forschende beschreiben solche Ausgaben als unsinnig oder der Quelle nicht treu (siehe die Übersicht von Ji et al.). Der Leitfaden von Anthropic sagt dasselbe: Selbst fortgeschrittene Modelle können Text erzeugen, der sachlich falsch ist oder zum gegebenen Kontext nicht passt.
Typische Fälle: ein erfundenes Zitat, ein ausgedachter Link oder Gerichtsfall, eine falsche Zahl oder eine Zusammenfassung, die einen Punkt ergänzt, den das Dokument nie machte.
Warum es wichtig ist
- Risiko: Falsche Fakten in Recht, Medizin, Finanzen oder Technik richten echten Schaden an. Der Ton warnt nicht, denn falsche Antworten klingen so sicher wie richtige.
- Prüfaufwand: Du sparst Zeit beim Entwerfen und gibst einen Teil davon fürs Prüfen aus. Plane das ein.
- Keine Heilung: Anthropic hält fest, dass seine Methoden Halluzinationen verringern, aber nicht beseitigen. Prüfe darum, was zählt.
Was nach dem Leitfaden von Anthropic hilft:
- Erlaube dem Modell, «Ich weiss es nicht» zu sagen.
- Bei langen Dokumenten zuerst wörtliche Zitate verlangen, dann die Antwort darauf stützen.
- Zu jeder Aussage eine Quelle verlangen und Aussagen ohne Quelle streichen.
- Dem Modell sagen, dass es nur deine Dokumente nutzen darf.
- Den Prompt mehrmals laufen lassen und vergleichen; Abweichungen zeigen Schwachstellen.
RAG wendet dieselbe Idee im grossen Stil an: Es gibt dem Modell die passenden Abschnitte, damit es daraus antwortet.
Beispiel
Du bittest um drei Quellen zu einem Nischenthema. Das Modell nennt drei saubere Titel mit Autoren und Jahr. Zwei existieren. Einer nicht. Du merkst es erst, wenn du danach suchst. Ein sichererer Prompt liefert die Aufsätze mit und verlangt: «Antworte nur aus diesen Texten und zitiere den Satz, auf den du dich stützt.»
Häufige Irrtümer
- «Ein neueres Modell halluziniert nie.» Die Rate kann sinken, aber kein Anbieter verspricht null.
- «Klingt es sicher, stimmt es.» Der sichere Ton sagt nichts über die Genauigkeit.
- «Websuche beendet das Problem.» Suche liefert Quellen, doch das Modell kann sie falsch lesen oder falsch zitieren.
Fragen und Antworten
Warum erfindet KI Dinge?
Ein Sprachmodell sagt wahrscheinlichen Text voraus. Fehlt ihm ein Fakt, kann es trotzdem flüssig antworten, und nichts im Ablauf prüft das gegen die Wirklichkeit.
Wie kann ich Halluzinationen verringern?
Gib den Quelltext mit, erlaube «Ich weiss es nicht», verlange Zitate oder Belege und prüfe wichtige Fakten selbst. Das verringert Fehler, beseitigt sie aber nicht.
Lassen sich Halluzinationen ganz vermeiden?
Heute nicht. Der Leitfaden von Anthropic sagt selbst, dass seine Methoden sie verringern, aber nicht beseitigen.
Weiterlesen
- RAG (Retrieval-Augmented Generation)
RAG (Retrieval-Augmented Generation) sucht zuerst passende Stellen in deinen Dokumenten und gibt sie dem Modell, damit es daraus antwortet.
- Wissensstichtag
Der Wissensstichtag ist das Datum, nach dem die Trainingsdaten eines Modells enden; spätere Ereignisse kennt es nicht, ausser du gibst ihm frische Informationen.
- Temperatur
Die Temperatur ist eine Einstellung dafür, wie zufällig ein Modell Wörter wählt: tief gibt stabile Antworten, hoch gibt vielfältigere.
- Prompt
Ein Prompt ist die Eingabe an ein KI-Modell: deine Frage oder Aufgabe samt Anweisungen, Beispielen und Text, den es nutzen soll.
- Large Language Model (LLM)
Ein Large Language Model (LLM) ist ein KI-System, das mit riesigen Textmengen lernt, das nächste Token vorherzusagen, und so schreibt, fasst zusammen und antwortet.