Halluzination
Konfabulation, Erfinden, Erfindung
In einem Satz
Eine überzeugend und plausibel klingende Ausgabe, die schlichtweg falsch ist – und eher das Ergebnis der Generierung eines wahrscheinlich klingenden Textes als ein Fehler, der auf einen Patch wartet.
Warum das wichtig ist
Ein Modell verfügt über keinen separaten Faktenbestand, anhand dessen es sich selbst überprüfen könnte. Es generiert plausible Texte, und ein erfundenes Zitat sieht genauso aus wie ein echtes: gleiche Form, gleiche Konfidenz. Deshalb ist das Erzeugen von Halluzinationen eine Eigenschaft des Mechanismus und kein Fehler, der auf einen Patch wartet, und deshalb ist es besser, eine Antwort auf abgerufene Dokumente mit einem Rückverweis zu stützen, als das Modell aufzufordern, vorsichtig zu sein.
Quellen
Zurück zu allen BegriffenSind Sie bereit, etwas zu bewegen?
Komplexe Ideen in klare, nutzerzentrierte Produkte verwandeln.