Frage: Warum halluzinieren KIs manchmal?

Christian Gawron Beantwortet am 16 Jun 2023:

Die aktuellen Sprachmodelle berechnen für einen vorgegebenen Text die wahrscheinlichste Fortsetzung. Das kann eine „richtige“ Antwort sein, wenn die Frage passt. Wenn ich aber mit „Christian Gawron ist …“ anfange, denkt sich das Modell etwas aus, weil zu Christian Gawron in den Trainingsdaten nichts drin steht.
Das wird gerne „Halluzination“ genannt, ist aber eher ein Ausdruck dafür, dass in den Trainingsdaten zu selten „Dazu weiß ich nichts“ als Antwort vorkommt.