Frage: Inwiefern kann die KI richtig liegen, also die richtigen Fakten sagen, wenn im Internet so viele falsche Sachen stehen (wie Fake News und generelle falsche Aussagen). Und kann ich nicht selber falsche Fakten im Internet schreiben, sodass die KI diese Quelle haben wird und dann die falschen Sachen sagt?

Timo Baumann Beantwortet am 20 Jun 2023:

Im Großen und Ganzen stehen mehr richtige Sachen im Internet als falsche. Es fängt ja schon damit an, dass, wenn Du ein „Fake News“-Item schreibst, Du trotzdem die falsche Sache in ganz viele richtige Sachen einbettest.

(Im Satz „Peter hat neulich im Freibad Susi vom Beckenrand geschubst.“ steht ja ganz viel richtiges drin: Peter und Susi sind Personen, jedenfalls Konzepte die im Satz Subjekt/Objekt sein können; der Satzbau ist korrekt und hat keine Tippfehler; „vom Beckenrand schubsen“ ist eine Handlung die Personen vornehmen können; in Freibädern gibt es Becken, Becken haben Ränder, …) Auch in Fake News überwiegt das Wahre.

Aktuelle KI-Systeme benutzen Quellen garnicht explizit, sondern ziehen ihre Antworten immer aus der Kombination alles Wissen, was sie angehäuft haben. Die Frage ist also, ob sie am Ende mehr positive oder mehr negative Evidenz für Peters Fehlverhalten finden. Das kannst Du etwas in die eine oder andere Richtung bewegen; noch würde es wahrscheinlich funktionieren. Aber absehbar kann es sein, dass die Verfahren beginnen, unterschiedliche Sorten von Wissen zu unterscheiden und auch nach Quelle zu bewerten.