-
Frage gestellt bath22kay am 19 Jun 2023.
Frage: Ist es möglich, dass die KI keine Antwort auf eine Frage haben kann?
- Stichworte:
-
Tarek Saier Beantwortet am 19 Jun 2023:
Interessanterweise haben viele KIs das Problem, dass sie nicht einschätzen können ob sie eine Antwort haben oder nicht.
Im Inneren der KI haben viele verschiedene Antwortmöglichkeiten eine „Wahrscheinlichkeit“, und die KI gibt dann die aus, von der sie denkt, dass es die beste ist (also die mit der höchsten Wahrscheinlichkeit, richtig zu sein). Wenn aber alle Antwortmöglichkeiten eine sehr geringe Wahrscheinlichkeit haben, dann ist auch die „beste”, die im Endeffekt ausgegeben wird, nur eine fragwürdige Antwort und womöglich totaler Quatsch.
Es wird daher aktiv daran geforscht, wie man KIs „beibrigen“ kann, dass sie auch mal „ich weiß nicht“ sagen.
-
Theresa Eimer Beantwortet am 19 Jun 2023:
Es ist gut möglich, dass eine KI nicht die richtige Antwort weiß – allerdings wird dann oft einfach eine falsche Antwort ausgegeben. KIs können auch gar nicht alles wissen, es gibt ja z.B. komplexe wissenschaftliche Fragen zu denen wir recht wenig Daten haben und die auch praktische Experimente benötigen um beantwortet werden zu können (z.B. in der Biologie).
Es wäre aber recht gut, wenn die KI wüsste, was sie nicht weiß, tatsächlich wird daran auch aktiv geforscht.
-
Maximilian Eder Beantwortet am 19 Jun 2023:
Ja, das ist natürlich möglich. Es hängt vor allem von den Daten ab, mit der die KI ursprünglich trainiert wurde. Auf Fragen zu aktuellen Ereignissen wird dann keine Antwort oder sogar eine falsche Antwort gegeben.
-
Karsten Weber Beantwortet am 19 Jun 2023:
Ja, klar. Je ähnlicher das Antwortverhalten von KIs jenem von Menschen wird, destor öfter werden sie keine Antwort haben. Tatsächlich kann es gerade für Dialogsysteme wichtig sein, sich möglichst menschenähnlich zu verhalten — dazu gehört dann auch, ab und an zu sagen, dass man keine Antwort weiß.
Kommentare