Nach welchen Kriterien entscheidet eine KI in einer Dilemma Situation (Beispiel: autonomes Fahren)

Frage: Nach welchen Kriterien entscheidet eine KI in einer Dilemma Situation (Beispiel: autonomes Fahren)
- Stichworte:
  Dilemma,
  Entscheidungsfähigkeit,
  KI
Frage gestellt east22wye am 12 Jun 2023.
- Christian Gawron Beantwortet am 12 Jun 2023: last edited 12 Jun 2023 12:14
  
  Das kann man so pauschal nicht beantworten.
  Die meisten aktuellen KI-Systeme beruhen auf Deep Learning und lernen anhand von Beispielen (supervised learning) oder durch Feedback (reinforcement learning).
  
  Im Beispiel autonomes Fahren könnte man die KI im Training vielleicht stärker „bestrafen“, wenn sie zwei Personen tötet statt eine.
  
  In meinen Augen ist das eine sehr theoretische und in der Praxis wenig relevante Frage. Die prominenten Todesfälle mit selbstfahrenden Autos in den USA hatten ihre Ursache in einer Fehleinschätzung der Situation (LKW wurde nicht erkannt) durch „die KI“.
  Wenn eine autofahrende KI keine Fehler macht, wird sie hoffentlich gar nicht erst in so ein Dilemma kommen.
  
  Ein weiterer Punkt ist, dass aktuelle KI-Systeme nicht „bewusst“ (= nach einem Regelwerk), sondern nach menschlichen Maßstäben „mit dem Bauch“ entscheiden.
- Timo Baumann Beantwortet am 12 Jun 2023:
  
  Das weiß nur der Hersteller (und auch das wahrscheinlich erst, wenn er die Log-Dateien, so es sie gibt, im Detail auswertet). Denn am Ende hängt es in jedem Einzelfall einerseits an der Vielzahl Kriterien, die das Fahrzeug beim autonomen Fahren in jedem Moment in Betracht zieht (jede Handy-Kamera nimmt pro Sekunde mindestens 24 Bilder mit jeweils 2 Millionen Pixel auf und jedes Pixel kann einen von 16 Millionen Farbwerten annehmen) und der Kriterien die es nutzt um (zum Beispiel) die Bilddaten auszuwerten (die haben auch viele Hundert Millionen Parameter). Das Problem ist nun, dass „alles mit allem“ zusammenhängt und die Entscheidung im Einzelfall von einem einzelnen Farbwert eines Pixels, oder einem einzelnen Modellparameter der Bildverarbeitung liegen kann. Das Kriterium, das man dann am Ende herausbekommt ist also „weil die Pixel so oder so waren“, was natürlich auch nicht befriedigend ist.
  
  Gemeint ist mit der Frage ja eigentlich: was soll die KI in einer Dilemma-Situation tun?
  
  Meine Antwort: sie soll das tun, was rational betrachtet zum bestmöglichen (bzw. am wenigsten schlechten) Ergebnis führt, unter Betrachtung der erwarteten Ergebnisse jeder Handlungsoption und den Eintrittswahrscheinlichkeitne für die jeweiligen Ergebnisse.
  
  Google mal nach „Trolley problem“ — auf der Wikipediaseite wird dargestellt, dass Menschen in dieser Situation nicht rational handeln und auch unser Rechtssystem zwischen „Töten (durch aktives Tun)“ und „Töten durch Unterlassung“ unterscheidet. Ich finde das falsch und bin der Meinung, dass eine Unterscheidung zwischen Tun und Nicht-Tun bei der Bewertung unsinnig ist.
- Karsten Weber Beantwortet am 13 Jun 2023:
  
  Nach jenen Kriterien, die in die Programmierung des KI-Systems eingebaut wurden oder die durch Training erlernt wurden. KI-Systeme, zumindest zur Zeit, entwickeln keine eigenen Kriterien. Mit anderen Worten: Menschen legen diese Kriterien fest.
- Maximilian Eder Beantwortet am 19 Jun 2023:
  
  Das ist zumindest von außen nur schwer zu beurteilen und durch den jeweiligen Eigentümer vorgegeben.
  
  In einer Dilemma-Situation wird vermutlich rational gehandelt. Das Ziel wäre es entsprechend das beste Ergebnis zu erzielen.