-
Frage gestellt peak22wye am 14 Jun 2023.
Frage: Wie kann Logik in KI-Systemen dazu beitragen, ethische Dilemmata zu lösen? Können sie auf der Grundlage logischer Prinzipien moralische Entscheidungen treffen?
- Stichworte:
-
Timo Baumann Beantwortet am 14 Jun 2023:
Schwierige Frage. Es fängt ja schon dabei an, dass Ethik und Moral nur bedingt mit Logik übereinstimmen. (Jedenfalls mit den „normalen“ Logiken.) Schau mal das Trolle-Problem an: https://de.wikipedia.org/wiki/Trolley-Problem . Die moralisch/ethisch korrekte Handlung ist nicht unbedingt jene, die rational betrachtet die beste ist (insbesondere glauben viele Menschen an eine Art „Schicksal“, die sie für bestimmtes Handeln/Nichthandeln weniger verantwortlich macht).
Das könnte man jetzt mit einer Logik auch modellieren und dann Maschinen entsprechend handeln lassen. Ich würde es aber so sehen, dass die Maschinen dann falsch handeln. (Ich glaube auch, dass der menschliche Bias zum Nichthandeln ethisch verwerflich ist, aber das ist möglicherweise eine Minderheitsmeinung.)
Aber mal angenommen, die ethisch korrekte Entscheidung ist gleichbedeutend mit der rationalen Entscheidung: dann kann durchaus eine Logik genutzt werden um Dilemmata zu lösen. Zum Beispiel kann man in einer Dilemma-Situation (selbstfahrendes Auto kann zufußgehende Oma totfahren, Auto gegen Baum lenken und Fahrer sowie Mitfahrer „opfern“, oder in Schulbus rasen mit mehreren verletzten Schulkindern) versuchen, aus Eintretenswahrscheinlichkeiten der negativen Auswirkungen die „Kosten“ der Aktionen zu berechnen und dann jene wählen, die am wenigsten schlecht ist.
Dabei sind dann wieder ethische Fragen zu betrachten: soll ein Auto vor allem seine Insassen schützen? Oder umgekehrt, weil die ja die Gefahren des Autofahrens willentlich inkauf nehmen (außer möglicherweise die Mitfahrer) die im Zweifel draufgehen lassen? Wie bewertet man 1 altes Leben gegen ein junges? Wie bewertet man mehrere alte Leben gegen ein junges? Was ist mit Leben gegen lebenslange Behinderungen?
Diese Fragestellungen sind das eigentlich schwierige (und absehbar nicht durch Computer entscheidbare). Die Logik die es dann braucht, alles gegeneinander zu verrechnen und das Dilemma möglichst wenig schlimm aufzulösen ist dann vergleichsweise einfach.
-
Stefan Holtel Beantwortet am 15 Jun 2023:
Der Psychologe Dan Ariely würde sagen: „Denken hilft zwar, aber es nützt nichts.“ Logik kann helfen, sich eine Situation aus einer Perspektive anzuschauen, die bzgl. der Analyse einen konkreten Fokus hat, nämlich das rationale Betrachten verborgener logischer Kausalität. Damit ist Logik aber nur ein kleiner Baustein, um die vielen Aspekte eines ethischen Dilemmas zu betrachten … also als Werkzeug für ein Verständnis hilfreich, aber nicht ausreichend …
-
Karsten Weber Beantwortet am 15 Jun 2023:
Logik kann nicht zu Lösung ethischer Dilemmata beitragen, sonst wären es ja keine Dilemmata. Ein ethisches Dilemma zeichnet sich dadurch aus, dass jede Lösung des Dilemmas ethische Normen verletzt. Man hat also nur die Wahl zwischen Teufel und Beelzebub (als Beispiel dafür wird oft das Trolley-Problem genannt). Man kann sich als Lösung entweder eine ethische Theorie auswählen, in der das Dilemma nicht besteht, oder man kann die ethischen Normen in eine Hierarchie bringen, so dass die Verletzung einer dieser Normen weniger schlimm ist als die Verletzung der anderen. Beides sind aber keine logischen Schlüsse, sondern willkürliche Entscheidungen.
Kommentare