-
Frage gestellt Sarah Weber am 8 Jun 2023. Diese Frage wurde auch von duty22kay, auks22tax gestellt.
-
Stefan Holtel Beantwortet am 8 Jun 2023:
Wir haben sie bereits verloren, weil die meisten sich nicht bewusst sind, wie oft sie bereits mit KI zu tun haben und wie diese ihr tägliches Leben bestimmt. Es braucht keine Terminator-Fantasie, um die Frage nach dem Verlust der Kontrolle zu stellen. KI wird die Menschheit nicht auslöschen, aber die Menschen können KI bewusst dazu einsetzen, dass das passiert.
-
-
Theresa Eimer Beantwortet am 8 Jun 2023:
„Die Kontrolle verlieren“ im Sinne von „eine Superintelligenz wird selbständig denken/handeln/die Welt erobern“ ist so wie KI Systeme im Moment konstruiert sind sehr unwahrscheinlich bis unmöglich.
Allerdings wissen wir grundsätzlich nicht besonders gut wie wir aktuelle mächtige Systeme kontrollieren können – deswegen gibt es Probleme wie die Tatsache dass Sprachmodelle manchmal einfach Tatsachen erfinden. Wir wissen eben nicht wie wir unerwünschtes Verhalten einfach abstellen. Von daher haben wir von vornherein gar nicht besonders viel Kontrolle über unsere KIs. -
Stefan Edlich Beantwortet am 8 Jun 2023: last edited 8 Jun 2023 12:34
Das wird leider immer schneller passieren. Über den Zeithorizont, wo und wie streiten sich viele Lager wie Pessimisten Elon Musk, Yuval Noah Harari, Steve Altman gegen z.B. Yann LeCun oder Marc Andreesen. Meistens führen die Optimisten an, dass es sich nur um ein Werkzeug handelt wie ein Messer oder Feuer und das gab es schon immer. Der gravierende Unterschied ist jedoch, dass KI bereits jetzt mit Skripten aktiv Dinge ausführen kann (z.B. AutoGPT). Und wir können sehr selten nachvollziehen, wie diese Entscheidungen zusammenkommen und welche Auswirkungen Milliarden von Skripten haben werden, die z.B. Kraftwerke lahmlegen oder mit Fakes die Stimmung von Ländern beeinflussen kann. Zurzeit haben wir nicht die leiseste Idee, was da später mal möglich sein wird…
Beste Referenz ist hier das Buch m.E. „Life 3.0“ von Max Tegmark. -
Bastian Rieck Beantwortet am 8 Jun 2023:
In gewisser Hinsicht ist das bereits der Fall — wir haben nun KI-Systeme, die missbräuchlich verwendet werden können und es gibt kein direktes „Zurück“ mehr. Obwohl die Gefahr von Szenarien wie in den „Terminator“-Filmen sehr gering ist, können auch existierende Systeme schon problematisch sein, beispielsweise durch das Verbreiten von Unwahrheiten, Verschwörungstheorien, und dergleichen mehr.
Umso wichtiger ist es, dass wir lernen, gut mit Medien und Informationen umzugehen, Informationen sorgfältig zu prüfen, und dergleichen mehr.
-
Karsten Weber Beantwortet am 9 Jun 2023:
So, wie man als Fahrer*in über ein Auto die Kontrolle verlieren kann, kann man vermutlich auch über jede andere Technik die Kontrolle verlieren, also auch über KI. Aber das bedeutet nicht, dass plötzlich Terminatoren durch die Gegend laufen und Menschen jagen. Man muss bei diesem Thema zwischen sachlichen Überlegungen und übertriebenen Zukunftsvorstellungen unterscheiden. Dann kann man dafür sorgen, dass selbst dann, wenn im Einzelfall die Kontrolle verloren wird, trotzdem keine Katastrophen passieren.
-
Nikolas Dahn Beantwortet am 9 Jun 2023:
Ja. Menschen haben eine beschränkte „geistige Kapazität“, also Fähigkeit, Informationen und Verknüpfungen gleichzeitig zu betrachten. Da diese Kapazität beschränkt ist, können wir nicht die vollen Konsequenzen unserer Entscheidungen abschätzen. Das heißt, wir treffen manchmal Fehlentscheidungen. Um das zu verhindern, nutzen wir Informationen von anderen, quasi einen Teil der geistigen Kapazität anderer. Aber dadurch werden wir beeinflussbar. Eine KI, die mindestens unsere geistige Kapazität hat, könnte dies ausnutzen, um jegliche Sicherheitsvorkehrungen, die wir vorsehen, zu überwinden – also ausbrechen und Dinge ohne unsere Zustimmung tun.
-
Ruben Ruiz Torrubiano Beantwortet am 11 Jun 2023:
Ich denke, der entscheidende Punkt hier ist, auf wen bezieht sich das „wir“? Da muss man zwischen denen unterscheiden, die KI nutzen (also die breite Öffenlichkeit, die Nutzer) und denen, die die Algorithmen betreiben. So wie es gerade aussieht bewegen wir uns in eine Richtung, wo die Nutzer Daten bereitstellen, die verwendet werden, um die Algorithmen besser und besser zu machen. Aber wer „besitzt“ diese Daten? Das wird die entscheidende Frage sein. Wenn wir über unsere Daten die Kontrolle verlieren, dann verlieren wir auch die Kontrolle über diese Algorithmen. Und umgekehrt bekommen die großen Unternehmen, die diese Algorithmen betreiben, mehr und mehr Kontrolle. Das ist jetzt schon besorgniserregend und man muss nicht weit in die Zukunft schauen, um solche Risiken zu erkennen.
-
Maximilian Eder Beantwortet am 12 Jun 2023:
Das kann in Zukunft auf jeden Fall passieren, aber nicht unbedingt wie in einem Science-Fiction-Film. Bereits jetzt ist vielen nicht bewusst, wie häufig sie ohne Kontrolle von KI beeinflusst werden, zum Beispiel beim Online-Shopping oder den Suchergebnissen von Google.
-
Timo Baumann Beantwortet am 12 Jun 2023:
Ja, ist aber egal: lange vorher ist das Klima über alle Kipppunkte hinweg.
Kommentare