Kann man KI mit persönlichen Informationen vertrauen?

Frage: Kann man KI mit persönlichen Informationen vertrauen?
- Stichworte:
  Ethik,
  KI,
  Vertrauen
Frage gestellt raya22wye am 12 Jun 2023.
- Stefan Edlich Beantwortet am 12 Jun 2023:
  
  Hier würde ich echt vorsichtig sein. Wahrscheinlich nicht mehr, als man auch einer Suchmaschine anvertrauen würde (also keine eigenen Fotos, Krankheiten, etc.)
- Tarek Saier Beantwortet am 12 Jun 2023: last edited 12 Jun 2023 11:58
  
  Beim Nachdenken über diese Frage hilft es denke ich, wenn man sich genau überlegt: weiß ich, was mit den Informationen passiert?
  
  Wenn man zum Beispiel mit einem anderen Menschen unter vier Augen spricht, kann man vielleicht grob einschätzen, ob man der Person vertraut oder nicht.
  In manchen Fällen, wie beim Arzt, gibt es auch Gesetze die vorschreiben, dass nichts weitergesagt werden darf.
  
  Sobald Technik mit ins Spiel kommt, wird es komplizierter.
  
  Wenn man zum Beispiel über eine Chat-App mit jemandem kommuniziert, muss man nicht nur dem Gesprächspartner vertrauen können, sondern auch dem Anbieter der App. Es kann nämlich sein, dass der auch lesen kann, was man schreibt. Das gleiche gilt für den Hersteller des Handys oder Computers, auf dem man die App verwendet.
  
  Bei KI — zumindest der Art von KI, die wir heutzutage haben — ist es nochmal komplizierter, weil keiner weiß, wie genau die KIs im inneren funktionieren.
  
  Manchmal ist das kein Problem. Zum Beispiel bei einer KI, die keine „Erinnerung” hat; die sich also persönliche Informationen nicht merken kann. Das ist zum Beispiel bei manchen Chat-KIs so. In so einem Fall muss man also „nur” dem Betreiber der KI vertrauen können.
  Bei ChatGPT kann man z.B. einstellen, dass ein Gespräch nicht gespeichert werden soll. Wenn man das nicht einstellt, dann wird der Chat-Verlauf dazu verwendet, ChatGPT zu trainieren [1]. Dann ist es auch möglich, dass ChatGPT Informationen aus dem Chat-Verlauf jemand anderem „weitererzählt“.
  
  [1] https://openai.com/blog/new-ways-to-manage-your-data-in-chatgpt
  
  Andere KI-Systeme dagegen sind speziell dafür da, sich Dinge über uns zu merken. Z.B. die KIs die Facebook, Instagram, Tiktok usw. verwenden um zu entscheiden, welche Posts, Videos oder Werbung sie uns anzeigen.
  
  Im Endeffekt ist also die Frage, wie gut man verstehen kann, was mit den persönlichen Informationen passiert. Das hängt mitunter davon ab, ob der Anbieter einer Technologie das klar macht, geheim hält, oder vielleicht selbst gar nicht weiß.
- Maximilian Eder Beantwortet am 12 Jun 2023:
  
  Einer KI kann man seine persönlichen Informationen jederzeit anvertrauen, wenn man möchte. Die Anwendung unterscheidet nicht zwischen persönlichen und anderen Informationen.
  
  Es ist vielmehr die Frage, ob man dem Anbieter der KI seine Informationen anvertrauen möchte und ob er mit diesen Informationen dann verantwortungsvoll umgeht.
- Stefan Holtel Beantwortet am 12 Jun 2023:
  
  Natürlich kann man das. Aber es ist vielleicht keine gute Idee, wenn man nicht möchte, dass Unbefugte das mitbekommen. Auf der anderen Seite teilen die meisten von Euch schon so viele persönliche Dinge freizügig über andere Medien mit, dass die Frage sich meist gar nicht mehr stellt. Vielleicht wird jetzt nur deutlicher, dass es schon länger keine gute Idee war, irgendeinem Internetdienst persönliche Dinge anzuvertrauen.
- Karsten Weber Beantwortet am 13 Jun 2023:
  
  Öffentlich zugängliche KI-Systeme werden in der Regel von Unternehmen mit kommerziellen Interessen betrieben. Diese Interessen werden dadurch verfolgt, dass persönliche Informationen anderer Menschen verarbeitet werden. Daher wäre ich recht zurückhaltend mit der Preisgabe von persönlichen Informationen.