ChatGPT und der Datenschutz #KI #DATENSCHUTZ

In dem eingeleiteten Verfahren geht es nicht darum, der gesellschaftlichen Bewertung von KI vorzugreifen, so die Behörden, sondern darum, von amerikanischen KI-Anbietern die gleiche Einhaltung der DSGVO zu fordern, wie auch von europäischen Anbietern.

Der deutsche Fragenkatalog wurde in einer Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) abgestimmt. Die Fragen beziehen sich darauf, ob die Datenverarbeitung dem datenschutzrechtlichen Grundprinzip gerecht wird. Folgende Themen werden unter anderem in Frage gestellt:

  • Beruht die Datenverarbeitung auf einer gültigen Rechtslage?
  • Ist sie für betroffene User:innen auch transparent genug?
  • Gibt es eine Altersgrenze für die Nutzung von ChatGPT?
  • Wenn ja, wird diese ausreichend überprüft und wenn nein, wie wird der Jugendschutz gewährleistet?
  • Wird für User unter 16 Jahren die Einwilligung der Erziehungsberechtigten eingeholt?
  • Wofür werden Nutzungsdaten erhoben?
  • Werden Nutzungsdaten zu Trainingszwecken von ChatGPT genutzt? Wird dafür explizit eine Einwilligung der User:innen eingeholt?
  • Welche Quellen werden für Auskünfte über Menschen herangezogen?

Der Fragenkatalog scheint breit gefächert zu sein. Bis Mitte Juni hat OpenAI Zeit, den deutschen Aufsichtsbehörden zu antworten. Reagiert das Kalifornische Unternehmen nicht, oder schafft es nicht, eventuelle Verstöße auszuräumen, wäre ein Verbot der ChatGPT Nutzung in Deutschland denkbar. Allerdings ist dies nicht das Ziel des Verfahrens. Auch Italien hatte bereits Anfang April ein temporäres Nutzungsverbot für ChatGPT verhängt. Denn hier ist es im März zu einer kritischen Panne gekommen, bei der persönliche Daten in fremden Chats ausgegeben wurden. Italien machte aber deutlich, dass nach Beseitigung der Probleme durch OpenAI ChatGPT wieder zugänglich sein soll. Dafür hatte das Unternehmen 20 Tage Zeit und zeigte sich einwillig, entsprechende Maßnahmen zu ergreifen, weshalb das Tool in Italien nun auch wieder zugänglich ist.

Insgesamt häufen sich in letzter Zeit Meldungen zu Datenpannen bei ChatGPT. Laut Cybernews wurden zum Beispiel Kreditkartendaten von Usern unautorisiert veröffentlicht. Interesting Engineering berichtet von einem Datenleck bei SAMSUNG, nachdem das Tool für Mitarbeiter:innen eingeführt wurde. Dies hatte zur Folge, dass interne Geschäftsdaten nun Teil der Lerndatenbank von ChatGPT sind.

Um eine sichere Nutzung von künstlichen Intelligenzen zu gewährleisten, hat die EU am 28. April 2023 den weltweit ersten Entwurf zur umfangreichen Regulierung der KI vorgestellt. Dieser Entwurf soll nun in die nächste Verfahrensstufe weitergeleitet und mit allen Mitgliedstaaten ausgearbeitet werden.

Der erste Entwurf beinhaltet unter anderem die Einstufung von KI-Systemen in Risikostufen sowie bei generativen KIs die Offenlegung, ob urheberrechtlich geschütztes Material bei Entwicklungen genutzt wird. „Gegen konservative Überwachungswünsche und linke Überregulierungsfantasien konnte ein solider Kompromiss im Parlament gefunden werden, der KI verhältnismäßig regulieren, Bürgerrechte schützen und Wirtschaft beflügeln soll“, so die Abgeordnete Svenja Hahn (FDP).

Wie sich die datenschutzrechtliche Situation der KI-Nutzung in Europa entwickelt, werden vermutlich schon die nächsten Wochen zeigen.

Sie sind an der Integration von KI Tools in Ihr Unternehmen interessiert?

Let´s get in touch!

Das könnte Sie auch interessieren:

Quellen: