Direkt zum Inhalt wechseln

Ende März sperrte Italien als erstes Land der Welt den Chatbot „ChatGPT“ des Unternehmens „OpenAI“ aufgrund von Datenschutzbedenken. Darauffolgend erhielt auch die schweizerische Datenschutzbehörde zahlreiche Anfragen betreffend die Datenschutzkonformität von ChatGPT, weshalb der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) zu einer Äusserung veranlasst sah. In der Medienmitteilung vom 4. April 2023 äusserte sich der EDÖB zum „Einsatz von ChatGPT und vergleichbaren KI-gestützten Anwendungen“ in der Schweiz und rät zu einem bewussten Umgang damit.

Bewusster Umgang mit KI-gestützten Anwendungen wie ChatGPT

Zwar anerkennt der EDÖB die Chancen eines Einsatzes von KI-gestützten Anwendungen wie ChatGPT sowohl für die Gesellschaft als auch für die Wirtschaft. Jedoch sei die Bearbeitung von Daten mittels solch neuer Technologien auch mit Risiken für die Privatsphäre und die informationelle Selbstbestimmung verbunden.

Der EDÖB rät Nutzerinnen und Nutzern deshalb konkret

  • vor der Eingabe von Text oder vor dem Hochladen von Bildern zu prüfen, für welche Zwecke diese bearbeitet werden, und
  • bei der Verwendung von KI-gestützten Anwendungen sicherzustellen, dass dabei die datenschutzrechtlichen Anforderungen eingehalten werden, und insbesondere die Nutzerinnen und Nutzer darüber zu informieren, welche Daten für welche Zwecke und auf welche Art und Weise bearbeitet werden.

Darüber hinaus äussert sich der EDÖB nicht zur Datenschutzkonformität von ChatGPT. Der EDÖB stehe aber im Austausch mit der italienischen Datenschutzbehörde, welche am 30. März 2023 den Chatbot ChatGPT vorläufig verboten hatte.

Vorübergehendes Verbot von ChatGPT in Italien

Ende März konnte die Bevölkerung in Italien vorerst nicht auf die Dienste des Chatbots ChatGPT zugreifen. Die italienische Datenschutzbehörde (Garante per la protezione die dati perspnali, GPDP) in Rom hat ChatGPT gemäss Medienmitteilung vom 31. März 2023 aufgrund von Datenschutzbedenken vorübergehend sperren lassen und leitete eine Untersuchung gegen OpenAI als Entwicklerin von ChatGPT ein.

In der Verfügung vom 30. März 2023 nennt die italienische GPDP mehrere Gründe für das Verbot von ChatGPT in Italien:

  • Erstens wurde weder den Nutzerinnen und Nutzern noch den betroffenen Personen, deren Daten von OpenAI gesammelt und über den Chatbot ChatGPT verarbeitet wurden, diesbezüglich Informationen zur Verfügung gestellt. Dabei handelt es sich um eine Verletzung der Informationspflicht gemäss 13 und 14 der Europäischen Datenschutz-Grundverordnung (DSGVO).
  • Zweitens gebe es keine geeignete Rechtsgrundlage, welche das massive Sammeln und Speichern von persönlichen Daten zum Trainieren des Chatbots rechtfertige. So konnten Nutzerinnen und Nutzer von ChatGPT zwar ihre Einwilligung zur Verarbeitung geben. Hingegen wurden Personen, deren Daten für das Training der künstlichen Intelligenz (KI) systematisch gesammelt wurden, nicht nach ihrer Einwilligung gemäss 6 DSGVO gefragt.
  • Drittens sei die Verarbeitung der personenbezogenen Daten der betroffenen Personen insofern ungenau, als die von ChatGPT bereitgestellten Informationen nicht immer mit den tatsächlichen Daten übereinstimmen. Die mangelnde Richtigkeit der Daten wurde von der GPDP scheinbar als Verletzung von 5 Abs. 1 lit. d DSGVO gewertet.
  • Viertens sehe OpenAI in den Nutzungsbedingungen für ChatGPT ein Mindestalter von 13 Jahren vor; eine entsprechend Überprüfung des Alters fehle jedoch. Aufgrund dieser fehlenden Altersprüfung wird ein Verstoss von 8 DSGVO angenommen.

Folglich gelangte die GPDP zum Schluss, dass «die Verarbeitung der personenbezogenen Daten der Nutzer, einschließlich der Minderjährigen, und derjenigen, deren Daten von dem Dienst verwendet werden, unter den oben beschriebenen Umständen gegen die Artikel 5, 6, 8, 13 und 25 der DSGVO verstösst» und es daher notwendig sei, eine vorläufige Einschränkung der Verarbeitung und damit ein vorübergehendes Verbot von ChatGPT in Italien anzuordnen.

Rund einen Monat später ist ChatGPT in Italien wieder verfügbar. So teile die italienische Datenschutzbehörde am 28. April 2023 in einer Medienmitteilung mit, dass OpenAI den Dienst in Italien mit verbesserter Transparenz und verbesserten Rechten für die Nutzerinnen und Nutzer wiederhergestellt hat. In Anbetracht dieser Verbesserungen durfte OpenAI ChatGPT wieder für italienische Nutzerinnen und Nutzer zugänglich machen.

Die datenschutzrechtliche Problematik hinter KI-gestützten Anwendungen

Die datenschutzrechtlichen Bedenken im Zusammenhang mit KI-gestützten Anwendungen wie ChatGPT scheinen primär aus der neuartigen Behandlung und Auswertung von Daten zu resultieren, welche eine KI mit sich bringt. Eine KI besitzt die Fähigkeit, verschiedene Datensätze miteinander zu verknüpfen und nimmt dabei eine Abgleichung zwischen den verschiedenen Arten von Informationen vor. Dies sorgt dafür, dass eine Unterscheidung zwischen persönlichen Daten und Sachdaten immer schwieriger wird. Des Weiteren kann KI mehrere unpersönliche Datenelemente miteinander kombinieren und daraus persönliche Informationen ableiten. Die Rede ist also von Daten, welche vorerst nicht personenbezogen waren, aber durch die KI identifiziert und damit personenbezogen werden. Wenn eine Nutzerin oder ein Nutzer nicht weiss, was mit den eigenen persönlichen Daten gemacht wird, ist sie oder er auch nicht in der Lage deren Verwendung zu kontrollieren und die damit zusammenhängenden Rechte ausüben. Im Falle von ChatGPT fehlte eine solche Information der Nutzerinnen und Nutzer beziehungsweise war diese beim Verarbeiten von Daten zum «Trainieren der KI» gar nicht möglich.

Mittlerweile hat OpenAI einen Hinweis auf ihrer Website veröffentlicht, um darüber zu informieren, welche Personendaten und wie diese insbesondere auch für das Trainieren des zugrundeliegenden Algorithmus verarbeitet werden. Ausserdem weist OpenAI darauf hin, dass jede Person das Recht hat, einer solchen Verarbeitung zu widersprechen. In Bezug auf das Trainieren der KI ist dies auch mittels eines speziellen Formular, das online ausgefüllt werden kann, möglich.

Entsprechend der zu Beginn dieses Beitrags genannten Empfehlung des EDÖB, sollten sich Verwenderinnen von KI-gestützten Anwendungen wie ChatGPT auch in der Schweiz bewusst sein, dass sie datenschutzrechtliche Anforderungen einzuhalten und insbesondere die betroffenen Personen darüber zu informieren haben, welche Daten für welche Zwecke – sei dies auch nur für Trainingszwecke des der KI zugrundeliegenden Algorithmus – wie verarbeitet werden. HÄRTING empfiehlt darüber hinaus, dass insbesondere Unternehmen für die interne Nutzung von ChatGPT eine AI-Strategie entwickeln und gleichzeitig klare schriftliche Anweisungen im Umgang mit KI-gestützten Anwendungen an ihre Mitarbeitenden erteilen sollten.

 

Quellen: