Die von dem Aktivisten Max Schrems gegründete österreichische Non-Profit-Organisation Noyb hat gegen OpenAI eine Beschwerde bei der örtlichen Datenschutzbehörde eingereicht. Dem Betreiber von ChatGPT wird vorgeworfen, gegen das europäische Datenschutzrecht zu verstoßen.
Schrems, ein Aktivist und Anwalt, hat einige der folgenreichsten Datenschutzbeschwerden in der EU eingereicht.
In der Beschwerde gegen OpenAI, die am Montag (29. April) bei der österreichischen Datenschutzbehörde eingereicht wurde, geht es um Falschdarstellungen zu personenbezogenen Inhalten, die von KI-Sprachmodellen erzeugt werden.
Das Unternehmen OpenAI ist sich des Problems bewusst, scheint sich aber nicht darum zu kümmern, so Noyb in einer Pressemitteilung, in der die Beschwerde angekündigt wurde. OpenAI hat zum Zeitpunkt der Veröffentlichung nicht auf Euractivs Anfrage nach einem Kommentar geantwortet.
Große Sprachmodelle wie ChatGPT arbeiten, indem sie die wahrscheinlichsten Wörter vorhersagen, die als Antwort auf bestimmte Aufforderungen gegeben werden. Manchmal schließt das Modell auf die falschen Wörter zur Vervollständigung eines Satzes und gibt eine falsche Antwort, die im Fachjargon als „Halluzination“ bezeichnet wird.
Dies sei „akzeptabel“ für „Hausaufgaben“, aber nicht für Einzelpersonen, so Noyb. Das EU-Recht schreibe seit 1995 vor, dass personenbezogene Daten korrekt sein müssen, und dieser Grundsatz sei in der DSGVO, dem Datenschutzgesetz der EU, verankert, so die gemeinnützige Organisation.
Noyb erwähnte das Beispiel einer öffentlichen Person, deren Geburtsdatum nicht online verfügbar ist. ChatGPT habe auf Anfrage ein falsches Geburtsdatum abgeleitet.
OpenAI gab auch eine unbefriedigende Antwort auf eine im Dezember 2023 gestellte Anfrage nach Auskunft über Daten und deren Löschung. Nach der DSGVO sind die für die Verarbeitung Verantwortlichen verpflichtet, den betroffenen Personen Auskunft über die Verarbeitung ihrer personenbezogenen Daten zu erteilen und diese auf Antrag zu löschen, allerdings mit einigen Einschränkungen.
Das Unternehmen habe dem Nutzer lediglich Kontodaten zur Verfügung gestellt, nicht aber Informationen über die Verarbeitung der personenbezogenen Daten durch das System, so Noyb.
OpenAI sagte auch, dass sie das Modell nur daran hindern könnten, eine Antwort auf die Frage nach dem Geburtsdatum zu geben. Sie könnten die bereitgestellte Antwort nicht korrigieren, heißt es in der Beschwerde.
Dies hätte dazu geführt, dass weitere Informationen über die betroffene Person von ChatGPT blockiert worden wären, was das Recht der Öffentlichkeit auf Informationen über diese Person, bei der es sich um eine bekannte Persönlichkeit handelt, beeinträchtigt hätte, so OpenAI laut der Beschwerde.
„ChatGPT könne weder Informationen korrigieren noch selektiv sperren, und jede betroffene Person müsse einfach mit dieser Situation leben – so der für die Datenverarbeitung Verantwortliche“, heißt es in der Beschwerde.
Das irische Büro von OpenAI sei nur eine Fassade, während alle Entscheidungen nach wie vor in den USA getroffen würden, so Noyb. Aus diesem Grund richtet sich die Beschwerde gegen eine der gewinnorientierten US-Gesellschaften des Unternehmens, OpenAI OpCo LLC, die in den Nutzungsbedingungen erwähnt wird.
[Bearbeitet von Zoran Radosavljevic]