Die von Max Schrems gegründete Datenschutzorganisation NOYB, eine spendenfinanzierte Nichtregierungsorganisation mit Sitz in Wien, die vielen Anwendern durch ihre erfolgreichen Beschwerden gegen Google und Facebook bekannt sein dürfte, setzt sich jetzt mit OpenAI, dem Unternehmen hinter dem KI-Chatbot ChatGPT auseinander.
Halluziniert nicht immer: Der KI-Chatbot ChatGPT
ChatGPT erfindet Personendaten
Im Fokus der Datenschützer: Die Eigenschaft von ChatGPT, auf Nachfrage ungenaue und teils unzutreffende Informationen über reale Personen auszugeben. Laut NOYB wirft dieses Verhalten Fragen zur Konformität der KI mit der europäischen Datenschutz-Grundverordnung (DSGVO) auf.
Der Chatbot ChatGPT arbeitet wie viele KI-Textgeneratoren und generiert seine Texte auf Basis von Wahrscheinlichkeitswerten. Die so ausgegebenen Wortkombinationen treffen jedoch nicht immer zu, stellenweise können diese auch erfundene Inhalte, sogenannte „Halluzinationen“, ausgeben.
Keine Korrekturmöglichkeiten vorhanden
Die DSGVO verlangt jedoch die Genauigkeit personenbezogener Daten und gewährt betroffenen Personen das Recht auf Berichtigung falscher Informationen. Darauf pocht auch NOYB. OpenAI jedoch argumentiert, dass eine Korrektur der durch ChatGPT generierten Daten technisch nicht umsetzbar sei und lehnt entsprechende Anfragen ab. Diese Einschränkung stellt eine erhebliche Herausforderung für die Einhaltung der DSGVO dar.
Um OpenAI hier nun in die Verantwortung zu nehmen, hat NOYB eine Beschwerde über die unzureichenden Datenverarbeitungspraktiken von OpenAI eingelegt.
Maartje de Graaf, Datenschutzjuristin bei NOYB, betont die Notwendigkeit der Genauigkeit von Informationen, die durch solche Systeme generiert werden. NOYB hat die österreichische Datenschutzbehörde aufgefordert, die Praktiken von OpenAI zu untersuchen und sicherzustellen, dass die Verarbeitung von Daten mit der DSGVO übereinstimmt.
NOYB hat die Beschwerde im Volltext als PDF veröffentlicht: