Beschwerde von Datenschutz-NGOs: Überwacht fürs KI-Training

Datenschutzverbände aus mehreren europäischen Ländern haben Beschwerde gegen den Betreiber einer großen Plattform eingelegt, die menschliche Arbeitskräfte für das Training von KI anheuert. Das Unternehmen beschäftige Arbeitende auf selbstständiger Basis und setze sie einer invasiven Überwachung aus, kritisiert die österreichische NGO Noyb, die an der Beschwerde beteiligt ist.

Beim Training von künstlicher Intelligenz sind die Hersteller gängiger KI-Chatbots wie ChatGPT, Claude oder Gemini auch auf menschliche Arbeitskräfte angewiesen. Die haben unter anderem die Aufgabe, zu überprüfen, was die KI auswirft – und das entsprechend mit Feedback zu versehen. So sollen sie etwa bewerten, ob eine Antwort des Bots passend war zum Prompt. Nicht nur unpassende Antworten, auch Inhalte, die dem Regelwerk des jeweiligen Anbieters widersprechen, sollen so möglichst aus dem System entfernt werden.

Diese Arbeit wird häufig von Arbeitenden übernommen, die die Aufträge formal auf freiberuflicher Basis über eine Plattform angeboten bekommen. Im konkreten Fall richten sich die Beschwerden gegen die Branchengröße Outlier, die zum US-Konzern Scale AI gehört. Laut Noyb beschäftigt die Plattform rund 900.000 Freiberufler:innen. Noyb kritisiert dabei nicht nur das grundsätzliche und in der Plattformökonomie verbreitete Geschäftsmodell der formal selbstständigen Beschäftigung, das die Arbeitenden schnell austauschbar macht. Sie moniert in diesem Fall auch die konkreten Bedingungen.

So setze Outlier seine Mit­ar­bei­te­r:in­nen „invasivem Tracking“ aus. Die Plattform platziere Tracker auf den Geräten der Betroffenen, die alle paar Sekunden persönliche Daten der Arbeitenden an Dritte senden würden, etwa Kontaktdaten und IP-Adressen. Darüber hinaus verpflichte die Plattform die Arbeitenden zu einer biometrischen Identifizierung mit Videoaufnahmen des Gesichts und einem Hochladen des eigenen Ausweises. Für den Einsatz der Tracker gebe es keine Rechtsgrundlage. Sowohl die Tracker als auch die biometrische Identifizierung verstießen gegen den in der Datenschutz-Grundverordnung festgelegten Grundsatz der Datenminimierung.

„Ein derart umfassendes Tracking während der Arbeit widerspricht wirklich allen vernünftigen Erwartungen“, kritisiert Lisa Steinfeld Leiser, Datenschutzjuristin bei Noyb. Baptiste Delmas von der französischen Organisation Intérêt à Agir sagt: „Die aufgezeigten Verstöße machen deutlich: Der KI-Boom ist auf eine riesige Anzahl von Arbeitskräften angewiesen, deren Privatsphäre auf dem Spiel steht.“ Nun sei es an den Datenschutzbehörden, dagegen vorzugehen.

Scale AI betont in einem grundsätzlichen Statement auf seiner Webseite, das auf Ende vergangenen Jahres datiert ist, man unternehme Anstrengungen gegen „moderne Sklaverei“ und menschliche Ausbeutung. Darin heißt es auch: Das Unternehmen lege großen Wert darauf, sich „an die höchsten Standards ethischen Geschäftsverhaltens zu halten, weil wir unglaublich hohe Ansprüche an uns selbst stellen“. Eine Anfrage der taz zu den Beschwerden der Datenschutzverbände beantwortete Scale AI nicht.

Im nächsten Schritt sind nun die Aufsichtsbehörden am Zug, bei denen die NGOs die Beschwerden eingereicht haben. Diese leiten Verfahren ein und prüfen die Vorwürfe. Bis es also ein Ergebnis gibt, werden voraussichtlich mindestens mehrere Monate vergehen.