Bevor eine künstliche Intelligenz eine Antwort liefert, können Menschen Texte bewertet, Ergebnisse verglichen oder Fehler korrigiert haben, um das System zu verbessern. Bei Outlier, der Plattform von Scale AI, steht diese menschliche Arbeit heute im Zentrum einer anderen Debatte: Welche Informationen sammelt die Plattform über diejenigen, die diese Arbeit leisten?
Am 27. Oktober 2026 gab die Organisation noyb bekannt, in vier europäischen Ländern fünf Beschwerden eingereicht zu haben, gemeinsam mit mehreren Partnern, darunter DiPLab. Sie betreffen digitales Tracking, biometrische Kontrollen und den Zugang zu personenbezogenen Daten. Scale AI weist die Vorwürfe zurück. Daher muss zwischen den beschriebenen Praktiken, den Begründungen des Unternehmens und der Entscheidung unterschieden werden, die die Behörden treffen können: Eine Beschwerde ist keine Verurteilung.
Drei Fragen hinter dem Wort «Überwachung»
In ihrer Mitteilung, aktualisiert am 29. Oktober, gibt noyb an, die Behörden in Frankreich, Italien, den Niederlanden und Österreich angerufen zu haben. Die Organisation erklärt, auf Outlier Tracker mehrerer Drittunternehmen identifiziert zu haben, die unter anderem Kennungen und Informationen zum Surfverhalten übermitteln.
Sie kritisiert auch die wiederholten Überprüfungen von Gesicht und Ausweisdokumenten. Zudem wirft sie dem Unternehmen vor, auf Auskunftsanfragen nicht geantwortet zu haben. Diese drei Vorwürfe sind nicht gleichzusetzen: Zu wissen, dass ein Konto existiert, dessen Aktivität zu beobachten und dem Kontoinhaber Einsicht in die gespeicherten Informationen zu ermöglichen, wirft jeweils unterschiedliche Fragen auf.
Die Mitteilung vertritt die Position der Beschwerdeführer. Ihre Einstufung als rechtswidrig ist als deren Argument zu verstehen und nicht als bereits von einer Aufsichtsbehörde getroffene Feststellung. Die Beschwerdeführer fordern ausdrücklich eine Untersuchung und erwägen Sanktionen.
Was Outlier in seiner eigenen Richtlinie beschreibt
Die Datenschutzerklärung von Outlier vom 13. März 2026 bietet einen weiteren Ansatzpunkt. Sie sieht Überprüfungen bei der Registrierung und anschließend in regelmäßigen Abständen vor, unter anderem durch Dienstleister wie Persona. Genannt werden Bilder, Aufzeichnungen und Gesichtsmessungen sowie unter bestimmten Umständen eine alternative Verifizierungsmethode.
Das Dokument begründet diese Kontrollen mit der Betrugsprävention und dem Schutz des Dienstes. Es erwähnt auch Cookies, Pixel und automatisch erhobene Informationen. Für Verifizierungsdaten gibt es eine Aufbewahrungsfrist von bis zu zwei Jahren nach der letzten Interaktion oder entsprechend den gesetzlichen Anforderungen an.
Die Richtlinie dokumentiert, was das Unternehmen ankündigt. Für sich genommen belegt sie nicht, wie jedes einzelne Tool auf dem Computer jedes Beschwerdeführers funktioniert hat. Umgekehrt reicht es nicht aus, dass eine Datenart im Dokument aufgeführt ist, um nachzuweisen, dass jede Person allen möglichen Verarbeitungsvorgängen ausgesetzt war. Erst der Abgleich zwischen den angekündigten Regeln und den tatsächlichen Praktiken ermöglicht eine Prüfung des Streitfalls.
Die Antwort von Scale AI
Auf eine Anfrage von franceinfo am 28. Oktober weist Scale AI die Vorwürfe zurück. Das Unternehmen erklärt, dass bei einigen Projekten eine Software zur Erfassung der Arbeitszeit und der Bildschirmaktivität zum Einsatz kommt. Es versichert, dass die Mitwirkenden darüber informiert werden, zustimmen und das Tool selbst aktivieren.
Das Unternehmen beruft sich auf die Betrugsbekämpfung, die Vertraulichkeit der Informationen seiner Kunden und die Berechnung der Vergütung. Es erklärt, die DSGVO einzuhalten. Diese Erläuterungen beziehen sich auf die Vorwürfe, entscheiden aber nicht über sie: Sie geben die Position des beschuldigten Unternehmens wieder.
Franceinfo berichtet außerdem über die Arbeit von DiPLab und die Bedenken von Arbeitenden hinsichtlich des Umfangs der Überwachung. Es wäre irreführend, aus dem Bestehen solcher Bedenken den Beweis abzuleiten, dass alle Sitzungen auf dieselbe Weise aufgezeichnet werden.
Warum es auf die Details der Systeme ankommt
Um diesen Fall zu verstehen, ist die Bezeichnung «Kontrollinstrument» zu allgemein. Ein Zeitzähler, ein Bildschirmfoto und eine Identitätsprüfung liefern nicht dieselben Informationen. Leserinnen und Leser müssen erfahren können, um welches System es geht, wann es zum Einsatz kommt, was es aufzeichnet und für wen die Daten bestimmt sind.
Ein hypothetisches Beispiel verdeutlicht den Unterschied: Die Dauer einer Aufgabe zu erfassen, gibt nicht unbedingt Aufschluss über den Bildschirminhalt. Eine Bildschirmaufzeichnung kann je nach dem, was darauf zu sehen ist, deutlich mehr offenlegen. Das Beispiel veranschaulicht die Tragweite der Frage; es beschreibt keine Sitzung, die bei einem der Beschwerdeführer beobachtet wurde.
Ein weiterer wichtiger Unterschied: Eine Information in einer allgemeinen Richtlinie und eine Erklärung, die beim Aktivieren einer Software angezeigt wird, sind getrennt voneinander zu prüfen. Die Debatte lässt sich nicht auf die bloße Existenz einer Datenschutzseite reduzieren.
Was der Fall über KI aussagen wird – und was nicht
In dem Fall geht es um die Arbeitsbedingungen und die Verarbeitung der Daten von Mitwirkenden einer Plattform. Er misst weder die Qualität ihrer Annotationen noch die Leistungsfähigkeit eines Modells. Wer diese Themen vermischt, lässt das konkrete Problem hinter einer allgemeinen Debatte über künstliche Intelligenz verschwinden.
Die eingesehenen Dokumente enthalten Beschwerden und Antworten, aber keine endgültige Entscheidung. Weiter zu verfolgen ist daher, was die zuständigen Behörden feststellen können: über die Tools, ihre Nutzung und die Auskunftsanfragen. Hinter den Modellen bleibt die Frage sehr menschlich: zu verstehen, was eine arbeitende Person preisgibt, wenn sie einen Auftrag ausführt.
Symbolfoto: Hände an einem Laptop; weder eine mit Outlier verbundene Person noch ein Überwachungsinstrument sind darauf zu sehen. Solé Gomez / Pexels, Pexels-Lizenz.
