Digitale Putzkolonne

Täglich arbeiten zehntausende Menschen daran, Falschmeldungen und ethisch verwerflichen Müll aus dem Internet zu tilgen. Eine intelligente Reinigungssoftware, die das weitgehend automatisch machen könnte, ist für die weltweit verteilten Rechercheteams keine Selbstverständlichkeit.

digitale-putzkolonne

„Work hard, have fun“ – nein, das ist kein Werbeslogan, um Mitarbeiter für einen Beach-Club oder einen Sportwagenhersteller anzuheuern. Der freudvolle Spruch sollte noch vor Kurzem willige Seelen zum Callcenter-Dienstleister Task-Us bringen, um den richtig üblen Dreck im Internet wegzuputzen. Fun? Der sieht für die Content-Moderatoren so aus: Kinderpornos aufspüren und angucken. Brutale Vergewaltigungen ausfindig machen und angucken. Mordaufrufe plus Enthauptungen aufstöbern und angucken. Der Berliner Theaterregisseur Moritz Riesewick hat im Schattenbereich des Internets recherchiert, in dem bereits eine sechsstellige Zahl an Online-Müllmännern aktiv ist.

Tendenz: steigend. Aufgrund immenser psychischer Belastungen leiden sie häufig an Depressionen, an Isolation und Angstzuständen. Volkswirtschaftlich betrachtet eher kein Gewinn. Für Internetgiganten wie Facebook, Google, Pinterest, YouTube oder Twitter schon eher: Sie wollen Imageschäden verhindern oder minimieren, ihre Marken und Gewinne schützen. Klar: Saubermachen macht Sinn, vor allem in ethisch-moralischer Hinsicht. Rund 3000 Bilder oder Videos müssen beispielsweise die Mitarbeiter von TaskUs täglich sichten, etwa zehn Prozent davon sind anstößig. Insofern entlasten die Digitalmüllentsorger auch das riesige Aufkommen auf den weltumspannenden Datenautobahnen spürbar. Die analoge Säuberung durch Menschenhand in sozialen Netzen, auf Cloud-Portalen oder bei mobilen Apps gilt als immenser Markt. Als Hotspot brodeln vor allem die Philippinen. Die Inselgruppe scheint wie gemacht für solche Jobs: Die Ex-US-Kolonie ist mit strengem Katholizismus und arbeitgeberfreundlichen Strukturen gesegnet – Content-Moderatoren scheinen häufig geradezu beseelt davon, die Welt von ihren schmutzigen Online-Sünden zu reinigen.

Intelligente Software ist noch rar, auch wenn es hoffnungsmachende Ansätze gibt. Die digitale Schattenwelt ist sehr komplex und viele Inhalte sind extrem schwierig herauszufiltern oder zu bewerten. Auch weil weltweit unterschiedliche ethnische Vorstellungen vorherrschen. Die Maßstäbe und Regeln erscheinen teils verstörend – und werden oft von den Portalanbietern selbst unter Ausschluss der Öffentlichkeit definiert. Zertrümmerte Köpfe, bei denen kein Gehirn zu sehen ist, gehen okay. Brüste stillender Mütter nicht – so Riesewick in der ARD. Alle bekannten Internetriesen beschäftigen Content-Moderatoren.

Angezogen vom glitzernden Mega-Image der Konzerne und dem Wunsch nach einem hippen Topjob drohen sie in den psychisch belastenden Abteilungen der hauseigenen Internetmüllabfuhr zu landen, erklärte die Wissenschaftlerin Sarah T. Roberts von der University of California auf der Berliner Re:publica 2016. Reinigungspersonal findet sich bei Facebook und Co. wohl in Dublin, in Pakistan und sogar in Berlin: Dort engagierte Zuckerbergs Portal zum Beispiel den Recherchedienstleister Correctiv. Nicht ohne Grund: Die Bundestagswahl naht und die Politik fühlt sich in postfaktischen Zeiten durch Fake News bedroht.

Correctiv soll zweifelhafte Fake-Inhalte auf dem Portal sichten. Auch die deutsche Löschtruppe von Arvato durchwühlt den Digitalmüll von weltweit 1,8 Milliarden Usern. Laut „Süddeutscher Zeitung“ arbeiten dort auch Flüchtlinge aus Syrien, die Enthauptungsvideos sichten sollen. Trotzdem: Nicht genug, zu halbherzig und vor allem zu intransparent, rügen Politiker das Engagement von Facebook und Co.

„Es muss bei Facebook noch mehr passieren“, sagt zum Beispiel Gerd Billen, Staatssekretär im Bundesjustizministerium. Billen ist Leiter der Taskforce zum Umgang mit rechtswidrigen Hassbotschaften im Internet. Dem Bündnis gehören Facebook, Google und NGOs wie Jugendschutz.net an. Überdies arbeiten weitere Experten-Taskforces zusammen – wie die Global Network Initiative, die Anti-Cyberhate Working Group, das Safety Advisory Board oder das Trust and Safety Council. Allerdings verrichten sie ihre Arbeit gerne und schwer nachvollziehbar hinter verschlossenen Türen.

In puncto Verleumdungen und Drohungen im Netz setzen einige Experten auf das sogenannte Counter Speaking, also die Aufforderung an User, hassgeprägten oder gefährlichen Netzinhalten virtuell vehement entgegenzutreten. Das birgt keine Risiken für die Portale, wohl aber für die User, die sich damit on- wie offline Gefahren aussetzen. Einfach saubermachen? Gar nicht so einfach. Analysen und Algorithmen werden zwar klüger und verstehen immer mehr den usergenerierten Content, kombinieren nicht nur Bilder, sondern auch Sprache und deren Eigenart. Trotzdem: Eine wirklich effektive KI-Säuberungssoftware lässt weiterhin auf sich warten.

Autor: Claus Dick

Foto: Shutterstock/bikeriderlondon