In den vergangenen Wochen und Monaten schwappte eine Welle mit Hass-Kommentaren und Hetz-Propaganda durch die Sozialen Netzwerke, die uns auch hier bei Mobile Geeks das ein oder andere Mal ordentlich auf Trab gehalten hat. Die Flüchtlingskrise förderte Ansichten und Verhaltensweisen von Menschen in einer Masse und Wucht zu Tage, auf die wohl kaum jemand wirklich vorbereitet war.

Immer wieder kam – auch von unserer Seite – der Vorwurf auf, dass die Plattformen Facebook, Twitter oder Google+ viel zu wenig gegen offensichtlich fremdenfeindliche, in manchen Fällen sogar eindeutig volksverhetzende Beiträge und Kommentare unternehmen. Viele Benutzer berichteten davon, dass ihre Hinweise mit standardisierten Antworten abgefrühstückt wurden und die Beiträge auch noch Wochen später im Netz zu finden waren. Einzelne Benutzer berichteten davon, dass sie selbst auf Grund ihrer Meldungen gesperrt wurden, auch unseren Casi hat es zwischendurch erwischt. Klick-Nutten wie Focus Online spielten das Spiel hingegen mit und nutzten die aufgeheizte Stimmung schamlos aus. Die Politik schaltete sich ein, Facebook sicherte die Gründung einer Task Force zu, seitdem ist es um das Thema ruhig geworden.

Andernorts ging es noch weitaus heißer her. Nach den furchtbaren Terror-Anschlägen von Paris rief ein Teil der Hackergruppe Anonymous den Cyberkrieg gegen den IS aus und widmete den Profilen von Mitgliedern und Sympathisanten eine besondere Form der Aufmerksamkeit. Die Accounts wurden – scheinend ohne große Gegenwehr der Betreiber der Sozialen Netzwerke – gehackt oder in langen Datenreihen als Löschlisten übermittelt.

Casi, ein Justizminister, Anonymous und eine Task Force – das alles hört sich sehr spannend und beeindruckend an und gab uns zeitweise tatsächlich nochmal einen kleinen Eindruck von dem, was auf Sozialen Plattformen an Dreck und Abschaum zu finden ist und wer sich damit – freiwillig oder gezwungenermaßen – auseinandersetzen darf. Doch seien wir ehrlich: für viele von uns war es das allererste Mal, dass uns zwischen Katzenfotos und Babybildern unserer Verwandten und Freunde Beiträge und Kommentare begegneten, die – moderat formuliert – “etwas kontroverser” waren.

Das müsste uns nach etwas längerem Nachdenken alle stutzig machen. Das Internet ist voll von Pornos der übelsten Sorte. Gewaltverherrlichende Websites mit Bildern, die sich ein normaler Mensch nicht einmal vorstellen kann lauern an jeder Ecke. Die Betreiber verbergen sich vor dem Zugriff der Behörden hinter ausländischen Servern und umgehen u.U. existierende Sperr- und Filterlisten wie die der Bundesprüfstelle für jugendgefährdende Medien recht trickreich.

Facebook hat mittlerweile weltweit über 1 Milliarde Nutzer aus den unterschiedlichsten Kulturen und Altersklassen, hinzu kommen Armeen von automatisierten Bots – und doch begegnet uns ausgerechnet auf der größten Sozialen Plattform vergleichsweise wenig Porn, Gewalt oder anderer Dreck, den wir – wenn schon nicht vor uns selbst – auf jeden Fall vor Opa, Oma und unseren Kindern verbergen wollen. Überall ist die Rede von Viren, Erpressungs-Trojanern, Drogen, Waffen und nachwuchswerbenden Terroristen – doch ausgerechnet die Benutzer der Sozialen Netzwerke bleiben trotz der Popularität der Plattformen vergleichsweise verschont vor diesen Daten.

Das hat unterschiedliche Gründe. Zum einen bewahrt uns eine selbstgewählte Filterbubble vor dem Ansehen von Beiträgen, die wir nicht sehen wollen. Das hat Nachteile, wie z.B. die Manifestierung eines eingeschränkten Weltbilds, schützt uns aber auch vor erschreckenden Bildern in unserem virtuellen Wohnzimmer.

Zum anderen besitzt jedes größere Social Network heutzutage ein ausgeklügeltes System von Filtern und Algorithmen, mit dem anstößige Inhalte recht zuverlässig erkannt und entweder schon während oder aber kurz nach ihrer Veröffentlichung entfernt werden könnten, sofern sie gegen die bei Facebook “Gemeinschaftsstandards” getauften Allgemeinen Nutzungsbedingungen verstoßen. Diese Algorithmen erkennen sowohl Wörter, die in einer mehr oder weniger sorgsam gepflegten Blacklist stehen als auch Bilder, die z.B. zu viel Haut oder Blut enthalten. Sogar Texte und Melodien in YouTube-Videos oder ganze Film-Sequenzen in selbigen können auf Grundlage dieser Algorithmen recht zuverlässig klassifiziert werden und landen u.U. automatisiert auf einer vorläufigen Sperrliste – oder im virtuellen Mülleimer. Als weitere Instanz kommt das o. bereits erwähnte Feedback anderer Benutzer zum Zuge, auch wenn ausgerechnet diese Funktion zuletzt für so viel Ärger gesorgt hat.

Das Märchen von den allmächtigen Filtern

Auch das klingt spannend, gerade für Nerds und Geeks. Die Vorstellung, dass ein nahezu vollautomatisierter Prozess in einer selbstlernenden Dauerschleife rigoros gegen verbrecherisches und krankes Gesindel, digitale Raubritter und radikalisierte Extremisten vorgeht entspricht genau dem Weltbild, das wir uns auch in ganz anderen technischen Bereichen so gerne vorstellen. Perfekt ineinandergreifende digitale Zahnrädchen, die das Leben schöner und unbeschwerter machen und uns vor den Attacken der (realen) Welt beschützen – herrlich. Virtual Reality für Jedermann, schon heute und sogar in der Fluffy Edition.

Doch das ist nur die halbe Wahrheit. Tatsächlich bezahlen den Preis für unser digitales Wohlbefinden andere, real existierende Menschen, die sich auf der anderen Seite des Erdballs tagtäglich mit den tiefsten Abgründe der Menschheit beschäftigen müssen und uns davor bewahren. Auf den Philippinen ist im Laufe der zurückliegenden Jahre die neue Branche der “digitalen Müllabfuhr” entstanden, ein in der westlichen Hemisphäre weitestgehend unbemerkter Dienstleistungsbereich mit über 500.000, vielleicht sogar einer Million Beschäftigten.

Diese Menschen verbringen ihren gesamten Tag damit, abgrundtief furchtbare Bilder und Videos anzuschauen und zu löschen. Sie arbeiten für spezialisierte Personaldienstleister wie z.B. TaskUs, die ihren Sitz zwar in den USA haben, diese Tätigkeiten aber (nicht nur aus finanziellen Gründen) auf die Philippinen auslagern. Zu den Kunden der Unternehmen gehören kleinere Plattformen wie Tinder oder Whisper, die – ausgestattet mit einem prallgefüllten Venture Capital Konto – darauf angewiesen sind, dass ihre Dienste “sauber” bleiben und die avisierte Zielgruppe nicht verschreckt wird.

In der Social Media Szene gilt es als ein offenes Geheimnis, dass auch Branchenriesen wie Facebook, Google oder Microsoft längst den Sprung auf den südostasiatischen Inselstaat gemacht haben und dort ebenfalls die Dienste der digitalen Putzkolonnen in Anspruch nehmen. Darüber sprechen möchte hingegen kaum eines der Unternehmen, auch die Dienstleister und deren Angestellte werden über entsprechend restriktive Geheimhaltungsvereinbarungen zum Schweigen verpflichtet.

Die Gründe für diesen Fightclub-ähnlichen Kodex sind vielfältig. Zum einen würde es (vor allem uns Geeks und Nerds) eine gehörige Portion der digitalen Magie rauben, die das Internet auch Jahrzehnte nach seiner Entstehung noch umgibt. Viele Geschäftsmodelle im Internet – angefangen beim Onlineshopping über Dating-Portale bis hin zu Social Networks – basieren auf der elementaren Annahme der Benutzer, dass man sich, ohnehin geschützt durch seinen Monitor, in einem sicheren Raum bewegt. Die Vorstellung, dass dieser Schutz auf der schmutzigen Arbeit vieler tausend, schlecht bezahlter Arbeiter beruht ist nicht nur unangenehm und profan, sie erzeugt auch ein mulmiges Gefühl der Unsicherheit. Menschen machen Fehler. Was, wenn diese Menschen versagen?

Zum anderen ist die Arbeit der Philippiner so dreckig, dass sie unweigerlich auf die hochglanzpolierte und mit millionenschweren Marketing-Budgets getunte Oberfläche der Dienste und Plattformen abfärben würde. Wir erinnern uns an naheliegende Beispiele aus der Hardware-Industrie: nicht einmal der Branchen-Primus Apple wird bis heute seinen Ruf los, chinesische Arbeiter in den Foxconn-Werken auszubeuten. Dass an all’ unseren Smartphones das Blut afrikanischer Kinder klebt, dürfte auch den meisten bekannt sein und von der bis heute nicht zufriedenstellend beantworteten Frage, wohin wir eigentlich unseren Elektronikschrott verschiffen wollen wir gar nicht anfangen.

Muss man sich nun öffentlich als bisher “sauber” aufgestelltes Software-Unternehmen für den Export von “digitalem Müll” rechtfertigen? Lieber nicht, so lautet offenbar das Mantra.

You just think, ‘Holy shit, what am I spending my day doing? This is awful.’ Ehemaliger YouTube Content Moderator

Das Zentrum der digitalen Müllentsorgung liegt dabei aus nachvollziehbaren Gründen auf den Philippinen. Zum einen handelt es sich bei dem Inselstaat um eine ehemalige us-amerikanische Kolonie, auf der sich bereits in frühen Jahren us-amerikanischen Konzerne niederliessen. Im zweiten Weltkrieg kämpfte man gemeinsam gegen die Japaner, die USA erhielten über lange Jahre wirtschaftliche und militärische Sonderrechte in dem längst unabhängigen Staat. So etwas prägt und verbindet, auch kulturell. Einem großen Teil der Philippiner sagt man nach, dass sie sich, verglichen mit anderen asiatischen Staaten, besonders gut us-amerikanische Werte und Moralvorstellungen nachvollziehen können. (Bis hin zum Bedarf an feinem Schuhwerk).

Eine andere Sichtweise für die Wahl des Standorts führt Moritz Riesewieck in einem hochinteressanten Interview mit taz.de an, nachdem er von einer Recherche-Reise zurückkehrte. Neben dem vergleichsweise geringen Stundenlohn komme den us-amerikanischen Unternehmen vor allem zugute, dass es in dem z.T. mit Religionskonflikten belasteten Land eine erzkatholische Bevölkerungsmehrheit gebe, deren Werte-Kodex perfekt zur hierzulande oft als Bigotterie wahrgenommenen Arbeit der us-amerikanischen Social Networks passt. Exemplarisch für diese Arbeit steht eigentlich Facebooks rigoroses Vorgehen gegen alle Bilder, auf denen weibliche Brustwarzen oder – mitunter – entblösste Waden und Schenkel zu sehen sind.

Riesewieck geht noch einen Schritt weiter und zieht Vergleiche mit philippinischen Oster-Prozessionen, bei denen sich Katholiken an Kreuze nageln lassen. Seiner Meinung nach können 500.000 bis 1 Million Menschen die Drecksarbeit nur deshalb bewältigen, weil sie dafür ein religiöses Grundmotiv haben: auf einer digitalen Mission befreien sie die Welt – uns, den Rest – von all’ dem Elend und Bösen, dessen Fratze uns sonst tagtäglich auf dem Bildschirm begegnen würde.

Man kann das faszinierend finden, einfach nur dankbar dafür sein oder Mitleid für diese Menschen aufbringen. Fakt ist: sie bezahlen einen hohen Preis. Viele der Mitarbeiter gelten trotz ihres jungen Alters nach weltweiten Standards längst als traumatisiert, auch wenn sie nach einem mehr oder weniger kurzen Zeitraum die Arbeit aufgeben. Die Bilder von grauenhaften Unfällen, Enthauptungen, Kindesmisshandlungen, Tierquälereien, Vergewaltigungen oder Lynchjustiz bekommen nur die wenigsten von ihnen wieder aus dem Kopf. Auf eine fundierte psychologische Betreuung können nur die wenigsten hoffen.

Quelle (u.a.) wired.com