Eigentlich haben wir uns alle furchtbar lieb. Wir liken, wir chatten, und wir tauschen uns ständig aus. Doch manchmal geht ein Riss durch die schöne neue digitale Welt. So wie 2013, als auf Facebook das Video eines Kindesmissbrauchs hochgeladen wurde. Für die Regisseure Hans Block und Moritz Riesewieck der hochgelobten Doku "The Cleaners" der Anlass, um der Frage nachzugehen: Wer kontrolliert eigentlich, was auf Facebook und in anderen sozialen Netzwerken zu sehen ist?
Die US-Forscherin Sarah T. Roberts wusste die Antwort: Menschen. Nur auf Bilderkennungssoftware setzt keiner mehr, seit 2015 ein Google-Programm Afroamerikaner als "Gorillas" identifizierte.
Die Suche nach den Putzkolonnen des Internets führte die beiden Dokufilmer nach Manila. Wie in der analogen Welt, wo Reinigungskräfte an Billiglohnfirmen outgesourct werden, so sind auch die Spezialisten für digitalen Dreck nicht bei Facebook angestellt, sondern arbeiten für externe Unternehmen. Die Philippinen sind beliebt, weil hier viele Englisch sprechen und streng katholisch sind. Eine lustfeindliche Moral ist eine gute Voraussetzung, um rasch und konsequent gegen erotisch aufreizende Bilder vorzugehen. Dass dabei auch schon mal Kunstwerke wie Gustave Courbets "Der Ursprung der Welt" (1866) gelöscht werden, gilt aus Unternehmenssicht als Kollateralschaden. Nicht aber aus der Perspektive der Filmemacher: "Die Entscheidungen darüber, was gezeigt werden darf und was nicht, müssten eigentlich gut ausgebildete Menschen mit breiter Kunst- und Kulturkenntnis fällen, die erkennen können, was ernst gemeint und was Satire ist", sagt Moritz Riesewieck. "Das ist den Firmen aber zu teuer." Sie lassen lieber in Crashkursen ausgebildete 18- und 19-Jährige schuften.
Die US-Forscherin Sarah T. Roberts wusste die Antwort: Menschen. Nur auf Bilderkennungssoftware setzt keiner mehr, seit 2015 ein Google-Programm Afroamerikaner als "Gorillas" identifizierte.
Die Suche nach den Putzkolonnen des Internets führte die beiden Dokufilmer nach Manila. Wie in der analogen Welt, wo Reinigungskräfte an Billiglohnfirmen outgesourct werden, so sind auch die Spezialisten für digitalen Dreck nicht bei Facebook angestellt, sondern arbeiten für externe Unternehmen. Die Philippinen sind beliebt, weil hier viele Englisch sprechen und streng katholisch sind. Eine lustfeindliche Moral ist eine gute Voraussetzung, um rasch und konsequent gegen erotisch aufreizende Bilder vorzugehen. Dass dabei auch schon mal Kunstwerke wie Gustave Courbets "Der Ursprung der Welt" (1866) gelöscht werden, gilt aus Unternehmenssicht als Kollateralschaden. Nicht aber aus der Perspektive der Filmemacher: "Die Entscheidungen darüber, was gezeigt werden darf und was nicht, müssten eigentlich gut ausgebildete Menschen mit breiter Kunst- und Kulturkenntnis fällen, die erkennen können, was ernst gemeint und was Satire ist", sagt Moritz Riesewieck. "Das ist den Firmen aber zu teuer." Sie lassen lieber in Crashkursen ausgebildete 18- und 19-Jährige schuften.
Kinderpornos löschen für einen Dollar am Tag
Für einen Dollar am Tag sichten und beurteilen diese Zensoren im Hauruckverfahren bis zu 5000 Bilder. Wie hält man das aus, sich jeden Tag Enthauptungsvideos vom IS und Kinderpornos anzuschauen?
Darüber wollten nur wenige sprechen. Viele Firmen verbieten ihren Angestellten bei Androhung hoher Strafen, über ihre Arbeit zu reden. Block und Riesewieck verbrachten insgesamt mehr als ein halbes Jahr in Manila, um Kontakte zu knüpfen und Vertrauen zu gewinnen. Als sie endlich Mitarbeiter fanden, die auspackten, waren sie verblüfft. "Wir hatten eigentlich erwartet, dass sie auf ihre miesen Arbeitsbedingungen aufmerksam machen", sagt Hans Block. "Stattdessen waren sie stolz auf ihre Tätigkeit und bezeichneten sich als Polizei des Internets, die andere schützt."
Solche Erzählungen machen die Arbeit erträglicher. Aber manchmal nützt alles Schönreden nichts. Dann träumt man nachts von den Gräueln, die man tagsüber gesehen hat. Und für das Kopfkino gibt es keine Löschtaste. Einige halten das nicht aus. Sie nehmen sich das Leben. "Die Techfirmen weigern sich, Verantwortung zu übernehmen", sagt Hans Block. "Das gilt für die Mitarbeiter, aber auch für Demokratie und Wohlstand: Rund drei Milliarden Menschen nutzen die sozialen Medien, es ist das Kommunikationsmedium unserer Zeit, da kann man nicht einfach sagen, wir sind bloß eine Plattform."
Darüber wollten nur wenige sprechen. Viele Firmen verbieten ihren Angestellten bei Androhung hoher Strafen, über ihre Arbeit zu reden. Block und Riesewieck verbrachten insgesamt mehr als ein halbes Jahr in Manila, um Kontakte zu knüpfen und Vertrauen zu gewinnen. Als sie endlich Mitarbeiter fanden, die auspackten, waren sie verblüfft. "Wir hatten eigentlich erwartet, dass sie auf ihre miesen Arbeitsbedingungen aufmerksam machen", sagt Hans Block. "Stattdessen waren sie stolz auf ihre Tätigkeit und bezeichneten sich als Polizei des Internets, die andere schützt."
Solche Erzählungen machen die Arbeit erträglicher. Aber manchmal nützt alles Schönreden nichts. Dann träumt man nachts von den Gräueln, die man tagsüber gesehen hat. Und für das Kopfkino gibt es keine Löschtaste. Einige halten das nicht aus. Sie nehmen sich das Leben. "Die Techfirmen weigern sich, Verantwortung zu übernehmen", sagt Hans Block. "Das gilt für die Mitarbeiter, aber auch für Demokratie und Wohlstand: Rund drei Milliarden Menschen nutzen die sozialen Medien, es ist das Kommunikationsmedium unserer Zeit, da kann man nicht einfach sagen, wir sind bloß eine Plattform."