Naakt, geweld en discriminatie
Het is afgelopen jaar al vaker aan bod gekomen, en onlangs bevestigde The New York Times de verhalen nogmaals: een Facebook-moderator heeft het zwaar. Enkele moderatoren gingen in gesprek met de krant en vertelden dat ze soms wel duizend berichten per dag moeten verwerken. Vaak hebben ze minder dan 10 seconden de tijd om te bepalen of een bericht voldoet aan de Facebook-richtlijnen, of die overtreed.
Daarbij komt nog dat veel van deze richtlijnen onduidelijk zijn of ruimte voor interpretatie overlaten. Bovendien zijn veel regels gepasseerd op de context waarin een bericht wordt geplaatst en die context is lastig te beoordelen binnen 10 seconden. Neem bijvoorbeeld het bekende voorbeeld van naakt: in principe is het verboden om naaktbeelden op Facebook te delen, maar er is een uitzondering voor kunst. Dat roept de vraag op, waar ligt de grens tussen een ordinaire 'nude' en een kunstzinnig naaktportret?
Naakt is slechts één van de dingen die verboden is op Facebook. Ook geweld (aanzetten tot) haat, mishandeling, moord, verkrachting en discriminatie is verboden op het platform. De moderatoren zijn degene die moeten bepalen welke beelden en berichten wel door de beugel kunnen en welke niet. Dat betekent dat zij op dagelijkse basis veel zaken te zien krijgen die het daglicht niet kunnen verdragen.
Zwaarste baan van de 21e eeuw
Om deze redenen houden veel Facebook-moderatoren hun baan slechts enkele maanden vol. Daarna nemen ze ontslag vanwege traumatische ervaringen, slaapproblemen of te hoge werkdruk. Het is dus niet overdreven om te stellen dat Facebook-moderator een van de zwaarste beroepen van de 21e eeuw is.
LEES OOK: Facebook schrapt Common Grounds functie die polarisatie tegen moet gaan
Kunstmatige intelligentie als Facebook-moderator
Facebook claimt uiteraard dat er goed gezorgd wordt voor de medewerkers, maar toch willen ze in de toekomst meer en meer laten controleren door kunstmatige intelligentie. 'We hebben elke dag miljarden berichten en onze technische systemen herkennen vaker en vaker mogelijke overtredingen', zegt een ontwikkelaar. 'Maar zelfs als je 99 procent van de berichten correct beoordeelt, blijven er veel fouten over.'
