En journalist gick undercover som ett Facebook-mod, uppmuntrat att hålla toxiciteten på webbplatsen

En journalist gick undercover som ett Facebook-mod, uppmuntrat att hålla toxiciteten på webbplatsen

Den brittiska sändaren Channel 4 gick nyligen undercover som Facebook-moderator. Tyvärr ser det ut som att det sociala nätverket har en lång väg att gå för att ta bort giftigt innehåll från webbplatsen, om det ens kan, enligt.

Under sin undercover-tid framställde Channel 4-journalisten sig som anställd på CPL Resources, en Dublin, Irlandsbaserad innehållsmoderationsentreprenör, som har arbetat med Facebook sedan 2010. På CPL fick journalisten utbildning, som ska undervisa nya anställda om Facebooks community-standarder. Därifrån började reportern granska innehåll inklusive bilder av grafiskt våld, barnmisshandel och hatprat.

Som förklarar,

Moderatorer fick tre alternativ när de granskade material: ignorera, ta bort eller markera som störande. Innehåll markerat som störande finns kvar på Facebook men har begränsningar för vem som kan se det.

Reportern hittade fall där bilder av barnmisshandel, rasism och våld fick stanna kvar på Facebook. I vissa fall avslöjade resultaten också vilda inkonsekvenser mellan hur moderatorer tränades och Facebooks standarder.

Bland innehållet tillåtet att fester på Facebooks servrar inkluderade video av en ung pojke som slogs av en vuxen och en rasistisk meme av en flicka som drunknade.

När Richard Allan, FB: s vice ordförande för allmän ordning, kontaktades av Channel 4 om några av de saker som den hittade, sa han till Channel 4: s Krishnan Guru-Murthy att videon “borde ha tagits ner.” Av meme sa Facebook att bilden faktiskt bryter mot dess hatpratspolitik och att den “granskar vad som gick fel för att förhindra att det händer igen.”

Undercover-reportern fann också att fall av hatprat var tillåtna. En kommentar riktad till muslimska invandrare som sa att ”f ** k tillbaka till dina egna länder” till exempel fick stanna kvar på webbplatsen. Hade kommentaren enbart riktats mot muslimer, snarare än muslimska invandrare, hade den uppenbarligen tagits bort.

”Människor diskuterar mycket känsliga frågor på Facebook, inklusive frågor som invandring. Och den debatten kan vara helt legitim, sade Allan som svar på kommentaren. När han blev pressad om huruvida det utgjorde hatprat sa han att det var “rätt på den linjen.”

Huruvida företaget tjänar på giftigt tal är fortfarande öppet för debatt.

Roger McNamee, en tidig Facebook-investerare som har blivit kritiker, säger att Facebook står för att dra nytta av det extrema innehållet.

Han förklarar: ”Det är den riktigt extrema, riktigt farliga formen av innehåll som lockar de mest engagerade människorna på plattformen. Facebook förstod att det var önskvärt att folk tillbringade mer tid på webbplatsen om du skulle ha ett reklambaserat företag. ”

Allan sa att det inte är sant och noterade att “Chockerande innehåll inte ger oss mer pengar – det är bara ett missförstånd om hur systemet fungerar,” sa han.

Oavsett sa Allan att företaget har granskat utbildningsmaterial hos entreprenörer som CPL och därefter tillhandahållit repetitionskurser för moderatorer.

Allt Channel 4 som avslöjats om den sociala webbplatsen presenteras i den nya dokumentären “.”

För mer tekniska och sociala nyheter, kolla in: