discours van leden – ook in zogenaamde besloten groepen – Facebook gebruikt zijn community-normen gewoon om iedereen te blokkeren.
Getty
Sinds hij vorige maand de kwestie van Facebooks “gemeenschapsnormen” aankaartte, heeft deze verslaggever ontdekt dat het niet alleen militaire geschiedenis is die op de een of andere manier in overtreding kan zijn. Oude advertenties, oude stripboeken, antiek en zelfs speelgoed kunnen allemaal in strijd zijn met de algoritmen van Facebook en omdat het sociale netwerk de neiging heeft om het zekere voor het onzekere te nemen, kan alles wat ook maar enigszins controversieel is, worden gemarkeerd.
Het is waar dat Facebook probeert om een gemeenschapsnorm te handhaven om de veiligheid en het welzijn van zijn gebruikers te waarborgen. Maar is het markeren van een hakenkruis op een vintage stripboek (waarin de nazi’s duidelijk als de “slechteriken” worden gepresenteerd) of het verbieden van het plaatsen van een oud (en aantoonbaar beledigend) stuk reclame echt een oplossing voor het probleem?
In plaats van een ruimte te creëren voor een redelijk discours van leden – ook in zogenaamde besloten groepen – gebruikt Facebook gewoon zijn gemeenschapsnormen om iedereen te blokkeren.
Is Pop Culture Next?
Zelfs oude films en TV-shows zouden een probleem kunnen vormen op basis van hoe Facebook afbeeldingen of bepaalde “hot button” trefwoorden heeft gemarkeerd. Aangezien metadata en metatags in toenemende mate worden gebruikt om zoekmachines pagina’s naar boven te laten sorteren en online inhoud te catalogiseren door de aard zelf die zou kunnen leiden tot het blokkeren van inhoud op dergelijke platforms.
“Er is geen twijfel dat oudere films in strijd zouden kunnen zijn met ‘gemeenschapsnormen’,” verklaarde Andrew Nelson, voorzitter van het Department of Film & Media Arts en universitair hoofddocent Film Studies aan de Universiteit van Utah.
Er is enige ironie, aangezien Hollywoods “Hays Code” decennialang werd gebruikt om gemeenschapsnormen te handhaven.
“Films weerspiegelen, tot op zekere hoogte, de normen en moraal van de tijd waarin ze werden gemaakt, en we weten allemaal dat normen en moraal veranderen,” zei Nelson. “Dat gezegd hebbende, denk ik dat de meerderheid van de mensen die geneigd zijn naar oudere films te kijken, dit begrijpen. Oude films worden vaak op een ‘gecureerde’ manier gepresenteerd – op TCM, of op Blu-ray met extra features – waarbij context wordt geboden. Er valt ook iets te zeggen over de geschiedenis van de cinema, die deels een geschiedenis is van het overwinnen van censuur.”
White Washing History
Het gevaar van het gebruik van een allesomvattende “community standards” op sociale media is dat het alle discussie het zwijgen oplegt, althans in de openbaarheid. Het blokkeert in wezen inhoud die enigszins controversieel zou kunnen zijn en stopt elk zinvol gesprek in het proces.
“In het belang van het niet propageren van haat en racisme, moeten we voorzichtig zijn dat we onze geschiedenis niet witwassen,” suggereerde Nathaniel Ivers, afdelingsvoorzitter en een universitair hoofddocent in het Online Master’s in Counseling Program aan de Wake Forest University.
“Zoals het cliché luidt, als we de geschiedenis niet bestuderen en ervan leren, zullen we die waarschijnlijk herhalen,” waarschuwde Ivers. “
Het verbieden van afbeeldingen omdat ze mogelijk aanstootgevend zijn – zoals een vintage advertentie of historische foto – levert zijn eigen probleem op.
“Achteraf kunnen we echt zeggen dat de afbeeldingen die werden gebruikt om reclame te maken voor (sommige vintage) producten, op zijn minst onverantwoord waren,” merkte James R. Bailey op, professor in leiderschap aan de George Washington University School of Business. “Maar verwijtbaar racistisch? Onwaarschijnlijk. Het was gewoon marketing, zo bot als het was.”
Het feit dat zo’n oude advertentiecampagne misschien niet verwijtbaar racistisch was, zou er niet toe doen in termen van sociale media-community-normen. Het loutere feit dat het zou kunnen beledigen zou genoeg zijn om het als een probleem te beschouwen.
Dat op zichzelf is zorgwekkend voegde Bailey eraan toe. “De laatste keer dat Amerika deze exercitie doormaakte, verbrandden we boeken, zoals Harper Lee’s To Kill a Mockingbird. We verbranden geen boeken meer. Maar we verbieden ze wel, of alle afbeeldingen die als aanstootgevend kunnen worden opgevat, op sociale media. Of dat nu foto’s zijn van onschuldig kinderspeelgoed, restaurants uit vervlogen tijden, of drop snoepjes. Deze dingen zijn niet subversief. Het is geschiedenis. Laten we er met een wrange glimlach naar kijken, en ze dan begrijpen voor wat ze waren.”
Een handhavingskwestie
In de kern van het probleem kan Facebook vergeven worden voor hoe het met deze problemen omgaat. Wie kan echt een oude advertentie verdedigen die vandaag de dag als racistisch zou worden beschouwd en wie kan echt het tonen van een hakenkruis verdedigen, zelfs als het op een vlag staat die opa 76 jaar geleden heeft meegenomen van Normandië Beach?
Toch zorgt de algemene term van gemeenschapsnormen ervoor dat geen van beide items zelfs in de openbaarheid op het platform kan worden besproken.
“Simpel gezegd, Facebook kan er niet achter komen hoe het consequent zijn eigen normen kan handhaven,” zegt David Kirsch, universitair hoofddocent Management en Ondernemerschap in het online MBA-programma aan de Universiteit van Maryland.
“Alles overlaten aan het algoritme resulteert in de ervaringen die je hebt gedocumenteerd – schijnbaar onschuldige, historisch legitieme foto’s, materialen en bijdragen worden ten onrechte gemarkeerd als schendingen,” legde Kirsch uit. “Het is onmogelijk om uit te vinden waar de AI van Facebook precies de grens trekt tussen een ongepast stuk nazi-propaganda en een legitiem historisch onderzoek naar datzelfde onderwerp, omdat het algoritme zelf gepatenteerd is en daarom onzichtbaar voor ons. We zien alleen de resultaten.”
Hoe die resultaten worden behandeld, staat ook ter discussie.
“Sommige items worden geblokkeerd die dat niet zouden moeten zijn – vals-positief – terwijl andere items erdoorheen komen die dat misschien niet zouden moeten zijn – vals-negatieven, zoals de dubieuze Trump-posts,” zei Kirsch. “Veel grijze gebieden lijken te smeken om duidelijkheid, maar we krijgen niets. Oplossingen voor dit probleem zijn niet eenvoudig, gezien de omvang van de uitdaging, maar het is niet onmogelijk. We zouden ons bijvoorbeeld een community standards board kunnen voorstellen die zo is geconstrueerd dat iemand in jouw positie je artikel uitdrukkelijk ter beoordeling zou markeren, waarmee je aan de board aangeeft dat je je bewust bent van de grenzen die je nadert.”
Facebook – net als elk ander social media-bedrijf – is er niet echt om een platform voor zinvolle discussies te creëren, en dat is misschien een belangrijk punt om te onthouden. In sommige opzichten zouden de gemeenschapsnormen niet anders kunnen zijn dan de lokale kroeg die een beleid heeft dat discussies over religie of politiek verbiedt, of een academische club die alle zakelijke gesprekken verbiedt.
Daarnaast is er het feit dat Facebook gewoon niet de moeite kan nemen om een platform van zinvolle discussies te worden.
“Ik kan begrijpen hoe sociale-mediabedrijven ingrijpende beleidsbeslissingen zouden kunnen nemen om dit soort berichten te beperken, omdat het erg moeilijk en kostbaar zou zijn om beoordelingen te ontwikkelen en uit te voeren die de intentie van gebruikers achter hun berichten bepalen,” voegde Ivers eraan toe. “Ik vermoed dat deze bedrijven mazen in de wet proberen te vermijden die haatgroepen zouden kunnen gebruiken om vitriool te verspreiden.”