discours des membres – y compris dans les groupes dits privés – Facebook utilise simplement ses normes communautaires pour tout bloquer.
Getty
Depuis qu’il a abordé la question des « normes communautaires » de Facebook le mois dernier, ce journaliste a constaté qu’il n’y a pas que l’histoire militaire qui peut en quelque sorte être en infraction. Les publicités vintage, les vieilles bandes dessinées, les antiquités et même les jouets peuvent tous aller à l’encontre des algorithmes de Facebook et, comme le réseau social a tendance à pécher par excès de prudence, tout ce qui est même légèrement controversé peut être signalé.
Il est vrai que Facebook essaie de maintenir un standard communautaire pour assurer la sécurité et le bien-être de ses utilisateurs. Mais est-ce que le fait de signaler une croix gammée sur une bande dessinée vintage (où les nazis sont clairement présentés comme les « méchants ») ou d’interdire la publication d’une publicité ancienne (et sans doute offensante) règle vraiment le problème ?
Au lieu de créer un espace pour un discours raisonnable des membres – y compris dans les groupes dits privés – Facebook utilise simplement ses normes communautaires pour tout bloquer.
La culture populaire est-elle la prochaine ?
Même les vieux films et les émissions de télévision pourraient poser problème en fonction de la façon dont Facebook a marqué les images ou certains mots-clés « hot button ». Comme les métadonnées et les métabalises sont de plus en plus utilisées pour que les moteurs de recherche trient les pages vers le haut et cataloguent le contenu en ligne par la nature même qui pourrait entraîner le blocage du contenu sur ces plates-formes.
« Il ne fait aucun doute que les vieux films pourraient aller à l’encontre des « normes communautaires » », a expliqué Andrew Nelson, président du département du film &des arts médiatiques et professeur associé des études cinématographiques à l’Université de l’Utah.
Il y a une certaine ironie car le « Code Hays » d’Hollywood a été utilisé pour maintenir les normes communautaires pendant des décennies.
« Les films reflètent, dans une certaine mesure, les normes et la morale de l’époque où ils ont été réalisés, et nous savons tous que les normes et la morale changent », a déclaré Nelson. « Cela dit, je pense que la majorité des gens qui sont enclins à regarder des films anciens le comprennent. Les vieux films sont souvent présentés de manière « soignée » – sur TCM, ou sur Blu-ray avec des fonctionnalités supplémentaires – où le contexte est fourni. Il y a aussi quelque chose à dire sur l’histoire du cinéma, qui est en partie une histoire de dépassement de la censure. »
L’histoire du lavage blanc
Le danger d’utiliser un attrape-tout « normes communautaires » sur les médias sociaux est qu’il fait taire toute la discussion, du moins dans l’ouverture. Il bloque essentiellement le contenu qui pourrait être légèrement controversé et arrête toute conversation significative dans le processus.
« Dans l’intérêt de ne pas propager la haine et le racisme, nous devons veiller à ne pas blanchir notre histoire », a suggéré Nathaniel Ivers, président du département et professeur associé du programme de maîtrise en ligne en counseling à l’Université Wake Forest.
« Comme le dit le cliché, si nous n’étudions pas et n’apprenons pas de l’histoire, nous sommes susceptibles de la répéter », a averti Ivers. « Ce dont je suis moins sûr, c’est où la ligne doit être tracée en termes de messages sur les médias sociaux et de partage virtuel de bandes dessinées, de modèles réduits de voitures et d’avions, etc. »
L’interdiction d’images parce qu’elles sont potentiellement offensantes – comme une publicité vintage ou une photo historique – présente son propre problème.
« Rétrospectivement, nous pouvons vraiment dire que les images utilisées pour faire la publicité de (certains) produits vintage étaient, au minimum, irresponsables », a noté James R. Bailey, professeur de leadership à la George Washington University School of Business. « Des racistes coupables, cependant ? C’est peu probable. Ce n’était que du marketing, aussi grossier soit-il ».
Le fait qu’une campagne publicitaire aussi ancienne puisse ne pas avoir été coupable de racisme n’aurait aucune importance en termes de normes communautaires des médias sociaux. Le simple fait qu’elle puisse offenser serait suffisant pour qu’elle soit considérée comme un problème.
Ceci est en soi inquiétant a ajouté Bailey. « La dernière fois que l’Amérique a fait cet exercice, nous avons brûlé des livres, comme To Kill a Mockingbird de Harper Lee. Nous ne brûlons plus de livres. Mais nous les interdisons, ainsi que toute image qui pourrait être interprétée comme offensante, sur les médias sociaux. Qu’il s’agisse de photos de jouets d’enfance innocents, de restaurants d’antan ou de bonbons au réglisse. Ces choses ne sont pas subversives. Elles font partie de l’histoire. Ayons un sourire ironique à leur égard, puis comprenons-les pour ce qu’elles étaient. »
Un problème d’application
Au cœur du problème, Facebook peut être pardonné pour la façon dont il gère ces problèmes. Qui peut vraiment défendre une vieille publicité qui serait considérée comme raciste aujourd’hui et qui peut vraiment défendre l’affichage d’une croix gammée, même si elle se trouve sur un drapeau que grand-père a ramené de la plage de Normandie il y a 76 ans ?
Pourtant, le terme général de normes communautaires garantit que ni l’un ni l’autre élément ne peut même être discuté ouvertement sur la plateforme.
« En termes simples, Facebook ne peut pas comprendre comment faire respecter ses propres normes de manière cohérente », a déclaré David Kirsch, professeur associé de gestion et d’entrepreneuriat dans le programme de MBA en ligne à l’Université du Maryland.
« Laisser tout à l’algorithme entraîne les expériences que vous avez documentées – des photos, des matériaux et des contributions apparemment inoffensifs et historiquement légitimes étant incorrectement signalés comme des violations », a expliqué Kirsch. « Trouver exactement où l’IA de Facebook trace la ligne entre une pièce inappropriée de propagande nazie et une enquête historique légitime sur ce même sujet est impossible parce que l’algorithme lui-même est propriétaire et donc invisible pour nous. Nous ne voyons que les résultats. »
La façon dont ces résultats sont traités est également en cause.
« Certains éléments sont bloqués qui ne devraient pas l’être – faux positifs – tandis que d’autres passent qui ne devraient peut-être pas – faux négatifs, comme les posts douteux de Trump », a déclaré Kirsch. « De nombreuses zones grises semblent réclamer de la clarté, mais nous n’obtenons rien. Les solutions à ce problème ne sont pas faciles, étant donné l’ampleur du défi, mais elles ne sont pas impossibles. Par exemple, nous pourrions imaginer un conseil des normes communautaires construit de telle sorte qu’une personne dans votre position signale expressément votre article pour examen, signalant ainsi au conseil votre conscience des limites que vous approchez. »
Facebook – ainsi que toute entreprise de médias sociaux – n’est pas vraiment là pour créer une plate-forme pour des discussions significatives, et c’est peut-être un point clé à retenir. D’une certaine manière, les normes communautaires pourraient n’être pas différentes de celles de l’abreuvoir local qui a une politique interdisant les discussions sur la religion ou la politique, ou d’un club universitaire qui interdit toute discussion sur les affaires.
Et puis il y a le fait que Facebook ne peut tout simplement pas être dérangé pour devenir une plate-forme de discussions significatives.
« Je peux comprendre comment les entreprises de médias sociaux pourraient prendre des décisions politiques radicales pour restreindre ces types de messages, car il serait très difficile et coûteux de développer et d’exécuter des évaluations qui déterminent l’intentionnalité des utilisateurs derrière leurs messages », a ajouté Ivers. « Je soupçonne ces entreprises d’essayer d’éviter les échappatoires que les groupes haineux pourraient utiliser pour pousser des agendas vitrioliques. »
.