Bloquez la haine

À mesure que les médias sociaux sont devenus ancrés dans les habitudes et les comportements quotidiens, on a également constaté une augmentation (ou une plus grande visibilité) des groupes fondés sur la haine.
Très souvent, ces groupes prennent la forme de véritables organisations terroristes et criminelles, qui cherchent à utiliser les plateformes en ligne pour mieux diffuser leur idéologie, recruter de nouveaux membres et coordonner le comportement des membres existants. Ces organisations cherchent à tirer parti des réseaux sociaux ou d’autres canaux en ligne en raison de la capacité de ces plateformes à diffuser des informations rapidement et largement. Pour endiguer ce phénomène, les principaux médias sociaux tentent de limiter les opérations en ligne de ces organisations, souvent en supprimant des membres ou en adoptant le deplatforming, c'est-à-dire en empêchant ceux qui ont des opinions inacceptables ou offensantes de contribuer à un forum ou à un débat, par exemple en les bloquant sur le site. plate-forme.

Dans quelle mesure ces interventions réussissent-elles à résoudre le problème ?
Une étude récente publiée dans la prestigieuse revue scientifique PNAS tente de répondre à cette question. Les auteurs utilisent une technique économétrique appelée différences dans les différences, basée sur la comparaison des résultats d'une intervention avant et après celle-ci, et entre ceux qui ont été affectés par l'intervention (« traités ») et ceux qui ne l'ont pas été. La technique utilisée par les auteurs exploite notamment les temps décalés de six événements déplatformants (l'intervention dont nous voulons évaluer l'efficacité) tant au niveau organisationnel qu'au niveau des utilisateurs.

Les auteurs se concentrent sur les effets des « perturbations stratégiques du réseau », un type de déplateforme dans lequel les principaux membres d'une organisation fondée sur la haine sont simultanément retirés de la plateforme, éliminant ainsi la direction en ligne de l'organisation. Le but de cette approche est de perturber les activités organisationnelles en supprimant simultanément les membres clés d’une organisation de la plateforme, afin de désarticuler leur leadership et d’entraver leur capacité à se regrouper et à diffuser des contenus préjudiciables. Si cette approche devait être efficace, le public cible en ligne de l'organisation devrait être exposé à moins de radicalisation et de contenus haineux, et ainsi réduire leur production.

Les résultats sont positifs. Les perturbations stratégiques du réseau semblent contribuer à la création d'une plateforme plus saine, où les membres des publics cibles des organisations fondées sur la haine réduisent leur consommation et leur production de contenu haineux et interagissent moins avec les autres membres du public. Il s’agit cependant de résultats agrégés, masquant une hétérogénéité substantielle entre les membres du public qui ont le plus interagi avant l’intervention et ceux qui sont les moins engagés.
Alors que ces derniers réduisent leur engagement dans les contenus haineux et auprès d’autres membres du public suite à la destitution du leadership, ceux qui sont plus actifs réagissent de manière inverse à ce que l’on pourrait attendre d’une telle mesure. Autrement dit, ils augmentent la consommation et la production de contenus haineux et interagissent davantage avec d’autres membres du public. Cet effet indésirable est cependant de courte durée. Deux mois après l’intervention de déplateforme, même les personnes les plus proches de l’organisation réduisent leur engagement envers les contenus haineux et envers le reste du réseau.

Globalement, les résultats sont plutôt encourageants : les perturbations stratégiques des réseaux améliorent la qualité des contenus créés et consommés par la partie des utilisateurs qui risque le plus d'être influencée ou « captée », c'est-à-dire ceux qui sont les moins proches de l'organisation. . Si les perturbations semblent encourager – plutôt que calmer – une partie du public à court terme, ce résultat semble s’inverser à long terme.

Perturber la direction d’une organisation fondée sur la haine peut donc l’affaiblir, la rendre moins capable de diffuser des contenus négatifs et se renforcer.
Un autre aspect important pour la portée des résultats est le lien potentiel entre en ligne et la réalité. Inhiber la circulation de la haine en ligne peut également influencer le comportement hors ligne. En fait, les auteurs de crimes haineux reconnaissent l’influence des groupes en ligne sur leur comportement et l’utilisation des médias sociaux est associée à une plus grande incidence de crimes haineux hors ligne.

Pierluigi Conzo
NP Août / Septembre