← Symptômes

Xénophobie & violence

Le lien entre la haine en ligne et la violence dans le monde réel a été documenté avant que beaucoup de gens aient seulement entendu parler de Facebook.

Comment lire cette page. Touchez un mot souligné pour voir le terme académique précis et une courte définition. Dépliez un encadré « Pour aller plus loin » pour les preuves et les points contestés. Le texte principal se suffit à lui-même : vous pouvez ignorer les deux et suivre quand même tout le raisonnement.

La chronologie

Stormfront — le premier grand site de haine sur internet — a été créé en 1995. Dès le début des années 2000, des chercheurs étudiaient jusqu’où les participants de salons de discussion racistes blancs étaient prêts à aller dans leurs appels à la violence. En juin 2004, l’OSCE a tenu à Paris une réunion intergouvernementale officielle consacrée précisément à la propagande raciste et xénophobe en ligne et à son lien avec les crimes de haine — près de vingt ans avant que le règlement sur les services numériques (Digital Services Act) de l’UE n’oblige les plateformes à évaluer ce risque. Début 2007, le Southern Poverty Law Center comptait environ 12 000 vidéos de propagande suprémaciste blanche, enregistrements de concerts de « hate rock » et pseudo-documentaires négationnistes librement accessibles sur YouTube et d’autres sites de partage de vidéos.

Ce n’est pas une relecture après coup. Ces avertissements étaient contemporains des faits, précis et solidement étayés — documentés avant que les plateformes qui ont amplifié le problème à grande échelle ne deviennent dominantes.

Le Myanmar : le cas documenté

La domination de Facebook au Myanmar a commencé à s’installer vers 2012, quand le pays s’est ouvert après des décennies de régime militaire ; en 2018, la plateforme comptait 18 millions d’utilisateurs, environ un tiers de la population, et pour la plupart des personnes connectées, Facebook, c’était internet. Des enquêteurs de l’ONU et des journalistes ont documenté le rôle de Facebook dans l’amplification des discours de haine contre les Rohingyas à partir de 2016. Facebook a lui-même reconnu en 2018 ne pas en avoir fait assez pour empêcher que la plateforme serve à inciter à la violence. En 2017, l’armée du Myanmar a mené contre le peuple rohingya une campagne dont la rapporteuse spéciale de l’ONU sur le Myanmar a dit, en mars 2018, qu’elle présentait « les caractéristiques d’un génocide » ; la Mission d’établissement des faits de l’ONU a ensuite demandé que de hauts responsables militaires fassent l’objet d’enquêtes et de poursuites pour génocide.

Le chemin causal qui va de l’amplification sur Facebook aux atrocités est complexe : tensions ethniques préexistantes, action militaire, griefs historiques, tout cela a joué un rôle. Ce qui est documenté : Facebook était le principal environnement d’information, il a amplifié des contenus qui déshumanisaient la population rohingya, la Mission internationale indépendante d’établissement des faits de l’ONU a jugé la réaction de l’entreprise aux discours de haine sur sa plateforme « lente et inefficace », et l’étude d’impact sur les droits humains que Facebook avait lui-même commandée à BSR a constaté que la plateforme était « utilisée par des acteurs malveillants pour diffuser des discours de haine, inciter à la violence et coordonner des actions nuisibles ».

L’algorithme ne choisit pas la haine. Il choisit l’engagement.

Le mécanisme est le même partout sur ce site. L’algorithme n’a pas d’opinion sur l’origine ethnique ou la politique. Il met en avant les contenus qui suscitent de fortes réactions émotionnelles — et la haine, la peur et l’identité tribale sont parmi ce qui suscite le plus d’engagement. Ce qui en découle est plus limité que le récit répandu : la plateforme réduit l’effort nécessaire pour trouver des contenus extrêmes, et pour se trouver entre personnes qui les cherchent, et elle sert en priorité ces contenus à ceux qui penchent déjà dans ce sens. La question de savoir si le système de recommandation (recommender system) suffit à lui seul à provoquer l’escalade est contestée.

Une présentation interne de Facebook datant de 2016, qui étudiait des groupes politiques en Allemagne, a constaté que 64 % de toutes les adhésions à des groupes extrémistes passaient par les outils de recommandation de la plateforme elle-même — « nos systèmes de recommandation font grossir le problème », comme le disait la diapositive. Le mécanisme est expliqué sur la page Comment ça marche.

Ce que montre la recherche sur les liens entre haine en ligne et violence hors ligne

Les recherches sur la relation entre les discours de haine en ligne et la violence hors ligne trouvent des corrélations. Une étude de Müller et Schwarz a mis en évidence une relation positive significative, à l’échelle locale, entre les publications Facebook hostiles aux réfugiés et les attaques contre des réfugiés en Allemagne — et, en se servant des coupures d’internet comme d’une expérience naturelle, elle a montré que cette relation s’affaiblissait quand l’accès était coupé.

Pour le dire honnêtement : un chemin causal a été documenté, avec rigueur, dans un pays et sur une période donnés. Il n’est pas déterministe — la plupart des personnes qui consomment des contenus haineux ne commettent pas de violences. Mais la direction est constante. C’est l’ampleur de l’amplification qui modifie les taux de base.

Comment le sait-on — l’expérience naturelle derrière le résultat sur les attaques contre des réfugiés +

L’objection habituelle à l’idée que « la haine en ligne va de pair avec les attaques hors ligne » est que les villes plus hostiles pourraient simplement avoir à la fois plus de publications haineuses et plus d’attaques, internet ne faisant que suivre le mouvement. Müller et Schwarz (2021) ont répondu à cette objection par une expérience naturelle : ils se sont servis des pannes locales d’internet et de Facebook — des interruptions sans rapport avec les attitudes locales — comme d’un levier. Là où les pannes coupaient l’accès, la relation entre le sentiment hostile aux réfugiés et les attaques contre des réfugiés s’affaiblissait. Comme ces pannes étaient pour l’essentiel aléatoires au regard de la politique locale, on se rapproche bien davantage d’une affirmation causale que d’une simple corrélation.

Ce que cela montre, et ses limites. C’est une preuve solide que la plateforme a amplifié un sentiment existant jusqu’à le faire passer à l’acte, dans un pays et à une période donnés — pas une constante universelle. Cela ne dit pas que toute personne exposée devient violente : l’affirmation porte sur des taux de base déplacés dans de nombreuses communautés, ce qui est exactement l’allure qu’aurait une amplification à grande échelle.

Ce que vous pouvez faire →
Élections & atteintes à la démocratie →
Oui, mais… →