Pour les adolescents

Ce n’est pas un manque de volonté. Tout cela a été conçu.

Comment lire cette page. Touche n’importe quel mot souligné pour voir le terme précis et une courte définition. Déplie un encadré « Pour aller plus loin » pour les preuves et les points contestés. Le texte principal tient tout seul : tu peux sauter les deux et suivre quand même tout le raisonnement.

Tu sais sans doute déjà que quelque chose cloche. Tu prends ton téléphone pour vérifier une seule chose, et quarante minutes passent. Après avoir fait défiler ton fil, tu te sens vaguement moins bien qu’avant. Les choses qui te mettent en colère en ligne te donnent, on ne sait comment, envie de continuer à regarder. Tu sais que c’est bizarre. Tu le fais quand même.

Ce n’est pas un problème de caractère. C’est un problème d’ingénierie. Les applis que tu utilises ont été construites par des équipes dont le travail était de comprendre exactement ce qui garde quelqu’un comme toi sur la plateforme le plus longtemps possible. Elles l’ont étudié pendant des années. Elles ont testé variante après variante. La version qui est sur ton téléphone en est le résultat : un produit spécialement optimisé pour être difficile à lâcher. Ce n’est pas ta faute.

Comment ça marche

L’algorithme observe tout ce que tu fais : ce sur quoi tu t’arrêtes, ce que tu passes, ce qui te fait réagir. Il construit un modèle de ce qui, exactement, te fait continuer à regarder, et il t’en sert davantage. Pas parce qu’il veut t’aider — il ne sait pas ce que veut dire aider — mais parce que plus de temps sur la plateforme, c’est plus de revenus publicitaires.

Les émotions qui, il l’a appris, marchent le mieux ? L’indignation. La peur. Le sentiment que quelque chose est injuste. Les messages qui portent ce genre de charge morale circulent plus loin que les messages qui n’en ont pas. Ton cerveau n’est pas cassé parce qu’il y réagit. Ton cerveau a évolué pour faire attention aux menaces. Ce qui a changé, c’est qu’un système construit pour trouver tout ce qui retient ton attention a découvert que les menaces y arrivent, et il t’en montre toujours plus, en continu, parce que c’est pour ça que l’entreprise est payée.

Les pièges qui comptent le plus à ton âge

La machine est la même pour tout le monde ; l’endroit où elle mord dépend de qui tu es. Trois schémas reviennent le plus souvent chez les jeunes de ton âge.

L’image corporelle. Les fils centrés sur l’image apprennent vite que la comparaison retient l’attention : des filtres, des meilleurs moments soigneusement choisis, et un flot sans fin de gens qui ont l’air plus en forme, plus beaux et plus heureux — qu’on te montre justement parce que ce sur quoi tu t’arrêtes révèle ce qui te fait mal. Le lien entre les plateformes centrées sur l’image et l’insatisfaction à l’égard de son corps fait partie des effets néfastes les mieux documentés, en particulier chez les filles — les preuves sont ici.

La manosphere. Si tu es un jeune homme, les contenus sur la masculinité, ou sur les raisons pour lesquelles la vie est dure pour les hommes, peuvent te donner l’impression de parler directement de ce que tu vis — et l’isolement et la pression qu’ils décrivent sont réels. Mais une partie de ces contenus se sert de ces sentiments réels comme d’une porte d’entrée vers une vision du monde qui attribue les difficultés des hommes principalement aux femmes et au féminisme. Et le fil rend ces contenus faciles à trouver, tout comme d’autres personnes qui les partagent — non pas parce que l’algorithme est d’accord, mais parce que l’indignation et l’identité de groupe retiennent les gens devant l’écran. La part de cette dérive que provoquent les recommandations elles-mêmes fait débat. Ce qui ne fait pas débat, c’est que, quand elle se produit, elle se produit un petit pas après l’autre, et c’est ce qui rend la direction difficile à voir de l’intérieur.

Le sommeil. Le chemin le mieux documenté entre le temps passé à faire défiler son fil et le fait de se sentir plus mal passe par le sommeil. Le fil est conçu pour que le « juste un de plus » ne demande aucun effort, et il n’en demande pas davantage à une heure du matin. Un téléphone qui charge en dehors de la chambre, c’est le changement qui a derrière lui les preuves les plus constantes — voir les recherches.

Chemin de la radicalisation (radicalisation pipeline)

Le chemin qui mène de contenus ordinaires vers des contenus extrêmes — souvent appelé le « rabbit hole ». Ce qui est bien établi est plus limité que ne le laisse penser le nom : la plateforme rend moins coûteux de trouver des contenus extrêmes et de trouver d’autres personnes qui les partagent, et elle sert ces contenus en priorité aux personnes qui penchent déjà dans ce sens. La question de savoir si les recommandations provoquent à elles seules l’escalade est contestée parmi les chercheurs — la version honnête se trouve sur la page Chemins de la radicalisation.

Sources

Roose, K. (2019), "The Making of a YouTube Radical", New York Times.
Hosseinmardi, H. et al. (2021), Examining the consumption of radical content on YouTube, PNAS 118(32).
Chen, A.Y., Nyhan, B., Reifler, J., Robertson, R.E. & Wilson, C. (2023), Subscriptions and external links help drive resentful users to alternative and extremist YouTube channels, Science Advances 9.

Ce qui aide vraiment

Pas tout supprimer. Comprendre la machine. Des recherches de l’université de Cambridge (Roozenbeek, van der Linden et leurs collègues, 2022) montrent que savoir comment fonctionne une technique de manipulation te rend significativement plus résistant face à elle. Le jeu Bad News, sur getbadnews.com, enseigne six techniques en 15 minutes environ, et il est vraiment intéressant. Jouer le rôle du manipulateur semble plus efficace que lire des textes sur la manipulation : dans une étude, un jeu similaire a donné de meilleurs résultats que la lecture d’infographies, mais les chercheurs n’ont pas vérifié si l’écart dépassait ce que le hasard peut produire.

Désactive les notifications, en particulier celles des réseaux sociaux. La notification est un mécanisme de récompense variable (variable reward) : son rôle est de te faire revenir sur l’appli, que ce qu’elle annonce compte pour toi ou non. La désactiver ne supprime pas les applis : ça enlève l’un des hameçons les plus puissants.

Récompense variable (variable reward, variable-ratio reinforcement)

Une récompense qui arrive à un rythme imprévisible : la plupart des notifications ne sont rien, de temps en temps l’une d’elles compte, et ne pas savoir laquelle est exactement ce qui te pousse à vérifier. C’est le même mécanisme qui fait qu’on a du mal à s’éloigner d’une machine à sous. Désactiver les notifications enlève l’hameçon à la source : tu n’as plus à compter sur ta volonté toutes les quelques minutes.

Si ça devient trop lourd, parles-en à quelqu’un. La plupart de ces services sont gratuits — chaque entrée indique son coût lorsque celui-ci est précisé :

112 UE — Le numéro d’urgence de tous les pays de l’UE, gratuit depuis n’importe quel téléphone. À appeler en premier si quelqu’un est en danger immédiat.
15 · 17 · 18 · 114 (France) FR — Les numéros d’urgence en France, gratuits, jour et nuit : le 15 pour une urgence médicale (Samu), le 17 pour la police, le 18 pour les pompiers. En cas de difficulté à parler ou à entendre, SMS au 114. Appeler d’abord si quelqu’un est en danger immédiat.
119 — Allô Enfance en danger FR — Pour un enfant ou un adolescent en danger, ou un adulte inquiet pour lui : le 119, gratuit, jour et nuit, depuis n’importe quel téléphone ; l’appel n’apparaît sur aucun relevé. Un tchat est aussi ouvert aux jeunes. Un service public.
3018 — e-Enfance FR — Le numéro national pour les jeunes victimes de harcèlement, de cyberharcèlement (cyberbullying) ou d’autres violences numériques, et pour leurs parents : le 3018, par téléphone ou dans l’appli 3018, gratuit et anonyme, tous les jours de 9 h à 23 h. Il peut faire supprimer en quelques heures les contenus et comptes préjudiciables.
3114 — Numéro national de prévention du suicide FR — Des pensées suicidaires, ou de l’inquiétude pour quelqu’un ? Le 3114 répond gratuitement, jour et nuit, partout en France : un professionnel du soin formé à la prévention du suicide. Piloté par le ministère chargé de la santé.
Fil Santé Jeunes FR — Pour les 12-25 ans : le 0800 235 236 (tous les jours de 9 h à 23 h) ou le tchat (tous les jours de 9 h à 22 h), gratuits et anonymes, avec des psychologues, des médecins et d’autres professionnels. Financé par Santé publique France.
Befrienders Worldwide International — Un réseau mondial de centres de soutien émotionnel.
Find A Helpline International — Recherche de lignes d’écoute gratuites par pays et par thème.

Trouver de l’aide locale →

Pour aller plus loin — est-ce que savoir tout ça change vraiment quelque chose ?

Bonne question. Savoir que les applis sont conçues pour te retenir ne te fait pas lâcher ton téléphone comme par magie : les hameçons agissent sur la partie rapide et automatique de ton cerveau, qui se fiche de ce que tu sais. Alors une prise de conscience générale (« les réseaux sociaux, c’est de la manipulation, bref ») n’aide presque pas.

Ce qui aide vraiment, ce sont des connaissances précises : pouvoir nommer le coup exact au moment où il se joue — « ça, c’est une récompense variable », « ça, c’est le levier de l’indignation », « ça, c’est le pipeline qui me pousse un pas plus loin ». Des chercheurs de Cambridge l’ont testé : les personnes qui avaient appris à repérer les techniques sont devenues mesurablement plus difficiles à manipuler, sur tout l’éventail politique. Le jeu Bad News marche parce qu’il fait de toi le manipulateur pendant environ 15 minutes : tu sens les coups de l’intérieur. C’est toute la différence entre savoir que la machine existe et la prendre vraiment sur le fait.

Sources

Roozenbeek, J., van der Linden, S. et al. (2022), Psychological inoculation improves resilience against misinformation on social media, Science Advances 8(34) — les tests de terrain de Cambridge, efficaces sur tout l’éventail politique.
Bad News — le jeu d’inoculation, gratuit dans le navigateur, conçu par le Social Decision-Making Lab de Cambridge et DROG.
Roose, K. (2019), "The Making of a YouTube Radical", New York Times.
Brady, W.J., Wills, J.A., Jost, J.T., Tucker, J.A. & Van Bavel, J.J. (2017), Emotion shapes the diffusion of moralized content in social networks, PNAS 114(28) — chaque mot à la fois moral et émotionnel augmentait d’environ 20 % la diffusion d’un message.
Roozenbeek, J. & van der Linden, S. (2019), Fake news game confers psychological resistance against online misinformation, Palgrave Communications 5(65) — l’évaluation de Bad News, 15 000 joueurs ; environ 15 minutes de jeu ; les six techniques que le jeu enseigne ; développé avec DROG.
Basol, M., Roozenbeek, J., Berriche, M., Uenal, F., McClanahan, W.P. & van der Linden, S. (2021), Towards psychological herd immunity: Cross-cultural evidence for two prebunking interventions against COVID-19 misinformation, Big Data & Society 8(1) — le jeu Go Viral! comparé à des infographies de l’UNESCO : la lecture aidait aussi, « quoique avec des tailles d’effet descriptivement plus petites que celles du jeu ».