L’IA & la couche suivante

La machine à attention était déjà puissante. On s’attend à ce que l’IA générative rende ses usages les plus dangereux considérablement moins coûteux et plus rapides. Cette page présente ce qui s’est produit jusqu’ici.

Comment lire cette page. Touchez un mot souligné pour voir le terme scientifique exact et une courte définition. Dépliez un encadré « Pour aller plus loin » pour les preuves et les points contestés. Le texte principal se suffit à lui-même : vous pouvez ignorer les deux et suivre quand même tout le raisonnement.

Ce domaine évolue rapidement. Ce qui suit distingue ce qui est documenté (des preuves existent), ce qui est plausible (l’infrastructure existe, de premiers cas sont documentés) et ce qui reste inconnu.

Ce qui a changé

La capacité de manipulation de la machine à attention a toujours été limitée par une chose : le coût et le travail nécessaires pour produire du contenu personnalisé à grande échelle. Créer de faux profils convaincants, une désinformation sur mesure ou des messages qui visent les émotions demandait un effort humain considérable. L’IA générative est en train de lever cette contrainte.

Depuis 2022, il existe des outils capables de produire des textes convaincants, des images réalistes, des voix clonées et des vidéos synthétiques — et des chercheurs s’attendent à ce qu’ils fassent baisser le coût des campagnes d’influence et les rendent plus faciles à déployer à grande échelle. Associés à l’infrastructure de ciblage comportemental décrite sur la page Publicité & surveillance — qui sait repérer des profils psychologiques précis et leur servir du contenu avec exactitude —, ces outils forment un système capable de produire de la manipulation personnalisée à une échelle et à une vitesse jusque-là impossibles.

Médias synthétiques et hypertrucages (synthetic media, deepfakes)

Des images, des sons ou des vidéos générés ou modifiés par l’IA pour montrer des personnes en train de dire ou de faire ce qu’elles n’ont ni dit ni fait. La barrière technique s’est effondrée : un clone vocal convaincant ne demande plus que quelques secondes d’enregistrement. L’enjeu tient moins à un faux en particulier qu’au « dividende du menteur » (liar’s dividend) : dès lors que chacun sait que n’importe quoi pourrait être faux, une preuve authentique peut, elle aussi, être écartée comme fabriquée.

Sources

Chesney & Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
Wang, C., Chen, S., Wu, Y. et al. (2023), Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers, Microsoft Research, preprint arXiv — VALL-E, une voix personnalisée produite « à partir d’un enregistrement de seulement 3 secondes ».
Federal Trade Commission des États-Unis (20 mars 2023), Scammers use AI to enhance their family emergency schemes — « Il lui suffit d’un court extrait audio de la voix d’un membre de votre famille ».

Ce qui est documenté

Roumanie, novembre 2024. Fait sans précédent dans l’Union européenne, une élection présidentielle a été annulée à la suite d’éléments indiquant une amplification algorithmique coordonnée sur TikTok. Les services de renseignement roumains ont déclassifié des documents affirmant que Călin Georgescu, candidat ultranationaliste peu connu, qui était devancé dans les sondages par au moins cinq autres candidats, avait bénéficié d’une amplification coordonnée et d’une promotion payante sur TikTok. Il a remporté le premier tour avec 23 % des voix. La Cour constitutionnelle roumaine a ordonné de reprendre entièrement le processus électoral — une annulation sans précédent dans l’UE, pour cause d’ingérence numérique. Ce que les sources étayent varie selon l’affirmation. L’amplification coordonnée repose sur la note déclassifiée des services de renseignement, que la Cour a acceptée et que des critiques contestent ; le fait que des influenceurs (influencers) aient été payés pour publier des contenus qui ont fini par le promouvoir est aussi documenté en dehors de cette note, par une enquête de presse s’appuyant sur l’administration fiscale (voir plus bas) ; le rôle de l’IA générative dans ces contenus est une affirmation supplémentaire, aux preuves plus minces.

Comportement inauthentique coordonné (coordinated inauthentic behaviour, CIB)

Des réseaux de comptes qui cachent qui se trouve réellement derrière eux et agissent de concert pour qu’un message paraisse plus populaire ou plus spontané qu’il ne l’est : faux profils, amplification payante, partages assistés par des bots. Le terme vient du vocabulaire que Meta utilise elle-même pour faire appliquer ses règles. Ce qui rend ce comportement « inauthentique », c’est la coordination dissimulée, pas le contenu lui-même, qui peut être vrai, faux ou simplement clivant.

Sources

Atlantic Council (New Atlanticist) — analyse de l’annulation en Roumanie (2024).
Gleicher, N. (6 décembre 2018), Coordinated Inauthentic Behavior Explained, Meta Newsroom.
Gleicher, N. (2019), Removing More Coordinated Inauthentic Behavior From Iran and Russia, Meta Newsroom.

Les élections au Parlement européen de 2024 ont été considérées comme un « terrain d’essai » pour la désinformation produite avec l’IA. Ces mêmes travaux, publiés en 2025 (Farooq et al., The International Journal of Press/Politics), ont documenté les inquiétudes des citoyens au sujet des contenus générés par l’IA pendant la campagne, et la connaissance qu’ils en avaient.

L’ampleur lors des élections américaines de 2024. Le Centre for Emerging Technology and Security (CETaS) de l’Alan Turing Institute n’a trouvé aucune preuve concluante que des contenus générés par l’IA aient modifié de façon substantielle les résultats de l’élection américaine de 2024. Les mêmes travaux ont toutefois constaté que ces contenus avaient influencé le débat électoral, amplifié des récits nuisibles et ancré plus profondément la polarisation politique. L’absence d’effet décisif et mesurable lors d’un cycle électoral ne prouve pas que cette capacité ne pose pas un problème structurel.

Ce que l’infrastructure rend possible

L’inquiétude au sujet de l’IA et de la machine à attention ne porte pas d’abord sur des cas isolés de faux contenus. Elle porte sur ce que l’association d’une production de contenu bon marché et de l’infrastructure de ciblage comportemental rend structurellement possible :

Des opérations d’influence qui exigeaient auparavant un travail humain considérable peuvent désormais être menées pour bien moins cher. Une campagne de désinformation qui vise des profils psychologiques précis dans plusieurs pays — servie aux gens au moment où les algorithmes les repèrent comme les plus influençables — peut être produite et déployée par des acteurs qui n’avaient pas, jusque-là, les moyens d’une telle précision.

Le règlement sur l’intelligence artificielle (AI Act) de l’UE, le règlement sur les services numériques (Digital Services Act, DSA) et diverses réglementations nationales tentent tous d’y répondre. Le DSA est désormais appliqué — la Commission a infligé à X une amende de 120 millions d’euros en vertu de ce règlement en décembre 2025, pour manquement à ses règles de transparence —, et les obligations de transparence de l’AI Act pour les contenus générés par l’IA s’appliquent depuis le 2 août 2026. La portée de l’un et de l’autre sur ce type d’opérations d’influence n’est pas encore établie. La capacité a une longueur d’avance sur la gouvernance, comme tout au long de l’histoire de la machine à attention.

Les compagnons IA

Une catégorie à part : les produits d’IA conversationnelle conçus pour entretenir une relation personnelle dans la durée — compagnons IA, chatbots dotés d’une mémoire persistante, produits conçus pour simuler l’amitié ou une relation amoureuse. L’incitation commerciale est proche de celle des réseaux sociaux — optimiser l’engagement et faire revenir l’utilisateur —, même lorsque l’argent vient des abonnements plutôt que de la publicité. Les données sur les effets — sur la solitude, le développement social, la dépendance émotionnelle — sont minces. C’est l’une des questions réellement ouvertes que documente la page Ce que nous ne savons pas encore.

Comment nous le savons — la Roumanie en 2024, ce qui est documenté et ce qui est contesté

Les faits confirmés : la Cour constitutionnelle roumaine a annulé le premier tour de l’élection présidentielle de novembre 2024 ; des documents de renseignement déclassifiés décrivaient une opération coordonnée d’amplification et de promotion payante sur TikTok autour d’un candidat que les sondages plaçaient derrière au moins cinq autres candidats ; il a obtenu 23 % des voix au premier tour. Ces faits sont publics et reposent sur une décision de justice officielle.

Ce qui est contesté ou non résolu. Le rôle précis de l’IA générative dans l’opération roumaine — par opposition à des comptes coordonnés gérés par des humains et à la promotion payante — n’est pas pleinement établi. L’« amplification algorithmique » — le système de recommandation (recommender system) qui pousse le contenu — est ce qu’affirme la note déclassifiée et ce qu’a accepté la Cour ; elle n’a pas été démontrée de façon indépendante. Le « contenu généré par l’IA » est une affirmation distincte, qui repose sur des preuves plus minces encore dans ce cas précis. Nous distinguons les deux. Les documents déclassifiés ont eux-mêmes été contestés : une enquête ultérieure du site d’information Snoop.ro, s’appuyant sur l’administration fiscale, a conclu qu’une campagne d’influenceurs, qui avait fini par promouvoir le candidat, avait été financée par un parti rival favorable à l’UE ; l’annulation a été critiquée par des spécialistes du droit constitutionnel et par l’administration américaine, et défendue par d’autres comme « une expression de la militant democracy » (plus de détails sur la page Élections). De même, la conclusion du CETaS sur les élections américaines de 2024 — aucune preuve concluante d’un effet décisif sur le résultat — porte sur un seul cycle et un seul type de mesure ; ce n’est pas un verdict selon lequel cette capacité serait inoffensive.

Sources

CETaS (Alan Turing Institute), AI-Enabled Influence Operations: Safeguarding Future Elections (novembre 2024).
Farooq, A., van den Hoogen, E., Tulin, M. & de Vreese, C. (2025), Generative AI Generating Concerns: Citizens' Perspectives During the 2024 European Elections, The International Journal of Press/Politics — enquête auprès de 2 929 citoyens aux Pays-Bas, en Allemagne et en Pologne.
La Cour constitutionnelle roumaine annule le premier tour (décembre 2024) — PBS NewsHour / AP.
Curtea Constituțională a României (6 décembre 2024), Hotărârea nr. 32 — la décision, prise à l’unanimité, qui annule l’ensemble du processus électoral présidentiel ; Cour européenne des droits de l’homme (11 février 2025), Georgescu v. Romania (n° 37327/24) — la requête du candidat contre l’annulation, déclarée irrecevable.
Euronews (23 décembre 2024), Romanian centre-right party's TikTok campaign used for far-right win — la conclusion de Snoop.ro et de l’administration fiscale sur la campagne d’influenceurs financée par le PNL.
AGERPRES (4 décembre 2024), Declassified documents from CSAT/Romania - target of Russian hybrid actions, Georgescu's campaign - financed, l’agence de presse nationale roumaine — selon la note du SRI telle que la rapporte l’agence : une campagne TikTok menée « à la fois à l’aide des algorithmes de recommandation et par la promotion payante » ; TikTok a confirmé des paiements de 381 000 dollars américains à des comptes faisant la promotion du candidat.
Atlantic Council (New Atlanticist) — analyse de l’annulation de l’élection en Roumanie.
Chesney & Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
CIGI, Then and Now: How Does AI Electoral Interference Compare in 2025? (août 2025).
Maslej, N. et al. (avril 2023), The AI Index 2023 Annual Report, Institute for Human-Centered AI, Stanford University — « 2022 a vu la sortie de modèles texte-image comme DALL-E 2 et Stable Diffusion, de systèmes texte-vidéo comme Make-A-Video et de chatbots comme ChatGPT. »
Goldstein, J. A., Sastry, G., Musser, M., DiResta, R., Gentzel, M. & Sedova, K. (janvier 2023), Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations, Georgetown CSET, OpenAI et Stanford Internet Observatory — « Les modèles de langage font baisser le coût de la production de propagande … Les opérations d’influence menées avec des modèles de langage deviendront plus faciles à déployer à grande échelle, et des tactiques plus coûteuses (par exemple, la génération de contenus personnalisés) pourraient devenir moins chères. »
RFE/RL's Romanian Service (14 février 2025), Romanian Opposition Welcomes Vance Comments On Election Annulment, Radio Free Europe/Radio Liberty — le vice-président américain JD Vance a déclaré, à la Conférence de Munich sur la sécurité, que la Roumanie avait annulé l’élection sur la foi de « bien minces soupçons d’un service de renseignement et d’énormes pressions de ses voisins du continent ».
Kuti, C. (10 décembre 2024), On Means and Ends: The Annulment of the Romanian Presidential Elections, Verfassungsblog — la Cour s’est saisie d’office et a annulé l’ensemble du processus alors qu’« il n’existe aucune disposition constitutionnelle ou légale » permettant l’un ou l’autre.
Iancu, B. (13 mai 2025), Constitutional Death Foretold? The Romanian Elections Saga in a Nutshell, Review of Democracy (CEU Democracy Institute) — la décision n° 32 reposait sur « une disposition-parapluie » de l’article 142 et sur des rapports de renseignement « généralement sibyllins ».
Cornea, R. (1er avril 2025), Romanian Militant Democracy in Action, Verfassungsblog — défend la décision n° 32 comme « une expression de la militant democracy ».
Commission européenne (décembre 2025), Commission fines X €120 million under the Digital Services Act.
Commission européenne — Transparency obligations under Article 50 of the AI Act — à qui incombent ces obligations, la date du 2 août 2026, le délai de grâce jusqu’au 2 décembre 2026, et ce qui compte comme relecture humaine ou contrôle éditorial.