← De aandachtsmachine

AI & de volgende laag

De aandachtsmachine was al krachtig. Generatieve AI zal de gevaarlijkste toepassingen ervan naar verwachting drastisch goedkoper en sneller maken. Deze pagina zet op een rij wat er tot nu toe is gebeurd.

Hoe je deze pagina leest. Tik op een onderstreept woord om de exacte academische term en een korte uitleg te zien. Open een "Dieper"-vak voor het bewijs en de punten die nog ter discussie staan. De hoofdtekst werkt op zichzelf — sla beide over en je krijgt nog steeds het hele verhaal.

Wat er is veranderd

Wat de aandachtsmachine aan manipulatie kon, werd altijd door één ding begrensd: de kosten en het werk van gepersonaliseerde content op grote schaal maken. Overtuigende nep-persona's, desinformatie op maat of berichten die gericht op emoties inspelen, kostten veel menselijke inspanning. Generatieve AI is bezig die beperking weg te nemen.

Sinds 2022 bestaan er tools die overtuigende tekst, realistische beelden, gekloonde stemmen en synthetische video kunnen maken — en onderzoekers verwachten dat ze de kosten van beïnvloedingscampagnes zullen drukken en ze makkelijker op te schalen maken. Gecombineerd met de infrastructuur voor gedragstargeting die op de pagina over reclame wordt beschreven — die specifieke psychologische profielen kan herkennen en daar precies de juiste content aan kan voorschotelen — ontstaat een systeem dat gepersonaliseerde manipulatie kan maken op een schaal en met een snelheid die eerder niet mogelijk waren.

Wat is vastgelegd

Roemenië, november 2024. In een stap zonder precedent in de Europese Unie werd een presidentsverkiezing ongeldig verklaard, na bewijs van gecoördineerde algoritmische versterking op TikTok. De Roemeense inlichtingendiensten maakten geheime documenten openbaar waarin stond dat de weinig bekende ultranationalistische kandidaat Călin Georgescu, die in de peilingen achter minstens vijf andere kandidaten stond, gecoördineerde versterking en betaalde promotie op TikTok had gekregen. Hij won de eerste ronde met 23% van de stemmen. Het Grondwettelijk Hof van Roemenië bepaalde dat het hele verkiezingsproces opnieuw moest beginnen — een ongeldigverklaring zonder precedent in de EU, wegens digitale inmenging. Wat de bronnen onderbouwen, verschilt per bewering. De gecoördineerde versterking berust op de vrijgegeven nota van de inlichtingendiensten, die het Hof aanvaardde en die critici betwisten; dat influencers werden betaald om content te plaatsen die hem uiteindelijk promootte, is ook buiten de nota vastgelegd, door een journalistiek onderzoek dat zich baseerde op de belastingdienst (hieronder); de rol van generatieve AI in de content is een verdere, dunnere bewering.

De verkiezingen voor het Europees Parlement van 2024 werden als een "proeftuin" beschouwd voor desinformatie met AI. Hetzelfde onderzoek, gepubliceerd in 2025 (Farooq e.a., The International Journal of Press/Politics), bracht in kaart hoe bezorgd burgers tijdens de campagne waren over door AI gemaakte content, en hoe bewust ze zich ervan waren.

De schaal bij de Amerikaanse verkiezingen van 2024. Het Centre for Emerging Technology and Security (CETaS) van het Alan Turing Institute vond geen sluitend bewijs dat door AI gemaakte content de uitslag van de Amerikaanse verkiezingen van 2024 wezenlijk heeft veranderd. Hetzelfde onderzoek vond wel dat door AI gemaakte content het verkiezingsdebat beïnvloedde, schadelijke verhalen versterkte en politieke polarisatie verder verankerde. Dat er in één verkiezingscyclus geen doorslaggevend meetbaar effect is gevonden, bewijst niet dat het vermogen geen structurele zorg is.

Wat de infrastructuur mogelijk maakt

De zorg over AI en de aandachtsmachine gaat niet in de eerste plaats over losse gevallen van nepcontent. Het gaat om wat de combinatie van goedkope contentproductie en infrastructuur voor gedragstargeting structureel mogelijk maakt:

Beïnvloedingsoperaties waar vroeger veel menselijk werk voor nodig was, kunnen nu veel goedkoper worden uitgevoerd. Een desinformatiecampagne die zich in meerdere landen op specifieke psychologische profielen richt — en mensen bereikt op het moment dat algoritmes ze als het vatbaarst aanmerken — kan worden gemaakt en ingezet door partijen die zich dit soort precisie eerder niet konden veroorloven.

De Europese AI-verordening (AI Act), de DSA en verschillende nationale regels proberen dit allemaal aan te pakken. De DSA wordt inmiddels gehandhaafd — de Commissie legde X in december 2025 op grond ervan een boete van €120 miljoen op, wegens schending van de transparantieregels — en de transparantieplichten van de AI-verordening voor door AI gemaakte content gelden sinds 2 augustus 2026. Hoe ver elk van beide reikt bij beïnvloedingsoperaties van deze soort, staat nog niet vast. Het vermogen loopt voor op regelgeving en toezicht, zoals in de hele geschiedenis van de aandachtsmachine.

AI-companions

Een aparte categorie: gespreks-AI die is ontworpen voor een doorlopende persoonlijke relatie — AI-companions, chatbots met een blijvend geheugen, producten die vriendschap of romantiek nabootsen. De commerciële prikkel ligt dicht bij die van sociale media — optimaliseren voor engagement en terugkerend gebruik — ook waar het geld uit abonnementen komt in plaats van uit advertenties. Het bewijs over de effecten — op eenzaamheid, sociale ontwikkeling, emotionele afhankelijkheid — is mager. Dit is een van de echt open vragen die op de pagina Wat we nog niet weten staan.

Hoe we dit weten — Roemenië 2024, en wat vastgelegd is tegenover wat omstreden is +

De bevestigde feiten: het Grondwettelijk Hof van Roemenië verklaarde de eerste ronde van de presidentsverkiezing van november 2024 ongeldig; vrijgegeven inlichtingenstukken beschreven een gecoördineerde operatie met versterking en betaalde promotie op TikTok rond een kandidaat die in de peilingen achter minstens vijf andere kandidaten stond; hij kreeg 23% van de stemmen in de eerste ronde. Dit zijn openbare feiten en een officiële uitspraak van een rechter.

Wat omstreden of onopgelost is. De precieze rol van generatieve AI in de Roemeense operatie — tegenover gecoördineerde accounts die door mensen werden bediend en betaalde promotie — staat niet volledig vast. "Algoritmische versterking" — het aanbevelingsalgoritme (recommender system) dat de content naar voren duwt — is wat de vrijgegeven nota stelt en wat het Hof aanvaardde; onafhankelijk aangetoond is het niet. "Door AI gemaakte content" is een aparte bewering, met nog dunner bewijs in deze specifieke zaak. We houden die twee uit elkaar. De vrijgegeven documenten waren zelf ook omstreden: later onderzoek van de nieuwssite Snoop.ro, dat zich baseerde op de Roemeense belastingdienst, vond dat één influencercampagne die uiteindelijk de kandidaat promootte, was betaald door een rivaliserende pro-Europese partij, en de ongeldigverklaring kreeg kritiek van kenners van het staatsrecht en van de Amerikaanse regering, en werd door anderen verdedigd als "een uiting van weerbare democratie" (militant democracy) (meer op de pagina Verkiezingen). Zo is ook de bevinding van CETaS over de Amerikaanse verkiezingen van 2024 — geen sluitend bewijs van een doorslaggevend effect op de uitslag — een uitspraak over één cyclus en één soort meting, geen oordeel dat het vermogen onschuldig is.

Statelijke actoren & informatieoorlog →
Wat we nog niet weten →
Ja, maar… →