AI & stratul următor
Mașinăria atenției era deja puternică. Se așteaptă ca AI-ul generativ să facă aplicațiile ei cele mai periculoase mult mai ieftine și mai rapide. Pagina aceasta arată ce s-a întâmplat până acum.
Cum să citești pagina. Atinge orice cuvânt subliniat ca să vezi termenul academic exact și o definiție scurtă. Deschide orice casetă „Detalii” pentru dovezi și pentru ce e controversat. Textul principal se descurcă singur — poți să le sari pe ambele și tot prinzi întreaga idee.
E un domeniu care se schimbă repede. Ce urmează face diferența între ce e documentat (există dovezi), ce e plauzibil (infrastructura există, primele cazuri sunt documentate) și ce rămâne necunoscut.
Ce s-a schimbat
Capacitatea de manipulare a mașinăriei atenției a fost mereu limitată de un singur lucru: costul și munca necesare ca să produci conținut personalizat la scară mare. Ca să creezi personaje false convingătoare, dezinformare croită pe măsură sau mesaje țintite emoțional era nevoie de un efort omenesc considerabil. AI-ul generativ elimină treptat această limită.
Din 2022 există instrumente care pot produce text convingător, imagini realiste, voci clonate și video sintetic — iar cercetătorii se așteaptă ca ele să reducă costul campaniilor de influență și să le facă mai ușor de extins. Combinate cu infrastructura de țintire comportamentală descrisă pe pagina Publicitate & supraveghere — care poate identifica profiluri psihologice anume și le poate servi conținut cu precizie — rezultatul e un sistem capabil să producă manipulare personalizată la o scară și cu o viteză care nu erau posibile înainte.
Media sintetice (deepfakes)
Imagini, înregistrări audio sau video generate ori modificate de AI ca să arate oameni spunând sau făcând lucruri pe care nu le-au spus sau făcut. Bariera tehnică s-a prăbușit: o clonă de voce convingătoare are nevoie acum doar de câteva secunde de înregistrare. Miza e mai puțin un fals anume și mai mult „dividendul mincinosului” (liar's dividend) — odată ce oamenii știu că orice ar putea fi fals, și dovezile autentice pot fi respinse ca fabricate.
Surse
- Chesney & Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
- Wang, C., Chen, S., Wu, Y. et al. (2023), Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers, Microsoft Research, preprint arXiv — VALL-E, vorbire personalizată „cu doar o înregistrare de 3 secunde”.
- US Federal Trade Commission (20 martie 2023), Scammers use AI to enhance their family emergency schemes — „Nu-i trebuie decât un scurt clip audio cu vocea unui membru al familiei tale”.
Ce e documentat
România, noiembrie 2024. Într-un pas fără precedent în Uniunea Europeană, un scrutin prezidențial a fost anulat, în urma dovezilor de amplificare algoritmică coordonată pe TikTok. Serviciile de informații românești au desecretizat documente în care se afirma că un candidat ultranaționalist puțin cunoscut, Călin Georgescu, care în sondaje se afla în urma a cel puțin alți cinci candidați, a beneficiat de amplificare coordonată și de promovare plătită pe TikTok. A câștigat primul tur cu 23% din voturi. Curtea Constituțională a României a dispus reluarea în întregime a procesului electoral — o anulare fără precedent în UE, pe motiv de interferență digitală. Ce susțin sursele diferă de la o afirmație la alta. Amplificarea coordonată se sprijină pe nota de informații desecretizată, pe care Curtea a acceptat-o și pe care criticii o contestă; faptul că influencerii au fost plătiți să posteze conținut care a ajuns să-l promoveze e documentat și în afara notei, de o investigație de presă care s-a sprijinit pe autoritatea fiscală (mai jos); rolul AI-ului generativ în acest conținut e o afirmație în plus, cu dovezi mai slabe.
Comportament neautentic coordonat (coordinated inauthentic behaviour, CIB)
Rețele de conturi care ascund cine se află de fapt în spatele lor și acționează împreună ca să facă un mesaj să pară mai popular sau mai spontan decât e — personaje false, amplificare plătită, distribuire ajutată de boți. Termenul vine din vocabularul pe care Meta îl folosește pentru propriile măsuri de aplicare a regulilor. Ce îl face „neautentic” e coordonarea ascunsă, nu conținutul în sine, care poate fi adevărat, fals sau doar dezbinător.
Surse
- Atlantic Council (New Atlanticist) — analiza anulării alegerilor din România (2024).
- Gleicher, N. (6 decembrie 2018), Coordinated Inauthentic Behavior Explained, Meta Newsroom.
- Gleicher, N. (2019), Removing More Coordinated Inauthentic Behavior From Iran and Russia, Meta Newsroom.
Alegerile pentru Parlamentul European din 2024 au fost considerate un „teren de testare” pentru dezinformarea bazată pe AI. Aceeași cercetare, publicată în 2025 (Farooq et al., The International Journal of Press/Politics), a documentat îngrijorările cetățenilor legate de conținutul generat de AI în timpul campaniei și cât de conștienți erau de el.
Amploarea în alegerile din SUA din 2024. Centre for Emerging Technology and Security (CETaS) de la Alan Turing Institute nu a găsit dovezi concludente că, în 2024, conținutul generat de AI ar fi schimbat semnificativ rezultatele alegerilor din SUA. Aceeași cercetare a constatat însă că acest conținut a influențat dezbaterea electorală, a amplificat narațiuni dăunătoare și a adâncit polarizarea politică. Lipsa unui efect decisiv, măsurabil, într-un singur ciclu electoral nu e o dovadă că această capacitate nu e o problemă structurală.
Ce face posibil infrastructura
Îngrijorarea legată de AI și mașinăria atenției nu privește în primul rând incidente izolate de conținut fals. Privește ce face posibil, structural, combinația dintre generarea ieftină de conținut și infrastructura de țintire comportamentală:
Operațiunile de influență care cereau înainte multă muncă omenească pot fi rulate acum mult mai ieftin. O campanie de dezinformare care țintește profiluri psihologice anume în mai multe țări — servită oamenilor atunci când algoritmii îi identifică drept cei mai vulnerabili — poate fi produsă și lansată de actori care înainte nu își permiteau acest tip de precizie.
Regulamentul privind inteligența artificială (AI Act) al UE, DSA și diverse reglementări naționale încearcă toate să abordeze problema. DSA e acum aplicat efectiv — Comisia a amendat X cu 120 de milioane de euro în temeiul lui, în decembrie 2025, pentru încălcarea regulilor sale de transparență — iar obligațiile de transparență ale Regulamentului privind IA pentru conținutul generat de AI se aplică din 2 august 2026. Cât de departe ajunge fiecare dintre ele la operațiuni de influență de acest fel nu e încă lămurit. Capacitatea e înaintea reglementării, cum a fost de-a lungul întregii istorii a mașinăriei atenției.
Companionii AI
O categorie separată: produsele AI conversaționale concepute pentru relații personale de durată — companioni AI, chatboți cu memorie persistentă, produse concepute să simuleze prietenia sau o relație romantică. Stimulentul comercial e apropiat de cel al rețelelor sociale — optimizează pentru engagement și pentru revenirea utilizatorului — chiar și acolo unde banii vin din abonamente, nu din publicitate. Dovezile despre efecte — asupra singurătății, a dezvoltării sociale, a dependenței emoționale față de ele — sunt puține. E una dintre întrebările cu adevărat deschise documentate pe pagina Ce nu știm încă.
Cum știm — România 2024 și ce e documentat față de ce e contestat
Faptele confirmate: Curtea Constituțională a României a anulat primul tur al alegerilor prezidențiale din noiembrie 2024; documentele de informații desecretizate descriau o operațiune coordonată de amplificare pe TikTok și de promovare plătită în jurul unui candidat pe care sondajele îl plasau în urma a cel puțin alți cinci candidați; el a obținut 23% din voturile din primul tur. Acestea sunt fapte publice și o hotărâre oficială a unei instanțe.
Ce e contestat sau nelămurit. Rolul exact al AI-ului generativ în operațiunea din România — spre deosebire de conturile coordonate, conduse de oameni, și de promovarea plătită — nu e pe deplin stabilit. „Amplificarea algoritmică” (sistemul de recomandare — recommender system — care împinge conținutul) e ceea ce afirmă nota desecretizată și ceea ce a acceptat Curtea; nu a fost demonstrată independent. „Conținutul generat de AI” e o afirmație separată, cu dovezi și mai slabe în acest caz anume. Le ținem separate. Documentele desecretizate au fost și ele contestate: o investigație ulterioară a site-ului de știri Snoop.ro, care s-a sprijinit pe autoritatea fiscală, a constatat că o campanie cu influenceri care a ajuns să-l promoveze pe candidat fusese plătită de un partid rival, pro-UE, iar anularea a fost criticată de specialiști în drept constituțional și de administrația SUA, și apărată de alții ca „o expresie a militant democracy” (mai multe pe pagina Alegeri). La fel, concluzia CETaS despre alegerile din SUA din 2024 — nicio dovadă concludentă a unui efect decisiv asupra rezultatului — e o afirmație despre un singur ciclu și un singur tip de măsurătoare, nu un verdict că această capacitate e inofensivă.
Surse
- CETaS (Alan Turing Institute), AI-Enabled Influence Operations: Safeguarding Future Elections (noiembrie 2024).
- Farooq, A., van den Hoogen, E., Tulin, M. & de Vreese, C. (2025), Generative AI Generating Concerns: Citizens' Perspectives During the 2024 European Elections, The International Journal of Press/Politics — sondaj pe 2.929 de cetățeni din Țările de Jos, Germania și Polonia.
- Curtea Constituțională a României anulează primul tur (decembrie 2024) — PBS NewsHour / AP.
- Curtea Constituțională a României (6 decembrie 2024), Hotărârea nr. 32 — decizia unanimă de anulare a întregului proces electoral pentru alegerea Președintelui României; Curtea Europeană a Drepturilor Omului (11 februarie 2025), Georgescu v. Romania (nr. 37327/24) — plângerea candidatului împotriva anulării, declarată inadmisibilă.
- Euronews (23 decembrie 2024), Romanian centre-right party's TikTok campaign used for far-right win — constatarea Snoop.ro / a autorității fiscale privind campania cu influenceri finanțată de PNL.
- AGERPRES (4 decembrie 2024), Declassified documents from CSAT/Romania - target of Russian hybrid actions, Georgescu's campaign - financed, agenția națională de presă a României — nota SRI, în relatarea agenției: o campanie pe TikTok dusă atât cu ajutorul algoritmilor de recomandare, cât și prin promovare plătită; TikTok a confirmat plăți de 381.000 de dolari către conturi care îl promovau pe candidat.
- Atlantic Council (New Atlanticist) — analiza anulării alegerilor din România.
- Chesney & Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
- CIGI, Then and Now: How Does AI Electoral Interference Compare in 2025? (august 2025).
- Maslej, N. et al. (aprilie 2023), The AI Index 2023 Annual Report, Institute for Human-Centered AI, Stanford University — „În 2022 au apărut modele text-imagine precum DALL-E 2 și Stable Diffusion, sisteme text-video precum Make-A-Video și chatboți precum ChatGPT.”
- Goldstein, J. A., Sastry, G., Musser, M., DiResta, R., Gentzel, M. & Sedova, K. (ianuarie 2023), Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations, Georgetown CSET, OpenAI și Stanford Internet Observatory — „Modelele de limbaj reduc costul producerii de propagandă … Operațiunile de influență cu modele de limbaj vor deveni mai ușor de extins, iar tacticile mai costisitoare (de exemplu, generarea de conținut personalizat) ar putea deveni mai ieftine.”
- Serviciul românesc al RFE/RL (14 februarie 2025), Romanian Opposition Welcomes Vance Comments On Election Annulment, Radio Free Europe/Radio Liberty — vicepreședintele SUA JD Vance a spus la Conferința de Securitate de la München că România a anulat alegerile pe baza „suspiciunilor șubrede ale unei agenții de informații și a presiunii enorme din partea vecinilor săi de pe continent”.
- Kuti, C. (10 decembrie 2024), On Means and Ends: The Annulment of the Romanian Presidential Elections, Verfassungsblog — Curtea s-a sesizat din oficiu și a anulat întregul proces, deși „nu există nicio prevedere constituțională sau legală” pentru niciuna dintre ele.
- Iancu, B. (13 mai 2025), Constitutional Death Foretold? The Romanian Elections Saga in a Nutshell, Review of Democracy (CEU Democracy Institute) — Hotărârea nr. 32 s-a sprijinit pe „o prevedere-umbrelă” a articolului 142 și pe rapoarte „în general criptice” ale serviciilor de informații.
- Cornea, R. (1 aprilie 2025), Romanian Militant Democracy in Action, Verfassungsblog — apără Hotărârea nr. 32 ca „o expresie a militant democracy”.
- Comisia Europeană (decembrie 2025), Commission fines X €120 million under the Digital Services Act.
- Comisia Europeană — Transparency obligations under Article 50 of the AI Act — pe cine cad obligațiile, data de 2 august 2026, perioada de grație până pe 2 decembrie 2026 și ce înseamnă verificare umană sau control editorial.