La IA y la siguiente capa
La máquina de atención ya era poderosa. Se prevé que la IA generativa vuelva sus aplicaciones más peligrosas muchísimo más baratas y rápidas. Esta página expone lo que ha ocurrido hasta ahora.
Cómo leer esta página. Toca cualquier palabra subrayada para ver el término académico preciso y una definición breve. Abre cualquier recuadro “Más a fondo” para ver la evidencia y los puntos en discusión. El texto principal se sostiene solo: puedes saltarte ambos y aun así seguir todo el argumento.
Este es un campo que cambia rápidamente. Lo que sigue distingue entre lo que está documentado (existe evidencia), lo que es plausible (la infraestructura existe y hay primeros casos documentados) y lo que sigue sin conocerse.
Lo que ha cambiado
La capacidad de manipulación de la máquina de atención siempre tuvo un límite: el costo y el trabajo de producir contenido personalizado a gran escala. Crear personajes falsos convincentes, desinformación a la medida o mensajes dirigidos a las emociones exigía mucho esfuerzo humano. La IA generativa está eliminando esa restricción.
Desde 2022 existen herramientas capaces de producir texto convincente, imágenes realistas, voces clonadas y video sintético; los investigadores prevén que abaratarán las campañas de influencia y las harán más fáciles de escalar. Si se combinan con la infraestructura de segmentación conductual que se describe en la página Publicidad y vigilancia —capaz de identificar perfiles psicológicos específicos y de mostrarles contenido con precisión—, el resultado es un sistema que puede producir manipulación personalizada a una escala y con una velocidad que antes no eran posibles.
Medios sintéticos (synthetic media) y ultrasuplantaciones (deepfakes)
Imágenes, audio o video generados o alterados por IA para mostrar a personas diciendo o haciendo cosas que no dijeron ni hicieron. La barrera técnica se ha derrumbado: hoy, un clon de voz convincente necesita apenas unos segundos de audio de muestra. Lo importante no es tanto una falsificación concreta como el “dividendo del mentiroso” (liar's dividend): en cuanto la gente sabe que cualquier cosa podría ser falsa, también la evidencia auténtica puede descartarse como fabricada.
Fuentes
- Chesney y Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
- Wang, C., Chen, S., Wu, Y. et al. (2023), Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers, Microsoft Research, preprint de arXiv — VALL-E, voz personalizada “con solo una grabación de referencia de 3 segundos”.
- Comisión Federal de Comercio de Estados Unidos (20 de marzo de 2023), Scammers use AI to enhance their family emergency schemes — “Todo lo que necesita es un audio corto con la voz de tu familiar”.
Lo que está documentado
Rumania, noviembre de 2024. En un paso sin precedentes en la Unión Europea, se anuló una elección presidencial tras surgir evidencia de amplificación algorítmica coordinada en TikTok. Los servicios de inteligencia rumanos desclasificaron documentos según los cuales Călin Georgescu, un candidato ultranacionalista poco conocido, que en las encuestas iba por detrás de al menos otros cinco candidatos, había recibido amplificación coordinada y promoción pagada en TikTok. Ganó la primera vuelta con el 23% de los votos. En Rumania, el Tribunal Constitucional ordenó reiniciar por completo el proceso electoral: una anulación sin precedentes en la UE, por injerencia digital. Lo que respaldan las fuentes depende de cada afirmación. La amplificación coordinada se apoya en la nota de inteligencia desclasificada, que el Tribunal aceptó y que sus críticos cuestionan; que se pagó a influencers por publicar contenido que terminó promoviéndolo también está documentado fuera de la nota, por una investigación periodística basada en datos de la autoridad fiscal (más abajo); el papel de la IA generativa en ese contenido es una afirmación adicional, más endeble.
Comportamiento inauténtico coordinado (coordinated inauthentic behaviour, CIB)
Redes de cuentas que ocultan quién está realmente detrás de ellas y actúan en conjunto para que un mensaje parezca más popular u orgánico de lo que es: personajes falsos, amplificación pagada, difusión asistida por bots. El término viene del propio vocabulario que Meta usa para aplicar sus normas. Lo que lo vuelve “inauténtico” es la coordinación oculta, no el contenido en sí, que puede ser verdadero, falso o simplemente divisivo.
Fuentes
- Atlantic Council (New Atlanticist) — análisis de la anulación en Rumania (2024).
- Gleicher, N. (6 de diciembre de 2018), Coordinated Inauthentic Behavior Explained, Meta Newsroom.
- Gleicher, N. (2019), Removing More Coordinated Inauthentic Behavior From Iran and Russia, Meta Newsroom.
Las elecciones al Parlamento Europeo de 2024 fueron consideradas un “campo de pruebas” para la desinformación impulsada por IA. La misma investigación, publicada en 2025 (Farooq et al., The International Journal of Press/Politics), documentó la preocupación de la ciudadanía por el contenido generado por IA durante la campaña, y hasta qué punto era consciente de él.
La escala en las elecciones de 2024 en Estados Unidos. El Centre for Emerging Technology and Security (CETaS) del Alan Turing Institute no encontró evidencia concluyente de que el contenido generado por IA alterara de forma sustancial los resultados de las elecciones de 2024 en Estados Unidos. Sin embargo, la misma investigación encontró que ese contenido sí influyó en el debate electoral, amplificó narrativas dañinas y afianzó la polarización política. Que no haya un efecto decisivo y medible en un ciclo electoral no demuestra que esta capacidad no sea un problema estructural.
Lo que la infraestructura hace posible
La preocupación por la IA y la máquina de atención no tiene que ver, sobre todo, con casos aislados de contenido falso. Tiene que ver con lo que la combinación de contenido barato de generar e infraestructura de segmentación conductual hace estructuralmente posible:
Las operaciones de influencia que antes requerían mucho trabajo humano ahora pueden ejecutarse a un costo mucho menor. Una campaña de desinformación dirigida a perfiles psicológicos específicos en varios países —que llega a las personas justo cuando los algoritmos las identifican como más susceptibles— hoy pueden producirla y desplegarla actores que antes no podían costear este tipo de precisión.
El Reglamento de Inteligencia Artificial (AI Act) de la UE, el Reglamento de Servicios Digitales (Digital Services Act, DSA) y diversas regulaciones nacionales intentan responder a esto. El DSA ya se aplica —la Comisión multó a X con 120 millones de euros con arreglo a ese reglamento en diciembre de 2025, por incumplir sus normas de transparencia—, y las obligaciones de transparencia del AI Act para el contenido generado por IA rigen desde el 2 de agosto de 2026. Hasta dónde alcanza cualquiera de los dos a las operaciones de influencia de este tipo aún no está resuelto. La capacidad va por delante de la gobernanza, como ha ocurrido a lo largo de toda la historia de la máquina de atención.
Compañeros de IA
Una categoría aparte: productos de IA conversacional pensados para relaciones personales continuas, como compañeros de IA, chatbots con memoria persistente o productos diseñados para simular amistad o romance. El incentivo comercial es cercano al de las redes sociales: optimizar el engagement y el uso recurrente, aun cuando el dinero venga de suscripciones y no de publicidad. La evidencia sobre sus efectos —en la soledad, el desarrollo social o la dependencia emocional— es escasa. Es una de las preguntas realmente abiertas que se documentan en la página Lo que aún no sabemos.
Cómo lo sabemos — Rumania 2024, y lo que está documentado frente a lo que se discute
Los hechos confirmados: el Tribunal Constitucional de Rumania anuló la primera vuelta de la elección presidencial de noviembre de 2024; documentos de inteligencia desclasificados describieron una operación coordinada de amplificación y promoción pagada en TikTok en torno a un candidato al que las encuestas situaban por detrás de al menos otros cinco candidatos; obtuvo el 23% de los votos en la primera vuelta. Son hechos de registro público y constan en un fallo judicial oficial.
Lo que se discute o sigue sin resolverse. El papel preciso de la IA generativa en la operación rumana —a diferencia de las cuentas coordinadas manejadas por personas y de la promoción pagada— no está del todo establecido. La “amplificación algorítmica” —que el sistema de recomendación (recommender system) impulse el contenido— es lo que afirma la nota desclasificada y lo que aceptó el Tribunal; no se ha demostrado de forma independiente. El “contenido generado por IA” es una afirmación distinta, con evidencia todavía más escasa en este caso concreto. Mantenemos ambas cosas separadas. Los propios documentos desclasificados fueron cuestionados: una investigación posterior del sitio de noticias Snoop.ro, basada en datos de la autoridad fiscal, encontró que una campaña de influencers que terminó promoviendo al candidato la había pagado un partido rival proeuropeo, y la anulación fue criticada por especialistas en derecho constitucional y por el gobierno de Estados Unidos, y defendida por otros como “una expresión de militant democracy” (más en la página Elecciones). Del mismo modo, la conclusión de CETaS sobre las elecciones de 2024 en Estados Unidos —que no hay evidencia concluyente de un efecto decisivo en el resultado— se refiere a un solo ciclo y a un solo tipo de medición; no es un veredicto de que esta capacidad sea inofensiva.
Fuentes
- CETaS (Alan Turing Institute), AI-Enabled Influence Operations: Safeguarding Future Elections (noviembre de 2024).
- Farooq, A., van den Hoogen, E., Tulin, M. y de Vreese, C. (2025), Generative AI Generating Concerns: Citizens' Perspectives During the 2024 European Elections, The International Journal of Press/Politics — encuesta a 2,929 ciudadanos de los Países Bajos, Alemania y Polonia.
- El Tribunal Constitucional de Rumania anula la primera vuelta (diciembre de 2024) — PBS NewsHour / AP.
- Curtea Constituțională a României (6 de diciembre de 2024), Hotărârea nr. 32 — la decisión unánime que anuló todo el proceso electoral presidencial; Tribunal Europeo de Derechos Humanos (11 de febrero de 2025), Georgescu v. Romania (n.º 37327/24) — la demanda del candidato contra la anulación, declarada inadmisible.
- Euronews (23 de diciembre de 2024), Romanian centre-right party's TikTok campaign used for far-right win — el hallazgo de Snoop.ro y de la autoridad fiscal sobre la campaña de influencers financiada por el PNL.
- AGERPRES (4 de diciembre de 2024), Declassified documents from CSAT/Romania - target of Russian hybrid actions, Georgescu's campaign - financed, la agencia nacional de noticias de Rumania — según la agencia, la nota del SRI describe una campaña en TikTok hecha “tanto con ayuda de algoritmos de recomendación como mediante promoción pagada”; TikTok confirmó pagos de 381,000 dólares estadounidenses a cuentas que promovían al candidato.
- Atlantic Council (New Atlanticist) — análisis de la anulación de la elección en Rumania.
- Chesney y Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
- CIGI, Then and Now: How Does AI Electoral Interference Compare in 2025? (agosto de 2025).
- Maslej, N. et al. (abril de 2023), The AI Index 2023 Annual Report, Institute for Human-Centered AI, Universidad de Stanford — “En 2022 se lanzaron modelos de texto a imagen como DALL-E 2 y Stable Diffusion, sistemas de texto a video como Make-A-Video y chatbots como ChatGPT”.
- Goldstein, J. A., Sastry, G., Musser, M., DiResta, R., Gentzel, M. & Sedova, K. (enero de 2023), Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations, Georgetown CSET, OpenAI y Stanford Internet Observatory — “Los modelos de lenguaje reducen el costo de generar propaganda … Las operaciones de influencia con modelos de lenguaje serán más fáciles de escalar, y tácticas más caras (por ejemplo, generar contenido personalizado) podrían abaratarse”.
- Servicio Rumano de RFE/RL (14 de febrero de 2025), Romanian Opposition Welcomes Vance Comments On Election Annulment, Radio Free Europe/Radio Liberty — el vicepresidente de Estados Unidos, JD Vance, dijo en la Conferencia de Seguridad de Múnich que Rumania canceló la elección por las “endebles sospechas de una agencia de inteligencia y la enorme presión de sus vecinos del continente”.
- Kuti, C. (10 de diciembre de 2024), On Means and Ends: The Annulment of the Romanian Presidential Elections, Verfassungsblog — el Tribunal actuó de oficio y anuló todo el proceso aunque “no existe ninguna disposición constitucional ni legal” para ninguna de las dos cosas.
- Iancu, B. (13 de mayo de 2025), Constitutional Death Foretold? The Romanian Elections Saga in a Nutshell, Review of Democracy (CEU Democracy Institute) — la Sentencia 32 se apoyó en “una disposición paraguas” del artículo 142 y en informes de inteligencia “en general crípticos”.
- Cornea, R. (1 de abril de 2025), Romanian Militant Democracy in Action, Verfassungsblog — defiende la Sentencia 32 como “una expresión de militant democracy”.
- Comisión Europea (diciembre de 2025), Commission fines X €120 million under the Digital Services Act.
- European Commission — Transparency obligations under Article 50 of the AI Act — a quién se aplican las obligaciones, la fecha del 2 de agosto de 2026, el período de gracia hasta el 2 de diciembre de 2026 y qué cuenta como revisión humana o control editorial.