IA & a próxima camada
A máquina da atenção já era poderosa. Espera-se que a IA generativa torne as suas aplicações mais perigosas drasticamente mais baratas e mais rápidas. Esta página mostra o que aconteceu até agora.
Como ler esta página. Toque em qualquer palavra sublinhada para ver o termo acadêmico exato e uma definição curta. Abra qualquer caixa "Mais a fundo" para ver as evidências e os pontos contestados. O texto principal se sustenta sozinho — você pode pular as duas coisas e ainda assim acompanhar o argumento inteiro.
Esta é uma área em rápida evolução. O que vem a seguir separa o que está documentado (há evidências), o que é plausível (a infraestrutura existe e há casos iniciais documentados) e o que continua desconhecido.
O que mudou
A capacidade de manipulação da máquina da atenção sempre esbarrou em um limite: o custo e o trabalho de produzir conteúdo personalizado em grande escala. Criar perfis falsos convincentes, desinformação sob medida ou mensagens com alvo emocional exigia um esforço humano considerável. A IA generativa está eliminando esse limite.
Desde 2022, existem ferramentas capazes de produzir textos convincentes, imagens realistas, vozes clonadas e vídeo sintético — e pesquisadores esperam que elas reduzam o custo das campanhas de influência e as tornem mais fáceis de escalar. Quando essas ferramentas se juntam à infraestrutura de segmentação comportamental descrita na página Publicidade & vigilância — que consegue identificar perfis psicológicos específicos e entregar conteúdo a eles com precisão —, o resultado é um sistema capaz de produzir manipulação personalizada em uma escala e com uma velocidade que antes não eram possíveis.
Mídia sintética (synthetic media, deepfakes)
Imagens, áudios ou vídeos gerados ou alterados por IA para mostrar pessoas dizendo ou fazendo coisas que não disseram nem fizeram. A barreira técnica desabou: hoje, para clonar uma voz de forma convincente bastam segundos de áudio de amostra. O que mais pesa não é uma falsificação isolada, e sim o "dividendo do mentiroso" (liar's dividend): quando as pessoas sabem que qualquer coisa poderia ser falsa, até provas genuínas podem ser descartadas como fabricadas.
Fontes
- Chesney & Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
- Wang, C., Chen, S., Wu, Y. et al. (2023), Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers, Microsoft Research, preprint no arXiv — VALL-E, fala personalizada "com apenas uma gravação de 3 segundos".
- Comissão Federal de Comércio dos EUA (20 de março de 2023), Scammers use AI to enhance their family emergency schemes — "Tudo o que ele precisa é de um pequeno trecho de áudio da voz de alguém da sua família".
O que está documentado
Romênia, novembro de 2024. Em um passo sem precedentes na União Europeia, uma eleição presidencial foi anulada depois de surgirem evidências de amplificação algorítmica coordenada no TikTok. A inteligência romena divulgou documentos desclassificados afirmando que Călin Georgescu, um candidato ultranacionalista pouco conhecido, que aparecia nas pesquisas atrás de pelo menos outros cinco candidatos, recebeu amplificação coordenada e promoção paga no TikTok. Ele venceu o primeiro turno com 23% dos votos. O Tribunal Constitucional da Romênia mandou reiniciar todo o processo eleitoral — uma anulação sem precedentes na UE, por interferência digital. O que as fontes sustentam varia conforme a afirmação. A amplificação coordenada se apoia na nota de inteligência desclassificada, que o Tribunal aceitou e que críticos contestam; que influenciadores foram pagos para publicar conteúdo que acabou promovendo o candidato também está documentado fora da nota, por uma investigação jornalística que se apoiou na autoridade fiscal (abaixo); o papel da IA generativa no conteúdo é uma afirmação a mais, e mais frágil.
Comportamento inautêntico coordenado (coordinated inauthentic behaviour, CIB)
Redes de contas que escondem quem realmente está por trás delas e agem em conjunto para fazer uma mensagem parecer mais popular ou mais espontânea do que é — perfis falsos, amplificação paga, compartilhamento com ajuda de bots. O termo vem do vocabulário de fiscalização da própria Meta. O que torna esse comportamento "inautêntico" é a coordenação oculta, não o conteúdo em si, que pode ser verdadeiro, falso ou apenas divisivo.
Fontes
- Atlantic Council (New Atlanticist) — análise da anulação na Romênia (2024).
- Gleicher, N. (6 de dezembro de 2018), Coordinated Inauthentic Behavior Explained, Meta Newsroom.
- Gleicher, N. (2019), Removing More Coordinated Inauthentic Behavior From Iran and Russia, Meta Newsroom.
As eleições de 2024 para o Parlamento Europeu foram consideradas um "campo de testes" para a desinformação movida a IA. A mesma pesquisa, publicada em 2025 (Farooq et al., The International Journal of Press/Politics), documentou a preocupação dos cidadãos com o conteúdo gerado por IA durante a campanha e o quanto eles tinham consciência desse conteúdo.
A escala nas eleições de 2024 nos EUA. O Centre for Emerging Technology and Security (CETaS), do Alan Turing Institute, não encontrou evidências conclusivas de que o conteúdo gerado por IA tenha alterado de forma significativa os resultados da eleição americana de 2024. A mesma pesquisa, porém, constatou que o conteúdo gerado por IA influenciou o debate eleitoral, amplificou narrativas nocivas e consolidou a polarização política. A ausência de um efeito decisivo e mensurável em um ciclo eleitoral não prova que essa capacidade deixe de ser uma preocupação estrutural.
O que a infraestrutura torna possível
A preocupação com a IA e a máquina da atenção não tem a ver, principalmente, com casos isolados de conteúdo falso. Tem a ver com o que a combinação de conteúdo gerado a baixo custo com a infraestrutura de segmentação comportamental torna estruturalmente possível:
Operações de influência que antes exigiam muito trabalho humano agora podem ser conduzidas a um custo muito menor. Uma campanha de desinformação voltada a perfis psicológicos específicos em vários países — entregue às pessoas no momento em que os algoritmos as identificam como mais suscetíveis — pode ser produzida e posta em prática por atores que antes não teriam como pagar por esse tipo de precisão.
O AI Act da UE, o DSA e várias regulamentações nacionais tentam enfrentar isso. O DSA já está sendo aplicado — a Comissão multou o X em €120 milhões com base nele em dezembro de 2025, por violar as suas regras de transparência —, e os deveres de transparência do AI Act para conteúdo gerado por IA se aplicam desde 2 de agosto de 2026. Até onde um e outro alcançam operações de influência desse tipo ainda não está definido. A capacidade está à frente da governança, como esteve ao longo de toda a história da máquina da atenção.
Companheiros de IA
Uma categoria à parte: produtos de IA conversacional feitos para relações pessoais contínuas — companheiros de IA, chatbots com memória persistente, produtos feitos para simular amizade ou romance. O incentivo comercial é próximo ao das redes sociais — otimizar o engagement e fazer a pessoa voltar —, mesmo quando o dinheiro vem de assinaturas, e não de publicidade. As evidências sobre os efeitos — na solidão, no desenvolvimento social, na dependência emocional — são escassas. Esta é uma das questões realmente em aberto que a página O que ainda não sabemos documenta.
Como sabemos — Romênia 2024, e o que está documentado e o que é contestado
Os fatos confirmados: o Tribunal Constitucional da Romênia anulou o primeiro turno da eleição presidencial de novembro de 2024; documentos de inteligência desclassificados descreveram uma operação coordenada de amplificação e promoção paga no TikTok em torno de um candidato que as pesquisas colocavam atrás de pelo menos outros cinco candidatos; ele obteve 23% dos votos no primeiro turno. São fatos de domínio público e uma decisão oficial de um tribunal.
O que é contestado ou continua sem resposta. O papel exato da IA generativa na operação romena — em contraste com contas coordenadas operadas por pessoas e com a promoção paga — não está totalmente estabelecido. A "amplificação algorítmica" — o sistema de recomendação (recommender system) empurrando o conteúdo — é o que a nota desclassificada afirma e o Tribunal aceitou; isso não foi demonstrado de forma independente. "Conteúdo gerado por IA" é outra afirmação, com evidências ainda mais frágeis neste caso específico. Mantemos as duas separadas. Os próprios documentos desclassificados foram contestados: uma investigação posterior do site de notícias Snoop.ro, apoiada na autoridade tributária, constatou que uma campanha de influenciadores que acabou promovendo o candidato tinha sido paga por um partido rival pró-UE, e a anulação foi criticada por especialistas em direito constitucional e pelo governo dos EUA, e defendida por outros como “uma expressão de militant democracy” (mais na página Eleições). Da mesma forma, a conclusão do CETaS sobre as eleições de 2024 nos EUA — nenhuma evidência conclusiva de um efeito decisivo no resultado — é uma afirmação sobre um ciclo e um tipo de medição, não um veredito de que essa capacidade seja inofensiva.
Fontes
- CETaS (Alan Turing Institute), AI-Enabled Influence Operations: Safeguarding Future Elections (novembro de 2024).
- Farooq, A., van den Hoogen, E., Tulin, M. & de Vreese, C. (2025), Generative AI Generating Concerns: Citizens' Perspectives During the 2024 European Elections, The International Journal of Press/Politics — pesquisa de opinião com 2.929 cidadãos dos Países Baixos, da Alemanha e da Polônia.
- Tribunal Constitucional da Romênia anula o primeiro turno (dezembro de 2024) — PBS NewsHour / AP.
- Curtea Constituțională a României (6 de dezembro de 2024), Hotărârea nr. 32 — a decisão unânime que anulou todo o processo eleitoral presidencial; Tribunal Europeu dos Direitos Humanos (11 de fevereiro de 2025), Georgescu v. Romania (nº 37327/24) — a queixa do candidato contra a anulação, declarada inadmissível.
- Euronews (23 de dezembro de 2024), Romanian centre-right party's TikTok campaign used for far-right win — a apuração do Snoop.ro e da autoridade fiscal sobre a campanha de influenciadores financiada pelo PNL.
- AGERPRES (4 de dezembro de 2024), Declassified documents from CSAT/Romania - target of Russian hybrid actions, Georgescu's campaign - financed, a agência nacional de notícias da Romênia — a nota do SRI, como a agência a relata: uma campanha no TikTok conduzida “tanto com a ajuda de algoritmos de recomendação quanto por meio de promoção paga”; o TikTok confirmou pagamentos de US$ 381.000 a contas que promoviam o candidato.
- Atlantic Council (New Atlanticist) — análise da anulação da eleição na Romênia.
- Chesney & Citron (2019), Deepfakes and the New Disinformation War, Foreign Affairs.
- CIGI, Then and Now: How Does AI Electoral Interference Compare in 2025? (agosto de 2025).
- Maslej, N. et al. (abril de 2023), The AI Index 2023 Annual Report, Institute for Human-Centered AI, Universidade Stanford — "2022 viu o lançamento de modelos de texto para imagem como DALL-E 2 e Stable Diffusion, sistemas de texto para vídeo como Make-A-Video e chatbots como ChatGPT."
- Goldstein, J. A., Sastry, G., Musser, M., DiResta, R., Gentzel, M. & Sedova, K. (janeiro de 2023), Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations, Georgetown CSET, OpenAI e Stanford Internet Observatory — "Os modelos de linguagem reduzem o custo de gerar propaganda … Operações de influência com modelos de linguagem ficarão mais fáceis de escalar, e táticas mais caras (por exemplo, gerar conteúdo personalizado) podem ficar mais baratas."
- Serviço romeno da RFE/RL (14 de fevereiro de 2025), Romanian Opposition Welcomes Vance Comments On Election Annulment, Radio Free Europe/Radio Liberty — o vice-presidente dos EUA, JD Vance, disse na Conferência de Segurança de Munique que a Romênia anulou a eleição com base em "suspeitas frágeis de uma agência de inteligência e enorme pressão de seus vizinhos continentais".
- Kuti, C. (10 de dezembro de 2024), On Means and Ends: The Annulment of the Romanian Presidential Elections, Verfassungsblog — o Tribunal agiu de ofício e anulou todo o processo, embora "não haja nenhuma disposição constitucional ou legal" para nenhuma das duas coisas.
- Iancu, B. (13 de maio de 2025), Constitutional Death Foretold? The Romanian Elections Saga in a Nutshell, Review of Democracy (CEU Democracy Institute) — a decisão nº 32 se apoiou numa "disposição guarda-chuva" do artigo 142 e em relatórios de inteligência "em geral crípticos".
- Cornea, R. (1º de abril de 2025), Romanian Militant Democracy in Action, Verfassungsblog — defende a decisão nº 32 como "uma expressão de militant democracy".
- Comissão Europeia (dezembro de 2025), Commission fines X €120 million under the Digital Services Act.
- European Commission — Transparency obligations under Article 50 of the AI Act — a quem cabem os deveres, a data de 2 de agosto de 2026, o prazo de adaptação até 2 de dezembro de 2026 e o que conta como revisão humana ou controle editorial.