← Síntomas

Caminos de radicalización

La máquina de atención no se construyó para radicalizar a nadie. Se construyó para retener la atención. El contenido extremo retiene muy bien la atención. En esa coincidencia está este daño.

Cómo leer esta página. Toca cualquier palabra subrayada para ver el término académico preciso y una definición breve. Abre cualquier recuadro “Más a fondo” para ver la evidencia y las partes que todavía están en disputa. El texto principal se sostiene solo: puedes saltarte ambas cosas y aun así entender todo el argumento.

La misma máquina, creencias muy distintas

La señal más clara de que esto tiene que ver con la máquina, y no con una ideología en particular, es que el mismo patrón está detrás de movimientos que se odian entre sí. Las creencias son opuestas. La mecánica es idéntica.

Hay tres cosas que la máquina entrega de forma confiable a cualquiera que esté reuniendo seguidores:

Alcance. Entre millones de personas, a un reclutador le bastan las pocas que son receptivas. La misma segmentación que encuentra clientes para un producto encuentra a quienes se sienten solos, a quienes están enojados y a quienes buscan una causa.

Pertenencia. Un grupo que hace sentir elegida a una persona es la atracción más antigua que existe. En internet, ese grupo está disponible al instante, a cualquier hora, para cualquiera que sienta que no tiene ninguno.

Escalada. Siempre hay algo un paso más allá, y un sistema que ordena el contenido según lo que retiene la atención lo sigue ofreciendo. El agravio moderado atrapa más que la calma; el agravio intenso atrapa más que el moderado. La pendiente apunta en una sola dirección.

Reclutamiento islamista: el primer modelo

La primera versión de esta historia que llegó al público fue la del llamado Estado Islámico. El censo de J.M. Berger y Jonathon Morgan para Brookings, de 2015, identificó al menos 46,000 cuentas de Twitter usadas por simpatizantes de ISIS a finales de 2014: una operación coordinada y en red que usó plataformas comunes y masivas para proyectar alcance y atraer reclutas hacia canales privados. Cuando las plataformas por fin tomaron medidas, la operación no se detuvo; se mudó a aplicaciones más cerradas. La lección que otros sacaron de ahí no fue la ideología. Fue el método.

Violencia de extrema derecha: de Christchurch a Buffalo

El mismo método se puso al servicio de la política opuesta. En 2019, el atacante de las mezquitas de Christchurch, activo en espacios de extrema derecha en internet, transmitió su ataque en vivo y publicó un manifiesto escrito pensado para difundirse, según documentó la Comisión Real de Investigación de Nueva Zelanda (2020).

Tres años después, el informe de investigación de la Fiscalía General del estado de Nueva York sobre el tiroteo de 2022 en Buffalo reconstruyó el recorrido con un detalle poco habitual. Concluyó que plataformas marginales radicalizaron al tirador, que los servicios de transmisión en vivo se usaron como arma para dar publicidad al ataque e invitar a imitarlo y —el detalle que más importa aquí— que él había visto el video de Christchurch en 4chan. El camino cruzó plataformas, y también cruzó casos: un ataque se convirtió en el modelo del siguiente. Es la máquina funcionando exactamente como fue diseñada, apuntada hacia un fin que ningún ingeniero buscó.

Violencia incel: otra vez la misma forma

El patrón se repite en el rincón más extremo de la manosphere. El movimiento en su conjunto atribuye las dificultades masculinas principalmente a las mujeres y al feminismo; en sus márgenes, ese agravio ha precedido a la violencia en el mundo real. El contenido no tiene nada en común con los dos casos anteriores. La mecánica —alcance, pertenencia, escalada— vuelve a ser la misma.

Lo que ven los servicios de seguridad

Varios servicios de seguridad europeos describen ahora el mismo cambio en los casos que ellos mismos llevan: una radicalización que empieza en internet, y a edades más tempranas. Describen dónde ocurre y quiénes participan, no qué lo pone por delante en los feeds: un alcance más estrecho que el del debate sobre los algoritmos de recomendación que aparece más abajo, al que corroboran sin probarlo. El informe anual de 2025 del AIVD de los Países Bajos encontró que los jóvenes representan ahora un tercio de sus casos de yihadismo.

MI5 (Reino Unido), octubre de 2025: el director general Ken McCallum, en su actualización anual sobre la amenaza, afirmó que una de cada cinco de las 232 detenciones por terrorismo del último año fue de menores de edad (cifras del Home Office: 43 de 232 en Gran Bretaña en el año hasta marzo de 2025, de personas de 17 años o menos), una cifra que exige “pensar de una manera nueva” y una respuesta de todo el gobierno. La actualización de octubre de 2024 ya había documentado que se triplicó el número de menores de 18 años bajo investigación, concentrados en el terrorismo de extrema derecha, “impulsado por una propaganda que muestra una astuta comprensión de la cultura de internet”.

BfV (Alemania), junio de 2025: el informe de 2024 del servicio de inteligencia interior alemán registró 57,701 delitos relacionados con el extremismo en 2024, un máximo histórico, un 46% más que en 2023. El potencial extremista de derecha aumentó un 23%, hasta 50,250 personas. El informe llama a los grupos de chat extremistas “catalizadores” de la radicalización, y a internet, un espacio de fácil acceso para los muy jóvenes, algunos de ellos menores de edad; el informe del estado de Renania del Norte-Westfalia del mismo año llevó como titular “el extremismo se vuelve más joven y más digital”.

¿Lo hace el algoritmo?

La versión popular de esta historia es la “madriguera del conejo” (rabbit hole): el sistema de recomendación (recommender system) toma a una persona común y la lleva, clic a clic, hasta el extremismo. La respuesta honesta es que la evidencia está realmente dividida. Un estudio grande encontró que los usuarios se desplazaban hacia contenido más extremo con el tiempo (Ribeiro y colegas, 2020). Un segundo estudio, que siguió a más de 300,000 personas dentro y fuera de la plataforma, encontró poca evidencia de que el algoritmo en sí impulse esto: la demanda del propio usuario y los enlaces que llegaban desde otros sitios pesaron más (Hosseinmardi y colegas, 2021).

La lectura cuidadosa está entre los titulares. La máquina es el terreno en el que esto crece y el acelerante que se le echa encima: abarata encontrar contenido extremo, encontrarse unos a otros y escalar. No es una causa simple que convierta a personas comunes en asesinos. Como en el debate sobre salud mental que aparece en otras partes de este sitio, la correlación y el mecanismo están más claros que la flecha causal simple, y decirlo sin rodeos es lo que mantiene honesto el argumento.

Por qué el antídoto es el mismo

Como el mecanismo es ciego a la ideología, la defensa es la misma en todos los casos: entender cómo funciona. Ese es todo el argumento de este sitio, aplicado a su caso más oscuro. A partir de ahí, la respuesta se divide en tres: un diseño de plataformas más seguro, que recorre cada página de este sitio; la aplicación de la ley, porque el reclutamiento y la violencia son delitos deliberados; y, lo más inmediato, la atención de las personas cercanas a alguien que está siendo arrastrado. La página sobre cómo las redes reclutan a los jóvenes y la guía qué puedes hacer son las compañeras prácticas de esta.

La parte en disputa: ¿radicaliza el sistema de recomendación? +

Esta es la parte más exagerada de todo el debate, en las dos direcciones, así que vale la pena ser precisos.

Los argumentos de que sí. Ribeiro y colegas (2020) auditaron cientos de canales de YouTube y decenas de millones de comentarios, y encontraron que los usuarios pasaban de manera constante de comunidades más moderadas a otras más extremas, y que a los canales más extremos se podía llegar a través de las recomendaciones. Aun así, tuvieron cuidado de decir que su trabajo mostraba que ese desplazamiento ocurre, no por qué: según ellos, arroja “poca luz” sobre la causa.

Los argumentos de que, en general, no. Hosseinmardi y colegas (2021) siguieron a un panel representativo de más de 300,000 personas en toda la web, no solo en YouTube. Encontraron que el consumo de contenido radical era pequeño y estable, dominado por las preferencias de los usuarios y por los enlaces que llegaban desde otros sitios, con “poca evidencia de que el algoritmo de recomendación de YouTube esté dirigiendo la atención” hacia ese contenido. Una línea de investigación relacionada (Chen y colegas, 2023) encontró que el sistema ofrece contenido más extremo sobre todo a personas que ya muestran resentimiento: amplifica una demanda existente en lugar de fabricarla.

Lo que queda en pie. La afirmación fuerte —que el algoritmo, por sí solo, convierte a usuarios comunes en extremistas— no está bien respaldada. La afirmación más débil, y más sólida, es esta: las plataformas abaratan cada uno de los costos de la radicalización (encontrar el contenido, encontrar el grupo, escalar y difundir el resultado), y alimentan de preferencia con material extremo a quienes ya se inclinan en esa dirección. El relato de Kevin Roose en The New York Times (2019) sobre el camino de un hombre es una ilustración vívida del mecanismo, no una prueba de su prevalencia. Sostener las dos mitades a la vez es la única postura honesta.

Por qué esta página trata los casos con cuidado +

Las afirmaciones de hecho de esta página se apoyan en investigaciones oficiales y en trabajos revisados por pares, no en el material de los propios atacantes. Christchurch está documentado por una Comisión Real de Investigación de Nueva Zelanda (cuyo mandato eran las agencias del Estado, no las plataformas; por eso la usamos para los hechos establecidos sobre su actividad en internet, no para una conclusión sobre la responsabilidad de las plataformas). Buffalo está documentado por el informe de investigación de la Fiscalía General de Nueva York. Las cifras sobre ISIS provienen de un documento de análisis de Brookings.

Describimos estos casos solo al nivel que los investigadores decidieron hacer público, y deliberadamente no reproducimos manifiestos, no nombramos a los autores ni exponemos métodos: nombrar y detallar las técnicas ayuda a quienes las usan y vuelve a traumatizar a los sobrevivientes; es la misma contención que aplicamos en la página Reclutados para dañar. Y no afirmamos nada sobre por qué actuó una persona en particular: el tema aquí es el mecanismo a nivel de población, no el diagnóstico de una persona.

Síntomas: Xenofobia y violencia →
Síntomas: Reclutados para dañar →
The Attention Machine: Actores estatales →
Sí, pero… →