Xenofobie & violență

Legătura dintre ura online și violența din lumea reală era documentată înainte ca mulți oameni să fi auzit de Facebook.

Cum să citești pagina. Atinge orice cuvânt subliniat ca să vezi termenul academic exact și o definiție scurtă. Deschide orice casetă „Detalii” pentru dovezi și pentru ce e controversat. Textul principal se descurcă singur — poți să le sari pe ambele și tot prinzi întreaga idee.

Cronologia

Stormfront — primul site important dedicat urii de pe internet — a fost înființat în 1995. La începutul anilor 2000, cercetătorii studiau cât de departe ar merge oamenii din camerele de chat ale rasiștilor albi în a susține violența. În iunie 2004, OSCE a ținut la Paris o reuniune interguvernamentală oficială dedicată propagandei rasiste și xenofobe online și legăturii ei cu infracțiunile motivate de ură — cu aproape douăzeci de ani înainte ca Digital Services Act al UE să le ceară platformelor să evalueze acest risc. La începutul lui 2007, Southern Poverty Law Center număra aproximativ 12.000 de videoclipuri de propagandă a supremațiștilor albi, înregistrări de la concerte de hate-rock și pseudodocumentare care neagă Holocaustul, disponibile liber pe YouTube și pe alte site-uri de partajare video.

Asta nu e o judecată retrospectivă. Aceste avertismente au fost făcute la momentul respectiv, au fost concrete și bine documentate — înainte ca platformele care au amplificat problema la scară să devină dominante.

Myanmar: cazul documentat

Dominația Facebook în Myanmar a început să prindă rădăcini în jurul lui 2012, pe măsură ce țara se deschidea după decenii de regim militar; până în 2018 avea 18 milioane de utilizatori, aproximativ o treime din populație, iar pentru cei mai mulți dintre oamenii care foloseau internetul, Facebook era internetul. Anchetatorii ONU și jurnaliștii au documentat rolul Facebook în amplificarea discursului instigator la ură împotriva rohingya, începând din 2016. Facebook însuși a recunoscut în 2018 că nu făcuse destul ca să împiedice folosirea platformei pentru incitare la violență. În 2017, armata din Myanmar a dus împotriva poporului rohingya o campanie despre care raportoarea specială a ONU pentru Myanmar a spus în martie 2018 că purta „semnele distinctive ale unui genocid”; Misiunea independentă a ONU de stabilire a faptelor a cerut ulterior ca înalți ofițeri ai armatei să fie anchetați și urmăriți penal pentru genocid.

Drumul cauzal de la amplificarea pe Facebook la atrocități e complex — tensiunile etnice existente, acțiunile armatei și nemulțumirile istorice au jucat toate un rol. Ce e documentat: Facebook era principalul mediu de informare, a amplificat conținut care îi dezumaniza pe rohingya, Misiunea independentă de stabilire a faptelor a ONU a constatat că reacția firmei la discursul instigator la ură de pe platforma ei a fost „lentă și ineficientă”, iar evaluarea de impact asupra drepturilor omului pe care Facebook însuși a comandat-o de la BSR a constatat că platforma era „folosită de actori rău-intenționați pentru a răspândi discurs instigator la ură, a incita la violență și a coordona acțiuni dăunătoare”.

Dezumanizare

A prezenta un grup ca fiind mai puțin decât pe deplin uman — ca paraziți, boală sau invadatori. Nu e doar o insultă: psihologic, slăbește frânele morale care îi opresc de obicei pe oameni să accepte sau să comită violență împotriva altora. Cercetătorii genocidului consideră escaladarea limbajului dezumanizant o etapă de avertizare recunoscută, și de aceea amplificarea lui în masă în Myanmar e documentată atât de atent, în loc să fie tratată ca simplu limbaj jignitor.

Surse

Stanton, G.H. (1996, revizuit), The Ten Stages of Genocide, Genocide Watch — etapa a patra, „dezumanizarea, când făptașii își numesc victimele șobolani sau gândaci, cancer sau boală”; etapele sunt „previzibile, dar nu inevitabile”.
UN Independent Fact-Finding Mission on Myanmar (12 septembrie 2018), A/HRC/39/64 — „limbaj dezumanizant și stigmatizant împotriva rohingya” (¶73); Facebook, „un instrument util pentru cei care caută să răspândească ura” (¶74).

Algoritmul nu alege ura. Alege engagement-ul.

Mecanismul e același peste tot pe acest site. Algoritmul nu are păreri despre etnie sau politică. Scoate în față conținutul care provoacă reacții emoționale puternice — iar ura, frica și identitatea de trib sunt printre emoțiile care generează cel mai mult engagement. Ce urmează de aici e mai puțin decât spune povestea populară: platforma ieftinește găsirea conținutului extrem și găsirea celor care gândesc la fel și servește cu precădere material extrem oamenilor care înclină deja într-acolo. Dacă sistemul de recomandare (recommender system) singur împinge escaladarea rămâne contestat.

O prezentare internă Facebook din 2016, care studia grupurile politice din Germania, a găsit că 64% din toate intrările în grupuri extremiste veniseră chiar prin instrumentele de recomandare ale platformei — „sistemele noastre de recomandare amplifică problema”, cum spunea slide-ul. Mecanismul e documentat pe pagina Cum funcționează.

Ce arată cercetarea despre legătura dintre ura online și violența offline

Cercetările despre relația dintre discursul instigator la ură online și violența offline găsesc corelații. Un studiu al lui Müller și Schwarz a găsit o relație pozitivă semnificativă, la nivel local, între postările de pe Facebook ostile refugiaților și atacurile asupra refugiaților din Germania — și, folosind întreruperile de internet ca experiment natural, a arătat că relația slăbea atunci când accesul era întrerupt.

Formularea onestă: un drum cauzal a fost documentat, riguros, într-o singură țară și într-o singură perioadă. Nu e determinist — cei mai mulți oameni care consumă conținut plin de ură nu comit violențe. Direcția e constantă. Amploarea amplificării e cea care schimbă ratele de bază.

Cum știm — experimentul natural din spatele rezultatului despre refugiați

Obiecția obișnuită la „ura online e corelată cu atacurile offline” e că în orașele cu mai multă ostilitate ar putea exista pur și simplu și mai multe postări pline de ură, și mai multe atacuri, iar internetul doar ar fi prezent pe fundal. Müller și Schwarz (2021) au abordat problema printr-un experiment natural: au folosit ca pârghie întreruperile locale de internet și de Facebook — perturbări fără legătură cu atitudinile locale. Acolo unde întreruperile tăiau accesul, relația dintre sentimentele ostile refugiaților și atacurile asupra lor slăbea. Pentru că întreruperile erau practic întâmplătoare în raport cu politica locală, asta se apropie mult mai mult de o afirmație cauzală decât o simplă corelație.

Ce arată și care îi sunt limitele. E o dovadă puternică că platforma a amplificat sentimente existente până la fapte, într-o anumită țară și într-o anumită perioadă — nu o constantă universală. Nu spune că oricine e expus devine violent: afirmația e despre rate de bază deplasate în multe comunități, exact cum ar arăta amplificarea la scară.

Surse

OSCE (16–17 iunie 2004), Meeting on the relationship between racist, xenophobic and anti-Semitic propaganda on the Internet and hate crimes, Paris.
Southern Poverty Law Center (10 iunie 2015), 20 Years of Hate, Intelligence Report — Stormfront s-a lansat în martie 1995, „the first major hate site on the Internet”.
Southern Poverty Law Center (primăvara 2007), Neo-Nazi Groups Share Hate Via YouTube, Intelligence Report 125 — numărătoarea de aproximativ 12.000 de videoclipuri.
UN Independent Fact-Finding Mission on Myanmar (2018) — A/HRC/39/64.
Facebook (5 noiembrie 2018), An Independent Assessment of the Human Rights Impact of Facebook in Myanmar — „nu făceam destul ca să contribuim la împiedicarea folosirii platformei noastre pentru a stârni dezbinare și a incita la violență offline.”
BSR (octombrie 2018), Human Rights Impact Assessment: Facebook in Myanmar — evaluarea comandată de Facebook.
Stecklow, S. (15 august 2018), Why Facebook is losing the war on hate speech in Myanmar, reportaj special Reuters — peste 1.000 de postări care îi atacau pe rohingya; 18 milioane de utilizatori Facebook, aproximativ o treime din populație.
OHCHR (12 martie 2018), Myanmar: UN expert calls for accountability over violence in Rakhine State — raportoarea specială Yanghee Lee în fața Consiliului pentru Drepturile Omului.
Southern Poverty Law Center, Stormfront, Extremist Files — creat de Don Black în martie 1995, „primul site important dedicat urii de pe internet”.
Glaser, J., Dixit, J. & Green, D.P. (2002), Studying Hate Crime with the Internet: What Makes Racists Advocate Racial Violence?, Journal of Social Issues 58(1).
Horwitz, J. & Seetharaman, D. (26 mai 2020), Facebook Executives Shut Down Efforts to Make the Site Less Divisive, Wall Street Journal — prezentarea din 2016 cu „64%”.
Müller, K. & Schwarz, C. (2021), Fanning the Flames of Hate: Social Media and Hate Crime, Journal of the European Economic Association 19(4) (versiunea de lucru, 2019) — folosirea Facebook și atacurile asupra refugiaților din Germania.
Regulation (EU) 2022/2065 (Digital Services Act), articolele 34 și 38 — evaluarea riscului sistemic (systemic risk) al sistemelor algoritmice și opțiunea de recomandare fără profilare.