Dormi liniștit, algoritmul se înfurie pentru tine!

Dezvăluirile cu privire la trăsăturile structurale ale platformei Facebook continuă într-un ritm accelerat, aș spune chiar galopant. Chiar din interiorul companiei, apar dovezi care susțin ceea ce comunitatea dedicată studierii acestui fenomen adusese de ceva timp în atenția publică: algoritmii Facebook exploatează emoțiile utilizatorilor, fiind programați să afișeze cu precădere conținutul care are cel mai mare potențial să ne enerveze/ să ne înfurie/ să se viralizeze.

“Cea mai gravă dezvăluire de până acum”

Investigația Washington Post despre Facebook continuă, asemenea unui foileton palpitant, cu ceea ce unii analiști consideră  a fi ”cea mai gravă dezvăluire de până acum”. Aflăm ceea ce intuiam deja, ceva ce mulți cercetători semnalaseră de mult timp: algoritmul Facebook exploatează emoțiile utilizatorilor, fiind programat să afișeze cu precădere conținutul care are cel mai mare potențial să ne enerveze/ să ne înfurie/ să ne pună în mișcare pentru a distribui, pentru a comenta, pentru a genera mai mult engagement.

CONTROVERSĂ Comisia Europeană propune noi reguli pentru statele care vor să adere la UE. Cum pot fi afectate Moldova, Albania, Muntenegru și, în special, Ucraina

23:07

MARIUS TUCĂ SHOW Ion Cristoiu este sigur că Guvernul Niculescu va trece de votul Parlamentului: „O să îl voteze toți”

22:32

Acum cinci ani, compania anunța introducerea unei noi funcționalități – mai multe butoane de reacții, pe lângă clasicul ”like”. Aceste reacții exprimă emoțiile de bază: “love,” “haha,” “wow,” “sad”, “angry.” În acel moment, Mark Zuckerberg justifica decizia prin faptul că “oamenii doresc să își poată manifesta empatia și să poată împărtăși cu ceilalți utilizatori un evantai mai largă de emoții”. Ca o paranteză (!), emoticul “care”/ “grijă” a fost introdus în contextul pandemiei, după rezerve serioase din partea inginerilor de la Facebook; rezerve legate de faptul că un al șaselea buton, o a șasea reacție “strică” arhitectura de ansamblu și perturbă precizia măsurătorilor efectuate o scală de la 1 la 5. PR-ul a învins această rezervă, iar al șaselea emoticon a fost, în cele din urmă, acceptat un cost acceptabil în raport cu beneficiul de a face “ceva responsabil în pandemie”.

“Natura umană pusă pe steroizi”. Blamăm natura umană? Sau steroizii? 

Documentele interne ale Facebook care ies acum la suprafață dezvăluie că starea de bine a utilizatorilor și navigarea în siguranță pe platforma digitală nu ar fi reprezentat preocuparea principală a celor care au proiectat sistemul. Practic, se acumulează dovezile concrete pentru suspiciunile care planează de mult timp asupra companiei: că promovează un model de afaceri bazat pe creșterea engagementului prin stimularea emoțiilor negative și prin promovarea conținutului controversat.

”Facebook papers” arată că, în culise, algoritmul Facebook a fost reprogramat și, începând din 2017, criteriile de ierhizare a conțintului afișat în newsfeed s-au schimbat. Un ”like” la o postare valorează de cinci ori mai puțin decât un emoji (preferabil de furie), ceea ce înseamnă că postările care generează reacții emoționale sunt afișate de algoritmi mult mai frecvent decât cele neutre, care acumulează simple “like-uri”. Mă opresc din scris pentru a vă îndemna să “Distribuiți masiv!!!” și să aveți reacții de furie, astfel încât, într-un final, articolele mele să ajungă și ele “măcar puțin virale”.

Nu putem disocia această dezvăluire de amplificarea fulminantă a conținutului înșelător, trunchiat sau eronat, a dezinformării, a narațiunilor toxice. Postările care conțin acest tip de informații poluante declanșează emoții negative care, la rândul lor, stimulează viralizarea respectivului conținut prin contribuția factorului uman (utilizatori obișnuiți care distribuie din impuls) și factorului tehnologic (algoritmi care favorizează afișarea conținutului emoțional). În plus, atunci când suntem expuși unui bombardament pseudo-informațional într-un moment în care suntem sub imperiul emoțiilor, credibilitatea percepută a respectivului conținut pseudo-informațional crește. Cu alte cuvinte, platformele digitale (da, posibil să fie vorba despre platformele digitale în general, în ciuda faptului că în epicentru se află acum doar Facebook) sunt un mediu propice emoțiilor, iar emoțiile ne păcălesc să cădem în capcana informațiilor false, trunchiate, eronate.  Se pare că cercetătorii Facebook au semnalat încă din 2019 că postările care declanșau reacții de furie (emoji-ul ”angry”) conțineau sau amplificau conținuturi înșelătoare sau pur și simplu false, mesaje toxice și știri de proastă calitate într-o măsură disproporționat de mare comparativ cu postările care generau alte tipuri de reacții, mai echilibrate.

“Arhitectura Facebook este axată pe actori cu rele intenții, care îi împingi pe ceilalți utilizatori spre extreme”

Ce ar avea de câștigat Facebook din asta? Niște utilizatori implicați, agitați, vulnerabili și fragili din punct de vedere emoțional, vor petrece mai mult timp pe platformă, vor consuma mai mult conținut controversat, vor stimula discuțiile online și engagementul cu acel conținut și vor contribui, prin atenția lor continuă, la creșterea veniturilor din postări sponsorizate și a veniturilor din publicitate.

În cuvintele lui Frances Haugen, fosta angajată care a declanșat acest tsunami de dezvăluiri și anchete jurnalistice, ”furia și ura sunt cea mai ușoară cale de a deveni important pe Facebook. Actorii cu intenții negative au tot interesul să exploateze modul în care funcționează algoritmii. Sistemul actual de filtrare și prioritizare a conținutului este axat pe acești actori cu intenții rele, care îi împingi pe ceilalți utilizatori spre extreme.” Un punct de vedere nuanțat furnizează și Will Oremus, unul dintre autorii articolului din Washington Post pe subiectul butoanelor de reacție. ”Furia nu este rea în sine. Atunci când este canalizată către identificarea factorilor care dăunează societății, poate diminua comportamentele negative și poate contribui la schimbarea socială. Însă furia nu este nici bună în sine. Când este sistematic stimulată pe o platformă care nu se supune nici unei norme editoriale și nici unei verificări factuale, furia devine un instrument de răspândire și de recompensare a dezinformării, a urii și conținutului înșelător”.

Facebook pare că se îndreaptă câtre un coșmar de relații publice și nu numai. În ultimele săptămâni, acțiunile companiei au scăzut cu aproximativ 5% (ceea ce se traduce în pierderi de miliarde), iar acţionarii au depus o rezoluţie pentru a diminua puterea directorului executiv, Mark Zuckerberg. În plus, compania ar putea răspunde inclusiv legal, în SUA, pe baza mărturiilor și documentelor prezentate de Frances Haugen, care susține că Facebook și-a indus deliberat în eroare investitorii. Au apărut reacții dure inclusiv la nivelul Uniunii Europene, care până acum a proomovat ideea cooperării de tip soft cu platformele, prin stabilirea unor măsuri voluntare de reglementare și prin creșterea graduală a transparenței privind modul de funcționare a algoritmilor. Pe 26 octombrie, Comisarul european pentru concurență, Margrethe Vestager s-a exprimat fără echivoc într-un interviu acordat Deutsche Welle: ”Trebuie să acționăm acum împotriva Facebook.”