Avertismentul unui expert mondial în demascarea deepfake-urilor: imaginile false făcute cu AI, aproape indetectabile: „Suntem terminați”

Hany Farid, unul dintre cei mai cunoscuți experți în criminalistică digitală, avertizează că imaginile generate de AI au devenit atât de convingătoare încât verificarea adevărului durează mai mult decât răspândirea informațiilor false.

Timp de peste două decenii, Hany Farid a fost omul chemat atunci când nimeni altcineva nu mai putea spune cu certitudine dacă o fotografie, o voce sau un videoclip era real. A construit instrumente pentru detectarea falsurilor digitale, a lucrat cu jurnaliști, guverne, polițiști și organizații pentru drepturile omului și a devenit una dintre cele mai importante autorități mondiale în criminalistica imaginilor, potrivit The New York Times.

Acum, la 60 de ani, Farid admite ceva ce ar fi părut aproape de neconceput cu doar câțiva ani în urmă: inteligența artificială a progresat atât de mult încât nici el nu mai are încredere în ceea ce vede.

Momentul care avea să-i sintetizeze această criză profesională a început într-o duminică dimineață, cu un videoclip trimis spre verificare. Înregistrarea pretindea că surprinde momentul în care o rachetă fabricată în Statele Unite lovește o școală primară din Iran, într-un atac în care ar fi murit peste 150 de persoane, majoritatea copii.

Sursa video – X/@angertab

Întrebarea primită de Farid era directă: era o farsă virală sau dovada unei crime de război?

Primele imagini nu ofereau un răspuns simplu.

Cerul era albastru, palmierii se mișcau natural în vânt, iar firele telefonice traversau cadrul. Apoi o rachetă apărea în imagine și lovea o clădire.

Pentru Farid, scena părea aproape prea perfectă. În zilele precedente analizase numeroase clipuri realizate cu inteligență artificială care prezentau bombardamente inexistente, accidente de avion fabricate, incendii false și execuții care nu avuseseră loc niciodată.

Primul său instinct a fost că și acest videoclip fusese generat sau manipulat. Dar analiza tehnică începea să-i contrazică suspiciunea.

Mișcarea camerei semăna cu cea a unui telefon ținut de un martor. Umbrele respectau geometria scenei. Întârzierea dintre impact și sunetul exploziei părea compatibilă cu distanța și viteza sunetului.

Farid a stabilizat imaginile, a analizat cadrele individual și a urmărit traiectoria presupusei rachete.

Viteza părea constantă, direcția era coerentă, iar dimensiunea rezultată din măsurarea pixelilor era de aproximativ 18 picioare, corespunzătoare tipului de armament pe care imaginile pretindeau că îl surprind.

A geolocalizat apoi filmarea folosind o bază de date cu milioane de imagini.

Rezultatul indica o stradă din Minab, Iran, aflată la câțiva zeci de metri de o școală primară. Totul începea să indice autenticitatea.

Și totuși, Farid nu putea spune cu certitudine că imaginile erau reale.

Vizionase înregistrarea de cel puțin 100 de ori și își verificase calculele împreună cu alți specialiști în imagistică. Aceștia ajunseseră la aceeași concluzie: nu existau elemente clare care să demonstreze manipularea.

În loc să declare însă videoclipul autentic, expertul a ales o formulare mult mai prudentă.

„În ansamblu, nu găsim dovezi convingătoare că videoclipul este fals sau a fost manipulat”, a scris Hany Farid, expert în criminalistică digitală și profesor universitar.

Diferența pare subtilă, dar spune aproape totul despre noua realitate digitală.

Farid nu mai încerca doar să găsească falsurile într-o lume dominată de imagini autentice. Era obligat să demonstreze autenticitatea într-un ecosistem în care falsurile deveniseră abundente, rapide și aproape imposibil de recunoscut doar cu ochiul liber.

„Nu mai am încredere în nimic”. Deepfake-urile au ajuns să-i păcălească și pe experți

Înregistrarea din Iran fusese deja vizionată de cel puțin 1,1 milioane de ori atunci când Farid încă încerca să stabilească ce vede. Aici apare una dintre cele mai mari vulnerabilități ale erei AI.

Verificarea unei imagini poate dura ore sau chiar o zi întreagă. Distribuirea ei către milioane de oameni durează câteva minute.

În timp ce Farid analiza pixelii, umbrele și viteza proiectilului, internetul își construia deja propria versiune a realității.

După atac au început să apară alte clipuri generate de inteligență artificială: generali falși care ofereau ordine, părinți inexistenți care plângeau victime inventate și imagini fabricate în jurul unui eveniment real.

Realitatea și ficțiunea ajungeau să se suprapună până când publicului îi devenea aproape imposibil să mai știe unde se termină una și începe cealaltă.

Pentru Farid, efectul nu mai este doar profesional.

„Simt că o să orbesc”, a spus Farid, descriind senzația că inteligența artificială începe să ascundă adevărul și să distorsioneze percepția realității.

Mai târziu, într-o discuție cu soția sa, cercetătoarea Emily Cooper, a descris schimbarea într-un mod și mai direct.

„Nu mai am încredere în nimic. La fiecare imagine pe care o văd, trasez linii pentru umbre și fac calcule geometrice în minte, încercând să-mi dau seama la ce mă uit. S-a terminat. În unul sau doi ani, întregul nostru sistem vizual va fi complet inutil”, a spus Farid.

Problema nu se limitează la imaginile din războaie.

Solicitările care îi ajung zilnic acoperă aproape fiecare zonă a societății.

A fost întrebat dacă o voce atribuită lui Joe Biden, transmisă alegătorilor înaintea unor alegeri primare, era autentică.

Dacă imagini cu Donald Trump erau reale. Dacă fotografii nud ale unor adolescente erau autentice sau fabricate cu ajutorul inteligenței artificiale.

Alte cazuri implicau reclame false cu Tom Hanks, apeluri video în care un presupus director general cerea transferuri de milioane de dolari sau voci clonate ale unor copii folosite pentru a-i convinge pe părinți că aceștia fuseseră răpiți.

Farid însuși a devenit victima tehnologiei pe care o studiază.

Cineva i-a falsificat numărul de telefon și i-a clonat vocea cu ajutorul inteligenței artificiale, apoi a contactat un coleg implicat într-un caz sensibil și a încercat să obțină informații confidențiale.

După acel incident, el și Emily Cooper au stabilit un cuvânt de siguranță pe care îl folosesc pentru a-și confirma identitatea atunci când discută telefonic despre subiecte sensibile.

Farid rezumă transformarea internetului printr-o comparație amară.

„Mi-e dor de vremurile când era doar un videoclip neclar cu un rechin înotând pe stradă”, a spus expertul.

Falsul se răspândește în minute. Verificarea poate dura ore

Farid nu este un adversar al inteligenței artificiale.Folosește agenți AI pentru programare, aplicații care îl ajută să redacteze mesaje și tehnologii automate în viața de zi cu zi. Este chiar entuziasmat de unele dintre progresele tehnologice pe care le predă studenților.

Problema, spune el, este viteza cu care aceleași instrumente pot fi transformate în arme de manipulare.

În timpul unei prelegeri la Universitatea din California, Berkeley, Farid le-a prezentat studenților evoluția falsurilor generate de inteligența artificială.

Deepfake-urile din primii ani puteau fi detectate prin defecte evidente: clădiri deformate, explozii nenaturale, mișcări faciale greșite sau sincronizare imperfectă între voce și buze.

Generațiile recente sunt radical diferite.

Clipurile false pot reproduce iluminarea, expresiile, vocile și mișcarea suficient de bine încât identificarea lor prin simpla vizionare devine extrem de dificilă.

„Ai putea crede că poți observa și face diferența în timp ce stai acolo și derulezi conținutul negativ. Crede-mă, nu poți. Aici intervin metodele noastre”, le-a spus Farid studenților săi.

Instrumentele dezvoltate de cercetător și de alți specialiști urmăresc detalii pe care ochiul uman nu le poate observa.

Pot analiza manierismele unei persoane, inflexiunile vocii, geometria umbrelor, punctele de fugă și chiar modificările extrem de subtile ale culorii pielii provocate de circulația sângelui.

Atunci când un om vorbește, inima pompează sânge prin vasele feței, provocând variații microscopice de culoare. În anumite situații, aceste schimbări pot fi măsurate pentru a determina dacă imaginea surprinde o persoană reală sau un avatar artificial.

Chiar și asemenea metode au însă o limită esențială: timpul.

Potrivit lui Farid, viața relevantă a unei postări obișnuite pe rețelele sociale poate fi extrem de scurtă.

„În 20 de minute, practic totul s-a terminat”, a spus cercetătorul.

Până când experții reușesc să demonstreze că o filmare este falsă, aceasta poate fi deja vizionată și distribuită de milioane de oameni. Iar răul produs nu dispare odată cu dezmințirea.

Un fals poate deveni perceput ca fapt. Un fapt autentic poate fi respins drept deepfake. Această a doua consecință îl îngrijorează profund pe Farid: tehnologia nu permite doar fabricarea unor evenimente inexistente, ci oferă și posibilitatea ca dovezile autentice să fie negate sub pretextul că ar fi fost generate de AI.

În timpul uneia dintre ultimele sale prelegeri la Berkeley, un student i-a rezumat problema. Crearea unui deepfake devenise simplă, ieftină și rapidă, în timp ce detectarea lui rămânea dificilă și costisitoare.

Studentul l-a întrebat dacă există o soluție apropiată sau dacă societatea este, pur și simplu, depășită. Farid a ezitat înainte să răspundă.

„Suntem cam terminați”, a spus el.

Presiunea ultimelor luni l-a determinat pe Farid să părăsească împreună cu Emily Cooper zona Berkeley pentru o proprietate izolată din Vermont, în apropiere de Dartmouth College.

Cei doi au cumpărat o cabană din anii 1920, înconjurată de aproximativ 100 de acri de pădure. Farid a început să taie lemne, să curețe poteci și să petreacă ore întregi departe de ecrane.

„Ăsta e cel mai concret progres pe care l-am făcut la orice muncă în ultimele șase luni”, a spus el, privind o grămadă de lemne pe care o pregătise pentru iarnă.

Dar distanța geografică nu a oprit ceea ce se întâmpla online. Mesajele au continuat să sosească.

Videoclipuri cu explozii. Atacuri care trebuiau autentificate. Înregistrări despre care persoane condamnate susțineau că fuseseră falsificate. Imagini cu presupuse atentate, moschei bombardate sau accidente aeriene.