Scandal în jurul platformei A.I. a lui Elon Musk după ce Grok a generat imagini indecente cu copii. UE promite să sancționeze platforma

Platforma de socializare a lui Elon Musk se confruntă cu noi amenințări din partea autorităților europene, după ce sistemul său de inteligență artificială, Grok, a produs o serie de imagini nud generate cu inteligență artificială, care includeau reprezentări ale unor minori dezbrăcați. Acest caz s-a transformat repede într-un test pentru statele europene. Dacă Europa îndrăznește să ia măsuri drastice împotriva lui Musk și a altor platforme Big Tech americane, ar putea atrage criticile lui Donald Trump, toate acestea pe fondul unei crize majore în încrederea transatlantică și al disputelor privind Groenlanda.

Elon Musk a postat imagini generate de Grok cu el și Bill Gates în bikini

Recenta creștere a „dezbrăcării digitale” pe scară largă și fără consimțământ a început la sfârșitul lunii decembrie, când mulți utilizatori au descoperit că pot eticheta Grok și îi pot cere să editeze imagini dintr-o postare sau un thread X. Însuși Elon Musk a repostat imagini cu el și cu alții, precum Bill Gates, în bikini, arată CNN.

SPORT Campionii mondiali, întâmpinați de regele Felipe al Spaniei. Motivul pentru care prințesele au purtat tricourile naționalei de fotbal cu numărul 26

20:13

INEDIT Netanyahu a postat un clip AI în care un adversar politic îl îmbrățișează pe noul lider al grupării Hamas

20:01

Chatbot-ul cu inteligență artificială al lui Musk a fost inundat de imagini cu tentă sexuală, în principal cu femei, multe dintre ele fiind persoane reale. Utilizatorii au determinat chatbot-ul să „dezbrace digital” aceste persoane și uneori să le plaseze în ipostaze sugestive. Grok a fost întotdeauna o excepție în comparație cu alte modele de inteligență artificială mainstream, permițând și, în unele cazuri, promovând conținut sexual explicit.

În doar o săptămână, Grok a generat peste 20.000 de imagini indecente

Cercetătorii de la AI Forensics, o organizație non-profit europeană care investighează algoritmii, au analizat peste 20.000 de imagini aleatorii generate de Grok și 50.000 de solicitări ale utilizatorilor între 25 decembrie și 1 ianuarie. AI Forensics a constatat, de asemenea, că, în unele cazuri, utilizatorii au solicitat ca minorii să fie puși în poziții erotice. Grok a dat curs acestor solicitări, potrivit AI Forensics.

Deși X permite conținut pornografic, propria „politică de utilizare acceptabilă” a xAI interzice „reprezentarea asemănărilor unor persoane într-o manieră pornografică” și „sexualizarea sau exploatarea copiilor”.

Musk și xAI au declarat că iau măsuri „împotriva conținutului ilegal de pe X, inclusiv a materialelor care prezintă abuzuri sexuale asupra copiilor (CSAM), prin eliminarea acestuia, suspendarea permanentă a conturilor și colaborarea cu administrațiile locale și cu forțele de ordine, după cum este necesar”. Însă, răspunsurile Grok la solicitările utilizatorilor sunt încă inundate de imagini care sexualizează femeile.

UE a amendat X cu 120 milioane de euro

Recent, Uniunea Europeană a amendat platforma X cu 120 de milioane de euro pentru încălcarea legii emblematice a platformelor comunitare, Legea serviciilor digitale. Aceste sancțiuni au adus o reacție vehementă din partea Washingtonului, care a impus apoi o interdicție de călătorie în SUA pentru fostul comisar digital al Uniunii Europene și arhitect al serviciilor digitale, Thierry Breton, și a patru activiști pentru dezinformare.

Întrucât Grok a început să producă deepfake-uri fără consimțământ, cu conținut sexual explicit, săptămâna trecută, autoritățile de reglementare din Paris, Bruxelles, Londra, Dublin și alte capitale ale UE au lansat acțiuni de investigație. Purtătorul de cuvânt digital al Comisiei, Thomas Regnier, a numit luni acest lucru „ilegal”, „îngrozitor” și „dezgustător”.

Pentru a sancționa aceste neconformități, legea privind serviciile digitale poate impune amenzi de până la 6% din veniturile anuale globale. În principiu, legea permite, de asemenea, UE să impună o interdicție temporară asupra X în întreaga Europă, deși aceasta este considerată o „măsură de ultimă instanță”. Aceste anchete durează multe luni până se finalizează și, în cele din urmă, necesită aprobara președintelui Comisiei Europene, Ursula von der Leyen. Abia după ce sunt publicate concluziile preliminare, Comisia are nevoie de 18 luni pentru a finaliza cazul și a aplica o amendă.

Mai multe guverne și autorități de reglementare europene au precizat că nu vor permite ca această problemă să treacă nesancționată

Parchetul din Paris a anunțat că va investiga proliferarea deepfake-urilor cu conținut sexual explicit, fără consimțământ, generate de Grok și publicate pe X. Ofcom, autoritatea de supraveghere a comunicațiilor din Regatul Unit, a declarat că este în „contact urgent” cu compania.

Autoritățile din Dublin, unde X își are sediul central european,  monitorizează și ea situația. „Partajarea de imagini intime fără consimțământ este ilegală, iar generarea de materiale cu abuzuri sexuale asupra copiilor este ilegală”, a declarat marți, într-un comunicat acordat POLITICO, autoritatea irlandeză de reglementare a mass-media.

X a primit și un avertisment din partea Berlinului. „Observăm cu mare îngrijorare o tendință de utilizare a instrumentelor de inteligență artificială, cum ar fi Grok, pentru a înfățișa femei și chiar minori în ipostaze sexualizate”, a declarat un purtător de cuvânt al Ministerului German al Digitalizării.

Recomandările autorului:

Câte trupe plănuiesc Marea Britanie și Franța să trimită în Ucraina pentru asigurarea păcii. Germania ar putea trimite soldați în România și Polonia

UE este acuzată că alimentează războiul lui Putin prin importul de gaze naturale din Rusia. În loc să scadă, importurile din Rusia au crescut

Senatul SUA a votat rezoluția care îi interzice lui Donald Trump să întreprindă noi acțiuni militare împotriva Venezuelei fără aprobarea Congresului