Precedent. Părinții unui copil au fost amendați pentru fotografiile nud fabricate de fiul lor cu ajutorul inteligenței artificiale

O premieră a avut loc în UE, într-un caz de deepfake cu imagini nude generate cu inteligența artificială. Părinții unui copil care ar fi generat, cu autorul AI, imagini cu colegele sale dezbrăcate, au fost amendați cu aproape 2.000 de euro.

Agenția Spaniolă pentru Protecția Datelor (AEPD) a impus o amendă de 2.000 de euro, redusă la 1.200 de euro pentru plata promptă, creatorului și distribuitorului de imagini artificiale cu corpuri nude.

Această tehnică, cunoscută sub numele de deepfake, implică utilizarea inteligenței artificiale (IA) pentru a suprapune fața victimei pe imaginea unei alte persoane nude. Este prima dată când se aplică o amendă în Spania pentru distribuirea de imagini ale unei persoane private, modificate prin IA, potrivit El Pais și El Diario.

VIDEO Imagini incredibile. Unei concurente la Miss Thailanda i-au picat dinții falși din gură pe scenă. Ce a făcut mai departe a uluit publicul

19:45

FLASH NEWS Bolojan invită PSD să depună moțiune de cenzură împotriva Guvernului. Ce spune despre relația cu Sorin Grindeanu

19:40

Decizia AEPD, publicată pe 27 octombrie, nu oferă detalii specifice despre victime, dar se referă la reglementări legate de minori. Potrivit presei spaniole, cronologia cazului coincide cu scandalul din septembrie 2023, când imagini false cu nuduri create cu IA ale cel puțin 20 de fete minore din Almendralejo, Badajoz, au fost distribuite.

Aplicația ClothOff

Un copil din Spania a general cu AI imagini cu colegele sale dezbrăcate La începutul anului școlar 2023-2024, în Almendralejo, un oraș cu 30.000 de locuitori, au început să circule fotografii cu mai multe fete dezbrăcate, în mediul online. În urma cercetărilor, s-a stabilit că imaginile nu erau reale, fuseseră generate cu AI.

O altă persoană ar fi folosit aplicația ClothOff pentru a plasa fețele lor pe imagini cu corpurile altor tinere dezbrăcate. Aceste deepfake-uri s-au răspândit rapid pe rețelele sociale și au fost încărcate „pe portaluri precum Only Fans și diverse site-uri pornografice”, după cum relatează presa din Spania.

Sancțiunea dată recent de către AEPD pedepsește distribuirea neautorizată a datelor personale, cum ar fi fotografiile persoanelor în cauză. Specific, se menționează că tratamentul datelor personale ale unui terț a fost ilegal. Cum a început ancheta în cazul imaginilor generate cu AI Conform documentului, fosta directoare a AEPD, Mar España, a decis să inițieze investigații preliminare pe 20 septembrie 2023, la două zile după ce presa a dezvăluit cazul.

Pe 2 octombrie, o persoană privată a depus la AEPD reclamația care a dus la sancțiune. „Trebuie reamintit (…) că persoanele au puterea de a dispune de datele lor personale, inclusiv de imaginea lor, precum și de difuzarea acestora, fiind, fără îndoială, demnă de protecție persoana ale cărei date personale sunt capturate și difuzate încălcând ordinea juridică”, se arată în rezoluția celor de la AEPD.

Primul caz de deepfake sancționat de AEPD

Aceasta este prima sancțiune emisă de o autoritate de protecție a datelor din Uniunea Europeană pentru distribuirea unui deepfake. Unii experți consideră că suma amenzii (2.000 de euro, reducibilă la 1.200) este foarte mică, având în vedere amploarea daunelor. „Foarte puține riscuri legate de IA provoacă atâta alarmă socială precum crearea de deepfake-uri sexuale neconsimțite ale minorilor. Nu spun că impunerea unei amenzi de un milion de euro în acest caz ar rezolva problema, dar cineva ar putea crede că o sancțiune exemplară este minimul care se poate cere în acest moment”, a precizat avocatul și delegatul pentru protecția datelor Jorge García Herrero, potrivit sursei citate mai sus.

În timp ce cazul din Almendralejo a fost tratat în principal prin sistemul de justiție penală, intervenția AEPD subliniază complexitatea acestor probleme. Experții trag un semnal de alarmă asupra necesității unei abordări multidisciplinare pentru a proteja drepturile și demnitatea indivizilor în fața eventualelor pericole cauzate de utilizarea inteligenței artificiale în astfel de scopuri.

Danemarca este prima țară din Europa care a oferit cetățenilor dreptul legal asupra propriei persoane, prin care să se poată proteja de imaginile sau înregistrările generate cuv AI.

Recomandarea autorului: Deepfake în Iași cu un medic foarte cunoscut. Imaginea doctoriței Carmen Dorobăț a fost folosită fără acord în reclama false, generate cu AI