Un bărbat care a fost arestat pentru generare de imagini ilegale cu AI s-a ales cu interdicție pe viață la utilizarea unui chatbot

Compania de inteligență artificială a lui Elon Musk, xAI, a dat în judecată un bărbat din Carolina de Sud. Terry Harwood a fost arestat ⁠la începutul anului 2026 sub acuzația de exploatare sexuală a minorilor.

Autoritățile locale l-au pus sub acuzare că a utilizat în mod abuziv sistemul de inteligență artificială al companiei, Grok, pentru a genera  imagini cu abuzuri sexuale asupra minorilor, potrivit The Guardian.

Primul utilizator arestat pentru că a folosit Grok la generat conținut ilegal

Este printre primele cazuri intentate de o companie de inteligență artificială împotriva unui internaut pentru că a utilizat un instrument cu AI pentru a genera conținut ilegal.

xAI a susținut în procesul depus marți la un tribunal federal din Texas, că Terry Harwood a încălcat termenii și condițiile companiei.

Procesul intentat de companie împotriva lui Harwood vine după o examinare la scară globală a companiei xAI. Potrivit acuzațiilor, chatbot-ul Grok a permis utilizatorilor să genereze deepfake-uri sexualizate fără consimțământ sau videoclipuri cu aspect realist generate de AI.

Cum se apără compania lui Elon Musk

Grok AI a generat aproximativ 3 milioane de imagini sexualizate în 11 zile, conform unui studiu.În plângerea depusă de xAI scrie că firma suspendă și închide conturile utilizatorilor care abuzează de GROK.

De asemenea, compania se apără că raportează conținutul ilegal generat cu AI (precum ilustrarea de abuzuri sexuale asupra minorilor) către Centrul Național pentru Copii Dispăruți și Exploatați.

xAI a susținut că Harwood a încărcat fotografii cu adulți și minori pe platformă pentru a antrena Grok. El a putut genera imagini deepfake explicit din punct de vedere sexual pe baza fotografiilor cu persoane reale.

Internautul are acces interzis la Grok pe viață

Plângerea susținea, de asemenea, că acesta a creat imagini sexuale neconsensuale cu adulți. Compania a solicitat instanței o sumă nespecificată de daune bănești și o hotărâre judecătorească care să îl împiedice permanent pe Harwood să utilizeze Grok.

„Acțiunile inculpatului au fost o schemă plănuită de a transforma instrumentul reclamantului într-o armă în scop infracțional, expunând victimele reale la daune profunde și de durată, expunând în același timp reclamantul la un risc juridic semnificativ și la daune reputaționale”, a precizat xAI în proces.

Sursa Foto: Profimedia/X