OpenAI dezvăluie că agentul AI care a atacat Hugging Face a lovit alte patru servicii cu o „viteză supraomenească”

După recentul atac cibernetic comis de un model AI rebel asupra platformei Hugging Face, compania OpenAI a dezvăluit public că mai multe servicii publice au fost vizate. 

Compania care a lansat popularul ChatGPT din 2022 transmite oficial că un agent AI aflat în testare a scăpat de sub control.

Patru servicii publice au fost vizate în urma atacului cibernetic comis de un agent AI

Agentul AI, care a devenit primul din istorie care a realizat pe cont propriu un atac cibernetic, a vizat patru date de autentificare online care i-au permis să acceseze patru servicii publice separate.Numele serviciilor afectate de atacul cibernetic din interiorul OpenAI n-au fost dezvăluite public.

Compania Hugging Face care operează un magazin de aplicații pentru instrumente AI, a comunicat că modelul AI scăpat de sub control  de la OpenAI a acționat cu o viteză supraomenească.

„A luat decizii stranii și a comis greșeli pe care niciun hacker uman nu le-ar fi făcut”, a declarat compania, potrivit BBC .

Raportul Cloud Securty Alliance: Anomalii de comportament și erori de logică, dar un atac eficient

Platforma a fost atacată pe 16 iulie, după ce un model AI foarte puternic, dar aflat în testare, a scăpat de sub control.

Incidentul, considera primul atac cibernetic comis de AI din istorie, a fost raportat la poliție.  Organizația industrială Cloud Security Alliance a publicat un raport în care scrie că „agenții AI au urmat rute ineficente și au manifestat comportamente stângace pe care nicio ființă umană nu le-ar fi făcut.

Agenții AI au repetat acțiuni pe care le-au finalizat deja, semn că inteligența artificială își pierde cursul și contextul, având halucinații de comenzi și texte incoerente, a raportat organizația.

De asemenea, au fost neglijenți și nu și-au acoperit urmele. Pe de altă parte, Hugging Face a avertizat că agenții AI de la OpenAI au comis manevre tehnice strălucite după ce au reușit să se adapteze rapid la ni scenarii pe durata atacului cibernetic care a durat câteva zile.

Provocarea securității cibernetice tradiționale în fața agenților autonomi

Au trecut trei zile până când atacul cibernetic a fost sesizat de inginerii de la OpenAI. Experților în AI ș în securitate cibernetică le-au luat mai multe ore pentru a izola și expulza agenții AI infiltrați.

Hugging Face a dezvăluit că a trebuit să apeleze la un model chinezesc de AI. Costurile atacului cibernetic nu a fost dezvăluit.

Ofițerul de securitate cibernetică Ritesh Patel a participat la apelul de informare Hugging Face alături de aproximativ 450 de persoane. El susține că industria lucrează din greu pentru a aborda noua amenințare a agenților AI rebeli.

„Aceasta este realitatea agenților autonomi alimentați de modele de frontieră: sunt neobosiți și persistenți, și vor încerca orice cale posibilă pentru a-și atinge scopul, ceea ce poate copleși cu ușurință orice sistem de securitate tradițională”, a spus el.

Hackerul etic Valentina Palmiotti – cunoscută sub numele de Chompie – a analizat raportul CSA și spune că modul în care agenții acționează poate părea că fac totul la întâmplare, dar într-un mod eficient.

„Aruncă o grămadă de lucruri și văd ce le lipește”, a spus ea.

„Dar nici nu se plictisesc, nu dorm și pot fi infinit de tenace.”

Sursa Foto: Profimedia