Primul atac cibernetic comis pe cont propriu de un model AI a fost descoperit de inginerii companiei OpenAI abia după o săptămână

Inginerii de la compania OpenAI au aflat că două dintre modelele sale AI au atacat rețeaua platformei Hugging Face pe cont propriu abia la o săptămână de la incident.

Inginerii companiei conduse de Sam Altman au sesizat abia după câteva zile că un sistem AI care era în testare, într-un mediu controlat, a scăpat de sub control. OpenAI și Hugging Face încă investighează incidentul de securitate fără precedent, produs în timpul unor teste interne.

EXTERNE Proprietarul unui restaurant cu două stele Michelin, acuzat că a servit furnici clienților

20:21

LIFESTYLE Cum îți protejezi curtea de căpușe. Cele mai eficiente metode recomandate de experți

20:05

 Loading ...

Primul atac cibernetic efectuat de AI

După ce și-a depășit limitele impuse de programatori, a lansat atacuri cibernetice asupra platformei Hugging Face.

Printr-un test demarat pe 9 iulie, compania OpenAI care a lansat chatbot-ul ChatGPT a intenționat să testeze o combinație de modele lingvistice pentru a identifica și remedia vulnerabilități ale programelor software, dar în mod autonom.

Proiectul OpenAI era menit să concureze cu Mythos, sistemul de securitate cibernetică dezvoltat de Anthropic, potrivit Reuters .

Inginerii n-au sesizat incidentul timp de mai multe zile

Pe 11 iulie însă, modelele AI au evadat din mediul restricționat creat de ingineri. Au interacționat cu infrastructura online a platformei Hugging Face.

Atacul a debutat pe 13 iulie, fără ca echipa de ingineri de la OpenAI să observe problema. Thomas Wolf, co-fondatorul Hugging Face, a declarat public că atacul n-ar fi putut fi comis de hackeri.

Atacul de amploare comis în câteva ore de un model AI stârnește panică pe mapamond

Modelele AI au avut nevoie doar de câteva ore pentru a iniția un atac cibernetic de amploare. Un atac de această magnitudine a necesitat săptămâni de planuri și muncă din partea unor specialiști umani.

Informațiile despre incident au fost date publicității după 20 iulie. Dincolo de valul de panică stârmit pe rețelele de socializare, unde mulți internauți spun că scenariul din filmul „Terminator 2” al regizoruluii James Cameron se adeverește, și Presa internațională a ridicat semne de întrebare asupra securității modelelor de AI dezvoltate de OpenAI.

Un alt record îngrijorător: Doar modelel AI chinezești au putut opri atacul

Când modelele de top din domeniul inteligenței artificiale nu au putut să se apere împotriva atacului, Hugging Face a apelat la modele alternative create în China.

Politicienii americani caută să limiteze adoptarea tot mai mare a modelelor chinezești de inteligență artificială de către companiile autohtone din motive ce țin de securitate cibernetică și proprietatea intelectuală.

Dar Hugging Face a trebuit să combată atacul cibernetic cu GLM 5.2, un sistem AI creat de compania chineză Z.ai. A reușit acolo unde sistemele americane au eșuat.

Sursa Foto: Profimedia