Două modele ChatGPT au “evadat”, s-au conectat la internet și au spart un alt sistem. Nu au putut fi oprite decât cu modele AI chinezești

OpenAI și Hugging Face investighează un incident de securitate fără precedent, produs în timpul unor teste interne. Două modele avansate de inteligență artificială au exploatat vulnerabilități informatice, au obținut acces la internet și au compromis infrastructura Hugging Face, determinând noi măsuri de securitate fără precedent în industria AI.

Copmania OpenAI, cea care deține chatbotul ChatGPT, a confirmat un incident de securitate considerat fără precedent în domeniul inteligenței artificiale, după ce două modele experimentale AI au exploatat vulnerabilități informatice în timpul unor teste interne și au reușit să ajungă la internet, compromițând ulterior o parte din infrastructura platformei Hugging Face.

COMUNICAT Cadastru gratuit. Erorile din documentele tehnice ale cadastrului pot fi corectate și după perioada de afișare

11:15

ACTUALITATE Liderul sindicaliștilor, Simion Hăncescu, îl atacă pe Nicușor Dan: „De ce nu negociază președintele cu Bruxelles-ul în locul Guvernului demis?”

11:00

Incidentul, dezvăluit inițial de Hugging Face și confirmat ulterior de OpenAI printr-un comunicat oficial, s-a produs într-un mediu de testare extrem de izolat, creat special pentru evaluarea capacităților cibernetice ale celor mai avansate modele AI dezvoltate de companie.

Foto: magnific.com

Potrivit OpenAI, în incident au fost implicate modelul GPT-5.6 Sol și un alt model aflat încă în faza de pre-lansare, ambele configurate temporar cu restricții reduse privind refuzul solicitărilor cibernetice, tocmai pentru a le testa limitele în condiții controlate.

„Considerăm că acest incident reprezintă un incident cibernetic fără precedent, care implică capacități cibernetice de ultimă generație, și reacționăm în consecință. Împărtășim concluziile preliminare în această etapă pentru a ajuta specialiștii în securitate să înțeleagă ce s-a întâmplat și pentru a contribui la calibrarea capacităților actuale ale modelelor”, a transmis OpenAI, într-un comunicat oficial.

Cum au reușit modelele AI să depășească mediul de testare

Conform explicațiilor oferite de OpenAI, modelele au fost testate în cadrul ExploitGym, un benchmark intern destinat evaluării capacităților de identificare și exploatare a vulnerabilităților informatice.

În timpul testelor, modelele au analizat infrastructura pusă la dispoziție și au identificat o vulnerabilitate de tip „zero-day” într-un software utilizat pentru administrarea pachetelor software. Exploatând această breșă, ele au obținut acces la un nod conectat la internet, deși mediul de testare fusese conceput pentru a funcționa aproape complet izolat.

Odată conectate la internet, modelele au dedus că platforma Hugging Face găzduia modele AI, seturi de date și informații relevante pentru testul pe care încercau să îl rezolve.

Potrivit OpenAI, sistemele AI au combinat mai multe tehnici de atac, inclusiv utilizarea unor credențiale compromise și exploatarea unor vulnerabilități necunoscute anterior, pentru a obține acces la informații din infrastructura Hugging Face.

Compania subliniază însă că întreaga activitate a fost detectată rapid de sistemele sale de monitorizare, iar echipele de securitate ale OpenAI și Hugging Face au intervenit imediat pentru izolarea incidentului și demararea investigațiilor.

OpenAI anunță măsuri suplimentare de securitate

În urma incidentului, OpenAI a anunțat o serie de măsuri menite să reducă riscul repetării unor situații similare.

Compania a precizat că va introduce controale mai stricte asupra infrastructurii utilizate pentru cercetare, chiar dacă acest lucru va încetini dezvoltarea viitoarelor modele. Totodată, vulnerabilitatea de tip „zero-day” descoperită în software-ul terț utilizat în timpul testelor a fost raportată responsabil dezvoltatorilor pentru remediere.

OpenAI colaborează în continuare cu Hugging Face pentru analiza criminalistică a incidentului și pentru consolidarea mecanismelor de protecție utilizate în timpul testării modelelor avansate.

În comunicatul companiei se arată că dezvoltarea inteligenței artificiale capabile să desfășoare operațiuni cibernetice complexe trebuie însoțită de măsuri defensive pe măsură.

„Principala lecție desprinsă din acest incident este că securitatea și siguranța modelelor trebuie să țină pasul cu capacitățile care avansează rapid”, precizează OpenAI.

La rândul său, CEO-ul Hugging Face, Clem Delangue, consideră că incidentul demonstrează importanța colaborării între companiile din domeniul inteligenței artificiale.

„Suntem recunoscători pentru colaborarea cu OpenAI pe această temă și pe alte subiecte. Acest incident, probabil primul de acest gen, demonstrează un lucru în care credem de mult timp: siguranța IA nu va fi asigurată de o singură companie care lucrează în secret. Ea va fi asigurată în mod deschis, prin colaborare, cu acces larg la IA pentru fiecare specialist în securitate, oriunde s-ar afla”, a declarat Clem Delangue, cofondator și CEO al Hugging Face.