Un agent AI al OpenAI a spart un site al guvernului australian și a accesat fișiere secrete din domeniul medical. Reacția premierului de la Sydney: „Inacceptabil”

Un agent AI dezvoltat de OpenAI a accesat fișiere publice și nepublice ale unui serviciu guvernamental australian, după ce ar fi încercat să ocolească restricțiile întâlnite în timpul unei cercetări. Premierul Anthony Albanese califică incidentul drept „inacceptabil”.

Un agent autonom de inteligență artificială dezvoltat de OpenAI a accesat în luna iunie un site al guvernului australian și a ajuns la fișiere publice și nepublice ale unui serviciu de statistică din domeniul sănătății, potrivit premierului Anthony Albanese, potrivit CNN.

Șeful guvernului australian a dezvăluit incidentul la New York, în marja Adunării Generale a ONU, și a criticat inclusiv modul în care OpenAI a gestionat informarea autorităților după descoperirea problemei.

Albanese susține că guvernul său nu a fost notificat până pe 10 septembrie, la câteva luni după incident, iar avertizarea companiei a fost trimisă la o adresă publică generică de e-mail.

„Astăzi am purtat o discuție cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident. De asemenea, mi-am exprimat dezamăgirea față de faptul că a durat mult prea mult până când compania a informat guvernul despre ceea ce s-a întâmplat”, a declarat Anthony Albanese, prim-ministrul Australiei.

Albanese a criticat în termeni duri și maniera în care autoritățile au fost avertizate.

„A trebuit să așteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur și simplu la adresa de e-mail publică”, a declarat premierul australian.

OpenAI: Modelele „au întreprins acțiuni pe care nu le prevăzusem”

OpenAI a recunoscut că activitatea agenților săi AI a implicat mai multe site-uri și servicii guvernamentale australiene. Compania din spatele ChatGPT admite că, în timpul procesului, comportamentul sistemelor a depășit acțiunile anticipate de dezvoltatori.

„Am identificat activități care implicau mai multe site-uri web și servicii ale guvernului australian, în cadrul cărora modelele noastre încercau să caute răspunsuri. În cursul acestui proces, modelele noastre au întreprins acțiuni pe care nu le prevăzusem”, a transmis OpenAI într-un comunicat publicat la San Francisco.

Agentul AI ar fi efectuat cercetări în domeniul sănătății atunci când a încercat să obțină acces la un set de date restricționat. Premierul a cerut companiei americane să își consolideze măsurile de protecție pentru astfel de sisteme autonome.

„Când a fost blocat, a căutat modalități de a ocoli această blocare. Cred că OpenAI știe că trebuie să pună în aplicare protocoale mai bune. Este vorba despre un proiect de cercetare care s-a aventurat în domenii în care nu ar fi trebuit să se aventureze”, a declarat Anthony Albanese.

Autoritățile australiene nu au stabilit până acum că incidentul ar fi dus la compromiterea unor date personale.

„Nu credem că au fost accesate informații personale în acest stadiu, dar anchetele continuă”, a precizat premierul.

Investigația este coordonată de Australian Signals Directorate, instituția australiană responsabilă de securitatea cibernetică și informațiile din domeniul semnalelor. Albanese a descris incidentul drept „în mod evident inacceptabil”.

Presiune tot mai mare pentru controlul agenților AI

Cazul australian apare într-un moment în care capacitatea modelelor avansate de inteligență artificială de a executa autonom succesiuni complexe de acțiuni generează preocupări tot mai mari în industria tehnologică și în rândul autorităților.

Problema a ajuns și în discuțiile de la Organizația Națiunilor Unite, unde lideri ai principalelor companii AI au vorbit despre riscurile asociate dezvoltării rapide a tehnologiei.

„Evoluția actuală a AI necesită o atenție extremă”, a declarat Sam Altman, CEO al OpenAI, în cadrul unei prezentări în fața Consiliului de Securitate al ONU de la New York.

În ultimele luni, companii precum OpenAI și Anthropic au raportat, în cadrul propriilor teste de siguranță, situații în care modele avansate au manifestat comportamente neanticipate sau au încercat să îndeplinească obiectivele primite prin metode pe care dezvoltatorii nu le intenționaseră.

Anthropic a raportat la rândul său accesări neautorizate ale unor sisteme în timpul unor teste de securitate, iar Google a dezvăluit comportamente problematice identificate în evaluările efectuate asupra Gemini.

Incidentele intensifică dezbaterea privind nivelul de autonomie care ar trebui acordat agenților AI și măsurile tehnice necesare înainte ca asemenea sisteme să poată interacționa cu infrastructuri și servicii din lumea reală.