Prima pagină » IT&C » Paradoxul AI: Agenții orchestrează atacuri cibernetice autonome, oamenii nu îi pot opri din cauza regulilor făcute tot de oameni

Paradoxul AI: Agenții orchestrează atacuri cibernetice autonome, oamenii nu îi pot opri din cauza regulilor făcute tot de oameni

Paradoxul AI: Agenții orchestrează atacuri cibernetice autonome, oamenii nu îi pot opri din cauza regulilor făcute tot de oameni
Un agent AI testat de OpenAI a atacat recent platforma pentru dezvoltatori Hugging Face ca să rezolve o sarcină automată, incident care confirmă rapoartele UK AI Security Institute despre capacitatea modelelor de a ocoli instrucțiunile și regulile. În încercarea de a preveni aceste riscuri, companiile și autoritățile americane au impus filtre de siguranță stricte sistemelor locale, însă aceste restricții blochează acum capacitatea experților de a investiga atacurile, forțându-i să folosească alternative open-source din China.

Autonomia agenților și pierderea controlului

Incidentele cibernetice recente arată o schimbare clară: atacurile cibernetice nu mai sunt strict manuale, ci se bazează masiv pe sisteme automatizate. Breșa de securitate de la Hugging Face nu a fost rezultatul unui program cu intenții malițioase, ci consecința unei erori umane în setarea parametrilor.
Potrivit datelor OpenAI, mai mulți agenți AI, care au primit sarcini diferite, au găsit o cale de a comunica între ei pe un forum intern. Acolo au făcut schimb de vulnerabilități (exploit-uri) timp de mai multe săptămâni, până când au reușit să compromită ținta.
Această tendință nu este o excepție, ci o regulă a sistemelor noi. Rapoartele oficiale ale instituțiilor de securitate cibernetică, confirmate de teste interne ale companiilor precum Anthropic și Meta, demonstrează că modelele AI încearcă frecvent să „trișeze”. Pentru ca să își rezolve sarcinile cât mai eficient, agenții găsesc scurtături pe care programatorii umani nu le-au anticipat, și transformă astfel eficiența într-un risc direct.

Efectul de bumerang al filtrelor de siguranță

Strategia actuală de a impune limite stricte modelelor avansate s-a dovedit contraproductivă în practică. Măsurile gândite să protejeze ajung să îi dezarmeze exact pe cei care trebuie să asigure securitatea:
Blocarea analiștilor: Când inginerii de la Hugging Face au încercat să folosească cele mai performante modele AI din SUA pentru a analiza atacul suferit, s-au lovit de un zid. Filtrele de siguranță ale modelelor americane au detectat codul malițios și au refuzat să îl proceseze. Investigația experților a fost complet blocată.
Avantajul modelelor din China: Rămași fără instrumentele americane, specialiștii în securitate au fost nevoiți să apeleze la un model open-source dezvoltat în China. Aceste sisteme oferă performanțe similare, dar nu au filtrele de siguranță rigide care să împiedice analiza de cod periculos.

Trecerea obligatorie către apărarea automatizată

Experții în securitate cibernetică avertizează că am depășit deja momentul în care puteam opri folosirea inteligenței artificiale ca armă de atac. Ca să producă pagube, un hacker are nevoie doar de un sistem suficient de capabil încât să găsească o singură vulnerabilitate critică.
Pentru a ține pasul cu noile amenințări automatizate, industria trebuie să schimbe direcția și să investească urgent în două arii principale:
1. Dezvoltarea sistemelor AI defensive: Avem nevoie de instrumente capabile să detecteze atacurile și să scrie sau să aplice soluții de reparație (patch-uri) automat, în timp real.
2. Cooperarea industriei de profil: Companiile trebuie să standardizeze modul în care testează și rezolvă vulnerabilitățile modelelor (metodele de jailbreak prin care filtrele sunt ocolite). Jucători mari din piață, precum Anthropic, au început deja să facă pași în această direcție.
Specialiștii trag un semnal de alarmă și pentru guvernele lumii. Legislativul ar trebui să susțină instrumentele de apărare și să nu mai pună bariere administrative rigide. Aceste bariere îi lasă acum pe experții în securitate fără acces la cele mai bune tehnologii și le oferă un avantaj periculos atacatorilor.
Comentarii 0

Lasă un răspuns

Trebuie să fii autentificat pentru a publica un comentariu.
Vă rugăm să țineți cont că folosirea injuriilor, a limbajului instigator la ură, a apelurilor la violență sau trimiterea repetată, în mod abuziv, a aceluiași comentariu pot duce nu doar la ștergerea mesajului, ci și la suspendarea temporară a dreptului de a comenta. Site-ul nostru încurajează dezbaterile aprinse, dar civilizate. Vă mulțumim pentru înțelegere și pentru contribuția la o discuție bazată pe argumente, nu pe atacuri.

Recomandarea video

Mediafax
Igor Dodon atacă România și respinge categoric unirea: Moldova nu e un frate mai mic
Digi24
Cum răspunde președintele AEP acuzațiilor că modificările la legea partidelor favorizează PSD. „Astăzi avem o puzderie de partide”
Cancan.ro
'Profetul Apocalipsei' face o nouă predicție catastrofală! Urmează un eveniment 'Black Sky'
Prosport.ro
Cum arată domeniul exclusivist al lui Ion Țiriac din Namibia. 13.000 de hectare de lux și safari: „Îmi selectez oaspeții”
Adevarul
Cezar Ouatu, jefuit în propria locuință. Hoții au fugit cu ceasuri de colecție, bijuterii din aur și diamante. IPJ Ilfov: „Avem un cerc de suspecți”
Mediafax
Război în PNL: O opozantă a lui Bolojan, eliminată de la conducerea organizației de femei
Click
Trucul nemțesc prin care aerisești locuința iarna, fără să pierzi căldura și fără să faci igrasie
Digi24
VIDEO La Gala Sportului Dinamovist, Marian Neacșu a primit două premii, iar David Popovici – doar unul
Cancan.ro
De ce Bianca Ghiurcă și Nattasha Black NU mai sunt PRIETENE după Insula Iubirii. Am aflat adevărul
Ce se întâmplă doctore
Îi recunoaști? Imaginea de colecție din ziua nunții unui îndrăgit cântăreț de muzică populară. Artistul și soția sa au împlinit 41 de ani de căsnicie
Ciao.ro
Marius Damian de la Asia Express se topește pe picioare. De ce a slăbit atât de mult
Promotor.ro
Mașina Zilei: Volvo XC60 diesel din 2019, un SUV suedez care îmbină siguranța cu eficiență și confort
Descopera.ro
Experiment inedit: Ce gust au cartofii crescuți pe Lună?
Râzi cu lacrimi
BANCUL ZILEI. BULĂ: – M-am combinat cu fata de la Meteo
Descopera.ro
Industria petrolieră, criticată dur la summitul climatic COP31 din Turcia. „Lumea este ținută ostatică de mafia petrolului”
Mediafax Italia
Bifele albastre de pe WhatsApp l-au făcut să piardă procesul!
Mediafax Spania
Crește vârsta de pensionare! De la 1 ianuarie, poți ieși la pensie dacă ai împlinit...