Nvidia, SpaceX și Microsoft lansează o alianță pentru siguranța IA, după atacul cibernetic asupra Hugging Face

Nvidia și mai multe companii importante din industria tehnologiei, printre care și Microsoft, SpaceX, Palantir, au lansat o nouă inițiativă pentru siguranța inteligenței artificiale, concentrată pe dezvoltarea și folosirea modelelor open-source. Demersul vine după un atac cibernetic în care modele OpenAI compromise au fost folosite împotriva startup-ului Hugging Face, care nu a putut utiliza modele americane de ultimă generație pentu a se apăra.

O nouă alianță pentru siguranța inteligenței artificiale

Nvidia și mai mulți giganți din industria tehnologiei au lansat luni Open Secure AI Alliance, o inițiativă dedicată siguranței inteligenței artificiale și concentrată pe modelele cu open-source.

REACȚIE Miruță cere ca reacția față de Rusia să fie „una fermă”, în cazul dronelor interceptate. Dă vina pe miniștrii anteriori pentru că România nu are capacități anti-dronă

21:36

EXCLUSIV Anatol Șalaru revine cu explicații suplimentare pentru Gândul după ce a cerut retragerea cetățeniei lui Dan Dungaciu. Îl numește “conservă rusească” și îl avertizează pe George Simion: „Se uită lung către fotoliul tău”

21:36

Demersul are loc pe fondul consecințelor unui atac cibernetic în care au fost implicate modele OpenAI compromise.

Săptămâna trecută, s-a aflat că startup-ul Hugging Face, ținta atacului, nu a putut utiliza pentru apărare modelele de vârf dezvoltate în Statele Unite. Sistemele de protecție nu puteau face diferența între atacator și compania care încerca să se apere.

În cele din urmă, Hugging Face a apelat la un model chinezesc cu greutăți deschise, găzduit pe propria infrastructură, care nu era supus acelorași restricții.

Nvidia: „Specialiștii în securitate cibernetică au nevoie de sisteme deschise”

În contextul în care legiuitorii americani analizează tot mai atent modalitățile prin care ar putea limita adoptarea modelelor chineze de inteligență artificială, giganții din tehnologie încearcă să promoveze dezvoltarea și distribuirea unor instrumente de IA deschise.

Spre deosebire de modelele închise, modelele cu arhitectură deschisă pot fi descărcate, modificate și găzduite independent. Modelele închise, printre care se numără sistemele de ultimă generație dezvoltate de Anthropic și OpenAI, pot fi accesate doar prin intermediul unei infrastructuri specifice.

„Alianța Open Secure AI va depune eforturi pentru remedierea și dezvăluirea vulnerabilităților folosind tehnologii deschise. Recentul incident de securitate de la Hugging Face a reprezentat un memento clar: specialiștii în securitate cibernetică au nevoie de sisteme deschise, de ultimă generație, cu capacități agentice, pentru autoapărare”, a declarat Nvidia într-un comunicat.

Pe lângă Nvidia, din alianță fac parte Microsoft, SpaceX, Palantir și zeci de alte companii de tehnologie din Statele Unite și Europa.

SUA analizează măsuri împotriva IA chineze

În același timp, sunt tot mai multe apeluri pentru adoptarea unor măsuri care să limiteze accesul la modelele dezvoltate de companiile chineze de inteligență artificială.

Aceste companii au fost acuzate că desfășoară campanii pentru extragerea de informații din sistemele rivalilor americani, proces cunoscut sub numele de „distilare”. Acesta presupune ca un model de IA să extragă cunoștințe dintr-un alt model, mai bine antrenat.

Săptămâna trecută, secretarul Trezoreriei SUA, Scott Bessent, a amenințat cu sancțiuni împotriva companiilor chineze care desfășoară atacuri de distilare asupra companiilor americane.

„Există o posibilitate reală ca guvernul SUA să impună restricții asupra modelelor chineze”, a declarat pentru CNBC Chris McGuire, cercetător principal pentru China și tehnologii emergente la think tank-ul Council on Foreign Relations.

Ce restricții ar putea impune SUA

Potrivit lui McGuire, eventualele măsuri ar putea include interzicerea tranzacțiilor care implică aceste modele.

Printre exemple se numără achiziționarea de token-uri prin intermediul unui API sau găzduirea modelelor în cloud de către companii americane care le percep clienților taxe pentru inferență.

„La Washington, aceasta nu este o dezbatere despre open-source versus closed-source, ci o dezbatere privind tolerarea sau nu a furtului de proprietate intelectuală din partea Chinei. Orice măsuri ar viza companiile chineze, nu ecosistemul open-source”, a declarat McGuire.

Totuși, situația este complicată de faptul că majoritatea celor mai performante modele open-source sunt dezvoltate de companii chineze. Din acest motiv, există îngrijorări cu privire la eventualele restricții.

Companiile americane cer evitarea „restricțiilor premature”

Săptămâna trecută, Nvidia, Microsoft, Meta, Palantir și alte peste 20 de companii au publicat o scrisoare în care le cereau factorilor de decizie să evite „restricțiile premature” asupra modelelor de IA cu arhitectură deschisă.

Potrivit companiilor, astfel de măsuri ar putea „împiedica concurența sau ar determina inovarea să se îndrepte către piețele externe”.

Nvidia susține că incidentul dintre OpenAI și Hugging Face a evidențiat o problemă practică importantă pentru securitatea cibernetică.

„Atunci când apărătorii nu pot inspecta, adapta și rula IA avansată pe propria infrastructură, capacitatea lor de a reacționa este limitată tocmai în momentul în care viteza contează cel mai mult”, a afirmat compania.