Va scăpa Frankenstein din laborator? SUA și China, concurență acerbă în cursa IA, riscurile cresc proporțional

Frederick Kempe, președintele și directorul executiv al Atlantic Council, trage un semnal de alarmă. Cei care construiesc cele mai avansate sisteme de inteligență artificială (IA) nu mai par evangheliști ai tehnologiei pregătiți să salveze lumea. Din contră, în ultima perioadă par niște oameni de știință nebuni care se tem că monștrii lor Frankenstein evadează din laborator.

Președintele american Donald Trump și președintele chinez Xi Jinping ar trebui să schimbe agenda întâlnirii lor de la Casa Albă din 24 septembrie, consideră Kempe.

ACTUALITATE Șapte persoane reținute într-un dosar de fraudare a votului la alegerile prezidențiale din 2025, după ce ar fi votat în locul altor persoane

10:52

EMISIUNI EXCLUSIV DINAMO, azi de la 16:45. Se pregătește “Dinamo de Europa”!

10:43

 Loading ...

De ce? Tocmai pentru a aborda pericolele inerente propriei curse accelerate a inteligenței artificiale.

„Nimic nu ar putea fi mai potrivit, la patruzeci de ani după ce președintele american Ronald Reagan și liderul sovietic Mihail Gorbaciov au abordat cursa înarmării nucleare la Reykjavik, Islanda”, scrie președintele Atlantic Council.

Donald Trump și Xi Jinping / Foto – Mediafax

Avertismentul lui Dario Amodei, directorul executiv al Anthropic

Ceea ce a crescut tensiunea pe acest subiect a fost un eseu de 3.800 de cuvinte scris weekendul trecut de Dario Amodei, directorul executiv al Anthropic.

• Amodei a avertizat că – în termen de șase până la douăsprezece luni – inteligența artificială ar putea fi capabilă să dirijeze roiuri de agenți autonomi.
• Aceștia ar fi suficient de puternici pentru a prelua controlul asupra unei mari părți a internetului.

Doi cercetători de la Anthropic au demisionat recent. Au lansat avertismente sumbre cu privire la amenințările reprezentate de inteligența artificială la adresa umanității.

„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială”, a scris Amodei. Directorul executiv al Anthropic îngrijorat de faptul că aceste capacități creșteau mai repede decât capacitatea cercetătorilor de a le menține în siguranță.

• În câteva ore, rivalii Sam Altman de la OpenAI și Elon Musk de la SpaceXAI au susținut apelul lui Amodei pentru o încetinire.
• Avertismentul lor a venit după dezvăluirea OpenAI că unul dintre modelele sale a obținut independent acreditările care i-au permis să pirateze o altă companie.

„Prima mea îngrijorare este că, începând aproximativ cu vara aceasta, inteligența artificială (IA) avansează mai rapid. Inteligența artificială are o capacitate tot mare a IA de a construi următoarea generație de IA.

Această dinamică se numește auto-îmbunătățire recursivă și începe să se manifeste în întreaga industrie, inclusiv la Anthropic.

Necontrolată, ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie urmărită cu mare atenție”, a scris Dario Amodei.

Dario Amodei / Foto – Profimedia Images

Dario Amodei (Anthropic): „Beneficiile vor fi obținute doar dacă construim tehnologia în mod corect”

„Cred că IA poate îmbunătăți enorm calitatea vieții umane”, a mai scris Amodei.

„Dorința mea de a obține aceste beneficii este nestingherită. Dar beneficiile vor fi obținute doar dacă construim tehnologia în mod corect. Și – atâta timp cât folosim bine timpul câștigat – merită să acordăm o atenție deosebită pentru a o face corect”, a punctat directorul Anthropic.

Statele Unite și China se află într-o cursă a inteligenței artificiale, continuă Frank Kempe.

„Vor să stabilească cine poate construi cel mai rapid tehnologii care vor transforma natura războiului, puterea națională și creșterea economică.

Această competiție le-ar putea orbi în fața pericolului ca mașinile din ce în ce mai capabile să acționeze în moduri pe care creatorii lor nu le intenționează și nu le controlează.

Nicio țară nu se poate proteja de acest scenariu câștigând cursa inteligenței artificiale.

• Un sistem de apărare american care scapă de un control semnificativ nu ar respecta nicio graniță națională.
• descoperire chineză în domeniul inteligenței artificiale ar putea destabiliza rețelele financiare globale, dăunând Statelor Unite, dar nu neapărat cruțând China.

Inteligența artificială reprezintă o amenințare strategică. China și SUA ar putea găsi un teren comun în materie de garanții, chiar dacă cele două țări rămân concurente și chiar adversari”, mai scrie președintele Atlantic Council.

Donald Trump și Xi Jinping / Foto – Mediafax

Sistemele IA rămân dependente de infrastructura construită de om

Modul în care publicul percepe această amenințare contează și el, mai scrie Kempe.

Termenul frecvent folosit frecvent – „IA necinstită” – este nefolositor. Evocă imagini science fiction ale unei mașini care devine brusc conștientă, malefică și hotărâtă să facă rău.

„Pericolul imediat este reprezentat de sisteme care urmăresc ambițios obiective prost specificate. Acțiuni ascunse, acreditări furate, rețele penetrate. Aceste sisteme nu sunt conduse de ură sau de o personalitate deviantă. Sunt conduse de urmărirea neobosită a obiectivelor care le-au fost atribuite.

• Riscurile cresc exponențial atunci când mii de agenți operează simultan la viteza mașinilor.
• Imaginați-vă o mulțime de sisteme autonome care caută vulnerabilități de apărare, mută bani sau – Doamne ferește – proiectează și potențial declanșează arme biologice.

Sistemele de inteligență artificială de astăzi rămân dependente de infrastructura construită de om și sunt supuse intervenției umane. Predicțiile privind superinteligența care se auto-îmbunătățește rapid depind de presupuneri care s-ar putea dovedi greșite.

În timpul Războiului Rece, liderii americani și sovietici au înțeles în cele din urmă că supraviețuirea națională le cerea să privească dincolo de logica victoriei. Trump și Xi se confruntă acum cu o tehnologie mai puțin vizibilă decât bomba nucleară, deci mult mai dificil de verificat”, avertizează președintele Atlantic Council.

Trump și Xi se confruntă acum cu o tehnologie mai puțin vizibilă decât bomba nucleară / Foto – Mediafax

„Va fi nevoie de un efort monumental”

La rândul său, Alex Krasodomski – director Digital Society Programme la Chatham House – avertizează că întâlnirea dintre Trump și Xi nu va fi una a deciziilor ușoare în ceea ce privește IA.

„Calea către catastrofă descrisă de Amodei trece printr-o tehnică denumită auto-îmbunătățire recursivă (RSI). Este o abordare a antrenării modelelor de inteligență artificială care începe să fie implementată, deși este încă în stadii incipiente.

• Riscul este ca RSI, care implică antrenarea IA, să ducă la o dezvoltare a IA de o asemenea viteză încât, la un moment dat, se va atinge un punct de cotitură, în care IA-urile sunt suficient de capabile să se perfecționeze fără și dincolo de supravegherea umană.
• Inteligența artificială va fi pe masa discuțiilor când Trump și Xi se vor întâlni la Washington, la sfârșitul acestei luni. Un anumit tip de progres nu este imposibil.

Vocile importante din ambele țări insistă asupra necesității de a se depăși reciproc în competiție. Va fi nevoie de un efort monumental pentru a se ajunge la un acord”, avertizează și Alex Krasodomski.