Avertisment fără precedent din industria AI. Șefii Claude, ChatGPT și Elon Musk cer încetinirea dezvoltării inteligenței artificiale

Un avertisment fără precedent vine chiar din centrul cursei mondiale pentru inteligență artificială. Dario Amodei, CEO-ul Anthropic, cere companiilor care construiesc cele mai avansate modele de IA să încetinească ritmul în care le măresc capacitățile, pentru ca mecanismele de siguranță și societatea să aibă timp să țină pasul. Apelul capătă o greutate suplimentară prin reacția a doi dintre cei mai importanți rivali ai săi: Sam Altman, CEO-ul OpenAI, și Elon Musk, care conduce xAI, spun public că sunt de acord.

În spatele acestei convergențe rare se află temeri tot mai serioase privind sistemele capabile să acționeze autonom, să execute atacuri informatice și, în viitor, să contribuie la dezvoltarea următoarelor generații de superinteligență artificială, care ar putea afecta iremediabil întreaga planetă, potrivit Washington Post.

ACTUALITATE Alexandru Rogobete, la Țebea pentru comemorarea lui Avram Iancu. „Un simbol al libertății și demnității naționale”

13:17

PROIECT Bolojan anunţă când se va deschide pentru public Insula Lacul Morii din Capitală

13:02

Dario Amodei și-a prezentat poziția sâmbătă, 12 septembrie, într-un amplu eseu intitulat „We Must Pace the Frontier”, în care încearcă să traseze o cale între continuarea necontrolată a cursei pentru IA și oprirea completă a dezvoltării tehnologiei.

Șeful Anthropic, șeful din spatele Claude, cel mai avansat chatbot AI din prezent, susține că inteligența artificială poate produce beneficii extraordinare pentru omenire, inclusiv accelerarea cercetării medicale, creșterea economică și dezvoltarea științifică.

Dar tocmai viteza cu care avansează tehnologia îl determină acum să ceară mai multă prudență.

„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de IA. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm”, a scris Dario Amodei, cofondator și CEO al Anthropic.

Amodei argumentează că oprirea pur și simplu a progresului ar putea priva omenirea de beneficiile tehnologiei și, în același timp, ar putea permite unor state autoritare să continue cursa fără aceleași constrângeri.

„Faptul de a nu dezvolta această tehnologie privează umanitatea de beneficii sau pur și simplu pune IA în mâinile unor puteri autoritare, în timp ce dezvoltarea ei prea rapidă este imprudentă. Am căutat o cale de mijloc. Însă, în ultimele câteva luni, am ajuns la convingerea că abordarea completă a riscurilor necesită și mai multă prudență”, a explicat Amodei.

Avertisment dur venit de la unul dintre creierele din spatele Claude și ChatGPT: „Se joacă cu viețile noastre”

Mesajul vine într-un moment în care inclusiv cercetători aflați direct în dezvoltarea celor mai avansate sisteme încep să vorbească public despre riscurile pe care le percep.

Jacob Coxon, în vârstă de 27 de ani, care a lucrat la preantrenarea modelelor atât la OpenAI, cât și la Anthropic, a anunțat că părăsește industria. Coxon susține că cele două companii înaintează prea rapid spre dezvoltarea unor sisteme capabile să se îmbunătățească singure.

„Niciuna dintre companii nu acționează în mod responsabil. Ele se îndreaptă cu viteză spre o superinteligență capabilă de auto-îmbunătățire și își joacă viețile noastre. Oamenii care dezvoltă IA cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”, a declarat Jacob Coxon, fost cercetător la OpenAI și Anthropic.

Prin „superinteligență”, cercetătorii descriu ipotetic sisteme ale căror capacități cognitive ar depăși semnificativ performanțele umane într-o gamă largă de domenii.

Incidentul care a amplificat alarma: agenți AI au ajuns pe internet

Una dintre experiențele invocate în actuala dezbatere privind siguranța s-a produs în timpul testării unor sisteme OpenAI. Compania a dezvăluit anterior că agenți de inteligență artificială aflați într-un mediu experimental au reușit să iasă din mediul izolat, să acceseze internetul și să compromită sisteme asociate platformei Hugging Face, utilizată pe scară largă pentru dezvoltarea și distribuirea modelelor și codului pentru AI.

Agenții AI se deosebesc de un chatbot obișnuit prin capacitatea de a executa autonom secvențe de acțiuni pentru atingerea unui obiectiv, fără ca un om să fie nevoit să autorizeze fiecare pas.

Pentru Amodei, ceea ce s-a întâmplat în timpul acestor teste reprezintă un avertisment asupra tipului de comportament care ar putea deveni mult mai periculos odată cu creșterea capacităților modelelor.

„Un roi de agenți a acționat, în esență, ca un colectiv fanatic și devotat, lansând atacuri de securitate cibernetică asupra unor ținte pe care nu li s-a cerut să le atace și care nu aveau nicio legătură cu sarcina pe care o aveau de îndeplinit”, a explicat Dario Amodei.

Șeful Anthropic avertizează că progresul extrem de rapid al tehnologiei ar putea transforma asemenea incidente experimentale într-o problemă de securitate de o cu totul altă amploare. El estimează că, dacă ritmul actual al dezvoltării continuă, capacitățile unor sisteme autonome ar putea crește radical într-un interval foarte scurt.

„Având în vedere ritmul accelerat de dezvoltare a capacităților IA, îmi fac griji că, în 6-12 luni, un astfel de roi ar putea fi capabil să preia controlul asupra întregului internet”, a avertizat Amodei.

Un asemenea scenariu ar putea provoca, în evaluarea sa, pagube de ordinul sutelor de miliarde de dolari.

Tocmai aceste evoluții au contribuit la apariția unei situații greu de imaginat în urmă cu numai câțiva ani: liderii unor companii aflate într-o competiție comercială și tehnologică acerbă încep să vorbească aceeași limbă despre necesitatea încetinirii.

Reacția lui Elon Musk: „Dario are dreptate”

Elon Musk și-a exprimat sprijinul într-o formulă foarte scurtă.

„Dario are dreptate”, a scris Elon Musk, fondatorul și CEO-ul xAI.

Sam Altman a mers mai departe și a susținut explicit ideea controlării ritmului în care sunt dezvoltate modelele de frontieră.

„Sunt de acord cu Dario că trebuie să controlăm ritmul avansării”, a declarat Sam Altman, CEO-ul OpenAI.

Altman a susținut și propunerea privind accesul evaluatorilor independenți la sistemele companiilor care dezvoltă IA avansată.

Anthropic deschide sistemele evaluatorilor externi. OpenAI promite o măsură similară

CEO-ul Anthropic propune un mecanism prin care companiile să poată fi supravegheate din exterior în privința riscurilor sistemelor pe care le construiesc.

Anthropic intenționează să ofere unor evaluatori externi independenți un nivel permanent de acces comparabil cu cel acordat angajaților, astfel încât aceștia să poată verifica practicile de siguranță și comportamentul modelelor.

Amodei cere celorlalte mari laboratoare de inteligență artificială să adopte mecanisme similare.

Sam Altman a anunțat că OpenAI intenționează să accepte, la rândul său, o asemenea supraveghere externă și a sugerat că vor urma noi informații privind măsurile pregătite de companie.

Planul propus de Amodei are trei componente majore: evaluare independentă în interiorul companiilor, coordonarea laboratoarelor pentru stabilirea unor standarde comune de siguranță și cooperare între guverne pentru gestionarea riscurilor generate de cele mai avansate sisteme.

Mai mult de 1.000 de angajați ai unor companii care dezvoltă tehnologii IA de frontieră au semnat și o petiție prin care cer guvernului american să contribuie la „reglarea deliberată a ritmului de dezvoltare a IA automatizate”.

Statele Unite au introdus la începutul lunii august un proces voluntar de evaluare a securității modelelor avansate înainte de lansare, însă amploarea și eficiența mecanismului urmează să fie demonstrate.

Discuția este complicată și de competiția geopolitică.

Companiile americane se tem că o încetinire unilaterală le-ar putea permite rivalilor din alte state, în special China, să câștige teren. Amodei susține tocmai de aceea că siguranța nu poate depinde exclusiv de deciziile voluntare ale unei singure companii, ci necesită coordonare între industrie și autorități.