Avertismentul unui cercetător Anthropic: „Inteligența artificială ar putea ucide omenirea în următorul deceniu. Credem cu toată convingerea asta”

Trei cercetători care lucrează sau au lucrat la Anthropic, gigantul din industia AI, care a creat Claude, unul dintre cei mai puternici chatboți din lume, avertizează că o inteligență artificială superinteligentă ar putea avea consecințe catastrofale pentru omenire în următorul deceniu.

Un avertisment extrem de dur vine chiar din interiorul industriei care construiește cele mai avansate sisteme de inteligență artificială din lume. Trei cercetători care lucrează sau au lucrat la Anthropic susțin că dezvoltarea unei superinteligențe insuficient controlate ar putea ajunge să amenințe existența umanității.

Jacob Coxon, cercetător care a lucrat atât pentru Anthropic, cât și pentru OpenAI, și-a anunțat demisia și a lansat public acuzații grave la adresa modului în care industria gestionează riscurile asociate sistemelor AI tot superinteligente, potrivit The Guardian.

EXTERNE În 1418, un navigator portughez a eliberat o iepuroaică pe insula Porto Santo. Ce s-a găsit 443 de ani mai târziu

08:25

TRAGEDIE Un feribot cu 134 de oameni la bord a fost cuprins de flăcări în Filipine: sunt cel puțin 5 morți și 87 de persoane dispărute

08:10

Foto: Magnific.com

În opinia sa, companiile aflate în cursa pentru dezvoltarea inteligenței artificiale avansate se apropie prea rapid de sisteme capabile să se îmbunătățească singure, fără ca problema controlului acestora să fi fost rezolvată.

„Astăzi mi-am dat demisia de la Anthropic. În ultimii trei ani m-am ocupat de cercetarea în domeniul pre-antrenării atât la OpenAI, cât și la Anthropic. Niciuna dintre aceste companii nu acționează în mod responsabil. Se îndreaptă cu viteză spre o superinteligență capabilă de auto-perfecționare și își joacă viețile noastre la noroc.”, a scris Jacob Coxon, fost cercetător la Anthropic și OpenAI.

Sursa foto: X/@hilbertspaess

Coxon susține că îngrijorarea privind un posibil scenariu catastrofal nu este rezervată unui grup marginal de specialiști și nici nu reprezintă, în opinia sa, o strategie de marketing folosită pentru a amplifica interesul față de inteligența artificială.

Din experiența sa în interiorul industriei, cercetătorul afirmă că temerile sunt discutate inclusiv la nivelurile superioare ale companiilor care dezvoltă aceste tehnologii.

„Cei care dezvoltă IA cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o manevră de marketing. Dimpotrivă, mulți directori și cercetători de rang înalt își vor alege cu grijă cuvintele în fața presei pentru a părea rezonabili – dar îi aud pe aceiași oameni exprimându-și temerea în privat. Nicio altă activitate umană nu prezintă un astfel de nivel de pericol”, a afirmat Coxon.

Sursa foto: X/@hilbertspaess

Afirmațiile sale au primit susținere publică din partea altor doi cercetători ai Anthropic.

Cercetător Anthropic: „Chiar credem că IA ar putea ucide toți oamenii”

Una dintre cele mai puternice reacții a venit de la Evan Hubinger, care se prezintă drept unul dintre liderii echipei de aliniere a Anthropic.

Alinierea AI reprezintă domeniul care urmărește dezvoltarea unor sisteme de inteligență artificială ale căror obiective și comportamente să rămână compatibile cu intențiile și valorile umane, inclusiv pe măsură ce modelele devin mai capabile.

Hubinger a afirmat public că împărtășește o parte importantă a îngrijorărilor exprimate de fostul său coleg.

„Chiar credem cu toată convingerea că IA ar putea ucide toți oamenii!. Personal, consider că probabilitatea este >10% în următorul deceniu. Cred că Anthropic face tot ce poate, dar încă nu avem un plan pentru a rezolva problema alinierii superinteligenței și nu suntem clar pe drumul cel bun în această direcție”, a scris Evan Hubinger, unul dintre liderii diviziei de aliniere a Anthropic.

Sursa foto: x/@EvanHub

Un avertisment similar a venit de la Samuel Marks, responsabil în cadrul Anthropic pentru zona de „supraveghere scalabilă”. Marks a precizat explicit că analiza exprimă opinia sa personală și nu poziția oficială a companiei.

„Dezvoltatorii de IA cred că tehnologia lor ar putea provoca extincția umanității (sau consecințe la fel de grave). Acest lucru s-ar putea întâmpla în următorii câțiva ani. În general, cu cât angajatul are o funcție mai înaltă, cu atât este mai îngrijorat”, a scris Samuel Marks, responsabil cu supravegherea scalabilă la Anthropic.

Declarațiile celor trei cercetători readuc în centrul dezbaterii una dintre cele mai controversate probleme ale dezvoltării inteligenței artificiale: posibilitatea ca sisteme viitoare, mult mai capabile decât cele actuale, să devină dificil sau imposibil de controlat.

Anthropic răspunde: AI aduce „riscuri fără precedent”

Anthropic a respins ideea că ar ignora pericolele și a apărat strategia adoptată pentru dezvoltarea și testarea modelelor sale.

„Am fost întotdeauna transparenți în privința faptului că IA va aduce atât beneficii enorme, cât și riscuri fără precedent. Pentru a face față acestor riscuri, continuăm să construim modele cu unele dintre cele mai solide măsuri de protecție din industrie”, a transmis un purtător de cuvânt al Anthropic, într-o declarație pentru The Guardian.

Compania invocă, printre măsurile sale de siguranță, cercetările în domeniul interpretabilității mecaniciste, prin care specialiștii încearcă să înțeleagă procesele interne ale modelelor AI și motivele pentru care acestea produc anumite rezultate.

Anthropic subliniază, de asemenea, că a introdus o Politică de scalare responsabilă, concepută pentru gestionarea riscurilor catastrofale asociate modelelor tot mai performante. Mai mult, compania afirmă că sistemele sale sunt testate pentru identificarea unor capacități potențial periculoase, inclusiv în domenii precum securitatea cibernetică și biologia.

„Această activitate este, de asemenea, motivul pentru care credem că lumea ar avea de câștigat dacă industria ar adopta o modalitate legală și verificabilă de a colabora pentru a reglementa ritmul în care lansăm modele puternice”, a mai transmis purtătorul de cuvânt al Anthropic.