Anthropic a blocat conturile unor oameni de știință care se foloseau de asistentul virtual Claude pentru dezvoltarea armelor biologice

Compania Anthropic afirmă că din motive de precauție a prevenit oameni de știință să dezvolte arme biologice cu ajutorul modelului său de limbaj Claude.

Într-un raport recent publicat, compania de inteligență artificială a precizat că nu a putut stabili dacă cercetarea era legitimă sau malițioasă. A decis să oprească activitatea respectivă, dezvăluie The New York Times.  Anthropic susține că oamenii de știință i-ar fi folosit modelele de inteligență artificială (inclusiv chatbotul Claude) în ultimele opt luni în mod abuziv.

NEWS ALERT SURSE| Una caldă, una rece pentru ex-consilierul lui Băsescu, Cătălin Avrămescu. Scapă de acuzațiile de pornografie infantilă, dar fi cercetat pentru corupere sexuală de minori

21:25

ULTIMA ORĂ Ilie Bolojan anunță că și-a golit biroul de premier și și-a luat rămas bun de la doamnele de serviciu

21:08

 Loading ...

Unde se termină știința și unde începe rea-voința?

Anthropic a anunțat că a dejucat, în acest an, tentativele unor oameni de știință care ar fi folosit Claude pentru  dezvoltarea unor arme biologice.

Compania a declarat că nu a putut stabili cu exactitate dacă studiile biologice ale cercetătorilor erau folosite pentru creat vaccinuri sau agenți patogeni periculoși. În fața incertitdinii, Anthropic a ales să acționeze cu prudență maximă.

„Nu avem de-a face cu scenarii de benzi desenate în care cineva spune: «Hei, vreau să creez o armă biologică pentru a ucide pe toată lumea. Este o situație extrem de nuanțată.”, a declarat într-un interviu Jacob Klein, responsabilul cu analiza amenințărilor în cadrul Anthropic.

Riscul ca modelele avansate de inteligență artificială să contribuie în ritm mai accelerat la dezvoltarea unor agenți patogeni biologici cunoscuți sau complet noi se numără printre cele mai grave îngrijorări ale experților cu privire la o tehnologie care evoluează atât de rapid.

Claude, folosit pentru propagandă rusă și atacuri hibride, inclusiv pentru alegerile din Moldova

Principalii săi creatori se întreabă dacă oamenii vor putea controla inteligența artificială pe deplin. Comparativ cu amenințarea unor atacuri cibernetice catastrofale sau a unor agenți AI care nu sunt aliniați cu intențiile umane, utilizarea abuzivă în scopuri biologice a primit mai puțină atenție ca risc existențial asociat cu AI.

Măsurile companiei au vizat agenți care aveau avea legături cu guvernele Chinei și Iranului, instituții media de stat ruse care au utilizat Claude pentru a genera propagandă online mascată în relatări independente, inclusiv afirmații fabricate despre un scrutin electoral din Republica Moldova.

Anthropic a documentat o altă categorie de abuzuri, considerată nouă: tentative de utilizare a Claude pentru dezvoltarea de software destinat proiectării și realizării de arme convenționale, inclusiv arme de foc, rachete, drone înarmate și bombe.

Rebelii Houthi ar fi folosit Claude pentru a fabrica drone ieftine și rachete

Compania a prezentat detalii despre trei cazuri din China, două din Rusia și unul din Yemen. Raportul nu precizează numele părților implicate în cazul din Yemen, însă contextul indică clar că este vorba despre miliția Houthi, susținută de Iran.

Utilizarea AI de către rețelele teroriste reprezintă o preocupare tot mai mare pentru oficialii din domeniul securității din SUA. Totuși, dintre toate categoriile de amenințări prezentate în raport, niciuna nu este, probabil, la fel de îngrijorătoare precum cazurile legate de cercetarea biologică.

Anthropic nu a dezvăluit numele cercetătorilor sau instituțiilor blocate, țările de proveniență ale acestora ori agenții biologici vizați, parțial din cauza incertitudinii privind intențiile lor.

Cu toate acestea, Anthropic a precizat că oamenii de știință au eludat măsurile de control menite să împiedice accesul utilizatorilor din regiuni restricționate la modelele sale de AI au încercat să „mascheze scopul cercetării pentru a evita mecanismele noastre de protecție”.

Un cercetător a solicitat experimente un un virus transmis prin înțepăturile de țânțari

Compania a suspendat conturile asociate acestor cercetări.Într-un exemplu din luna mai, un cercetător a solicitat ajutorul Claude pentru redactarea unei cereri de finanțare în vederea efectuării unor experimente asupra virusului chikungunya – o boală transmisă de țânțari care poate provoca dureri severe și alte simptome timp de mai multe luni.

Astfel de cercetări, cunoscute sub denumirea de studii privind „câștigul de funcție” (gain-of-function), pot fi legitime și pot contribui la dezvoltarea vaccinurilor, dar pot, de asemenea, genera variante extrem de virulente ale virusurilor. În acest caz concret, cercetătorul dorea să introducă mutații în virus pentru a-l face mai periculos pe măsură ce infecta succesiv animale vii.

Weber, de la Council on Strategic Risks (Consiliul pentru Riscuri Strategice) – care a ocupat și funcția de secretar adjunct al apărării pentru programele de apărare nucleară, chimică și biologică în timpul administrației Obama – a pledat pentru limitarea accesului la instrumentele de inteligență artificială capabile să realizeze cercetări biologice de acest nivel, permițând utilizarea lor doar de către cercetători de încredere.

„Faptul că Rusia, China și Coreea de Nord continuă să dezvolte arme biologice interzise face imperativă restricționarea accesului cercetătorilor din aceste țări la modelele dotate cu astfel de capacități extraordinare”, a declarat el.

Sursa Foto: Shutterstock