Prima pagină » Știri externe » Un fost cercetător al Anthropic care se ocupa de „dresarea” AI-ului trage un semnal de alarmă: „Inteligența artificială este un pericol existențial”

Un fost cercetător al Anthropic care se ocupa de „dresarea” AI-ului trage un semnal de alarmă: „Inteligența artificială este un pericol existențial”

Un fost cercetător al Anthropic care se ocupa de „dresarea” AI-ului trage un semnal de alarmă: „Inteligența artificială este un pericol existențial”

Mrinank Sharma, un expert de top în siguranța A.I. de la Anthropic, creatorul agentului Claude, a demisionat recent și a lansat un avertisment sumbru cu privire la amenințarea pe care o aduce avansul inteligenței artificiale. Sharma a avertizat că A.I.-ul reprezintă un pericol existențial pentru omenire, iar ritmul rapid al inovației, care depășește măsurile de siguranță, crește riscurile de utilizare necontrolată a inteligenței artificiale.

Dezvoltarea inteligenței artificiale nu este gestionată corespunzător

Mrinank Sharma și-a exprimat îngrijorarea că dezvoltarea inteligenței artificiale nu este gestionată corespunzător și pune lumea în pericol. Pe lângă riscurile existențiale generale, se menționează teama că inovațiile rapide pot fi folosite greșit, cum ar fi în crearea de arme biologice.

Sharma este departe de a fi singura persoană care avertizează asupra acestui pericol. Recent, o postare a antreprenorului Matt Shimer, intitulată „Se întâmplă ceva important”, a devenit virală pe internet. Investitorul Jason Calacanis a scris și el pe X, unde a zis că „nu am văzut niciodată atât de mulți experți exprimându-și preocupările atât de puternic, frecvent și cu atâta îngrijorare așa cum am văzut cu inteligența artificială”.

Sharma se asigura că A.I.-ul respectă valorile umane

Până la demisia sa, Sharma a condus echipa de Cercetare a Măsurilor de Protecție din cadrul Anthropic, unde a fost considerat un cercetător de top în domeniul alinierii A.I. – asigurarea că sistemele de inteligență artificială respectă valorile umane.

În scrisoarea sa de demisie, vizualizată de milioane de ori pe platforma X, Sharma a făcut câteva afirmații alarmante. Acesta a precizat că pericolul nu vine doar din partea inteligenței artificiale sau a armelor biologice, ci dintr-o serie de crize interconectate pe care le-a numit „policriză”. Cercetătorul a sugerat că î interiorul companiilor există presiuni constante pentru a lăsa la o parte „ceea ce contează mai mult”, adică siguranța, în favoarea vitezei de dezvoltare.

„Lumea este în pericol. Și nu doar din cauza AI sau a armelor biologice, ci din cauza unei întregi serii de crize interconectate care se desfășoară chiar în acest moment. Se pare că ne apropiem de un prag în care înțelepciunea noastră trebuie să crească în aceeași măsură cu capacitatea noastră de a influența lumea, altfel vom suporta consecințele. În plus, de-a lungul timpului petrecut aici, am văzut în repetate rânduri cât de greu este să lăsăm cu adevărat valorile noastre să ne ghideze acțiunile. Am văzut acest lucru în mine însumi, în cadrul organizației, unde ne confruntăm constant cu presiuni de a lăsa deoparte ceea ce contează cel mai mult”, a scris Sharma în scrisoarea sa de demisie.

Ultimul său proiect la Anthropic s-a concentrat pe modul în care asistenții A.I. ar putea să îi facă pe oameni „mai puțin umani” sau să le distorsioneze umanitatea și simțul realității. Plecarea lui Sharma nu este doar un incident izolat, ci face parte dintr-un val de demisii ale experților în siguranță de la marile companii care dezvoltă inteligența artificială, Anthropic și OpenAI. Acești cercetători acuză adesea faptul că profitul și competiția pentru a lansa modele tot mai puternice trec înaintea protocoalelor de siguranță.


Recomandările autorului:

„Europa este un gigant adormit”. Keir Starmer îndeamnă la Conferința de Securitate de la München la trezire militară și la un NATO mai european

Statele Unite l-au capturat pe Maduro cu ajutorul inteligenței artificiale. Pentagonul a folosit modelul Claude în timpul raidului din Venezuela

Zelenski și Orban, replici tăioase în marja Conferinței de la München. După ironia la adresa mărimii burții lui Orban, premierul maghiar ripostează

Comentarii 0

Lasă un răspuns

Trebuie să fii autentificat pentru a publica un comentariu.
Vă rugăm să țineți cont că folosirea injuriilor, a limbajului instigator la ură, a apelurilor la violență sau trimiterea repetată, în mod abuziv, a aceluiași comentariu pot duce nu doar la ștergerea mesajului, ci și la suspendarea temporară a dreptului de a comenta. Site-ul nostru încurajează dezbaterile aprinse, dar civilizate. Vă mulțumim pentru înțelegere și pentru contribuția la o discuție bazată pe argumente, nu pe atacuri.

Recomandarea video

Citește și

Mediafax
A pornit din Rahova și a ajuns „geamănul” lui Cristiano Ronaldo. Cine este Gilbert Costache
Digi24
Cum răspunde președintele AEP acuzațiilor că modificările la legea partidelor favorizează PSD. „Astăzi avem o puzderie de partide”
Cancan.ro
De ce Bianca Ghiurcă și Nattasha Black NU mai sunt PRIETENE după Insula Iubirii. Am aflat adevărul
Prosport.ro
Larisa Drăgulescu, apariție incendiară la 42 de ani! Cum s-a fotografiat de ziua sa
Adevarul
Istoricul Marius Diaconescu: România este cel mai slab punct al NATO pe flancul estic. Europa trebuie să stea pe propriile picioare
Mediafax
276 de PARTIDE în România! Formațiuni înființate de 2-3 membri din ACEEAȘI FAMILIE
Click
Târgul de Crăciun unde un hotdog costă 93 de lei. Turiștii, despre prețuri: „Un pic cam mari pentru ce-ţi oferă”
Digi24
VIDEO Armata României testează armele viitorului. Roboți și sisteme anti-dronă, prezentate la un exercițiu militar
Cancan.ro
Ce s-a descoperit pe autospeciala implicată în tragedia de pe Mihai Bravu. Detalii noi în ancheta privind moartea Teodorei, eleva de 17 ani
Ce se întâmplă doctore
Îi recunoaști? Imaginea de colecție din ziua nunții unui îndrăgit cântăreț de muzică populară. Artistul și soția sa au împlinit 41 de ani de căsnicie
Ciao.ro
Marius Damian de la Asia Express se topește pe picioare. De ce a slăbit atât de mult
Promotor.ro
Mașina Zilei: Volvo XC60 diesel din 2019, un SUV suedez care îmbină siguranța cu eficiență și confort
Descopera.ro
Un sistem stelar este atât de neobișnuit încât...
Râzi cu lacrimi
BANCUL ZILEI. BULĂ: – M-am combinat cu fata de la Meteo
Descopera.ro
Bacteriile arctice folosesc lumina Soarelui și dioxidul de carbon într-un mod neașteptat
Mediafax Italia
Bifele albastre de pe WhatsApp l-au făcut să piardă procesul!
Mediafax Spania
Crește vârsta de pensionare! De la 1 ianuarie, poți ieși la pensie dacă ai împlinit...