WSJ: ChatGPT oferă informații precise utilizatorilor privind fabricarea și utilizarea armelor biologice. Ce măsuri a luat OpenAI

În urma unei analize amănunțite a platformei ChatGPT, experții în biologie și terorism au constatat că chatbot-ul oferă utilizatorilor din intreaga lume detalii amănunțite despre fabricarea și crearea de arme biologice și otrăvuri, relatează The Wall Street Journal.

OpenAI nu a alertat autoritățile

Modelele, care funcționează în mare parte fără restricții din partea guvernului SUA, au răspuns cu răbdare, oferind instrucțiuni pas cu pas descrise de angajații companiei ca fiind suficient de simple încât să poată fi urmate chiar și de un elev de liceu la biologie, scrie WSJ.

Experți în biologie și terorism au analizat ulterior schimburile de mesaje de pe ChatGPT și au considerat că unele dintre ele erau extrem de precise, au declarat persoane familiarizate cu această chestiune. Potrivit OpenAI, majoritatea întrebărilor se refereau la prepararea otrăvurilor.

CONTROVERSĂ FT: UE își reconsideră sancțiunile împotriva Rusiei din cauza magnatului grec George Prokopiou

15:18

ACTUALITATE Ce sunt ”norii de foc”. Fenomenul extrem de periculos care poate distruge rapid Europa

15:07

OpenAI a blocat aceste conturi și alte conturi de utilizatori care întrebau despre modul de fabricare a otrăvurilor și a armelor biologice, dar nu a alertat autoritățile de aplicare a legii.

Creșterea semnificativă a numărului de întrebări privind uciderea în masă

Potrivit angajaților actuali și foști ai marilor laboratoare de inteligență artificială, inclusiv OpenAI, precum și consilierilor politici și cercetătorilor care studiază armele biologice, absența unor măsuri de protecție obligatorii coincide cu o creștere a numărului de întrebări din partea utilizatorilor care solicită modelelor de IA instrucțiuni privind uciderea în masă, iar chatbot-urile răspund cu planuri credibile pentru atacuri cu victime în masă.

Întrebările au urmat unor schimburi de mesaje îngrijorătoare din prima parte a anului. Utilizatorii au întrebat ChatGPT cum se pot pulveriza agenți patogeni, transformând, practic, germenii infecțioși într-o ceață letală, care poate fi inhalată.

Unul dintre ei a vrut să afle cum se poate modifica virusul rujeolic pentru a crea un focar rezistent la vaccinul împotriva rujeolei. În acele cazuri, chatbotul a furnizat instrucțiuni.

Un alt utilizator a vrut să afle cum se poate produce ricina, o otravă extrem de toxică interzisă prin tratate internaționale, potrivit unor persoane familiarizate cu problema. Chatbotul a oferit instrucțiuni detaliate, iar utilizatorul a făcut o aluzie la uciderea părinților săi.

OpenAI a interzis aceste conturi, dar nu a alertat autoritățile.

OpenAI notifică autoritățile cu privire la întrebările cu risc iminent

OpenAI își antrenează modelele să refuze cererile de instrucțiuni, tactici sau planuri care ar putea face rău oamenilor, a declarat o purtătoare de cuvânt a OpenAI.

Compania efectuează evaluări de siguranță pentru toate modelele înainte de lansare, a precizat ea, și poate identifica și bloca încercările de a utiliza modelele sale pentru a obține informații biologice dăunătoare.

ChatGPT primește aproximativ 2,5 miliarde de interogări pe zi.

Atunci când OpenAI consideră că o conversație indică un risc iminent și credibil de a provoca daune altora, compania notifică autoritățile de aplicare a legii, potrivit companiei.

Modelele Claude, Gemini și Grok, vizate

Utilizatorii care caută instrucțiuni pentru fabricarea armelor biologice au adresat întrebări și modelului Claude al companiei Anthropic, modelului Gemini al Google și modelului Grok al lui Elon Musk, care a fost recent integrat în SpaceX.

Nu era clar dacă întrebările făceau parte din eforturi reale de a fabrica armele sau din exerciții menite să testeze capacitățile aplicațiilor, potrivit unor persoane familiarizate cu aceste schimburi de mesaje.

Un purtător de cuvânt al Google a declarat că compania dispune de o echipă de siguranță care include oameni de știință care evaluează riscurile legate de armele biologice. Google organizează, de asemenea, exerciții pentru a testa siguranța IA companiei, a adăugat acesta.  

„Apărările biologice și instituționale existente s-ar putea să nu fie suficiente”

Două modele OpenAI au „evadat” recent dintr-o rețea de cercetare în timpul antrenării și au pătruns prin hacking în sistemul unei alte companii de IA, alimentând îngrijorările legate de modelele rebele.

IA ar putea ajuta guvernele străine și grupurile afiliate să elaboreze planuri de distrugere în masă inimaginabile până acum, inclusiv „scenarii care implică un agent atât de contagios, atât de letal sau atât de categoric inedit, încât apărările biologice și instituționale existente ale civilizației umane s-ar putea să nu fie suficiente pentru a-l ține sub control”, a afirmat Hamza Chaudhry, șeful departamentului de politică de securitate națională al Future of Life Institute, o organizație non-profit axată pe reducerea riscurilor catastrofale generate de IA.

Discuții la Casa Albă despre amenințările inteligenței artificiale

Oficialii înalți de la Casa Albă și din Departamentul Apărării au discutat despre amenințarea ca IA să devină un ghid practic pentru arme biologice, potrivit unor oficiali ai administrației Trump. Lansarea unor noi modele puternice de IA a determinat administrația să treacă de la o abordare de neintervenție la o supraveghere sporită.

Departamentul Comerțului a restricționat recent utilizarea în străinătate a două modele Anthropic, determinând compania să blocheze orice acces la acestea.

Agenția a ridicat restricțiile după ce compania a declarat că a remediat metodele de ocolire care permiteau utilizatorilor să eludeze măsurile de protecție.

OpenAI, Anthropic și alte companii din domeniul IA afirmă că colaborează îndeaproape cu administrația în ceea ce privește lansarea modelelor și că au blocat utilizatori sau au restricționat conturi care prezentau activități suspecte.

Cu toate acestea, nicio reglementare federală, fie prin decret prezidențial, fie prin măsuri ale Congresului, nu obligă companiile din domeniul IA să raporteze utilizatorii care solicită modelelor sfaturi privind modul de a răni sau ucide.