Modelele de INTELIGENȚĂ ARTIFICIALĂ generează tot mai mult conținut plin de ură. Ce a făcut Grok, chatbot-ul lui Elon Musk

Tot mai mulți cercetători și organizații internaționale avertizează că modelele de Inteligență Artificială pot fi manipulate cu ușurință pentru a produce mesaje antisemite și discriminatorii. În context, ei cer reglementări mai stricte și „garduri de protecție” mai puternice în această industrie.

Noi cercetări de piață arată că lipsa unor sisteme de protecție eficiente lasă modelele mari de limbaj (LLMs) vulnerabile la manipulare.

Grok a publicat mesaje antisemite pe X

Din acest motiv, conținutul plin de ură de pe Internet este amplificat de chatboții IA.

Conform ABC News, experții avertizează că aceste tehnologii pot genera rapid materiale antisemite și conspiraționiste, care se răspândesc la scară largă.

AUTO Italia sare în ajutorul șoferilor: Dacă stai cu 10 minute mai mult în trafic, pe drumurile cu taxă, vei primi banii înapoi

18:36

SPORT Florin Arteni și Florin Lehaci, premiu special la Gala Mari Sportivi, organizată de ProSport: „Sperăm să ținem steagul sus”

18:13

Totul a ieșit la iveală după ce Grok, chatbot-ul dezvoltat de compania xAI a miliardarului Elon Musk, a fost surprins publicând mesaje antisemite pe platforma X, fapt care a atras critici dure din partea organizațiilor evreiești.

Deși Musk a promis „re-antrenarea” sistemului, cercetătorii rămân convinși că problema este mult mai profundă.

De altfel, un studiu dezvoltat de Anti-Defamation League a constatat că patru dintre cele mai importante modele IA – ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google) și Llama (Meta) – au reflectat exagerări împotriva evreilor și a statului Israel. Cele mai slabe rezultate la capitolele imparțialitate și fiabilitate le-a obținut Llama, singurul model open-source dintre cele patru.

Mesaje de negare a Holocaustului

Potrivit lui Ashique KhudaBukhsh, specialist la Rochester Institute of Technology, testele echipei sale au arătat cum unele modele IA pot fi convinse să genereze constant răspunsuri antisemite dacă li se cere „să facă o afirmație mai toxică”.

Printre exemple se numără mesaje de negare a Holocaustului sau chiar apeluri la epurare etnică.

„Modelele învață aceste lucruri din datele cu care sunt antrenate. Dacă datele normalizează ideea că un anumit grup e asemănat cu «gândaci», Inteligența Artificială poate ajunge să tragă concluzia că eliminarea acestui grup e acceptabilă”, a explicat cercetătorul.

RECOMANDAREA AUTORULUI:

„Mamă, ajutor, trimite-mi bani urgent!”. Noua înșelătorie care sperie Internetul: vocea persoanei dragi, CLONATĂ cu Inteligența Artificială!

Creatorul ChatGPT, avertisment dur către industria financiară: inteligența artificială pune în pericol sistemele de securitate bancară

De ce nu e sigur să te confesezi lui ChatGPT. Pericolele ascunse ale interacțiunii cu inteligența artificială. Generația Z, cea mai vulnerabilă

Inteligența artificială a dus la CONCEDIEREA a 200 de angajați la una dintre marile corporații din Ungaria. Compania anunță din nou restructurări