Whisper, un instrument de Inteligență Artificială dezvoltat de OpenAI și folosit în spitalele din SUA, inventează texte și dă rețete medicale FALSE

Gigantul tehnologic OpenAI, care deține ChatGPT, și-a prezentat recent noul instrument de transcriere, Whisper, bazat tot pe inteligență artificială. Whisper are, însă, un defect major: inventează bucăți de text sau chiar propoziții întregi, potrivit mai multor cercetători, scrie AP.

Când a fost lansat pe piață, acest instrument de IA era prezentat de OpenAI ca având o „ soliditate și o acuratețe apropiată de nivelul uman”.

Dezvăluiri șocante făcute de cercetători și ingineri IT

Cu toate acestea, se pare că Whisper este predispus să inventeze bucăți de text sau chiar propoziții întregi, conform interviurilor cu peste 10 ingineri de software, dezvoltatori și cercetători universitari.

Acești experți au declarat la unison că unele dintre textele inventate – cunoscute în industrie drept halucinații – includ comentarii rasiale, retorică violentă și chiar tratamente medicale imaginare.

REȚETE Secretul gospodinelor. Ce poți să faci dacă varza pentru sarmale este prea acră

17:10

ACUM Zeci de mii de consumatori din județul Alba sunt în continuare fără electricitate. Viscolul a provocat avarii semnificative

16:46

Experții au declarat că astfel de invenții sunt problematice, deoarece Whisper este utilizat într-o serie de industrii din întreaga lume pentru a traduce și transcrie interviuri, a genera texte și a crea subtitrări pentru videoclipuri. Și mai îngrijorătoare este, de fapt, graba centrelor medicale de a utiliza acest instrument de inteligență artificială pentru a transcrie consultațiile pacienților cu medicii.

Potrivit AP, OpenAI a lansat o serie de avertismentel, arătând că Whisper nu ar trebui utilizat „în domenii cu risc ridicat”.

„Ar trebui să existe un standard mai ridicat”

Alondra Nelson, care a condus Biroul de politici științifice și tehnologice al Casei Albe pentru Administrația Biden, până anul trecut, a declarat că astfel de greșeli ar putea avea „consecințe foarte grave”, în special în mediul spitalicesc. „Nimeni nu își dorește un diagnostic greșit. Ar trebui să existe un standard mai ridicat”, a adăugat Nelson.

De asemenea, Whisper este utilizat pentru a crea subtitrări pentru persoanele surde și cu deficiențe de auz – o populație expusă unui risc deosebit de transcrieri greșite.

Peste 30.000 de medici și 40 de sisteme de sănătate (clinici și spitale, în primul rând), inclusiv Clinica „Mankato”, din Minnesota, și Spitalul de Copii din Los Angeles, folosesc Whisper.

CITEȘTE ȘI:

Bloomberg: Administrația SUA analizează posibilitatea LIMITĂRII exporturilor softurilor avansate de inteligență artificială

Școala viitorului, FĂRĂ TEME și toceală, cu inteligență artificială. Cum vor fi elevii peste 20 de ani. ”În lumea în care poți fi orice, fii curios!”

Zack Kass, unul dintre „creierele” din spatele ChatGPT, despre PERICOLUL folosirii AI în scop malefic vs. potențialul imens de a schimba lumea în bine

EXCLUSIV| ChatGPT și inteligența artificială, speranță sau teamă pentru viitorul omenirii? ”Cei care au creat AI sunt înfricoșați de propria creatură”