Prima pagină » EXCLUSIV » Inteligența artificială are „halucinații”? Explicațiile unui expert după ce un avocat român a fost sancționat la CEDO pentru că a folosit IA în redactarea unor documente juridice

Inteligența artificială are „halucinații”? Explicațiile unui expert după ce un avocat român a fost sancționat la CEDO pentru că a folosit IA în redactarea unor documente juridice

Inteligența artificială are „halucinații”? Explicațiile unui expert după ce un avocat român a fost sancționat la CEDO pentru că a folosit IA în redactarea unor documente juridice

Curtea Europeană a Drepturilor Omului (CEDO) l-a sancționat pe un avocat român după ce ar fi folosit inteligența artificială (IA) pentru redactarea unor documente juridice. În respectivele documente au fost invocate hotărâri judecătorești inexistente. Această „premieră” a fost analizată, în exclusivitate pentru Gândul, de prof. univ. dr. Cristian Jura, fost membru al Consiliului Național pentru Combaterea Discriminării (CNCD).

Acum, Cristian Jura este formator la Institutul Național de Pregătire și Perfecționare a Avocaților (INPPA). Este coordonator al modulului  „Asistentul AI al avocatului – construirea și utilizarea practică a unui co-worker AI în activitatea juridică”.

Sondaj Gândul


Crezi că a procedat corect Ilie Bolojan când și-a trimis mașina SPP pentru a prelua de la aeroport invitații la nunta fiicei sale?

Vezi rezultate

Loading ...

Cazul avocatului român sancționat de CEDO pentru utilizarea IA ridică, în primul rând, o întrebare-cheie: utilizarea IA este sigură pentru avocați?

Cristian Jura: „Asistăm la o premieră tristă”

Prof. univ. dr. Cristia Jura este de părere că ne aflăm în fața unei premiere „triste”. Dar specifică, în același timp, că „a folosi orice aplicație de IA, mai ales în profesiile juridice, fără o minimă pregătire, este ca și cum cineva s-ar urca la volan și a începe să conducă o mașină în traficul aglomerat din București fără permis”.

„Din păcate asistăm la o premieră tristă! Este pentru prima dată când Curtea Europeană a Drepturilor Omului CEDO exclude, pentru o perioadă de 2 ani, un avocat, un reprezentant legal de la reprezentarea sau asistarea unui părți în fața CEDO.

De ce? Pentru că a folosit un program de inteligență artificială într-un mod incorect și fără un control uman efectiv al materialelor redactate cu aplicația IA.

Fac două precizări extrem de importante! A folosi orice aplicație de IA, mai ales în profesiile juridice, fără o minimă pregătire este ca și cum cineva s-ar urca la volan și a începe să conducă o mașină în traficul aglomerat din București fără permis, fără școala de șoferi.

Faptul că cineva consideră intuitiv că știe să folosească inteligența artificială este total insuficient sau că folosim inteligența artificială pe post de motor de căutare, un soi de Google mai avansat”, spune Cristian Jura.

Inteligența artificială are „halucinații”

Chiar dacă poate părea surprinzător, inteligența artificială – atunci când se confruntă cu întrebări din diferite domenii – poate avea „halucinații”. Și, dacă încă nu are informații suficiente, atunci inventează.

„În al doilea rând, da, inteligența artificială are halucinații, mai ales atunci când îi solicităm ceva dintr-un domeniu foarte specific, cum este domeniul juridic.

  • Aceste halucinații apar când o aplicație de IA nu a fost antrenată pentru profesia respectivă. În speța noastră este vorba despre profesia juridică.
  • IA nu are informații insuficiente. Și atunci inventează, pur și simplu, articole de lege, jurisprudență, studii științifice și altele.

Subliniez, halucinează pentru că nu are informații specifice, suficiente pentru a oferi un răspuns corect.

Metaforic vorbind, este ca și când întrebi ceva un student la un examen. Studentul cunoaște vag răspunsul la întrebare. Și atunci spune orice ca să pară credibil”, a explicat Cristian Jura.

„Poate nu este bine antrenată, și atunci răspunsurile sale se limitează la informațiile pe care le folosește”

Evident, după o astfel de „premieră”, cineva își poate pune și întrebarea dacă nu cumva inteligența artificială suferă de „prostie”.

Cristian Jura contrazice o astfel de ipoteză.

„În nici un caz nu putem califica IA că este proastă! Poate nu este corect folosită, poate nu este bine antrenată. Și atunci răspunsurile sale se limitează la informațiile pe care le folosește.

Faptul că o persoană folosește incorect IA, asta nu înseamnă că inteligența artificială este proastă, înseamnă doar că a fost folosită incorect.

Aplicațiile de IA au intrat deja în activitatea curentă. Avocații trebuie să valorifice avantajele inovării tehnologice fără a-și compromite independența, confidențialitatea relației cu clientul, deontologia profesională și garanțiile unui proces echitabil.

CEDO consideră că folosirea IA fără control uman căa cauzat prejudicii demersului de înfăptuire a justiției, atât din perspectiva clientului, cât și din perspectiva instanței”, a mai declarat Cristian Jura.

Ce trebuie făcut pentru ca „halucinațiile” IA să dispară

La finalul intervenției sale, prof. univ. dr. Cristian Jura a expliat și ce trebuie făcut pentru ca astfel situații să nu mai apară.

„Avocații trebuie să folosească o aplicație IA antrenată corect, conectată la baze de date relevante.  

Trebuie să posede cunoștințe minime în lucrul cu IA, să exercite controlul efectiv asupra materialelor produse cu ajutorul IA. Astfel,  nu vor mai apărea halucinațiile.

Cred că această decizie a CEDO este un prim pas în limitarea folosirii fără control a aplicațiilor de IA în profesiile juridice. Bineînțeles, ar putea constitui un model de bună practică și pentru instanțele naționale”, a încheiat Cristian Jura, în exclusivitate pentru Gândul.

Comentarii 0

Lasă un răspuns

Trebuie să fii autentificat pentru a publica un comentariu.
Vă rugăm să țineți cont că folosirea injuriilor, a limbajului instigator la ură, a apelurilor la violență sau trimiterea repetată, în mod abuziv, a aceluiași comentariu pot duce nu doar la ștergerea mesajului, ci și la suspendarea temporară a dreptului de a comenta. Site-ul nostru încurajează dezbaterile aprinse, dar civilizate. Vă mulțumim pentru înțelegere și pentru contribuția la o discuție bazată pe argumente, nu pe atacuri.

Recomandarea video

Citește și

Mediafax
FBI a fost hackuit din nou, a doua oară în câteva luni | „Suntem cu un pas înainte” spunea joi șeful instituției, Kash Patel | Ce se știe în acest moment
Digi24
Rusia amenință România după refuzul vizelor pentru Europenele de taekwondo. Ambasadorul român, convocat la Moscova
Cancan.ro
Ce s-a întâmplat în dimineața în care Teodora a fost lovită mortal pe Mihai Bravu. Noi detalii ULUITOARE!
Prosport.ro
„E o nebunie”. Marta Kostyuk, numărul 10 WTA, s-a pozat goală complet şi a postat imaginea pe Instagram
Adevarul
Avertismentul unui fost comandant NATO: Orgoliile de la București și Sofia blochează proiecte vitale pentru securitatea regiunii Mării Negre
Mediafax
Vape-uri cu arome de fructe, vândute cu 7 lei. Alexandru Rogobete vrea să verifice ce conțin
Click
Mihaela Bilic a dezvăluit ce sendviș a mâncat zilnic timp de șase luni. Alimentul care a ajutat-o să scape de problemele digestive
Digi24
Donald Trump, mesaj controversat pentru Europa după întâlnirea cu Putin și Xi: Ucraina ar trebui să nu mai primească ajutor financiar
Cancan.ro
Monica Gabor, de NERECUNOSCUT la 39 de ani. Unde s-a angajat fosta soție a lui Irinel Columbeanu
Ce se întâmplă doctore
Cine este Elena Văncică, soția lui Adrian Văncică din „Las Fierbinți”. Cu ce se ocupă și de ce actorul își ține familia departe de public
Ciao.ro
Marius Damian de la Asia Express se topește pe picioare. De ce a slăbit atât de mult
Promotor.ro
Mașina Zilei: Nissan Qashqai din 2013, un SUV diesel de familie, cu interior din piele, la 6.990 de euro
Descopera.ro
Un sistem stelar este atât de neobișnuit încât...
Râzi cu lacrimi
BANCUL ZILEI. BULĂ: – M-am combinat cu fata de la Meteo
Descopera.ro
Religia care ar putea domina lumea în următorii ani
Mediafax Italia
30 de grade în noiembrie! Orașul unde toamna întârzie...
Mediafax Spania
Avocat: „Dacă aveți copii mici, Fiscul vă poate restitui până la 8.800 de euro”