Inteligența artificială are „halucinații”? Explicațiile unui expert după ce un avocat român a fost sancționat la CEDO pentru că a folosit IA în redactarea unor documente juridice
Curtea Europeană a Drepturilor Omului (CEDO) l-a sancționat pe un avocat român după ce ar fi folosit inteligența artificială (IA) pentru redactarea unor documente juridice. În respectivele documente au fost invocate hotărâri judecătorești inexistente. Această „premieră” a fost analizată, în exclusivitate pentru Gândul, de prof. univ. dr. Cristian Jura, fost membru al Consiliului Național pentru Combaterea Discriminării (CNCD).
Acum, Cristian Jura este formator la Institutul Național de Pregătire și Perfecționare a Avocaților (INPPA). Este coordonator al modulului „Asistentul AI al avocatului – construirea și utilizarea practică a unui co-worker AI în activitatea juridică”.
Cazul avocatului român sancționat de CEDO pentru utilizarea IA ridică, în primul rând, o întrebare-cheie: utilizarea IA este sigură pentru avocați?
Cristian Jura: „Asistăm la o premieră tristă”
Prof. univ. dr. Cristia Jura este de părere că ne aflăm în fața unei premiere „triste”. Dar specifică, în același timp, că „a folosi orice aplicație de IA, mai ales în profesiile juridice, fără o minimă pregătire, este ca și cum cineva s-ar urca la volan și a începe să conducă o mașină în traficul aglomerat din București fără permis”.
„Din păcate asistăm la o premieră tristă! Este pentru prima dată când Curtea Europeană a Drepturilor Omului CEDO exclude, pentru o perioadă de 2 ani, un avocat, un reprezentant legal de la reprezentarea sau asistarea unui părți în fața CEDO.
De ce? Pentru că a folosit un program de inteligență artificială într-un mod incorect și fără un control uman efectiv al materialelor redactate cu aplicația IA.
Fac două precizări extrem de importante! A folosi orice aplicație de IA, mai ales în profesiile juridice, fără o minimă pregătire este ca și cum cineva s-ar urca la volan și a începe să conducă o mașină în traficul aglomerat din București fără permis, fără școala de șoferi.
Faptul că cineva consideră intuitiv că știe să folosească inteligența artificială este total insuficient sau că folosim inteligența artificială pe post de motor de căutare, un soi de Google mai avansat”, spune Cristian Jura.
Inteligența artificială are „halucinații”
Chiar dacă poate părea surprinzător, inteligența artificială – atunci când se confruntă cu întrebări din diferite domenii – poate avea „halucinații”. Și, dacă încă nu are informații suficiente, atunci inventează.
„În al doilea rând, da, inteligența artificială are halucinații, mai ales atunci când îi solicităm ceva dintr-un domeniu foarte specific, cum este domeniul juridic.
- Aceste halucinații apar când o aplicație de IA nu a fost antrenată pentru profesia respectivă. În speța noastră este vorba despre profesia juridică.
- IA nu are informații insuficiente. Și atunci inventează, pur și simplu, articole de lege, jurisprudență, studii științifice și altele.
Subliniez, halucinează pentru că nu are informații specifice, suficiente pentru a oferi un răspuns corect.
Metaforic vorbind, este ca și când întrebi ceva un student la un examen. Studentul cunoaște vag răspunsul la întrebare. Și atunci spune orice ca să pară credibil”, a explicat Cristian Jura.
„Poate nu este bine antrenată, și atunci răspunsurile sale se limitează la informațiile pe care le folosește”
Evident, după o astfel de „premieră”, cineva își poate pune și întrebarea dacă nu cumva inteligența artificială suferă de „prostie”.
Cristian Jura contrazice o astfel de ipoteză.
„În nici un caz nu putem califica IA că este proastă! Poate nu este corect folosită, poate nu este bine antrenată. Și atunci răspunsurile sale se limitează la informațiile pe care le folosește.
Faptul că o persoană folosește incorect IA, asta nu înseamnă că inteligența artificială este proastă, înseamnă doar că a fost folosită incorect.
Aplicațiile de IA au intrat deja în activitatea curentă. Avocații trebuie să valorifice avantajele inovării tehnologice fără a-și compromite independența, confidențialitatea relației cu clientul, deontologia profesională și garanțiile unui proces echitabil.
CEDO consideră că folosirea IA fără control uman căa cauzat prejudicii demersului de înfăptuire a justiției, atât din perspectiva clientului, cât și din perspectiva instanței”, a mai declarat Cristian Jura.
Ce trebuie făcut pentru ca „halucinațiile” IA să dispară
La finalul intervenției sale, prof. univ. dr. Cristian Jura a expliat și ce trebuie făcut pentru ca astfel situații să nu mai apară.
„Avocații trebuie să folosească o aplicație IA antrenată corect, conectată la baze de date relevante.
Trebuie să posede cunoștințe minime în lucrul cu IA, să exercite controlul efectiv asupra materialelor produse cu ajutorul IA. Astfel, nu vor mai apărea halucinațiile.
Cred că această decizie a CEDO este un prim pas în limitarea folosirii fără control a aplicațiilor de IA în profesiile juridice. Bineînțeles, ar putea constitui un model de bună practică și pentru instanțele naționale”, a încheiat Cristian Jura, în exclusivitate pentru Gândul.