„Nașii” inteligenței artificiale, indeciși cu privire la soarta AI. Directorii marilor companii AVERTIZEAZĂ că legislaţia UE este prea strictă

Rapiditatea procesului de digitalizare și dezvoltarea inteligenței artificiale în multe dintre sectoarele pieței muncii, și nu numai, continuă să stârnească dezbateri aprinse, discuții și controverse. După ce au existat scrisori deschise, trimise de la nivel înalt, prin care s-a cerut, de urgență, oprirea avântului necontrolat al inteligenței artificiale (AI), iată că nemulțumirile continuă, văzute însă dintr-o altă perspectivă a speței. Mai exact, legislaţia propusă de UE pentru reglementarea inteligenţei artificiale riscă să pună în pericol competitivitatea şi suveranitatea tehnologică a Europei – este precizarea făcută în cadrul unei scrisori deschise semnate de peste 160 de directori ai unor companii, variind de la Renault şi până la Meta.

Reamintim că luna aceasta parlamentarii europeni au căzut de acord asupra unui regulament mai strict privind Inteligenţa Artificială, comparativ cu propunerea legislativă înaintată de Comisia Europeană.

Conform acordului convenit de eurodeputaţi, sisteme precum ChatGPT vor trebui să dezvăluie conţinutul generat de Inteligenţa Artificială, să ajute la identificarea aşa-numitelor imagini deep-fake de cele reale şi să asigure măsuri de siguranţă împotriva conţinutului ilegal.

Având în vedere că, în ultima vreme ChatGPT a devenit foarte popular, au fost trimise mai multe scrisori deschise prin care se cere reglementarea inteligenţei artificiale, trăgându-se un semnal de alarmă cu privire la riscul „dispariţiei din cauza Inteligenţei Artificiale.”

Printre semnatarii scrisorilor precedente se numără Elon Musk, directorul OpenAI, Sam Altman, precum şi Geoffrey Hinton şi Yoshua Bengio, doi din aşa-numiţi „naşi ai Inteligenţei Artificiale.”

„Astfel de reglementări ar putea determina companii inovative să îşi mute activităţile peste hotare”

Potrivit Reuters, scrisoarea de vineri a fost semnată de Yann LeCun, un alt treilea „naş” al AI, care în prezent lucrează la Meta, dar şi directori de la diverse companii.

Scrisoarea avertizează că, în conformitate cu regulile propuse de UE, tehnologii precum Inteligenţa Artificială generativă ar deveni puternic reglementate şi companiile care ar dezvolta astfel de sisteme s-ar confrunta cu costuri mari de compliance şi riscuri disproporţionate de pierderi.

Astfel de reglementări ar putea determina companii inovative să îşi mute activităţile peste hotare, iar pe investitori să îşi retragă capitalul din dezvoltarea de IA în Europa, mai spun semnatarii scrisorii.

Directorul OpenAI, Sam Altman, cel care în luna mai a ameninţat să retragă ChatGPT din Europa, dacă va deveni prea greu să respecte viitoarele legi cu privire la Inteligenţa Artificială, şi-a revizuit ulterior punctul de vedere, spunând că firma nu are de gând să iasă din Europa.

Parlamentul European, norme armonizate privind inteligența artificială

În data de 14 iunie 2023, Parlamentul European a aprobat la Strasbourg, cu 499 de voturi pentru, 28 împotrivă, 93 de abțineri, raportul privind AI Act, o propunere de regulament european pentru „stabilirea unor norme armonizate privind inteligența artificială”, se arată într-un comunicat.

• Normele promovează adoptarea unei IA de încredere, centrată pe om, și urmăresc să protejeze sănătatea, siguranța, drepturile fundamentale și democrația împotriva efectelor sale dăunătoare.
• Legea privind inteligența artificială va servi la discuțiile cu statele membre ale UE despre forma finală a legii. De asemenea, normele vor garanta că AI, dezvoltată și utilizată în Europa, respectă pe deplin drepturile și valorile Uniunii Europene, inclusiv supravegherea umană, siguranța, viața privată, transparența, nediscriminarea și bunăstarea socială și de mediu.
• Normele urmează o abordare bazată pe riscuri și stabilesc obligații pentru furnizori și pentru cei care implementează sisteme de AI în funcție de nivelul de risc pe care îl poate prezenta inteligența artificială.
• Astfel, sistemele de AI cu un nivel inacceptabil de risc pentru siguranța oamenilor ar urma să fie interzise, precum cele care utilizează evaluarea comportamentului social (clasificând oamenii pe baza comportamentului social sau a caracteristicilor personale).

Eurodeputații au inclus în listă interdicții referitoare la utilizările intruzive și discriminatorii ale IA, cum ar fi:

• utilizarea sistemelor de identificare biometrică la distanță „în timp real” sau „ulterioară” în spații accesibile publicului; sistemele biometrice de clasificare care folosesc caracteristici sensibile (de exemplu, genul, rasa, etnia, statutul de cetățenie, religia, orientarea politică);
• sistemele polițienești bazate pe analiza predictivă (bazate pe profilare, localizare sau comportamentul infracțional anterior);
• sistemele de recunoaștere a emoțiilor folosite la locul de muncă sau în cadrul instituțiilor de învățământ, ori în domeniul aplicării legii sau al gestionării frontierelor;
• extragerea fără scop precis a datelor biometrice din imaginile faciale de pe internet sau înregistrări făcute de televiziunile cu circuit închis pentru a crea baze de date de recunoaștere facială (încălcând drepturile omului și dreptul la viață privată).

Semnal de alarmă tras de un cercetător: „Închidem totul!”

Dezvoltarea inteligenței artificiale și ChatGPT par să-i fi speriat chiar și pe mai marii planetei, cei care au girat, au creat și au pariat la un moment dat pe revoluția digitală.

Elon Musk şi un grup de experţi în inteligenţă artificială şi de directori din industrie au cerut o pauză de şase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4, recent lansat de OpenAI, invocând potenţiale riscuri pentru societate şi umanitate.

Inteligența artificială, marele deziderat al omenirii, dă bătăi de cap chiar și „creatorilor” săi

Eliezer Yudkowsky, cercetător în domeniul inteligenţei artificiale, a afirmat, într-un editorial publicat de revista Time, că ar trebui să „închidem totul.” Acestuia  i s-au alăturat și alți specialiști care susțin că, prin ChatGPT și AI, nu suntem în fața unui subiect pur tehnologic și că nu ar trebui să lăsăm dezbaterea pe mâna companiilor sau guvernelor.

Mulți cercetători implicați în aceste probleme, printre care mă număr și eu, se așteaptă ca rezultatul cel mai probabil al construirii unei inteligențe artificiale supraomenești, în circumstanțe cât de cât asemănătoare cu cele actuale, să fie că toată lumea de pe Pământ va muri”, a scris cercetătorul Eliezer Yudkowsky.

Insistând asupra faptului că omenirea e departe de a fi pregătită pentru astfel de sisteme, Yudkowsky avansează un interval de câteva decenii pentru ca o astfel de pregătire să fie considerată temeinică.

„Nu suntem pregătiți. Nu suntem pe cale să fim pregătiți în niciun interval de timp rezonabil. Progresul, în ceea ce privește capacitățile de inteligență artificială, este cu mult, mult mai avansat decât progresul în ceea ce privește alinierea inteligenței artificiale sau chiar progresul în ceea ce privește înțelegerea a ceea ce se întâmplă în interiorul acestor sisteme. Dacă vom face acest lucru cu adevărat, vom muri cu toții.”, mai spune cercetătorul.

Elon Musk, speriat de amploarea inteligenței artificiale?

Elon Musk şi un grup de experţi în inteligenţă artificială şi de directori din industrie cer într-o scrisoare deschisă o pauză de şase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4, recent lansat de OpenAI, invocând potenţiale riscuri pentru societate şi umanitate, potrivit time.com.

Scrisoarea detaliază riscurile potenţiale pentru societate şi civilizaţie pe care le pun sistemele de inteligenţă artificială competitive – în special perturbări economice şi politice – şi solicită dezvoltatorilor să colaboreze cu factorii de decizie politică în ceea ce priveşte guvernanţa şi autorităţile de reglementare.

Sistemele puternice de inteligență artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive și că riscurile lor vor fi gestionabile. (…) Sistemele de inteligență artificială cu inteligență uman-competitivă pot prezenta riscuri profunde pentru societate și umanitate, după cum arată ample cercetări și după cum recunosc laboratoarele de vârf de inteligență artificială”, argumentează semnatarii.

În scrisoare sunt detaliate potențiale riscuri la adresa societății și civilizației din cauza sistemelor de inteligență artificială ce pot provoca dereglări economice și politice, documentul solicitând dezvoltatorilor de astfel de sisteme să colaboreze cu factorii de decizie politică și autoritățile de reglementare.

Toţi semnatarii solicită o pauză în dezvoltarea inteligenţei artificiale avansate până când protocoale de siguranţă comune pentru astfel de modele vor fi dezvoltate, implementate şi auditate de experţi independenţi.

Sistemele puternice de inteligenţă artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive şi că riscurile lor vor fi gestionabile”, se arată în scrisoare.

Apelurile de a întrerupe a AI nu vor „rezolva provocările” viitoare, susține Bill Gates. Cofondatorul Microsoft considerp că ar fi mai bine să ne concentrăm asupra modului în care să folosim cel mai bine evoluțiile legate de sistemele AI, deoarece este greu de înțeles cum ar putea funcționa o pauză la nivel global.

Nu cred că a cere unui anumit grup să facă o pauză rezolvă provocările. Este clar că aceste lucruri au beneficii uriașe, ceea ce trebuie să facem este să identificăm zonele dificile”, a mai spus Bill Gates, citat de Reuters.

CITEȘTE ȘI:

EXCLUSIV| ChatGPT și inteligența artificială, speranță sau teamă pentru viitorul omenirii? ”Cei care au creat AI sunt înfricoșați de propria creatură”

EXCLUSIV VIDEO | Profesorul Mircea Dumitru: Să nu ne speriem, ChatGPT nu va ajunge să imite această dimensiune unică a inteligenței umane naturale

EXCLUSIV | Sunt pregătiți oamenii pentru inteligența artificială? ”Se discută de un venit minim garantat, altfel, din ce ar trăi cohorte de șomeri”