EXCLUSIV VIDEO | Profesorul Mircea Dumitru: Să nu ne speriem, ChatGPT nu va ajunge să imite această dimensiune unică a inteligenței umane naturale

Lumea în jurul nostru se schimbă cu rapiditate. Chiar în interiorul Occidentului, noile generații de tehnologii par să fie greu adaptabile pentru vechile generații de persoane. În România, unde dictatura comunistă a produs o întârziere culturală și tehnologică de aproape jumătate de secol, unde societatea mai are încă ancore puternice în lumea premodernă, arhaică, introducerea noilor tehnologii ale inteligenței artificiale ar putea fi indiferentă românilor sau ar putea avea impactul unui tsunami asupra vieții lor. Încă nu ne dăm seama de schimbarea pe care o va produce adaptarea mecanismelor de inteligență artificială în viața noastră de zi cu zi.  

Sam Altman, directorul executiv al corporației americane OpenAI, care a creat și software-ul de inteligență artificială ChatGPT (Chat Generative Pre-trained Transformer) a atenționat că există efecte negative ale inteligenței artificiale. Într-un interviu acordat postului de televiziune american ABC News, Sam Altman atrăgea atenția că autoritățile de reglementare din țările care adoptă ChatGPT ar trebui să fie conștiente că, pe lângă unele avantaje aduse, acest artefact al inteligenței artificiale poate foarte bine să fie folosit cu scopuri ostile societăților democratice: dezinformarea online pe scară largă, atacurile cibernetice de mare intensitate, posibilitățile oferite celor care vor să fraudeze.

Într-un microserial Gândul dedicat inteligenței artificiale, vom prezenta opiniile unor specialiști din diverse domenii, ca să evaluăm mai bine avantajele și dezavantajele invadării vieților noastre cu AI (artificial intelligence).

Până acum, literatura de specialitate invocă printre avantaje:

• eficiența – inteligența artificială poate ajuta la creșterea eficienței prin automatizarea sarcinilor de rutină;
• personalizarea – inteligența artificială poate oferi indivizilor o experiență personalizată, în funcție de preferințele, obiceiurile și comportamentele lor;
• acuratețe – inteligența artificială poate uneori îndeplini sarcini cu un nivel mai ridicat de acuratețe și precizie decât oamenii.

De asemenea, cu ajutorul inteligenței artificiale, se pot face analize predictive în domenii precum marketingul comercial, dar și cel al marketingului politic. Prelucrând cu software-uri cantități mari de date, se pot face predicții comerciale și politice pe baza acestor date. Totodată, unele companii pot face reduceri de costuri prin automatizarea sarcinilor, care altfel ar necesita forță umană. Acest lucru poate duce la economii semnificative în industrii precum producția și logistica.

Pe de altă parte, aceste facilități vin la pachet cu dezavantaje și potențiale șocuri sociale. Recent, media românești au relatat despre disputele din spațiul public – nu fără implicații politice pe viitor – legate de anunțul făcut de Auchan că va înlocui total casierii care munceau până acum în supermarket cu un sistem inteligent de self checkout pentru clienți.

O temere este legată de faptul că introducerea inteligenței artificiale ar putea duce la pierderea locurilor de muncă. Automatizarea unor procese prin intermediul inteligenței artificiale poate elimina munca făcută anterior de oameni.

Mai mult, algoritmi folosiți de inteligența artificială pot induce forme de discriminare digitale pe baza unor date false sau incomplete, ceea ce ar putea duce la un tratament inechitabil al anumitor grupuri de oameni.

O altă rațiune pentru care unii specialiști nu văd cu ochi buni introducerea pe scară largă a inteligenței artificiale ține de securitate. Ea poate favoriza atacurile cibernetice și încălcări ale datelor și alte probleme de securitate.

Dar, în analizele lor, psihologii și sociologii aduc în atenție un fenomen îngrijorător, pentru că are un impact direct asupra psihismului uman: dependența excesivă de inteligența artificială. Cei care navighează fără discernământ în oceanul informațional al internetului își pot diminua progresiv gândirea critică, mai ales în cazul generațiilor de tineri, și acele abilități  de rezolvare a problemelor reale ale vieții.

La toate acestea se adaugă preocupările etice în legătură cu confidențialitatea, proprietatea datelor și potențiala utilizare eronată a lor prin această tehnologie.

Despre toate aceste aspecte atractive și, în același timp, controversate ale folosirii inteligenței artificiale pe scară largă în societate am vorbit cu specialiști români în diverse domenii.

În primul episod, profesorul universitar doctor Mircea Dumitru, fost rector al Universității București în perioada 2011-2019, specialist în logică, dar și cognitive science (filosofia minții), în interviul acordat în exclusivitate pentru Gândul, explică geneza inteligenței artificiale și gradul ei de utilitate pentru ființa umană.

Totodată, profesorul Mircea Dumitru accentuează faptul că inteligența artificială, care se bazează în mare măsură pe metode statistice și pe învățare automată, nu poate înlocui deloc inteligența naturală a omului, pentru că nu poate avea o înțelegere profundă a limbajului, a sensurilor existențiale și a lumii din jurul nostru.

Perspectiva profesorului Mircea Dumitru asupra inteligenței artificiale este una de prudență, temperată de o preocupare profundă pentru potențialele riscuri, dar și pentru realele beneficii ale acestui domeniu în evoluție rapidă.

Bogdan Rădulescu: Cum vede un filosof invadarea treptată a vieților noastre cu inteligență artificială? Avem oare motive să ne speriem de o asemenea tehnologie?

Mircea Dumitru: Inteligența Artificială nu este o tehnologie printre atâtea altele. Nu. Este de fapt o tehnologie care va disloca foarte multe obișnuințe, foarte multe reguli, norme, instituții pe care le avem, în felul care le avem, cu care ne-am obișnuit și după care funcționăm. Filosofii în mod particular – eu ocupându-mă în viața mea profesională de filosofie și de logică – au fost interesați de inteligența artificială pentru că au fost interesați de inteligența umană.

Prin urmare, din moment ce filosofii sunt interesați de inteligență – inteligența fiind facultatea definitorie pentru ceea ce înseamnă mintea umană, psihicul uman -, au fost interesați să vadă în ce măsură aceste caracteristici ale inteligenței umane pot fi definite precis și dacă pot fi transpuse asupra unor mașini. Adică asupra unor mașini care, dacă ajung să rezolve niște probleme – pe care, dacă oamenii ajung să le rezolve, spunem că sunt inteligenți -, ne punem întrebarea atunci de ce nu am putea spune și despre acele mașini că sunt inteligente, dat fiind că și ele rezolvă mai mult sau mai puțin același tip de probleme pe care le rezolvă și oamenii.

Este foarte bine cunoscut acel test care poartă numele lui Alan Turing, care a propus să nu ne punem întrebarea speculativă ce este inteligența, ci să vedem în ce măsură niște structuri, niște artefacte pot să treacă un gen de test, pot să rezolve niște probleme care, încă o dată, dacă sunt rezolvate de oameni, spunem că oameni sunt inteligenți. Dacă omul poate, de pildă, să facă o înmulțire, sau să extragă o rădăcină pătrată, sau să rezolve o derivată, sau să explice o teoremă de geometrie, sau să explice filosofia lui Hegel, și astfel putem spune că omul este inteligent (pentru că raționează, folosește limbajul, etc.) și putem face acest lucru mutatis mutandis cu o mașină, atunci de ce să fim ”șovini” – spun acești filosofi care pun această întrebare –  și să afirmăm că mașinile nu sunt inteligente pentru că sunt mașini, dar oamenii sunt inteligenți pentru că sunt oameni. Aceasta este o problemă foarte interesantă din punct de vedere filosofic. Deci, iată, de unde interesul pe care filosofii pot să îl aibă pentru tema inteligenței artificiale, chiar dacă nu sunt ingineri sau IT-iști.

Programul acesta al inteligenței artificiale în forma lui contemporană a fost lansat, discutat, abia la jumătatea secolului trecut, la finalul anilor ’50, mai precis în 1956, la o conferință la care au participat oameni foarte importanți ai domeniului, oameni de știință care lucrau în domeniul informaticii teoretice, în domeniul matematicii, al filosofiei, printre ei Herbert Simon, care a și luat Premiul Nobel, Allen Newell, Marven Minsky. Ei sunt și cei care au inventat termenul ca atare: Artificial Intelligence (AI). Atunci , în 1956, a fost inventat acest termen.

Tot atunci, ei au ridicat această problemă dacă noi am putea mașiniza anumite tipuri de proceduri pe care le putem folosi atunci când facem matematică.

Prima fază a inteligenței artificiale a fost una de tip logic. Au creat un program care a fost implementat pe o mașină de calcul, prin care demonstrau teoreme care aparțin logicii propoziționale. Acest tip de mașină este cel mai apropiat de ceea ce noi numim azi ”machine learning” de tipul lui ChatGPT.

Mai există și o altă fază în dezvoltarea inteligenței artificiale, mult mai apropiată de asemănarea cu funcționarea creierului real, o fază de tip neuronal și care încearcă, de asemenea, să pună în evidență trăsături biologice și sociale ale inteligenței naturale și mai apoi să creeze modele care pot fi implementate pe mașini.

Ceea ce este azi pe buzele noastre ale tuturor și care suscită interesul multor oameni care nu sunt în domeniu este posibilitatea de a crea acum mașini care să răspundă la întrebări, care să facă predicții, și care, de ce nu, într-un viitor predictibil, să substituie prezența oamenilor în sectoare importante, acolo unde se iau decizii. Și acest aspect, desigur, ridică mari semne de întrebare pentru că pot exista pericole.

Se vorbește din ce în ce mai des despre impactul inteligenței artificiale asupra minților unor tineri din generațiile de nativi digital. Presa internațională atrăgea atenția despre apariția unor cazuri de studenți din licee și universități occidentale care au folosit ChatGPT, de exemplu, pentru a frauda atunci când profesorii le cereau să elaboreze, cu ajutorul propriile lor capacități intelectuale, eseuri sau lucrări. Ar putea duce ChatGPT la proliferarea fraudei în mediul educațional?

Acum, oarecum glumind pe jumătate, dacă ne referim strict la România, fără ChatGPT am copiat destul de mult și destul de bine pentru licențe sau doctorate. Nu era nevoie să ajungem la ChatGPT ca să ne rezolvăm asemenea probleme prin niște ”scurtături” epistemice și pedagogice. Dar, sigur, în momentul în care sistemul devine masiv, și când eu dau unor studenți o temă de lucru, iar studenții stau și lucrează doar la computer, doar cu acest gadget de inteligență artificială care este ChatGPT, și dacă eu, ca profesor, nu mai pot să disting între o producție umană și producția mașinii, atunci devine foarte clar că scopul pedagogiei mele este profund alterat, subminat.

Ceea ce va face ca una dintre măsurile pentru a contracara acest fenomen – și am văzut pe internet că se dezbătea această problemă –  va fi aceea de a ne întoarce la unele metode foarte tradiționale de a face școală. Mai exact, la un examen, în sala de curs, elevul sau studentul va sta față în față cu profesorul, având la el doar creionul și hârtia, fără niciun fel de telefon mobil la el. Poate vom ajunge din nou la pedagogia de secol XVIII sau de secol XIX, cel puțin la nivelul de testare a cunoștințelor. Vom vedea.

Dar, școala în general nu va putea să evite situația asta în care să gestioneze această capacitate a tinerilor de a fi mult mai bine pregătiți să folosească aceste instrumente decât profesorii lor. Un copil care de la patru, cinci sau șase ani este expus la mediul virtual și care lucrează cu calculatorul și telefonul mobil, pentru care nu e niciun fel de secret să folosească un ecran de la un smartphone, va fi mult mai ”nativ” în folosirea acestor instrumente de inteligență artificială decât profesorul lui care a avut la dispoziție, în vremea în care s-a format, o tehnologie mult mai rudimentară.

Evident că va trebui să existe din punct de vedere instituțional un set de reglementări, dar nu putem interzice prin lege copiilor să folosească aceste instrumente, pentru că ele pot fi chiar folosite în așa fel încât să le extindă anumite capacități cognitive.

Când erați dumneavoastră elev la școală, când eram eu cu atât mai mult, amintiți-vă ce problemă era să avem acces la informație, la o carte. Aveam nevoie de o bibliotecă din cărți puse pe un raft. Acum, nu am nevoie decât de un telefon mobil la mine care să fie conectat la internet, să am acces la un cloud, și pot accesa milioane de cărți în versiune digitalizată, nu în principiu, ci în realitate.

Pot să am acces la orice fel de informație. Acesta este un salt uriaș. Dacă vreți, este acel model al unei biblioteci borgesiene (imaginată de scriitorul argentinian Jorge Luis Borges), adică o bibliotecă universală care cuprinde tot. Deci, în principiu, nu văd de ce ar trebui să fim speriați de acest lucru.

Care sunt, în opinia dumneavoastră, diferențele radicale între gândirea umană, bazată pe o inteligență nativă, naturală, și felul cum  gândesc mașinile dotate cu inteligență artificială?

Acum câteva zile, am citit un articol foarte interesant al lui Noam Chomsky care, deși are peste 90 de ani, este foarte activ și vital din punct de vedere intelectual. Nu mă interesează pozițiile sale ca activist politic, ci opiniile lui Chomsky lingvistul, omul de știință. Într-un articol apărut în luna martie anul acesta, în publicația americană The New York Times, vorbește despre falsele promisiuni ale lui ChatGPT. El vine cu ideea – și eu sunt de acord cu el – că programul tare al inteligenței artificiale eșuează pentru că există diferențe radicale între felul în care gândește un om și felul în care ”gândește” o mașină.

Să ne uităm un pic la ce spune Noam Chomsky. Cum învață un copil limbajul, fie ea limba engleză, limba română sau limba bulgară? Până la trei-patru ani, acest copil poate să vorbească destul de bine limba lui maternă. Creierul nostru a fost format și evoluția a luat această formă în așa fel încât, din punct de vedere lingvistic sau lexical, avem până la trei-patru ani niște stimuli care nu sunt într-o cantitate foarte mare. Stimulii sunt aceia pe care copilul îi primește de la părinți, de la copiii cu care se joacă, de la grădinița unde se duce, deci din medii foarte controlate și foarte restrânse. Acolo, învață un număr de cuvinte, un număr de propoziții, extrem de redus la vârsta ceea. Dar, în această perioadă, se coace, se dezvoltă sintaxa limbajului, se dezvoltă o teorie a interpretării, care vine cu o teorie și asupra lumii, care nu este doar o interpretare lingvistică, ci și a lucrurilor, a evenimentelor din mediul înconjurător, la care avem acces prin conceptualizare și limbaj.

La patru-cinci ani, copilul poate să producă destul de corect foarte multe propoziții, cu mult mai mult decât am fi prezis pe baza stimulilor lingvistici pe care i-a avut. Chomsky vorbește despre un fel de dezechilibru între un input care este foarte sărăcăcios și un output care este un torent informațional, pentru că, după aceea, se produce o adevărată explozie informațională. Copilul poate după aceea să vorbească din ce în ce mai bine, să aibă capacitatea de a produce din ce în ce mai multe propoziții cu sens etc.

Ei bine, orice inteligență artificială care este de tip ChatGPT, nu este construită pe baza unui rezervor foarte restrâns de informații, din care, după aceea, să tragi concluzii, prin analogii, prin modele inductive, așa cum funcționează mintea unui copil. Mai ales analogiile sunt foarte importante la vârsta aceasta.

Ce se întâmplă cu ChatGPT este că au la dispoziție o capacitate de stocare a informației enormă, capacitate de a ”învăța” informații pe care noi le introducem acolo și apoi să facă și corelații statistice urmărind anumite pattern-uri, anumite regularități. Și, pe baza acestora, ChatGPT face niște inferențe tot statistice pe care le numim predicții. Dar, atenție, acestea nu sunt predicții de tip uman. O predicție umană nu se bazează pe faptul că avem stocată o informație uriașă ca în cazul lui ChatGPT. Și asta nu este o infirmitate.

Am putea spune că mașinile sunt mai bune decât noi din punctul acesta de vedere al stocării unor cantități uriașe de date și informații. Și sunt, pentru că au o capacitate de a înmagazina o memorie net superioară fiecărui individ. Însă, ceea ce se întâmplă cu noi, cu oamenii, este faptul că suntem prinși în rețele sociale și lipsa de cunoaștere a fiecărui individ este într-un fel rezolvată, compensată, prin faptul că avem acces la competențele celorlalți. Toată sarcina noastră se rezolvă într-un fel comunitar. Orice structură de cunoaștere nu se face în mod izolat, ci suntem într-o comunitate, într-un grup de cercetare, într-o societate, unde împărtășim unii cu alții informațiile, schimbăm informații, ne ajutăm.

Suntem prin natura noastră, spunea Aristotel, ființe politice și sociale. Nu suntem precum tigrii, panterele sau leoparzi, adică să trăim de unii singuri. Nici aceste animale nu trăiesc, fără doar și poate, de unele singure. Dar noi, oamenii, suntem întotdeauna în grupuri. Asta ne ajută.

În al doilea rând, ceea ce avem noi și nu au acest gen de mașini este raționamentul modal contrafactual. Noi ajungem să explicăm, să construim teorii, oricât ar fi ele de rudimentare și de simple, gândindu-ne contrafactual: ce s-ar întâmpla, dacă anumite lucruri s-ar întâmpla sau nu.

Vă dau un exemplu foarte simplu, pe care un copil relativ mic poate să îl înțeleagă. Am în mână un măr. Copilul va înțelege contrafactual că, dacă dă drumul la măr, mărul cade. Și, în acest fel, începe să înțeleagă ce înseamnă gravitația. Nu trebuie să aibă acces la ultima teorie a gravitației pornind de la relativitatea lui Einstein. Dar, copilul poate să înțeleagă contrafactual că, dacă ar da drumul mărului din mână, acesta ar cădea în mod normal.

Mașina nu va înțelege lucrul acesta. Mașina este la nivelul faptelor. Nu este la nivelul a ceea ce s-ar putea întâmpla. Nu are această gândire adâncă, profundă, modală sau contrafactuală. Deci, nu va putea să explice.

Spuneți, deci, că, prin comparație cu aceste artefacte ale inteligenței artificiale, există o unicitate de neînlocuit a gândirii și sensibilității umane. Va putea totuși inteligența artificială să o înlocuiască?

Există această speranță cu totul utopică și iluzorie că vom putea face mașini care nu sunt doar inteligență artificială, ci care pot să simuleze toate celelalte dimensiuni ale psihicului și conștiinței umane. Or, există o dimensiune, care ține și de creativitate, de imaginație, și care este aceea a subiectivității umane. Subiectivitate nu neapărat în sens poetic, în sens literar, ci subiectivitate în sensul că noi avem experiența lucrurilor lumii.

Voi folosi un cuvânt care nu există încă în limba română: experiențiere. Noi experiențiem lumea. Deci, nu facem experimente, ci avem experiența lucrurilor prin intermediul culorilor, sunetelor, mirosurilor, gusturilor, simțului tactil. Tot ceea ce s-a numit cu un termen latinesc, poate pretențios, ”qualia”.

Această dimensiune a subiectivității trăite, experiențiate a omului este o temă care se discută de foarte multă vreme în filosofie și pare să fie nuca greu de spart pentru oricine vrea un program algoritmizabil al conștiinței și minții umane. Este vorba de această dimensiune a subiectivității conștienței umane, nu în sens poetic, ci la nivelul cel mai de bază – toți mirosim, gustăm, avem simț tactil. Toate aceste ne fac să avem această imagine calitativă asupra lumii.

Dacă aceste mașini ale inteligenței artificiale sunt bune la ceea ce însemnă dimensiune cantitativă (pentru că pot să înmagazineze cantități uriașe de informații, au memorie nelimitată, au motoare inferenționale care merg foarte repede, mult mai repede decât mintea omului), pe partea calitativă, nu vedem în principiu, deocamdată, cum o mașină ar putea să simuleze toate aceste aspecte care țin de umanitatea noastră.

Aici se află ceea ce ne face pe noi unici. Și aceasta este teza pe care o propun. Dacă a înțelege inteligența, înseamnă implicit a înțelege partea aceasta legată de qualia, de subiectivitatea conștienței și experienței umane,  în măsura în care niciun fel de AI (Artificial Intelligence), construit pe modelul ChatGPT, nu va ajunge să capteze această dimensiune, practic nu va putea capta inteligența umană naturală. Astfel, ChatGPT și alte mașini asemănătoare lui, vor rămâne limitate la orizontul pentru care au fost create. Este un instrument care va fi foarte bun și atât.

Și mă întorc la partea pozitivă și optimistă a discuției noastre. Nu văd de ce nu am putea să folosim aceste instrumente ale inteligenței artificiale în viitor, cum folosim acum laptop-urile. Poate la fel s-au speriat oamenii când a apărut tiparul pentru prima oară și au zis: ”vai, ce facem acum, începem să tipărim cărți? Asta va însemna că oralitatea și spontaneitatea vor dispărea!”. Sigur că unele lucruri dispar, dar se potențează altele.

Dar, a înlocui total capacitatea minții noastre, care nu are doar partea cantitativă, ci și parte aceasta calitativă, mi se pare, în momentul de față, după modul în care lucrurile au fost concepute până acum, mi se pare principial imposibil.

Mircea Dumitru este un filosof român, profesor de logică la Facultatea de Filosofie, fost rector (2011-2019) al Universității din București. Este membru titular al Academiei Române și vicepreședinte al acesteia. Este membru al Academia Europaea. În perioada 2016-2017, a fost ministru al Educației. Are un doctorat în filosofie la Tulane University, New Orleans, Statele Unite. În prezent este președinte la International Institute of Philosophy.

Printre cărțile publicate în limba română: ”Logică și argumentare”, manual pentru licee (1999), ”Modalitate și incompletitudine. Logica modală ca logică de ordin superior” (2001), ”Explorări logico-filosofice” (2004), ”Lumi ale gândirii. Zece eseuri logico-metafizice” (2019), ”Metaphysics, Meaning, and Modality” la Oxford University Press (2020).

CITEȘTE ȘI:

EXCLUSIV| ChatGPT și inteligența artificială, speranță sau teamă pentru viitorul omenirii? ”Cei care au creat AI sunt înfricoșați de propria creatură”

Partea întunecată a ChatGPT: Noul motor de căutare de la Microsoft, bazat pe inteligență artificială, dă rateuri. Insultă utilizatorii, oferă informații false și are ”probleme existențiale”

OpenAI lansează o nouă versiune a ChatGPT: „La fel de bună ca OAMENII în multe contexte”