Doctor în științe juridice Marian Enache
Președintele Curții Constituționale a României
Stimate Domnule Președinte al Academiei de Științe a Moldovei, Ion Tighineanu,
Stimați Vicepreședinți și academicieni ai Academiei de Științe din Republica Moldova,
Stimate Domnule Președinte al Academiei Tinerilor din Republica Moldova, Tudor Braniște,
Distinși invitați,
Dragi tineri,
Este o onoare și o satisfacție pentru mine să fim împreună astăzi la această prestigioasă conferință, în special în fața tinerei generații, a purtătorilor de inteligență socială, capitalul cel mai de preț al societății actuale și viitoare, pe care îi salut și îi felicit pentru participarea la această manifestare reunită sub inspiratul generic „Calea către descoperiri științifice”.
Vreau să mulțumesc organizatorilor, conducerii Academiei de Științe din Republica Moldova, domnului președinte Ion Tighineanu, pentru invitația de a participa la această conferință, în acest mediu atât de select, care îmi oferă posibilitatea să-mi exprim aprecierile și evaluările, unele cu totul personale și subiective, referitoare la tema propusă. Totodată adresez sincere felicitări conducerii celor trei Academii din România și din Republica Moldova pentru organizarea excelentă a evenimentului, pentru tematica variată pusă în discuție, precum și pentru prezența iluștrilor invitați și calitatea comunicărilor. Domnule președinte Ion Tighineanu, vă felicit pe dumneavoastră și pe distinșii academicieni pentru inițierea unor programe și acțiuni pentru tineri, privind promovarea cunoașterii și a noilor metodologii de cercetare științifică, precum și pentru cultivarea apetitului cercetării, a spiritului critic și academic.
O dovadă a acestor constatări o reprezintă însăși existența unei Academii a Tinerilor, cu un președinte pe care l-am cunoscut la București, preocupat, prin proiecte concrete, de formarea și educarea tinerilor în sfera cercetării și cunoașterii științifice, a cooptării tinerilor studioși și dedicați exigențelor și rigorilor studiului sistematic.
Onorat auditoriu,
Titlul intervenției mele se referă la misiunea și responsabilitatea tinerilor în ceea ce privește explorarea și promovarea inteligenței viitorului, în contextul celei mai mari dileme a secolului al XXI-lea, al tehnosferei și al lui homo technologicus.
În fapt, demersul intenționează să înfățișeze o reprezentare a dinamicii relației om-cunoaștere-Inteligență Artificială.
I. Noul vector al progresului civilizației umane este considerat „Următorul Val” al cunoașterii, dezvoltării și transformării omului și a vieții acestuia, în multidimensionalitatea lui, precum și al reconfigurării comunităților umane în care trăiește, sub impactul inteligenței artificiale (IA) și al biotehnologiei. În acest sens, putem vorbi despre profilarea unor noi platforme paradigmale ale științei și tehnologiei, despre o nouă forma mentis, despre o societate a viitorului în coordonatele globalizării și ale schimbării formelor de organizare statală și societală.
Întregul proces al acestui „Val al schimbării” nu poate fi separat, desprins de procesul general istoric al cunoașterii umane. Mai mult decât atât, credem că tehnologiile inteligenței artificiale și ale biologiei sintetice sunt rodul unei îndelungate și dificile evoluții a cunoașterii umane milenare în toate formele ei de manifestare – științifică, filosofică, socioumană și culturală -structurate și conturate în sistemul de valori ale modernității și contemporaneității noastre.
Din perspectiva Spiritului uman, problema cunoașterii este Căutarea pe drumul nesfârșit al înțelegerii realității, alternanța continuă dintre căutare și descoperire, ad infinitum. Unii, în sens metaforic, denumesc aceste încercări ale spiritului uman de căutare și descoperire, „aventura” spiritului ori „labirintul” cunoașterii sau „odiseea” cunoașterii.
Căutăm toată viața și rareori găsim sau descoperim. De multe ori nu veți găsi ceea ce căutați, dar să nu vă considerați învinși, pentru că atunci când nu găsești, nu pierzi, ci te îmbogățești în calități umane, precum sunt: răbdarea, tenacitatea, modestia, respectul, abilitățile de gândire și de acțiune – toate calități ale experienței și ale inteligenței europene de tip ulisic, flexibile, pragmatice și eficiente.
Adevărul și ființa, scria filosoful român C. Noica, sunt acolo unde înfrângerile sunt transformate în victorii, iar Saint-Exupéry îndemna astfel: „Ai pierdut, continuă, ai învins, continuă.”
Calitățile dobândite în eforturile căutărilor cred că pot fi caracteristicile voinței cercetătorului și caracteristicile necesității cunoașterii consecvente pe care tinerii, care vor să caute și să descopere, trebuie să și le aproprieze de timpuriu.
De peste 150.000 de ani, omul, ca ființă inteligentă, s-a înscris în cursa cunoașterii lumii înconjurătoare, a lucrurilor, a alterității, a cunoașterii de sine și a relației sale cu Transcendența. Dintotdeauna, cunoașterea a produs atât miraj, mister, magie în mințile și sufletele oamenilor, cât și fascinația insațiabilă a descoperirii din ce în ce mai mult a lumii. Cunoașterea este, în realitate, o căutare dramatică a identității cosmice a omului, a regăsirii și a împăcării cu sine într-o lume stranie și ostilă, o lume a finitudinii și a eșecului existențial pentru fiecare individ al speciei. În acest sens, Blaise Pascal, savant și om spiritual, spunea: „Tăcerea spațiilor eterne mă înspăimântă”. În același timp, însă, cunoașterea a devenit și un remediu al eliberării omului de atavismele fricii și spaimelor, în fața „imensității și tăcerii spațiilor eterne”. Prin cunoaștere i se deschide omului calea diamantină spre luminarea tainelor Universului și ale interiorității sale, conștiința că face parte integrantă din Universul copleșitor, posibilitatea „scoaterii din ascundere”, prin propria cercetare, a misterelor și a registrelor încifrate ale Multiversului în care locuim, pe o planetă mică, abia vizibilă, dar o planetă albastră, de culoarea Speranței.
Să ne imaginăm un itinerar al celor mai semnificative momente ale cunoașterii din perspectiva mișcării ideilor filosofiei.
Cunoașterea a evoluat din Antichitatea greacă și din Evul Mediu – de la presocratici la dogmatismul și misticismul medieval, epocă ce se încheie cu nominalismul și realismul scolastic –, apoi din perioada modernă, de la empirismul lui Bacon până la apriorismul kantian, și perioada contemporană a filosofiei germane post-kantiene, de la idealismul subiectiv al lui Fichte, idealismul obiectiv al lui Schelling, reacția psihologistă și biologistă a lui Fries, la realismul pragmatic al lui Spencer, la voluntarismul lui Schopenhauer, intuiționismul fenomenologic al lui Husserl sau la logicismul lui Bertrand Russel ș.a.m.d..
Renașterea, care a marcat trecerea de la Evul mediu la modernitate, a generat umanismul și triumful rațiunii, secolul științei, chiar al scientismului, apariția cercetărilor și inovațiilor în plan științific, descoperirea microscopului, a biologiei celulare, a fizicii mecanice, a genomului uman și a ADN-ului, dezvoltarea științei și tehnicii ulterioare care i-a permis omului zborul în cosmos și trimiterea sateliților în adâncimea universului, fizica cuantică, astrofizica, până la apariția inteligenței artificiale din zilele noastre.
Procesul cunoașterii nu a fost și nu este unul liniar, constant și progresiv, ci mai degrabă un proces grevat de servituți și meandre, caracterizat, pe de o parte, prin momente de continuitate și discontinuitate, de erori, paralogisme, stagnări și regres, de scepticism și optimism, iar, pe de altă parte, prin momente de intensitate, explozie, salturi și silogisme spectaculoase, sugerându-ne constatarea că cine nu crede în „minunile progresului” nu este suficient de realist. Toate aceste încercări și succese au avut rolul lor în procesul clarificării și construcțiilor conceptuale, la constituirea sistemului cunoașterii, validat de criteriile veridicității a posteriori.
Este de domeniul imposibilului să concentrezi, să rezumi sau doar să enunți o problematică atât de vastă, substanțială și densă cum este aceea a cunoașterii și a hermeneuticii sale complicate, atât din sfera concluziilor general abstracte, a reflecției filosofice, cât și din sfera științelor pozitive, de ramură și a cercetării aplicate. Cunoașterea cognitivă și senzorială este, ca întindere și profunzime, inepuizabilă și este, în ultimă instanță, expresia voinței și inteligenței umane de a găsi soluții la diverse probleme din medii diferite, de a structura și de a ordona lumea, de a învăța și a dobândi conceptele și deprinderile, reflexele necesare, pentru a putea trăi în armonie cu legitățile naturii și legile care guvernează societatea și gândirea. Cunoașterea teoretică și practică, cercetarea fundamentală și aplicativă, prin utilizarea metodologiilor specifice și integrate, intra-, inter- și pluridisciplinare, toate aceste direcții tind, prin rezultatele lor abstracte și empirico-pozitiviste, spre convergență, unitate și totalitate, spre holism și integralitate.
Pe căi diferite, prin mijloace și metode diverse, proprii fiecărei științe, filosofiei, artelor, culturii, spiritualității umaniste și celei etico-religioase, toate rezultatele acestor cercetări se întâlnesc și se întregesc într-un nucleu de convergență al cunoașterii evoluate, coerente și articulate în sistemul general de cunoaștere. Din acțiunea și interacțiunea tipurilor de cunoaștere se aglutinează structuri, se corelează și se inter-relaționează componente, se decantează, se aprofundează și se rafinează conceptele, raționamentele, metodologiile și instrumentele de investigație și de evaluare, tezele, teoriile și judecățile de valoare. Totodată, se consolidează spiritul necesar care conferă viziune acestor cunoștințe în procesul înțelegerii și aplicării lor, evitându-se în acest mod formarea de ,,specialiști fără spirit’’, așa cum, în mod coroziv, se exprima Max Weber. Putem vorbi despre o veritabilă arhitectură a cunoașterii, despre un Arbore al acesteia, în care identificăm „terenul fertil” pentru plantarea lui, apoi rădăcinile, trunchiul, ramurile, florile și fructele care ne hrănesc mintea și sufletul, însăși rosturile existenței umane în totalitatea ei.
În cunoașterea științifică, filosofică, în cultură și artă, ca și în metafizică și transcendență, există trepte, praguri, niveluri, dar în procesul cunoașterii nu există desăvârșiri, preaplinuri și încheieri definitive. Cunoașterea umană reprezintă o facultate și o necesitate existențială a omului, însăși rațiunea lui de a fi ființă volitivă și intelectivă, dar, în pofida progresului cunoașterii de până acum, nu putem acredita ideea suficienței și plenipotenței cunoașterii noastre. De aceea, parafrazându-l pe Leonardo da Vinci, spirit universalist și deschizător de orizonturi întru cunoaștere, spunem că „în fața cunoașterii trebuie să rămânem mereu smeriți”, din cauza limitelor și imperfecțiunilor noastre, risipind astfel din cugetul nostru orice tentă egolatră sau resentimentară față de respectul și infinitul cunoașterii autentice.
Numai Marea Creațiune este măreață cu adevărat, atât pentru cei care cred în ,,creaționism’’, cât și pentru cei care cred în ,,evoluționism’’, iar noi, oamenii, cercetătorii ei, cu ustensilele și metodele noastre neputincioase, suntem insignifianți și trecători, dar, în mărginirea și fragilitatea noastră, suntem înzestrați cu inteligența pătrunzătoare care a descoperit sau a inventat atât atomul, celula, legea relativității, religiile etc., cât și formele inteligenței artificiale și tehnobiologiei. Aceste realizări au făcut posibilă tranziția de la atitudinea de contemplare la intervenție și la curajul cercetării complexității structurilor și fenomenelor universului, a relației noastre cu Sinele și Divinitatea, într-o lume declarată de unii filosofi ca fiind incognoscibilă.
Cea mai importantă idee-forță a epocii noastre este societatea postumană și noua ei religie seculară, transumanismul, a căror ofertă o reprezintă reînvierea miturilor ,,tinereții fără bătrânețe”, al „nemuririi’’, absența suferinței, îmbunătățirea mediului natural și a condiției umane generale prin realizarea unei Superinteligențe care surmontează limitările și precaritățile acesteia, culminând cu transferul personalității morale a omului într-un dispozitiv nonbiologic, comutarea acesteia într-un „creier global cu o etică a gândirii fără om”. Toate aceste promisiuni și acțiuni ale transumanismului constituie ideologia promovării inteligenței artificiale care decretează ideea extinderii, implementării și sublimării acestui tip de inteligență în formele ei utilitariste, de hipercunoaștere și de creare a supraomului.
Sigur că, la modul cel mai obișnuit de raționare a lucrurilor, orice schimbare majoră generează un anumit impact și riscuri în viața oamenilor, în gândirea, acțiunile și sistemul lor de valori umaniste, etico-culturale, juridice și filosofice. Spre deosebire însă de schimbările anterioare, acum, în fața fenomenului IA, suntem în prezența unei schimbări majore, de tipul unei mutații, în care impactul și riscurile întrec ca amplitudine și dimensiuni schimbările majore anterioare din domeniul cunoașterii și practicii vieții umane, ale semnificației și sensului existenței umanității.
Riscurile impactului IA sunt multiple, previzibile și imprevizibile, concrete și abstracte, dificil de anticipat și decelat în toată amploarea și plenitudinea lor. Putem vorbi chiar despre o „cifră neagră” a riscurilor incidente ale evoluției științei și tehnologiei. Impactul și consecințele cele mai critice se vor repercuta direct asupra conștiinței și sensibilității umane, asupra ideilor, valorilor, credințelor și reprezentărilor lui homo sapiens, a sensului existenței sale, așa cum îl cunoaștem astăzi. Conceptele de bază ale științelor, ale dreptului și eticii, ale disciplinelor socioumane vor fi modificate, adaptate și li se vor da semnificații inedite, vor apărea unele cu totul noi, altele vor dispărea, vor fi noi concepții și metode de înțelegere a gândirii și de acțiune în domeniile cunoașterii, cu efecte vădite asupra structurilor sociale și asupra naturii și felului muncii noastre.
În mijlocul acestor schimbări fundamentale ale gândirii și vieții sale, omul va resimți, paradoxal, starea de singurătate și anxietate în pofida multiplicării și extinderii rețelelor de comunicare și a creării unui mediu ficțional și plurifuncțional, al ofertei dispozitivelor tehnosferei. În contrast cu acest mediu artificial, omul rămâne esențialmente o ființă socială, interactivă, în parametrii comunicării naturale interumane, care prin acțiunea sa nemijlocită spiritualizează umanul, îmbogățește emoțiile și sentimentele omenești, și aceasta, pentru că, așa cum spune filosoful, „în noi este ceva mai adânc decât noi înșine”, este însăși ființa noastră indestructibilă, prin care trăim omenescul, umanizarea și umanitatea. Acest fapt va constitui un risc de o puternică decompensare psiho-socială, deoarece omul, în statusul său actual, ,,a fost construit de cărți’’, de conexiunile cu ceilalți oameni și, mai ales, el se simte o creație a Zeului de care nu vrea și nu poate să se despartă, iar homo religiosus ar putea percepe interpunerea inteligenței artificiale ca pe o dramă existențială – o ruptură a comuniunii dintre ființă și Divin – a omului fără Dumnezeu.
În noile condiții, omul riscă să se retragă din lumea socială într-o izolare austeră, copleșit de artificialitatea comunicării standardizate, inflexibile și dezumanizante care va putea accepta astfel, în final, preeminența, înaintarea, forța și superioritatea inteligenței artificiale, substituindu-i-se, ultima ratio, acesteia. Prin urmare, subscriem și susținem ideea că inteligența umană și inteligența artificială trebuie concepute ca fiind inseparabile și indisolubile în complementaritatea lor. Aportul IA este doar un plus, o valoare adăugată, o prelungire, o proiecție a aspirațiilor și idealurilor inteligenței umane prin definiție creatoare, din ce în ce mai evoluată și mai sofisticată în fața unei realități din ce în ce mai complexe și mai interconectate.
Existența IA nu reprezintă, cel puțin în această etapă, o eclipsare a inteligenței umane originare, sub aspectul subtilității și fineții creativității și al gândirii proiectelor și programelor transferate algoritmilor de tip Avatar, care au performanțele uimitoare ale procesării informațiilor furnizate de operatorii umani, dar, în același timp, există fenomene și realități care, cel puțin deocamdată, nu pot fi algoritmizate comprehensiv. Apariția IA este o expresie și a sensului real al omului în istorie, care, prin devenirea sa, poate fi caracterizat, în același timp, de tendința lui de rămânere și de ieșirea lui din istorie prin autodepășire, prin realizarea saltului din „imperiul necesității în imperiul libertății”, omul dovedindu-se a fi un produs al istoriei și al supraistoriei, o ființă scindată între istorie și transcendență, care vrea să trăiască în această lume, dar prin inteligența ei înclină și spre o altă realitate ontologică, în calitate de ființă duală și implicit parteneră a „pactului faustian”.
Așa cum inventarea tiparului (în jurul anului 1440) a constituit o revoluție tehnologică însoțită, prin reverberațiile efectelor sale, de o cultură și o ideologie a Renașterii care au condus la „regenerarea spiritului uman” sintetizat de celebra expresie a lui Voltaire, conform căreia „cărțile guvernează lumea”, așa a fost și cu internetul, care a întețit setea de informații și informatizare, și tot așa, și în contemporaneitatea noastră, se va afirma acum sau mai târziu că IA, care ia locul, cu o tendință invincibilă, epocii ,,guvernării cărților’’, va revoluționa și va regenera ,,spiritul uman”. Literele începute cu Secolul Luminilor în toate domeniile cunoașterii au contribuit la „ideea de umanitate, necunoscută în epocile de ignoranță”, probabil cum, tot așa, în viitor, vom putea vorbi despre ideea de Superinteligența Umanității, necunoscută, se va spune atunci, „în epocile de ignoranță”, cu referire chiar la epoca noastră.
Ne aflăm într-o perioadă revoluționară a științei și tehnologiei, prin existența crizelor suprapuse și a soluțiilor de evoluție, transformări și schimbări structurale, care repetă, în opinia mea, spiritul unei noi Renașteri, într-un alt mod și un alt context socioistoric și într-o nouă viziune, fără precedent, a pătrunderii și naturalizării IA în întreaga lume. Se impune tot mai mult ideea înlocuirii pașnice a unui sistem de valori consacrat cu un alt sistem, aflat „in statu nascendi”, al IA. Ne punem în mod constant întrebarea: quo vadis? Până unde se va ajunge? Până unde va continua aventura implementării acestui tip de cunoaștere? Care vor fi consecințele pentru noi? Va fi împreună cu noi sau împotriva noastră această nouă civilizație? Sau, poate, vom rămâne, în esență, aceiași, dar situați pe o altă treaptă de evoluție și cu un alt evantai de posibilități și beneficii?
Noi, oamenii, prin inteligența noastră iscoditoare, dintotdeauna am căutat un scop, un sens în tensiunea dintre ființă, știință și timp. În acest context, este util și necesar să integrăm cunoașterea referioare la IA în cadrul conceptual al taxonomiei tipurilor de cunoaștere științifică realizate de Aristotel.
Așa cum afirmă filosoful român, academician Mircea Dumitru, în concepția lui Aristotel științele se clasifică în 3 grupuri de bază: științele teoretice, care au drept scop cunoașterea, cele practice care privesc comportamentul și caracterul bun al acțiunilor și cele productive, ce au ca scop crearea artefactelor frumoase și utile. În opinia noastră, cunoașterea referitoare la IA este o cunoaștere de tip productiv. Deși foarte diferită sub multe aspecte, cunoașterea de tip IA nu este, prin natura sa, diferită de cunoașterea umană pentru că se grefează pe ea și, până la urmă, pe aceleași baze epistemologice, o poate perfecționa. IA are capacitatea și abilitatea de a inventa, construi și confecționa artefacte utile societății, așa cum și omul își folosește propria cunoaștere pentru a contribui în mod util la progresul societății în care trăiește. Cunoașterea este necesară, însă, astfel cum arăta Aristotel în Etica nicomahică, scopul este acțiunea „praxis”. Dilema cunoașterii de tip IA este aceea dacă ea are capacitatea de a transcende științele productive și dacă poate influența orizontul științelor teoretice sau a celor practice, respectiv să își aproprieze acțiunea bazată pe cunoașterea înglobată în algoritmii construiți pe bazele gândirii umane.
Potrivit lui Aristotel, fiecare lucru și formă de viață au un țel interior (telos), pe care tind să-l atingă. El spune că scopul vieții omenești este fericirea, dar mulți filosofi l-au contrazis cu argumente pertinente.
Această mare interogație persistentă, a sensului și ființei umane, deși a primit felurite și interesante răspunsuri de la știință, filosofie și teologie, niciunul dintre ele nu a fost revelator și definitiv. Noi credem că toate și totul au un sens; prin înseși căutările noastre, noi descoperim și conferim sensul și suntem întemeiați de acest sens, pe care îl înțelegem implicit și continuu, fără a avea însă cuprinderea și esențialitatea lui. Căutarea unui sens propriu al existenței faptelor și visurilor noastre, în neliniștile metafizice ale fiecăruia dintre noi, sporește fascinația și intuiția căutărilor noastre permanente în fața enigmelor din lumea micro- și macrocosmică.
Această teribilă confruntare dintre luciditatea neîmpăcată a conștiinței umane și marile întrebări existențiale cu privire la sensul vieții și creației a generat perioadele de scepticism și inconsecvență, chiar regresul în procesul cunoașterii, dar uneori și veritabile revirimente ale unor descoperiri formidabile. Crizele de neîncredere și îndoială în capacitățile omului, apărute în diferite momente ale evoluției cunoașterii, au fost depășite de fiecare dată prin „ideea de umanitate”, care exprimă, prin suma creațiilor individuale, o perpetuă și neîntreruptă dezvoltare a spiritului uman la scara universalității și unității speciei umane ca centru generator și receptor de progres și sens al întregii omeniri și al fiecărui individ în parte.
În percepția mea, ne aflăm într-un moment în care viitorul, pentru a mai putea fi posibil, trebuie să fie Superinteligent. Viitorul aparține Superinteligenței Complexității și a Sistemelor, care vor schimba arhetipul lumii și vor construi un altul, o lume a inteligibilităților multiple, interconectate și consonante într-un orizont al Următorului Val de civilizație. Cred că aceasta este condiția sine qua non a perpetuării, afirmării și salvgardării în istorie, a demnității speciei noastre, capabilă să genereze un alt tip de cultură și civilizație a Omului și a Omenirii, o matrice reinventată de aceeași inteligență umană pentru evoluția absolut necesară și inexorabilă a omului plurivalent și îmbunătățit în performanțele lui.
Vocile pesimiste sau realiste vorbesc, în mod justificat în contextul IA, despre o sumă de riscuri pentru însăși condiția umană, despre „o cădere a omului în istorie”. Sigur că va exista o tranziție tumultuoasă și impredictibilă, cu posibile, numeroase și profunde inechități și clivaje sociale. Dar necesitatea înțeleasă a inevitabilității sensului mișcării spiritului în lume ne impune să fim pregătiți pe toate planurile pentru întâmpinarea și valorificarea pozitivă a acestui veritabil șoc al viitorului.
Cu cât vom înțelege mai repede, mai bine și mai lucid că viitorul acesta deja a început să curgă vertiginos și ne vom pregăti mai responsabil, în mod conștient și organizat de întâmpinarea lui, cu atât mai mult vom reuși să prevenim unda de șoc a Următorului Val, folosindu-l în favoarea noastră, prin translarea rațională și pașnică la un alt nivel și la o altă sferă de cunoaștere a realității obiective.
Există o uzură a timpului și spiritului modernității noastre care se apropie de o încheiere, o închidere, pentru a face loc unei alte deschideri care după un timp al evoluției se va închide și ea spre o altă deschidere. În acest context, cred că filosoful român C. Noica, prin cunoscuta sa metaforă „a închiderii care se deschide”, poate fi cel mai sugestiv în caracterizarea ciclurilor cunoașterii, a închiderilor care se deschid într-o ștafetă fără sfârșit.
Oricât ar fi de mărețe, impresionante, monumentale cunoașterea și valorile modernității clasice și ale contemporaneității, nu ne putem închide în această „fortăreață inexpugnabilă” de care suntem vital și spiritual atașați. Această atitudine intransigentă a imutabilității ar contraveni flagrant cu dezvoltarea spiritului creator, care impune deschiderea acestor închideri pentru a înfăptui alte deschideri și construcția altor vitralii ale catedralelor cunoașterii.
Pentru atenuarea „coliziunii” între fenomenul Superinteligenței Complexității și paradigmele civilizației actuale, omul, prin înseși performanțele inteligenței sale, trebuie să-și modeleze o conștiință a Superinteligenței prin utilizarea, conexarea sau chiar prin simbioză cu aceste resurse de inteligență, să-și creeze noi forme ale conștiinței și noi structuri mentalitare, noi fundamente, valori și reguli, norme juridice și etice adaptate unui alt modus vivendi și operandi, a unui nou etos al viitorului. Această misiune istorică de explorare și promovare a erei IA revine tinerilor, noilor generații de cercetători și locuitori ai planetei viitorului, care va fi și aici, și dincolo de Terra.
Trebuie să „ne dezbrăcăm de omul cel vechi și să ne îmbrăcăm în omul cel nou”. Omul viitorului va fi cu siguranță un om hiperinteligent, transformat în conștiința, viziunile și abilitățile sale, evadând, poate, din mitul peșterii platoniciene, și va străluci, poate, într-o altă lume platoniciană, a ideilor și a esențelor.
Sunt optimist, deoarece, în prezent, omenirea traversează o perioadă de criză latentă, îndelungată, cu implicații defavorabile pentru condiția umană în toate compartimentele ei, o criză din care trebuie să ieșim. În acest sens, voi face o afirmație îndrăzneață, și anume că omul este o ființă întârziată și perdantă în istorie. Ne-am mișcat lent, nepermis și obositor de lent, în detrimentul unei mai mari viteze de evoluție a progresului. Se impune să accelerăm și să recuperăm rămânerile în urmă și hiatusurile.
Ne-am ocupat prea mult cu războaiele și ideologiile dominării, cu excesul divertismentelor facile și cu „aflarea în treabă ca metodă de lucru” în istorie, preocupați cu defulările orgoliilor paranoide ale unor lideri inconsistenți ai lumii, care, în accesele lor patologice, voiau să stăpânească lumea, pe care nu o înțelegeau, condamnând-o la pierderi de vieți omenești, umilințe și sacrificii inutile, fragmentând-o, prăbușind-o în suferințe și nonsens, deturnându-i cursul ei firesc. Nu ne-am concentrat întreaga voință, toate eforturile și energiile creatoare spre dezvoltarea culturii, a științei, a tehnologiei și a spiritualității elevate, care ar fi trebuit să fie de mult timp într-un alt stadiu al progresului. Din aceste motive vorbesc despre om ca ființă întârziată și perdantă în istorie, deoarece subdezvoltarea sau cunoașterea suboptimală reprezintă „moartea lentă a omului în istorie”.
II. Cum să realizăm conectarea la Următorul Val al cunoașterii și cum să exercităm controlul pentru prevenirea riscurilor posibile ale IA și ale biotehnologiei?
Această nouă cunoaștere, prin aplicațiile ei inovatoare, va oferi omenirii potențialități sporite și mari beneficii, dar în mod corespunzător și „riscuri fără precedent”. Mai mulți analiști ai fenomenului IA se întreabă: „Către ce poate duce utilizarea intensivă a tehnologiei? Vestea bună – spun ei – este că tehnologia ne poate face mai inteligenți, de fapt deja ne-a făcut; vestea proastă însă este că aceeași IA ne poate face și proști.” Cauza ultimei vești neplăcute constă în abuzul de tehnologie, în tehnopatie, în modul comod și superficial în care o utilizăm, preferând să lăsăm sarcinile noastre cognitive de luare a deciziilor în competența algoritmilor inteligenți.
Acest comportament uman reprezintă un risc major în relația cu inteligența artificială. Analiștii acestui fenomen conchid că „nu inteligența artificială va depăși inteligența umană, ci oamenii vor ajunge mai proști decât inteligența artificială pentru că noi suntem cei care ne prostim utilizând-o prostește”. Ce rezultă din aceste considerente? Faptul că lipsa de încredere în IA, pe motiv că va prelua controlul asupra noastră, trebuie atribuită mai degrabă mentalismelor și conduitelor umane, care, din necunoaștere, lejeritate sau pasivitate, nu vor mai exercita controlul adecvat și, în aceste condiții, ar putea exista o predare a întregii puteri algoritmilor inteligenți.
Dacă problemele de logică pot fi solubile prin algoritmizare, cele de etică și stări sufletești devin delicate, chiar insolubile în relația cu impersonalitatea acestei forme de inteligență. În acest context, ne întrebăm dacă sunt conceptibile unele strategii de control eficace al acestor tehnologii și al vitezei lor de cucerire a vieții, a minții omului și a societății lui actuale?
În prezent, putem identifica mai multe tipuri de strategii din perspectiva umanismului, a drepturilor și libertăților omului, a valorii demnității sale ca ființă morală prin excelență, care își validează conduita și actele sale prin universalitatea imperativului categoric. Acestea din urmă presupun ideea utilizării a două modalități esențiale de control.
1. În ceea ce privește prima modalitate, obiectivul formulat privind controlul poate fi atins prin Învățarea adecvată a abordărilor structural-dinamice pentru cunoașterea conceptuală a funcționării operațiunilor tehnice și de control tehnic intrinsec. Această pregătire prin învățare se referă la instruirea destinatarilor serviciilor furnizate de noile tehnologii. O societate tehnologizată presupune o societate instruită să interacționeze cu nivelul tehnologic al mediului social.
În corelație cu această categorie a celor care trebuie să învețe un alt tip de cunoaștere și tehnologie, mai trebuie să existe elitele, inginerii tehnologiilor, creatori și controlori ai IA, cu o înaltă pregătire profesională, educație și conștiință etico-juridică. În acest context, paradoxului învățării formulat de Socrate, care constă în întrebarea „învață cei ce știu sau cei ce nu știu?”, îi putem răspunde că în fața noilor realități, astăzi, toți învață, și cei care știu, și cei care nu știu. Este necesar să cultivăm „gena curiozității”, care este resortul oricărei cunoașteri, de la simplu la complex, de la concret la abstract.
În aceste circumstanțe, viitorul omului și al lumii presupune și schimbarea structurală a învățământului și a formării tinerilor care vor fi implicați în „Următorul Val”, schimbare menită să delimiteze pregătirea școlară și universitară tradițională scribică și desuetă de aceea a unui învățământ avansat, inovator și creativ care să ofere viziunea și trusa de instrumente necesare ale paradigmei învățării de către toți.
Viitorul acesta a început acum. Puțini realizează cu ce viteză de propensiune înaintăm, putând vorbi chiar în multe privințe despre „viitorul trecut”, întrucât, prin geniul sagacității noastre, în fiecare clipă, negând precaritățile și limitele prezentismului, ale abuzului de prezent, care ne ține captivi în prejudecățile și preconcepțiile noastre, pe care le considerăm ilustre și imbatabile, ne înscriem într-un continuum al viitorului devorant, impunându-ne conturul unei noi lumi.
Prezentul fără previziunea viitorului înseamnă aneantizarea omului și pierderea logosului, a rațiunii lui de a fi. Deși ne aflăm în stadiul lui „deja, nu încă”, ne confruntăm cu impetuozitatea și nerăbdarea timpului, pe care avem senzația că nu îl mai putem planifica. Trăim, concomitent, în prezent și în viitor și nu reușim să percepem imposibilitatea grănițuirii din pricina accelerării timpului.
Necesitatea irepresibilă a cunoașterii și promovării noilor tehnologii poate semnifica, într-un sens profund existențial, atât tacita sau manifesta revoltă a omului contemporan împotriva timpului istoric și a prezentului ingrat, față de condiția și condițiile actuale ale omului, cât și asumarea unui nou statut al evoluției lui ca ființă multidimensională, în care omul – valoare absolută în sine – are cutezanța să-și revendice dreptul inalienabil la o lume mai bună și mai dreaptă în care să-și învingă neputințele și spaimele în fața unui univers nesigur pentru forțele sale originare.
Revolta și negarea inerțiilor prezentului vor conduce mai rapid la cucerirea și înțelegerea spațiului și timpului, la găsirea soluțiilor utile, dându-i omului o siguranță mai mare în continuarea existenței sale. Va trebui să sporim voința de a învăța mai mult, mai bine, mai eficient și, dintr-o altă perspectivă decât până acum, să fim pregătiți pentru o „întâlnire” mai sigură și mai încrezătoare cu Noul Val. Vom învăța limbajele, codurile și modelele matematice, logice și simbolice, noi metode hermeneutice și de algoritmizare a realităților. Chiar dacă, deocamdată, IA nu depășește nivelul efectiv al creativității umane, aceasta va reuși, în relația cu omul, să performeze în pofida îndoielilor și neîncrederii noastre.
Tinerii sunt exponenții inteligenței viitorului, ei cresc și se formează într-un mediu informatizat și posedă un fond aperceptiv, mai receptiv și un mai acut simț al realității și adecvării decât generațiile precedente. De modul în care ei se vor integra în exigențele și cerințele Noului Val al cunoașterii prin învățarea unui alt model de gândire, utilizarea altor metodologii și tehnici instrumentale de lucru, vom avea garanțiile faptului că generațiile care vin vor implementa știința și tehnica, vor fi apte să rezolve provocările iminente ale afectării mediului natural, ale îmbătrânirii și ale bolilor incurabile ale populației, ale alimentației sustenabile și ale cuceririi mai ample a cosmosului pentru viitoarele așezări extraterestre ale oamenilor civilizației tehnologiei avansate.
Învățarea și educația devin componente inextricabile ale instruirii noilor generații și ale misiunii acestora în istoria viitorului, într-o societate a Superinteligenței, Complexității și Sistemelor.
Pasiunea studiului, tenacitatea, învățarea permanentă, conectarea la cunoștințele și performanțele cunoașterii și la ideile contemporane, respectul și probitatea față de valoare, noutate și inovație, decelarea între adevăr și fals, precum și cristalizarea trăsăturilor de caracter și de personalitate ale viitorului cercetător, om de știință, specialist în orice domeniu, filosof sau artist, toate acestea pot alcătui calitățile și strădaniile tinerilor care se pregătesc astăzi să trăiască în viitor. În cunoaștere și în știință nu primim nimic gratis, fără a plăti prețul constând în eforturile și sacrificiile noastre. Insist asupra necesității educației și formării caracterului tinerilor noștri, indiferent de opțiunile lor profesionale, deoarece consider că aceste calități sunt tot atât de prețioase precum performanțele intelectuale, pentru că este foarte important ce fel de oameni devenim și suntem în orice domeniu de activitate, pentru a evita degradarea mediului uman și social, precum și pentru a păstra intangibilitatea demnității fiecăruia dintre noi. Această necesitate este magistral ilustrată în reflecția lui François Rabelais care spune că „știința fără conștiință este ruina sufletului”.
2. A doua modalitate de control energic și eficient al tehnologiilor avansate o reprezintă controlul prin mijloacele normative ale dreptului.
Normele și deciziile juridice trebuie înțelese în contextul vieții social-economice și culturale a unei comunități determinate. Dreptul nu este autonom, nu există în afara societății, ci este profund încorporat în societatea aflată în procesul globalizării.
Fenomenul dreptului se confruntă cu impactul IA și înregistrează modificări și schimbări de perspectivă. Deciziile juridice pot fi influențate de algoritmii sistemelor de IA, care, într-un final, modelează însuși dreptul. Astfel, normele juridice vor deveni un produs al sistemelor de calcul.
IA are potențialul de a îmbunătăți sistemele juridice pentru a fi mai echitabile, mai eficiente și mai accesibile, dar există multiple preocupări, obstacole și limitări din perspectiva integrării valorilor etico-morale. În ultimii ani, progresele tehnologice au permis și juriștilor să automatizeze activitățile specifice domeniilor juridice. Motoarele de căutare și instrumentele de cercetare juridică programate pot examina volume masive de documente pentru a identifica informațiile potrivite într-o fracțiune de secundă. În plus, generatoarele de text bazate pe inteligență artificială pot produce un prim proiect de răspuns în doar câteva momente.
În același timp, însă, IA poate avea un impact negativ și asupra domeniului juridic. De exemplu, manipularea capacității IA de a induce rezultate juridice false cu scopul deturnării finalității normelor de drept. Aceasta este o preocupare în special pentru specialiștii care lucrează în sfera problematicii proprietății intelectuale. Mai mult, deoarece IA generativă (producția de lucrări creative cu totul noi din instrucțiuni simple după ce IA este antrenată pe cantități mari de material preexistent) se bazează în mare măsură pe seturi masive de date, există și riscuri ca datele private să nu mai fie protejate. De fapt, au existat deja procese colective în care se pretind încălcări ale confidențialității asociate cu instrumente ale IA generative.
Ca atare, relația drept IA trebuie să ia în considerare cel puțin trei aspecte: evoluția dreptului prin valorificarea sistemelor de IA, remedii de protecție juridică și controlul uman asupra sistemelor de IA.
Justiția constituțională este o condiție indispensabilă a statului de drept și are în centrul său, din punct de vedere conceptual, caracterul general obligatoriu al deciziilor instanțelor constituționale. Aceasta este menită să protejeze drepturile și libertățile fundamentale, precum și să asigure buna funcționare a puterilor statului. Se poate observa că dezvoltarea sistemelor de IA conduce la o presiune asupra unor drepturi și libertăți fundamentale, precum dreptul la viață privată, protecția datelor cu caracter personal, demnitatea umană, libertatea de acțiune a persoanei, în sensul că impune standarde filtrate prin prisma algoritmului creat de operatori. Ca atare, cel care elaborează respectivul algoritm, pe baza căruia au loc raționamente deductive, inductive, procese logice, de tipul silogismelor și inferențelor, imprimă un anumit conținut dreptului sau libertății respective, ajungându-se în situația în care nici măcar individul să nu realizeze că libertatea sa se află sub imperiul unor limitări sau constrângeri.
Procesele democratice, la rândul lor, pot fi influențate de IA, și aici mă refer mai ales la interpretarea normelor și la inducerea unui anumit comportament axiologic în rândul cetățenilor. Rezultă că justiția constituțională este influențată direct de IA dintr-o dublă perspectivă: pe de o parte, apar noi dimensiuni în conceptualizarea și conținutul drepturilor și libertăților fundamentale ca urmare a intruziunii IA asupra acestora și, pe de altă parte, decizia juridică poate fi generată și modelată de IA.
Justiția constituțională va da testul cu lumea reală a schimbărilor și va trebui să reacționeze la noile posibile contrarietăți cu libertățile și drepturile protejate constituțional care „decurg din evoluțiile științifice și tehnologice, din utilizarea lor comercială”, așa cum arată Dieter Grimm.
Dacă gândirea umană își arată limitele sale, inteligența artificială poate fi infailibilă în interiorul parametrilor în care funcționează. În condițiile în care IA interferează cu condiția etico-juridică a omului, unele drepturi se vor dezvolta, unele noi vor apărea, iar altele vor deveni recesive sau vor dispărea. Ca atare, decizia juridică va trebui să realizeze un just echilibru în valorizarea testului de proporționalitate în contextul dezvoltării sistemelor de IA, responsabilitate cu atât mai dificilă cu cât decizia juridică ar putea fi lăsată, în viitor, la dispoziția IA.
În condițiile date, cel mai energic mijloc de control asupra acestor procese și fenomene îl reprezintă mijloacele dreptului, care, prin specificul său, normează tipuri de conduită menite să respecte valorile persoanei umane, demnitatea acesteia, libera dezvoltare a persoanei, libertatea, dreptatea într-o lume globalizată a „tehnosferei”. În acest cadru, se dezvoltă o legislație specială de protecție, cu răspunderi și sancțiuni pentru utilizarea și controlul acțiunii noilor tehnologii.
III. La 13 iunie 2024, în cadrul UE a fost adoptat Regulamentul privind inteligența artificială. Această reglementare demonstrează rolul determinant al normativității dreptului în materia controlului oficial al problematicii IA. Potrivit expunerii de motive a Regulamentului, scopul acestuia este de a îmbunătăți funcționarea pieței interne prin stabilirea unui cadru juridic uniform, în special pentru dezvoltarea, introducerea pe piață, punerea în funcțiune și utilizarea de sisteme de IA în Uniune, în conformitate cu valorile Uniunii, de a promova adoptarea unei IA de încredere și centrate pe factorul uman, asigurând în același timp un nivel ridicat de protecție a sănătății, a siguranței, a drepturilor fundamentale consacrate în Carta drepturilor fundamentale a Uniunii Europene, inclusiv a democrației, a statului de drept și a mediului, de a proteja împotriva efectelor pernicioase ale sistemelor de IA în Uniune, precum și de a sprijini inovarea. Se asigură, astfel, libera circulație transfrontalieră a bunurilor și serviciilor bazate pe IA, ceea ce împiedică statele membre să impună restricții privind dezvoltarea, comercializarea și utilizarea sistemelor de IA.
Regulamentul normează în detaliu sistemele IA care trebuie considerate ca având un grad ridicat de risc. Acestea prezintă riscuri semnificative pentru drepturile și libertățile fundamentale, astfel că vor trebui să respecte un set de cerințe orizontale obligatorii pentru o IA de încredere și să urmeze procedurile de evaluare a conformității înainte să poată fi introduse pe piața Uniunii.
Regulamentul interzice următoarele practici în domeniul IA:
– introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale ce nu pot fi percepute în mod conștient de o persoană sau tehnici intenționat manipulatoare sau înșelătoare, cu scopul sau efectul de a denatura în mod semnificativ comportamentul unei persoane sau al unui grup de persoane prin împiedicarea apreciabilă a capacității acestora de a lua o decizie în cunoștință de cauză, determinându-le astfel să ia o decizie pe care altfel nu ar fi luat-o, într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective, unei alte persoane sau unui grup de persoane;
– introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care exploatează oricare dintre vulnerabilitățile unei persoane fizice sau ale unui anumit grup de persoane asociate vârstei, unei dizabilități sau unei situații sociale sau economice specifice, cu scopul sau efectul de a denatura în mod semnificativ comportamentul persoanei respective sau al unei persoane care aparține grupului respectiv într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective sau unei alte persoane;
– introducerea pe piață, punerea în funcțiune sau utilizarea unor sisteme de IA pentru evaluarea sau clasificarea persoanelor fizice sau a grupurilor de persoane pe o anumită perioadă de timp, pe baza comportamentului lor social sau a caracteristicilor personale sau de personalitate cunoscute, deduse sau preconizate;
– introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unui sistem de IA pentru efectuarea de evaluări ale riscurilor persoanelor fizice cu scopul de a evalua sau de a prevedea riscul ca o persoană fizică să comită o infracțiune, exclusiv pe baza creării profilului unei persoane fizice sau pe baza evaluării trăsăturilor și caracteristicilor sale de personalitate;
– introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unor sisteme de IA care creează sau extind bazele de date de recunoaștere facială prin extragerea fără scop precis a imaginilor faciale de pe internet;
– introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unor sisteme de IA pentru a deduce emoțiile unei persoane fizice în sfera locului de muncă și a instituțiilor de învățământ, cu excepția cazurilor în care utilizarea sistemului de IA este destinată a fi instituită sau introdusă pe piață din motive medicale sau de siguranță;
– introducerea pe piață sau punerea în funcțiune în acest scop specific sau utilizarea de sisteme de clasificare biometrică care clasifică în mod individual persoanele fizice pe baza datelor lor biometrice pentru a deduce sau a intui rasa, opiniile politice, apartenența la un sindicat, convingerile religioase sau filosofice, viața sexuală sau orientarea sexuală ale persoanelor respective.
Sunt considerate sisteme de IA cu grad ridicat de risc cele care aparțin următoarelor domenii:
- Biometrie;
- Infrastructură critică: gestionarea și exploatarea infrastructurii digitale critice, a traficului rutier sau a aprovizionării cu apă, gaz, încălzire ori energie electrică;
- Educație și formare profesională;
- Ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente;
- Accesul la servicii private esențiale și la servicii și beneficii publice esențiale, precum și posibilitatea de a beneficia de acestea;
- Aplicarea legii, în măsura în care utilizarea lor este permisă în temeiul dreptului Uniunii sau al dreptului intern relevant;
- Migrație, azil și gestionare a controlului la frontiere, în măsura în care utilizarea lor este permisă în temeiul dreptului Uniunii sau al dreptului intern relevant;
- Administrarea justiției și procesele democratice.
Vom insista asupra a trei domenii pe care le-am considerat relevante având în vedere obiectul întâlnirii noastre de astăzi, și anume: Educație și formare profesională; Ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente; Administrarea justiției și procesele democratice.
În ceea ce privește educația și formarea profesională, prezintă un risc ridicat sistemele de IA destinate a fi utilizate pentru a stabili accesul ori admisia sau pentru a repartiza persoane fizice la instituțiile de învățământ și formare profesională la toate nivelurile; pentru a orienta procesul de învățare al persoanelor fizice în instituțiile de învățământ și formare profesională la toate nivelurile; pentru evaluarea nivelului adecvat de educație pe care o persoană îl va primi sau îl va putea accesa, în contextul sau în cadrul instituțiilor de învățământ și formare profesională la toate nivelurile; pentru monitorizarea și detectarea comportamentului interzis al elevilor și al studenților în timpul testelor, în contextul sau în cadrul instituțiilor de educație și formare profesională la toate nivelurile.
În ceea ce privește ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente, prezintă un risc ridicat sistemele de IA destinate a fi utilizate pentru recrutarea sau selectarea persoanelor fizice, în special pentru a plasa anunțuri de angajare direcționate în mod specific, pentru a analiza și a filtra candidaturile pentru locuri de muncă și pentru a evalua candidații; pentru a lua decizii care afectează termenii relațiilor legate de muncă, promovarea și încetarea relațiilor contractuale legate de muncă, pentru a aloca sarcini pe baza comportamentului individual sau a trăsăturilor ori a caracteristicilor personale sau pentru a monitoriza și a evalua performanța și comportamentul persoanelor aflate în astfel de relații.
În ceea ce privește administrarea justiției și procesele democratice, prezintă un risc ridicat sistemele de IA destinate a fi utilizate de către sau în numele unei autorități judiciare pentru a asista o autoritate judiciară în cercetarea și interpretarea faptelor sau a legii, precum și în aplicarea legii la un set concret de fapte sau destinate a fi utilizate în mod similar în soluționarea alternativă a litigiilor sau pentru a influența rezultatul unei alegeri sau al unui referendum ori comportamentul de vot al persoanelor fizice în exercitarea votului lor la alegeri sau referendumuri.
În concepția Regulamentului, o importanță majoră o are controlul uman asupra IA. Sistemele de IA cu grad ridicat de risc sunt proiectate și dezvoltate astfel încât, prin includerea de instrumente adecvate de interfață om-mașină, să poată fi supravegheate în mod eficace de către persoane fizice în perioada în care sunt utilizate (art.14). În orice caz, sistemele de IA cu grad ridicat de risc sunt concepute și dezvoltate astfel încât să atingă un nivel adecvat de acuratețe, robustețe și securitate cibernetică și să funcționeze în mod consecvent în aceste privințe pe parcursul întregului lor ciclu de viață [art.15 alin.(1)].
Există obligații ale furnizorilor și implementatorilor de sisteme de IA cu grad ridicat de risc. Aceștia se asigură că sistemele de IA destinate să interacționeze direct cu persoane fizice sunt proiectate și dezvoltate astfel încât persoanele fizice în cauză să fie informate că interacționează cu un sistem de IA, cu excepția cazului în care acest lucru este evident din punctul de vedere al unei persoane fizice care este suficient de bine informată, de atentă și de avizată, ținând seama de circumstanțele și contextul de utilizare [art.50 alin.(1)].
De asemenea, acest important document conține reglementări privind:
- obligațiile furnizorilor și implementatorilor de sisteme de IA cu grad ridicat de risc;
- guvernanța la nivelul Uniunii, instituind un Consiliu european pentru inteligența artificială și un Oficiu pentru inteligența artificială;
- monitorizarea ulterioară introducerii pe piață, schimbul de informații și supravegherea pieței;
- dreptul la explicarea luării deciziilor individuale.
Pentru respectarea obiectivelor și conduitelor obligatorii stabilite în Regulamentul UE, au fost instituite măsuri de aplicare și sancțiuni la nivelul statelor membre ale UE. Astfel, statele membre stabilesc normele privind sancțiunile și alte măsuri de aplicare a legii și iau toate măsurile necesare pentru a se asigura că acestea sunt puse în aplicare în mod corespunzător și efectiv. Sancțiunile prevăzute trebuie să fie proporționale și cu efect de descurajare. Totodată, distinct de aceste obligații impuse în sarcina statelor membre, Regulamentul prevede amenzi pecuniare de până la 15 milioane de euro pentru nerespectarea anumitor reglementări specifice, precum cele referitoare la obligațiile furnizorilor de sisteme de IA cu grad ridicat de risc.
În acest context, amintim și reglementarea IA la nivelul Consiliului Europei. Astfel, Comitetul de Miniștri al Consiliului Europei a adoptat, la data de 17 mai 2024, Convenția-cadru a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept, care va fi deschisă spre semnare la Vilnius (Lituania), la 5 septembrie 2024, cu ocazia unei conferințe a miniștrilor justiției. Convenția-cadru reprezintă primul tratat internațional privind IA care va fi obligatoriu din punct de vedere juridic pentru semnatari. Se preconizează ca acest document să fie semnat de cele 46 de state membre ale Consiliului Europei, printre care și România, precum și de cele 11 state și Uniunea Europeană, care au participat la elaborarea sa ei. Semnarea acestei convenții generează efecte juridice în virtutea regulii de drept pacta sunt servanda și incumbă drepturi și îndatoriri din partea statelor semnatare.
Scopul Convenției-cadru este acela de a se asigura că activitățile din cadrul ciclului de viață al sistemelor de inteligență artificială sunt în deplină concordanță cu drepturile omului, democrația și statul de drept. În conformitate cu prevederile Convenției-cadru, statele semnatare trebuie să adopte măsuri pentru a se asigura că IA nu subminează integritatea proceselor democratice și respectarea statului de drept; să adopte sau să mențină măsuri de respectare a demnității umane și a autonomiei individuale în legătură cu activitățile din ciclul de viață al sistemelor de inteligență artificială; să adopte sau să mențină, în măsura în care remediile sunt cerute de obligațiile sale internaționale și în concordanță cu sistemul său juridic intern, măsuri pentru a asigura disponibilitatea unor remedii accesibile și eficiente pentru încălcările drepturilor omului rezultate din activitățile din ciclul de viață al inteligenței artificiale; și să se asigure că, în cazul în care un sistem de inteligență artificială are un impact semnificativ asupra exercitării drepturilor omului, sunt disponibile garanții procedurale în privința persoanelor afectate de acestea.
În vederea încurajării inovării, evitând în același timp impactul negativ asupra drepturilor omului, a democrației și a statului de drept, fiecare parte este chemată să permită, după caz, stabilirea de medii controlate pentru dezvoltarea, experimentarea și testarea sistemelor de inteligență artificială sub supravegherea autorităților sale competente [art.13].
Fiecare parte încearcă să se asigure că problemele importante ridicate în legătură cu sistemele de inteligență artificială sunt, după caz, luate în considerare în mod corespunzător prin discuții publice și consultare cu mai multe părți interesate, în lumina implicațiilor sociale, economice, juridice, etice, de mediu și a altor implicații relevante.
Convenția-cadru constituie un standard de protecție minim în sensul că statele semnatare pot reglementa un nivel de protecție mai ridicat decât cel prevăzut de aceasta.
IV. Concluzii
1. Expectația și contemplarea în privința tehnologiilor de tip IA au trecut. Ne apropiem vertiginos de o zonă critică în evoluția progresului uman. Întreaga paradigmă creată de aceasta este pe cale să se schimbe pentru că IA va avea capacitatea de a organiza viața oamenilor și de a asigura serviciile publice de bază sub aparența conducerii umane. Începând cu anii ’50 discutam despre testul Turing, care evalua, prin prisma interrelaționării cu un individ, capacitatea unei mașini de a prezenta un comportament inteligent echivalent cu cel al unui om sau care nu se poate distinge de acesta. Acum acest test își arată limitele pentru că în stadiul actual al evoluției sistemelor de IA, acestea au deja capacitatea de a trece testul menționat, omul nemaiputând realiza cu acuratețe dacă interacționează cu un individ sau cu IA. Ca atare, imitarea sau învățarea naturii umane de către IA aduce în discuție probleme etice care nu au mai fost ridicate în decursul istoriei cu o asemenea acuitate și impact.
2. Viitorul este astăzi! Homo technologicus, prin descoperirile și invențiile sale, „a condus la o evoluție continuă a ideilor și creației. Fiecare principiu și concept abstract, fiecare mic efort sau proiect creativ, fiecare experiență din viața sa au fost influențate de capacitatea unică și complexă a speciei noastre de a-și folosi imaginația, creativitatea și rațiunea” (Următorul val – Mustafa Suleyman și Michael Bhaskar, Editura Bookzone, București, 2024). IA și biologia sintetică vor inaugura o nouă eră pentru umanitate. Susținem, astfel, tehnologia echității și superinteligența omului evoluat, dispensat de servituțile, imperfecțiunile și limitele sale. Viitorul omenirii depinde de aceste tehnologii și este, totodată, pus în pericol de ele, cu efecte asupra tipologiei și valorilor omenirii și ordinii geopolitice actuale. Acest val de noi tehnologii deja proliferează, astfel că trebuie să identificăm latura lor benefică și să surmontăm problemele pe care acestea le pot cauza în devenirea speciei umane.
3. Dacă este folosită corect, IA are capacitatea de a realiza un salt în sfera progreselor științifice, economice și tehnologice, cu consecința trecerii într-o nouă fază a civilizației umane, în care are loc o afirmare a omului în evoluție, a aspirațiilor și demnității sale. Procedând astfel, IA are potențialul de a rezolva unele dintre cele mai mari probleme ale umanității. IA aduce beneficii extraordinare, dar prezintă riscuri și dileme etice. Din motive de control și supraveghere vor fi intruziuni masive în viața privată. Rezultă că provocarea majoră în dezvoltarea sistemelor de IA este menținerea controlului uman asupra noilor tehnologii.
4. Juriștii vor beneficia pe deplin de prefacerile sistemelor de IA, ei fiind avantajați de sistemele de IA generative care reușesc să realizeze proiecte ale deciziilor juridice pe care le vor lua. Însă orice avantaj este însoțit de dezavantajele sale, respectiv modul de concepere a algoritmilor de către operatorul uman și de control uman permanent al acestor dispozitive.
5. În momentul de față, există preocupări în privința elaborării unui cadru internațional, supranațional și național pentru a se reglementa statutul juridic al sistemelor de IA. În acest sens, amintim, cu titlu exemplificativ, Regulamentul UE privind inteligența artificială și Convenția-cadru a Consiliului Europei privind inteligența artificială și drepturile omului, democrația și statul de drept, ambele din anul 2024. Toate acestea demonstrează că lumea juridică – dar și politică – este conștientă de necesitatea conectării atât la schimbările, cât și la riscurile pe care le implică sistemele de IA.
Bibliografie selectivă:
- H. Moor (editor): The Turing Test – The Elusive Standard of Artificial Intelligence, Ed. Kluwer Academic Publishers, Dordrecht, 2003, 115-116;
- P. Negulescu: Scrieri inedite – I. Problema cunoașterii, Ed. Academiei Române, București, 1969, 784 p.;
- Popoveniuc: Filosofia Singularității, Ed. Eikon, București, 2016, 300 p.;
- Suleyman și M. Bhaskar: Următorul val, Ed. Bookzone, București, 2024, 400 p.;
- M. Turing: Computing machinery and intelligence în revista Mind, 1950, disponibil la adresa de Internet: https://courses.cs.umbc.edu/471/papers/turing.pdf [consultat la data de 30 august 2024]
- Dumitru – Educația științifică în lucrarea Educația diferențiată la Aristotel și în dezbaterea contemporană (Gh. Vlăduțescu, M. Dumitru, V. Morar și I. Bănșoiu), Ed. Paideia, București, 2022.
- Regulamentul privind inteligența artificială este disponibil la adresa de Internet: https://eur-lex.europa.eu/legal-content/RO/TXT/?uri=OJ%3AL_202401689 [accesat la data de 30 august 2024].