Tatiana Balan

Irina Buzu este avocată, membră a comitetului Consiliului Europei pe Inteligență Artificială parte a European AI Alliance, fellow la Center for AI and Digital Policy și expertă afiliată în tehnologii emergente la EUROPULS-Centrul de Expertiză Europeană. În momentul de față, Irina este consilieră în domeniul IA a Vice Prim-Ministrului, Ministrului Dezvoltării Economice și Digitalizării.

Tatiana Balan: Mulțumiri, pentru că ai binevoit să participi la acest interviu și entuziasmul manifestat din prima ! Propun să începem discuția noastră cu o autoprezentare.

Irina Buzu: Salut, mă numesc Irina, sunt pasionată de artă, poze pe peliculă și tehnologii emergente. Profesional, port mai multe pălării, dar acum, în mare parte ofer consultanță și expertiză pe sectorul de politici și reglementare AI.

Tatiana Balan: Dacă profesia de avocat e una cunoscută de publicul larg, atunci tehnologiile emergente nasc curiozitatea instant. Ai putea să ne explici în termeni uzuali, ce presupune sfera dată și de ce te-ai axat pe ea ?

Irina Buzu: Pentru mine, tehnologiile emergente sunt acele inovații aflate în stadii incipiente de dezvoltare, cu un potențial semnificativ de a transforma diverse domenii ale vieții sociale și economice. Deși, adesea văzute ca o forță pozitivă, ele pot ridica și o serie de provocări juridice complexe, de la răspunderea juridică și protecția datelor cu caracter personal, până la probleme de ordin etic și moral. Mi-a fost dintotdeauna curios să aflu mai mult despre creativitatea umană și potențialul nostru infinit de a inova, iar tehnologiile emergente sunt doar unul dintre domeniile la care umanitatea și-a pus la contribuție aspirațiile creative.

Tatiana Balan: Trebuie să recunoaștem, astăzi Inteligența Artificială înregistrează progrese uimitoare într-un interval foarte scurt. Jurisprudența actuală necesită modificări esențiale, pentru a putea reglementa impactul AI în viața noastră. Exemplu banal, cine răspunde pentru prejudicii în caz de accident mortal, cauzat de un automobil condus autonom, fără șofer ? E vinovat proprietarul mașinii, programatorul ori producătorul ? Ce părere ai la acest subiect ?

Irina Buzu: E adevărat că tehnologiile AI evoluează la turații foarte mari, iar reglementările curente se confruntă cu provocarea de a ține pasul cu acest progres. Exact din acest motiv și avem în utlimii ani mai multe inițiative (locale, regionale și internaționale) de a găsi o soluție normativă de compromis care să echilibreze necesitatea de reglementare și inovațiile, de la modele de autoreglementare până la EU AI Act și Convenția cadru a Consiliului Europei. Pe partea de vinovăție, doar un judecător ar putea aprecia cine se face vinovat; pot zice doar că la zi, sunt dezbătute câteva propuneri de răspundere pentru prejudiciile cauzate de sistemele autonome – e vorba fie despre o formă de răspundere similară celei pentru produse defectuoase, fie o formă de răspundere colectivă/comună pentru toți actorii din acest lanț (AI lifecycle). Desigur, să nu uităm și de componenta morală și etică pe care o abordează exemplul despre care zici, și despre dificultatea evaluării proporționalității prejudiciului suferit și potențialei pedepse aplicate. Cazuri similare sunt deja discutate și analizate, vezi aici un exemplu.

Tatiana Balan: Deci, Irina, AI (Inteligența Artificială) – a fi sau a nu fi ?

Irina Buzu: AI este deja o tehnologie omniprezentă și un fapt împlinit, deci nu cred că se mai pune întrebarea a fi sau a nu fi.

Tatiana Balan: Tatiana Cernigovskaya este cercetătoare în domeniul neuroștiinței, psiholingvisticii și teoriei minții, pe care o urmăresc de mult timp. Ea, în cadrul unui interviu recent, a afirmat că conștiința la roboți nu mai e ceva fantastic, ci real. Distinsul om de știință afirmă că, în tabloul lumii privit de AI cu propriul ,,eu”, omul nu se încadrează. Într-o posibilă confruntare, primii ne sunt net superiori. Dtră cum priviți lucrurile ?

Irina Buzu: Această idee de superinteligență sau IA/roboți complet autonomi care ne vor depăși sub toate aspectele, nu este una nouă. Există o serie de scenarii diferite care au fost propuse despre cum ar putea arăta o astfel de lume, de la utopic la distopic. Unul dintre cele mai comune scenarii este că superinteligența va duce la o explozie a inteligenței, în care mașinile devin rapid mai inteligente decât oamenii și preiau controlul asupra societății. Acest lucru ar putea duce la o lume în care oamenii ar deveni redundanți și în cele din urmă eliminați. Cu toate acestea, există și alte posibilități. De exemplu, este posibil ca superinteligența să fie dezvoltată într-un mod care să fie benefic pentru omenire. Mașinile pot fi folosite pentru a automatiza sarcini și pentru a ne elibera timpul să ne concentrăm pe eforturi mai creative. În plus, superinteligența ne-ar putea ajuta să rezolvăm unele dintre cele mai presante probleme ale lumii, cum ar fi schimbările climatice și sărăcia.

După mine, problema care se pune nu ține de o chestiune de viitor și întrebarea ‚,Ce am face dacă..?” Problema care o văd eu ține de autonomie cognitivă. Eu zic că e ok să delegăm mașinilor inteligente diverse sarcini fizice, pentru că ăsta a fost dintotdeauna scopul revoluției tehnologice. Acum întrebarea care se pune este dacă vrem să delegăm mașinilor inteligente sarcinile noastre cognitive și emoționale ? Cât de mult suntem gata să cedăm din autonomia noastră cognitivă (Dacă e ok să lăsăm un calculator să ne facă calculele cu acuratețe, e ok să îi delegăm și sarcini creative sau morale ? Dar de guvernare/elaborare politici, spre exemplu ?) ? Cum v-ați dori să arate acel viitor nu prea îndepărtat ? Vă las pe voi să reflectați.

Tatiana Balan: Care e situația la capitolul politici și cadru de reglementare pentru Inteligența Artificială în Republica Moldova ?

Irina Buzu: Chiar dacă Republica Moldova se află la prima sa iterație în raport cu acest cadru de politici nișat, noi deja ne-am aliniat la Recomandarea UNESCO cu privire la etica AI și suntem parte la Comitetul IA al Cosniliului Europei (care lucrează la elabotarea textului Convenției cadru cu privire la inteligența artificială, drepturile omului, democrație și statul de drept). În septembrie 2023 a fost adoptată Strategia națională de transformare digitală pentru anii 2023-2030, care este documentul primar de politici la care se vor alinia cele sectoriale. În curând publicăm Cartea Albă privind Guvernanța Datelor și Inteligența Artificială, așa că stay tuned.

Tatiana Balan: Ești consilieră a Ministrului Dezvoltării Economice și Digitalizării. Cum e să muncești în sfera publică și cu ce dificultăți te confrunți pe acest segment ?

Irina Buzu: E o provocare să tranzitezi spre sectorul public venind din cel privat și internațional, procesele operaționale și responsabilitățile diferă mult. Dar atât timp cât îți păstrezi entuziasmul și dorința de a aduce un impact tangibil pe zona ta de expertiză, dificultățile devin o chestiune de adaptare.

Tatiana Balan: În alt registru, având în vedere că ai învățat peste hotare, te-ai gândit vreodată să te stabilești cu traiul în altă țară ?

Irina Buzu: Sigur, am și făcut-o anterior. Provocarea nu ține de plecare, asta se rezumă la voință, cumpărarea unui bilet și eforul de a-ți pune lucrurile în valize. Provocarea mare e să găsești motive de ce să mai rămâi.

Tatiana Balan: Irina, un mesaj pentru cititorii JMD.

Irina Buzu: Rămâneți curioși și riscați să greșiți !

Tatiana Balan: Mulțumiri, Irina, pentru dialogul constructiv și îți dorim izbândă în toate proiectele !