Coșul de cumpărături este gol.
O nouă ideologie: Inteligența Artificială
Coordonator: Silvia Uscov
Avocat, Baroul București
Domeniul Inteligenței Artificiale mi s-a revelat în 2019, atunci când am participat, alături de membri ai comunității academice, colaboratori ai instituțiilor UE și curților de justiție europene, sud-americane, africane, avocați și procurori din aproape 40 de țări din toată lumea, la cursurile The Siracusa International Institute for Criminal Justice and Human Rights (Italia), în cadrul cărora s-a pus în discuție, printre altele, utilizarea sistemelor de recunoaștere facială. Amintesc de acel moment și prin prisma faptului că a reușit să determine o schimbare în propria mentalitate asupra chestiunii supravegherii în masă și relația guvern-cetățean. Această nouă viziune este reflectată și într-un dialog din finalul filmului „Anon”, care reprezintă cea mai bună lecție de privacy:
– Când îmi violați intimitatea, e un fleac. Dacă mi-o protejez, e infracțiune.
– Nu pricepi? Cu cât e mai ascunsă, cu atât mai căutată. De ce e atât de important să nu te știe nimeni? Tu ștergi secretele tuturor. Al tău care e?
– Trebuie să existe unul?
– Toți avem ceva de ascuns.
– Asta faceți voi. Căutați zilnic secretele tuturor. Dar ce nu înțelegeți... e că nu am ceva de ascuns, ci n-am nimic ce vreau să vedeți.
Ulterior, toate noile tehnologii au devenit un subiect intens de cercetare, determinându-mă să le studiez prin prisma implicațiilor asupra drepturilor și libertăților fundamentale, să scriu atât articole științifice, dar și opinii publicate în presă, să particip la conferințe naționale și internaționale, tocmai pentru că, deși fac parte dintr-o generație care utilizează multe dintre aceste tehnologii și le recunoaște beneficiile, fiind eu însămi subiectul vizat, descopăr și efectele negative ale acestora.
Am descoperit, mai presus de toate, că IA are capacitatea de a face legătura între toate ramurile dreptului, similar dreptului constituțional, unional sau convențional. Nu degeaba am ales să invit să scrie în acest număr tematic și pe câțiva dintre cei care nu abordaseră acest subiect înainte. Cum se va putea discuta în viitor despre putere în stat fără a se discuta despre suveranitatea digitală? Cum va putea un avocat să apere interesele unei persoane accidentate de un vehicul automatizat fără a cunoaște câteva elemente tehnice și răspunderea specială civilă ce intervine în acest caz? sau Cum vei putea adopta o poziție față de introducerea unui robot judge în procedurile judiciare, dacă nu vei cunoaște domeniul inteligenței artificiale? Inteligența Artificială, dacă nu a cuprins deja fiecare domeniu la care ne putem gândi, cu siguranță o va face în viitorul apropiat astfel încât este necesară atât o pregătire a profesioniștilor în drept, cât și a cetățenilor.
Până la a ajunge să ne gândim la variantele literare ale unui conflict roboți-oameni, propun să ne gândim la variantele ce transpun defectele omenirii, adică supunerea omului de către om, inclusiv prin utilizarea noilor tehnologii, obiectivarea lui, acordarea unor proprietăți de bun fungibil și transformarea într-o valoare ce poate fi monetizată. Iată cum asistăm la o perioadă post-democrație caracterizată printr-o nouă formă de ideologie: Inteligența Artificială.
Inteligența artificială nu este un rău în sine, ci poate fi un mijloc al răului, tot atât pe cât poate fi un mijloc al binelui
„Nu există mai mult de cinci note muzicale, totuși combinațiile acestor cinci dau naștere la mai multe melodii decât se pot auzi vreodată. Nu există mai mult de cinci culori primare, dar în combinație produc mai multe nuanțe decât s-au putut vedea vreodată. Nu există mai mult de cinci gusturi cardinale, însă combinațiile dintre ele produc mai multe arome decât pot fi gustate vreodată” (Sun Tzu – Arta Războiului).
De la acest citat am pornit în aventura mea de a identifica autorii și subiectele care să deschidă domeniul IA către lumea juridică din România, precum și către publicul larg, atunci când am fost invitată să coordonez numărul tematic al Revistei Curierul Judiciar. De ce „aventură”? Pentru că spațiul de care dispuneam era insuficient pentru a da glas tuturor celor la care mă gândisem, dar sper că am reușit să surprind câteva viziuni din medii și domenii diverse, fiecare dintre ele reprezentând o notă muzicală, din a căror combinație să se audă primele acorduri ale muzicii pe care vom dansa în următorii ani.
Pentru că ne aflăm la confluența între domeniul privat și domeniul public, opiniile exprimate de conducerea organismelor profesionale, Consiliul Superior al Magistraturii, Uniunea Națională a Barourilor din România, precum și Uniunea Națională a Notarilor Publici din România erau importante în demersul meu, pentru a ilustra preocupările curente, aspirațiile în a utiliza aplicații IA în activitate, conștientizarea riscurilor inerente, precum și orientările în pregătirea judecătorilor, procurorilor, avocaților și notarilor din România în acest domeniu.
Mi-am dorit o combinație a viziunilor unui practician al dreptului, în persoana mea, Avocat Silvia Uscov, și ale unui „practician al tehnicului”, așa cum este Conf.univ.dr. Adrian Groza, ce predă la Universitatea Tehnică din Cluj-Napoca cursuri despre sistemele de inteligență artificială și este unul dintre cei care a elaborat studiul pentru Strategia Națională în domeniul IA, al cărui beneficiar este Autoritatea pentru Digitalizarea României. Eram în căutarea zonei de echilibru între conservatorismul Dreptului și nevoia de progres a Tehnicului, sperând să găsim împreună răspunsuri la multe dintre dilemele cu care ne confruntăm. Astfel, am ales să analizăm fundamentul juridic al viitorului inteligenței artificiale în UE, respectiv Artificial Intelligence Act, să îi descoperim riscurile pentru drepturile și libertățile fundamentale, împletind considerațiile și cu elemente de psihologie socială sau tangențe la politicile publice, și să propunem soluții tehnice de contracarare a acestor riscuri.
Am participat la studiul preliminar al viitorului act adoptat de UE în materia răspunderii civile în domeniul IA, ce a generat întrebări legitime ce pleacă de la aplicabilitatea lui unitară la nivelul statelor membre și ajung până la problemele în materie de probațiune pe care le pune acest domeniu. Pentru că, între timp, s-au lansat dezbaterile pentru o directivă în acest sens, Gabriel-Liviu Ispas, Avocat în Baroul București și Conf.univ.dr. la Universitatea din București, Facultatea de Administrație și Afaceri, și Petruța-Elena Ispas, Avocat în Baroul București și Conf.univ.dr. la Universitatea „Titu Maiorescu”, Facultatea de Drept, au acceptat provocarea de a trata acest subiect ce prezintă importanță deosebită pentru civiliști, atât din perspectivă academică, dar și din perspectivă practică. În cuprinsul articolului avem ocazia să asistăm la prezentarea argumentelor ce răspund la întrebarea dacă este potrivită alegerea reglementării printr-o directivă sau mai degrabă printr-un regulament, precum și valențele de interpretare față de dreptul civil actual.
Mirela Lăpușan (fostă Morar), Avocat în Baroul Cluj și Drd. al Facultății de Drept, Universitatea „Babeș-Bolyai” din Cluj-Napoca, a tratat unul dintre cele mai importante articole din Regulamentul UE privind protecția datelor cu caracter personal (GDPR), respectiv art. 22, făcând diferența dintre profilare și procesul decizional individual automatizat, eficacitatea acestui articol, precum și riscurile care pot apărea din profilare. Autoarea mi-a mărturisit faptul că, în mod surprinzător, acest articol din GDPR nu a fost tratat in extenso sau nu a fost suficient aprofundat în doctrina juridică, deși trebuie să admitem că scopul GDPR nu este unul de a crește nivelul birocrației, așa cum ni s-ar părea la o privire superficială, astfel încât era absolut necesară această contribuție.
Pe aceeași linie, dar dintr-o perspectivă criminologică, Dan Rusu, Lector univ. drd. în cadrul departamentului de Sociologie și Criminologie la Birmingham City University, Marea Britanie, prezintă sistemele de predicție a riscului individual, mai precis evaluarea comportamentului, inclusiv în ceea ce privește riscul de recidivă și nu numai. Dacă ați văzut filmul „Minority Report”, autorul vi-l aduce în realitatea zilelor noastre și vă prezintă ce este posibil în domeniul sistemelor predictive la ora actuală, care sunt tendințele, precum și cum afectează aceste sisteme IA drepturile fundamentale ale omului, iar în plus, abordează o suită extinsă de aplicații ce pot avea conținut infracțional în mediul cibernetic.
Urmând cursurile organizate de o Universitate din Buenos Aires în domeniul Legal Tech, am aflat despre noțiunea de „tokenizare a drepturilor”, un fenomen ce se răspândește în arealul sud-american, de altfel foarte dezvoltat în domeniul blockchain, IoT, IA. Aniela-Flavia Țicău-Suditu, Judecător și Drd. în cadrul Facultății de Drept, A.S.E. București, a acceptat provocarea mea de a prezenta această noțiune și profesioniștilor în drept din România, fiind de interes nu numai din perspectiva civilistă, ci și în domeniul infracționalității ce se dezvoltă prin utilizarea resurselor cibernetice. Dacă nu ați auzit până acum despre tokenizarea drepturilor dintr-un contract NBA, dintr-un contract de drepturi de autor sau chiar tokenizarea dreptului de proprietate asupra unei case, atunci acest articol vă introduce în ceea ce poate fi descris ca un potențial viitor al pieței financiare.
Juriștii stau departe de domeniul IA pentru că nu îi înțeleg limbajul, așa că Gabriel Preda, Principal Data Scientist la corporația globală de servicii software Endava, cu un doctorat în Computational Electromagnetics la Universitatea Politehnică din București și un post-doc la Tokyo University aplicând metode de inteligență artificială în control nedistructiv, după ce a lucrat în cercetarea privată, apoi în dezvoltare software în Japonia și România, încearcă acum să ne explice, să ne „traducă” într-un articol noțiuni elementare cu care să putem opera mai departe.
Dr. Ștefan-Răzvan Tătaru, Cadru universitar asociat în cadrul Facultății de Economie și Administrarea Afacerilor, Universitatea „Alexandru Ioan Cuza” din Iași, și Privacy Manager la Antibiotice SA, ne introduce în articolul său în zona aplicațiilor IA din domeniul Pharma. Astfel, aflăm cum se prelucrează datele pacienților într-un studiu clinic, cum ajută IA la dezvoltarea de noi medicamente sau chiar tratamente medicamentoase personalizate, dar și implicațiile juridice ale utilizării acestor noi tehnologii, precum și considerații pe marginea răspunderii în cazul produselor defectuoase.
Dacă avem un articol ce tratează potențialul criminogen, Vasile Coman, Judecător și Drd. în cadrul Facultății de Drept a Universității „Titu Maiorescu” din București, specializat în dreptul penal și mai cu seamă în zona criminalității cibernetice, a acceptat să ne facă o prezentare a fenomenului de cyberlaundering doar ca o introducere în subiectul utilizării sistemelor IA în domeniul prevenirii și combaterii spălării banilor, respectiv al aplicațiilor care semnalizează tranzacțiile suspecte.
Alexandru Bodislav, Conf. univ. dr. la Facultatea de Economie Teoretică și Aplicată, A.S.E. București, ce a primit în 2020 premiul „Nicolas Georgescu Roegen” pentru cercetarea academică în economie, tratează în articolul său nu numai aplicațiile IA din mediul economic, ci vine în completarea tuturor articolelor din acest număr și cu o expunere a problemelor de natură etică și morală, oferind în final o perspectivă asupra prezentului și viitorului umanității în contextul utilizării pe scară largă a sistemelor de Inteligență Artificială.
În final, doresc să le mulțumesc încă o dată atât dlui Judecător Bogdan Mateescu, dlui Avocat Traian Briciu și dlui Notar public Dumitru Viorel-Mănescu, cât și autorilor, fiecare dintre ei specialist în domeniul său de activitate, pentru contribuțiile deosebite, apreciind seriozitatea și implicarea în acest proiect și având încrederea că ele vor fi primite cu interes de către cititori!