Observatorul Dreptului Inteligenței Artificiale (ODIA)

Sub această denumire vă punem la dispoziție, în mod permanent, ultimele evoluții aferente ecuației interdependențelor dintre fenomenul inteligenței artificiale și a aplicațiilor sale și, respectiv, dezvoltările juridice aferente. Din surse demne de încredere și cu contribuțiile și consultarea celor mai reputați specialiști în materie ne propunem să decriptăm provocările juridice specifice și să explicăm implicațiile juridice concrete ale IA în cadrul a două rubrici (orientări) lunare definitorii:

1. Evoluții conceptual-reglementare; 
2. Dileme concrete și dezbateri competente (în privința cărora așteptăm, spre clarificare, propuneri și nedumeriri din partea Dvs.).

Mai 2024

 1. Evoluții conceptual-reglementare

Inaugurăm rubrica de față (aferentă avansurilor înregistrate în luna precedentă, aprilie) prin prezentarea progreselor manifestate în trei domenii de referință: evaluarea impactului IA asupra drepturilor fundamentale, instituționalizarea guvernanței IA și asigurarea unui cadru de reglementare etic și cultural pentru utilizările inteligenței artificiale.

 1. Primele evaluări internaționale ale impactului IA asupra drepturilor fundamentale

Amnesty International – raport 2023/2024 – problema ameninţării IA la adresa  drepturilor fundamentale: utilizarea softurilor spion şi a tehnologiei de recunoaştere facială

Prin raportul 2022/2023 privind starea drepturilor omului în lume, publicat la 24 aprilie 2024, problematica impactului („amenințării”) IA asupra drepturilor umane fundamentale, a intrat oficial și în preocupările instituționale ale Amnesty International și prin aceasta a dobândit și o accentuată dimensiune internațională. Într-adevăr, documentul, care analizează situația drepturilor și libertăților în 155 de țări, abordează pentru prima dată subiectul și avertizează prin concluziile sale că această tehnologie dacă nu e reglementată la timp, suficient, adecvat și eficient poate „spori inegalitățile rasiale, crește supravegherea și amplifica discursul de ură pe internet”.

În viziunea autorilor demersului, apariția instrumentelor de inteligență artificială generativă a relevat și amenințările pe care utilizările sale le prezintă pentru drepturile fundamentale, și în special pentru populațiile cele mai marginalizate ale societății.

Două insuficiențe majore sunt reproșate statelor în acest context, legate de măsurile de control ce se impuneau în privința comerțului mondial de programe (softuri)-spion și, respectiv, de modelul de activitate bazat pe supraveghere, adoptat de giganții tehnologiei.

Riscurile aferente IA s-au obiectivat și au fost percepute ca atare odată cu lansarea în 2023 a ChatGPT-4, un instrument/unealtă capabil să sintetizeze și să producă texte, care a atras atenția asupra modului în care inteligența artificială generativă va transforma viața profesională, accesul la servicii publice și, în plan mai general, experiența aferentă platformelor on-line. Ca orice nouă tehnologie ea are un efect dual, poate oferi oportunități, dar fără o reglementare adaptată și aplicată ar putea accelera riscurile ce apasă asupra drepturilor umane în domenii precum accesul la prestații sociale, la educație și la muncă, drepturile muncii, respectarea vieții private și a securității pe internet. Ar fi vorba, printre altele, de un risc de intensificare a inegalităților, în special rasiale, de supraveghere crescândă și de amplificare a conținuturilor de ură on-line.

Sistemele de IA existente, printre alte tehnologii, accentuează deja inegalitățile și aduc prejudicii relevante populațiilor marginalizate în sectoare precum accesul la servicii publice, menținerea ordinii, securității și migrațiilor. Se menționează, în acest context, exemplul stabilirii în Serbia a unui nou sistem de protecție socială parțial automatizat, finanțat de Banca Mondială, și care a antrenat excluderea a numeroase persoane care au încetat astfel să beneficieze de un ajutor esențial. La rândul său, utilizarea tehnologiei de recunoaștere facială intensifică restricțiile aduse dreptului de liberă circulație și contribuie la menținerea sistemelor de dezvoltare separată. În plus, societățile de capital-risc care investesc în noile tehnologii au abdicat adesea de la obligația lor de a respecta drepturile fundamentale.

Referitor la comerțul mondial cu programe-spion, cercetările Amnesty International din 2023 au contribuit la depistarea utilizării softului Pegasus contra ziariștilor și a societății civile în mai multe țări; o anchetă de amploare realizată de European Investigative Collaboration, în parteneriat cu autoarea raportului privind „Predator Files”, a descoperit că un sistem de acest gen al unei întreprinderi cu sediul în UE și supusă reglementarii europene fusese vândut în mod liber în întreaga lume, în condițiile în care, chiar a doua zi după această descoperire, Parlamentul European adopta (noiembrie 2023) o rezoluție în care critica absența măsurilor destinate să limiteze atingerile aduse drepturilor umane, comise în sectorul respectiv.

Documentul se adăuga altor semnale de acest gen, în special declarației din martie m2023 a 11 state care recunoștea și denunța amenințările pe care le prezintă programele-spion pentru drepturile fundamentale, ceea ce e perceput în raport ca un semn că anumiți responsabili politici înțeleg și încep a acționa.

În privința atingerilor drepturilor umane comise de giganții tehnologici, documentul precizează că prejudiciile cauzate de modelul de activități fondat pe supraveghere, care a fost adoptat de aceștia, s-au manifestat și în 2023 nu numai în contextul conflictelor armate, ci și în modul în care au fost încălcate drepturile copiilor și ale tinerilor. Practicile interzise de colectare a datelor și sistemul de recomandare a conținutului TikTok reprezintă un pericol pentru tinerii utilizatori de platforme, amplificând conținutul privind depresia și suicidul, care e susceptibil să agraveze problemele de sănătate mintală preexistente. Pe de altă parte, se constată pe X o creștere alarmantă a incitării la ură contra persoanelor LGBTI.

Subinformarea și dezinformarea politice sunt preconizate să se amplifice în perspectiva numeroaselor alegeri din 2024. Manevrele de acest tip sunt facilitate și intensificate de algoritmii rețelelor sociale și modelele de activitate ale giganților tehnologici care acordă prioritate „participării” utilizărilor cu orice preț. Aceste riscuri au fost accentuate prin apariția instrumentelor fondate pe IA generativă. Unele autorități de control și victime, pe de o parte, caută să obțină o reparație, iar pe de alta încearcă să împiedice noi atingeri ale drepturilor umane. Se remarcă, de asemenea, și apariția unei jurisprudențe pertinente, în frunte cu hotărârea din iulie 2023 a Curții de Justiție a UE care a respins modelul de activitate fondat pe supraveghere.

CONCLUZIA raportului e sintetizată astfel: guvernele trebuie să interzică imediat programele-spion și tehnologiile de recunoaștere facială, care sunt extrem de intruzive, să ia măsuri legislative și reglementare ferme pentru a lupta împotriva riscurilor și prejudiciilor legate de tehnologiile IA și să încadreze giganții tehnologici, în special remediind pericolele inerente modelelor de activitate fondate pe supraveghere.â

2. Premisele creării primului „minister al IA” din lume!

 S.U.A. înfiinţează Consiliul Federal pentru Inteligență Artificială (CF-IA)

Printr-un comunicat oficial, publicat vineri 26 aprilie 2024, Ministerul Securității Interne al S.U.A. a anunțat înființarea, la cererea președintelui J. Biden, a Consiliului Federal pentru Inteligență Artificială (CF-IA) menit (deocamdată) să consilieze guvernul de la Washington în probleme de utilizare „sigură și securizată” a acestei noi tehnologii, ceea ce prefigurează crearea primului răspuns major instituționalizat la această provocare civilizațională crucială, ca precursor al unui viitor „minister” al inteligenței artificiale. Compus din 22 de membri – oameni politici (precum guvernatorul statului Maryland), universitari și PDG a 8 companii majore în domeniu – și cu (deocamdată) caracter consultativ, este menit să ajute, prin avizele și recomandările sale, autoritățile americane să fundamenteze deciziile aferente luptei împotriva perturbatorilor inteligenței artificiale „care pot avea un impact asupra securității naționale sau economice, sănătății publice ori siguranței”.

Dacă IA e un instrument de transformare, respectiv tehnologia cea mai transformatoare a epocii noastre, este imperios necesar a ne asigura că ea se desfășoară în mod sigur și responsabil și din această perspectivă noua structură instituțională e destinată să contribuie ca „securitatea interioară americană să rămână în avangarda amenințărilor în constantă evoluție prezentate de actorii statali ostili și să întărească sănătatea noastră naturală” precizează comunicatul. Și aceasta în situația în care aplicațiile sale pot fi folosite spre a permite atacuri mai rapide și la scară mult mai ridicată contra unor ținte precum conductele de petrol și gaz, căile ferate și alte structuri strategice, avertizează memoriul de fundamentare a noului proiect. Prima reuniune a Consiliului va avea loc la începutul lunii mai și va formula recomandări pentru adaptarea în deplină securitate a IA „în serviciile esențiale de care americanii depind în fiecare zi”.

3. Inițiativă papală privind reglementarea intențională (etică și culturală) a IA

 Apelul de la Roma pentru etica IA din 2023. Papa Francisc participă la sesiunea deschisă privind IA a summit-ului G7

După ce în decembrie 2023 a invitat comunitatea internațională să adopte un tratat internațional pentru a încadra inteligența artificială (Apelul de la Roma pentru etica IA în 2023 – Rome Call for AI Ethics – promovat de Consiliul Pontifical pentru Viață), Papa Francisc și-a anunțat participarea la sesiunea (deschisă) dedicată IA aferentă summit-lui șefilor de stat și de guvern ai G7, ce se va desfășura între 13 și 15 iunie a.c. în Italia. Este pentru prima dată în istorie când un Suveran Pontif va participa la lucrările unui atare forum internațional și se pare că prin aceasta se va aduce o contribuție decisivă la definirea unui cadru reglementar etic și cultural pentru IA.

În discursul său astfel anunțat, Papa Francisc propune o reglementare juridică constrângătoare a domeniului, cu caracter mondial, insistând asupra importanței eticii față de „riscurile grave legate de noile tehnologii, menită să dea o aplicație concretă conceptului de algoretică”, altfel spus a da o etică algoritmilor. El se circumscrie efortului de a dezvolta mecanisme de guvernanță care să asigure că IA e centrată pe om și controlată de acesta, altfel spus reglementată în așa fel încât să mențină omul în centru și ca scop ultim.