Regulamentul (UE) 2024/1689 privind inteligența artificială („Regulamentul IA”) introduce, pentru anumite situații, obligația de realizare a unei evaluări a impactului asupra drepturilor fundamentale, cunoscută ca FRIA (Fundamental Rights Impact Assessment). Această obligație este prevăzută la art. 27 din Regulamentul IA și trebuie îndeplinită înainte de implementarea anumitor sisteme de IA cu grad ridicat de risc.

Ce înseamnă FRIA

FRIA este o evaluare prin care implementatorul unui sistem de IA analizează impactul pe care utilizarea acestuia îl poate avea asupra drepturilor fundamentale ale persoanelor afectate de sistem. Scopul său este de a identifica, anticipa și gestiona riscurile care pot apărea atunci când un sistem AI este folosit în contexte sensibile, de exemplu, în recrutare, educație, servicii publice, creditare, asigurări sau alte domenii în care deciziile asistate de AI pot produce efecte importante asupra persoanelor.

FRIA nu este o analiză pur tehnică a sistemului AI, ci o evaluare juridică și operațională a modului în care sistemul este folosit în concret: cine poate fi afectat, ce drepturi pot fi atinse, ce riscuri există și ce măsuri trebuie luate pentru prevenirea sau diminuarea acestora.

Cui se aplică obligația

Obligația de realizare a FRIA revine implementatorilor anumitor sisteme de IA cu grad ridicat de risc. În sensul Regulamentului IA, implementatorul este entitatea care utilizează un sistem de IA sub autoritatea sa, în cadrul unei activități profesionale.

Astfel, obligația se aplică:

1. organismelor de drept public și entităților private care furnizează servicii publice, înainte de utilizarea unor aplicații de IA cu grad ridicat de risc, cu excepția sistemelor din domeniul infrastructurii critice;
2. implementatorilor de sisteme de IA cu grad ridicat de risc utilizate pentru evaluarea bonității persoanelor fizice sau stabilirea punctajului de credit, cu excepția sistemelor folosite pentru detectarea fraudelor financiare;
3. implementatorilor de sisteme de IA utilizate pentru evaluarea riscurilor și stabilirea prețurilor în cazul asigurărilor de viață și de sănătate.

Sistemele de IA cu grad ridicat de risc pentru care FRIA poate deveni incidentă, în funcție de calitatea implementatorului și de domeniul de utilizare, includ în principal: sisteme de identificare biometrică, clasificare biometrică sau recunoaștere a emoțiilor; sisteme utilizate în educație și formare profesională; sisteme folosite în recrutare, selecție, managementul lucrătorilor sau accesul la activități independente; sisteme privind accesul la servicii private esențiale, servicii și beneficii publice esențiale; sisteme utilizate în aplicarea legii; sisteme din domeniul migrației, azilului și controlului la frontiere; precum și sisteme utilizate în administrarea justiției și procese democratice. 

Ce presupune FRIA

FRIA trebuie să includă cel puțin: descrierea proceselor în care sistemul AI va fi utilizat; perioada și frecvența utilizării; categoriile de persoane fizice sau grupuri care pot fi afectate; riscurile specifice de prejudicii asupra acestora; modul în care se asigură supravegherea umană; și măsurile care vor fi luate dacă riscurile se materializează, inclusiv mecanismele interne de guvernanță și mecanismele de tratare a plângerilor.

Obligația se aplică la prima utilizare a sistemului. În cazuri similare, implementatorul se poate baza pe evaluări anterioare sau pe evaluări existente realizate de furnizor, însă trebuie să actualizeze evaluarea dacă elementele relevante se schimbă sau nu mai sunt actuale. După efectuarea evaluării, implementatorul notifică autoritatea de supraveghere a pieței, transmițând modelul completat care va fi elaborat de Oficiul pentru IA. Dacă anumite aspecte sunt deja acoperite printr-o evaluare de impact privind protecția datelor, FRIA o completează, fără a o înlocui.

Cum poate ajuta HUDERIA

În subsidiar, un instrument util pentru structurarea unei FRIA este HUDERIA, metodologia Consiliului Europei pentru evaluarea riscurilor și impactului sistemelor AI din perspectiva drepturilor omului, democrației și statului de drept. HUDERIA este un instrument neobligatoriu și nu înlocuiește cerințele Regulamentului IA. Totuși, poate fi folosită complementar, ca metodă practică de identificare, evaluare și gestionare a riscurilor.

HUDERIA are patru componente: COBRA - analiza riscului bazată pe context, procesul de implicare a părților interesate, evaluarea riscurilor și impactului, și planul de diminuare a riscurilor. Accentul principal, pentru pregătirea unei FRIA, poate fi pus pe COBRA, deoarece aceasta ajută organizația să colecteze și să cartografieze informațiile relevante despre contextul de utilizare, proiectare, dezvoltare și implementare al sistemului AI, pentru a identifica riscurile asupra drepturilor omului, democrației și statului de drept.

Concluzii

FRIA devine un instrument esențial de conformare pentru organizațiile care utilizează sisteme AI cu grad ridicat de risc în contexte sensibile. Pentru antreprenori, aceasta înseamnă că utilizarea AI trebuie documentată, justificată și însoțită de măsuri concrete de control, supraveghere și remediere. HUDERIA poate sprijini acest proces printr-o metodologie structurată, în special prin componenta COBRA, oferind un cadru practic pentru identificarea riscurilor și pregătirea unei evaluări FRIA coerente și adaptate contextului real de utilizare.

Autori:
Ioana Chiper Zah
Tatiana Țapu