Inteligența artificială nu este Vestul Sălbatic

Aproape zilnic interacționăm cu soluții bazate pe inteligență artificială (AI) sau suntem obiectul folosirii acestora. Riscurile la adresa respectării drepturilor omului sunt semnificative, iar de multe ori nici nu sunt percepute dacă nu aplici un cadru de analiză și referențiere specific. Guverne, companii, și organizații neguvernamentale folosesc în activitatea lor inteligența artificială și nu întotdeauana ești informat când tu sau datele tale sunteți subiectul prelucrărilor sau altor operațiuni bazate pe AI.

În 2024, după un efort de cinci ani, Consiliul Europei a adoptat Convenția-cadru privind inteligența artificială și drepturile omului, democrația, și statul de drept. Convenția-cadru privind inteligența artificială și drepturile omului, democrația, și statul de drept își propune să asigure că activitățile din ciclul de viață al sistemelor de inteligență artificială sunt consistente cu drepturile omului, democrația, și statul de drept, și, totodată, sprijină progresul tehnologic și inovarea. Tratatul acoperă atât folosirea sistemelor AI de autoritățile publice, inclusiv actorii privați care acționează în numele acestora, cât și actorii privați. A fost primul tratat internațional cu valoare legală obligatorie în acest domeniu. Are printre semnatari atât state din Consiliul Europei, cât și alți parteneri precum Statele Unite ale Americii, Canada, Japonia, Israel, și Uruguay. În acest moment, nu a intrat încă în vigoare, având nevoie de cinci ratificări.

Convenția introduce o serie de principii comune pe care fiecare parte trebuie să le implementeze cu privire la sistemele de inteligență artificială. Activitățile din ciclul de viață al sistemelor AI trebuie să respecte următoarele principii: demnitatea umană și autonomia individuală, egalitatea și nediscriminarea, respectarea confidențialității (privacy) și protecția datelor personale, transparență și supraveghere (oversight), răspundere (accountability) și responsabilitate, nădejde (reliability), și inovație sigură.¹

De asemenea, Convenția-cadru le cere statelor să adopte remedii, drepturi procedurale, și măsuri de siguranță în cazul încălcării drepturilor omului în urma activităților din cadrul ciclului de viață al al sistemelor AI. Merită amintite:

documentarea informațiilor relevante cu privire la sistemele AI și modul de folosire al acestora, și punerea la dispoziție persoanelor afectate;
informațiile trebuie să fie suficiente pentru a permite persoanelor să conteste deciziile făcute pe baza acestor sisteme sau care se bazează substanțial pe aceste sisteme, și să permită inclusiv contestarea folosirii propriu-zise a acestor sisteme;
posibilitatea efectivă de a depune plângeri către autoritățile competente;
furnizarea de garanții procedurale efective, măsuri de salvgardare și drepturi ale persoanelor afectate cu privire la aplicarea sistemului bazat pe AI unde sistemul bazat pe AI are un impact semnificativ asupra exercitării drepturilor omului și libertăților fundamentale;
furnizarea notificării că cineva interacționează cu un sistem bazat pe AI și nu cu o ființă umană.

Statele sunt obligate inclusiv să ia o serie de măsuri de management al riscului și impactului, respectiv: efectuarea de evaluări și analize de impact și de risc cu privire la impactul actual și potențial asupra drepturilor omului, democrației, și statului de drept, într-o modalitate iterativă; stabilirea de măsuri de prevenție și mitigare suficiente ca rezultat al implementării evaluărilor menționate anterior; posibilitatea autorităților de a introduce interdicții sau moratorii asupra unei aplicații specifice a sistemelor AI („linii roșii”).

Rămâne să vedem cât de repede această convenție va prinde viață, având acum aproape doi ani de la adoptate și neîndeplinind încă condițiile de intrare în vigoare.