ONU indeamna la prudenta in ceea ce priveste Inteligenta Artificiala

Organizaţia Naţiunilor Unite (ONU) a lansat un apel cu privire la impunerea unui moratoriu asupra anumitor sisteme de inteligenţă artificială, aşa cum sunt sistemele de recunoaştere facială, precizînd că a venit momentul de a pune în aplicare garanţii pentru protejarea drepturilor omului, transmite AFP, potrivit agerpres

„Tehnologiile de inteligenţă artificială pot avea efecte negative şi chiar catastrofale dacă sunt utilizate fără a ţine cont suficient de modul în care acestea afectează drepturile omului”, a declarat Michelle Bachelet, Înaltul comisar ONU pentru Drepturile Omului.

Bachelet a lansat un apel pentru realizarea unei evaluări a riscurilor prezentate de diferite sisteme bazate pe inteligenţa artificială pentru dreptul la viaţă privată sau pentru libertatea de circulaţie şi de expresie, şi apoi pentru interzicerea sau reglementarea atentă a celor care prezintă cele mai mari pericole.

Dar pînă cînd aceste evaluări pot fi realizate, „statele trebuie să impună moratorii asupra tehnologiei care prezintă un potenţial mare de risc”, a subliniat fostul Preşedinte chilian, în cadrul prezentării unui nou raport dedicat acestui subiect. Responsabila ONU a invocat exemplul tehnologiilor care permit luarea deciziilor în mod automat sau stabilirea de profiluri.

„Sisteme AI sunt utilizate pentru a determina cine poate beneficia de servicii publice, pentru a decide cine are şansa de a fi recrutat pentru un loc de muncă, şi, desigur, pot influenţa informaţiile pe care oamenii le pot vedea şi le pot împărtăşi online”, a subliniat ea.

Acest raport, care a fost solicitat de Consiliul pentru Drepturile Omului – cea mai înaltă instanţă a ONU în acest domeniu –, a analizat modul în care aceste tehnologii au fost adesea puse în aplicare fără ca modul lor de funcţionare şi impactul lor să fi fost evaluate în mod corespunzător.

Disfuncţiile sistemelor AI îi pot împiedica pe oameni să aibă acces la ajutoare sociale, să găsească un loc de muncă, sau mai mult decît atît, pot duce la arestarea unor persoane nevinovate pe baza unor sisteme de recunoaştere facială antrenate necorespunzător şi devenite incapabile să recunoască în mod corect persoanele cu trăsături fizice specific africane, spre exemplu.

„Riscul de discriminare legat de deciziile bazate pe inteligenţa artificială – decizii care pot schimba, stigmatiza sau distruge o viaţă de om – este foarte real”, a subliniat Michelle Bachelet.

Raportul mai scoate în evidenţă faptul că inteligenţa artificială este antrenată cu ajutorul unor baze de date enorme, a căror alcătuire se face de multe ori în moduri netransparente. Aceste baze de date pot fi, la rîndul lor, prost făcute, depăşite şi pot contribui la producerea unor încălcări ale drepturilor omului.

Raportul evidenţiază în special utilizarea din ce în ce mai frecventă a sistemelor bazate pe AI de către forţele de ordine, inclusiv a metodelor predictive. Atunci cînd sistemele AI folosesc baze de date părtinitoare, acest lucru se reflectă în predicţii. Recunoaşterea facială în timp real şi de la distanţă este, de asemenea, din ce în ce mai utilizată în lumea întreagă, lucru care poate conduce la localizarea permanentă a oamenilor.

„Nu ne putem permite să sărim în tren din mers în ceea ce priveşte sistemele AI şi să permitem ca acestea să fie utilizate fără control sau cu foarte puţin control şi să reparăm ulterior consecinţele pe care le au asupra drepturilor omului”, a insistat Înaltul comisar, chiar dacă a recunoscut că „sistemele AI au o putere indiscutabilă de a ajuta oamenii”. „Trebuie să acţionăm pentru a impune sistemelor AI garanţii bazate pe drepturile omului pentru binele întregii omeniri”, a mai subliniat ea.