EDPB in EDPS o omejitvi uporabe umetne inteligence
EDPB in EDPS pozivata k prepovedi uporabe umetne inteligence za avtomatizirano prepoznavanje človeških lastnosti na javnih površinah in nekaterih drugih uporab umetne inteligence, ki lahko vodijo do neupravičene diskriminacije
Objavljeno 21.6.2021
EDPB in EDPS sta sprejela skupno mnenje o predlogu uredbe Evropske komisije, ki določa usklajena pravila o umetni inteligenci (AI).
EDPB in EDPS močno pozdravljata namen celovitega obravnavanja uporabe sistemov umetne inteligence v Evropski uniji, vključno z uporabo sistemov umetne inteligence v institucijah, organih ali agencijah EU. Hkrati sta EDPB in EDPS zaskrbljena zaradi izključitve mednarodnega sodelovanja na področju kazenskega pregona s področja uporabe predloga.
EDPB in EDPS poudarjata tudi, da je potrebno izrecno pojasniti, da veljavna zakonodaja EU o varstvu podatkov (GDPR, EUDPR in LED) velja za vsako obdelavo osebnih podatkov, ki spada v področje uporabe osnutka uredbe o umetni inteligenci.
EDPB in EDPS sicer pozdravljata predlog, ki temelji na tveganjih, vendar menita, da bi bilo potrebno koncept „tveganja za temeljne pravice“ uskladiti z okvirom EU za varstvo podatkov. EDPB in EDPS priporočata, da je treba oceniti in ublažiti tudi družbena tveganja za skupine posameznikov. Poleg tega se strinjajo s predlogom, da razvrstitev sistema umetne inteligence med visoko tvegane ne pomeni nujno, da je sam po sebi zakonit in ga lahko uporabnik uporabi. EDPB in EDPS prav tako menita, da bi moralo biti spoštovanje pravnih obveznosti, ki izhajajo iz zakonodaje Unije, vključno z varstvom osebnih podatkov, predpogoj za vstop na evropski trg kot izdelek z oznako CE.
Ob upoštevanju izredno visokih tveganj, ki jih predstavlja oddaljena biometrična identifikacija posameznikov v javno dostopnih prostorih, EDPB in EDPS pozivata k splošni prepovedi kakršne koli uporabe umetne inteligence za avtomatizirano prepoznavanje človeških lastnosti v javno dostopnih prostorih. Gre za prepoznavanje obrazov, hoja, prstni odtisi, DNA, glas, pritiski tipk in drugi biometrični ali vedenjski signali v katerem koli kontekstu. Podobno EDPB in EDPS priporočata prepoved sistemov umetne inteligence, ki uporabljajo biometrične podatke za razvrščanje posameznikov v skupine na podlagi narodnosti, spola, politične ali spolne usmerjenosti ali drugih razlogov, na podlagi katerih je diskriminacija prepovedana v skladu s členom 21 Listine o temeljnih pravicah. Poleg tega EDPB in EDPS menita, da je uporaba umetne inteligence za ugotavljanje čustev fizične osebe zelo nezaželena in bi jo bilo treba prepovedati, razen v zelo natančnih primerih, kot so nekateri zdravstveni cilji, kjer je prepoznavanje čustev bolnika pomembno, in da je prepovedana uporaba umetne inteligence za kakršno koli socialno točkovanje.
Andrea Jelinek, predsedujoča EDPB, in Wojciech Wiewiórowski, EDPS, sta dejala:
„Uvajanje biometrične identifikacije na daljavo v javno dostopnih prostorih pomeni konec anonimnosti v teh krajih. Aplikacije, kot je prepoznavanje obraza v živo, posegajo v temeljne pravice in svoboščine do te mere, da lahko dvomijo o bistvu teh pravic in svoboščin. To zahteva takojšnjo uporabo previdnostnega pristopa. Splošna prepoved uporabe prepoznavanja obraza na javno dostopnih območjih je nujno izhodišče, če želimo ohraniti svoboščine in ustvariti človekov osrednji pravni okvir za umetno inteligenco. Predlagana uredba bi morala tudi prepovedati kakršno koli uporabo umetne inteligence za socialno točkovanje, saj je v nasprotju s temeljnimi vrednotami EU in lahko vodi do diskriminacije."
EDPB in EDPS nadalje pozdravljata dejstvo, da je v predlogu EDPS določen kot pristojni organ in organ za nadzor trga za nadzor institucij, agencij in organov Unije. Vendar bi bilo treba dodatno pojasniti vlogo in naloge EDPS, zlasti ko gre za njegovo vlogo organa za nadzor trga.
EDPB in EDPS opozarjata, da nadzorni organi za varstvo podatkov že uveljavljajo GDPR in LED na sistemih umetne inteligence, ki vključujejo osebne podatke, da bi zagotovili varstvo temeljnih pravic in natančneje pravice do varstva podatkov. Posledično bi določitev organov za varstvo podatkov kot nacionalnih nadzornih organov zagotovila bolj usklajen regulativni pristop in prispevala k dosledni razlagi določb o obdelavi podatkov po vsej EU. Zato EDPB in EDPS menita, da bi morali biti za zagotovitev nemotene uporabe te nove uredbe organi za varstvo podatkov imenovani za nacionalne nadzorne organe v skladu s členom 59 predloga.
Nazadnje EDPB in EDPS dvomita o določitvi prevladujoče vloge Evropske komisije v Evropskem odboru za umetno inteligenco (EAIB), saj bi bilo to v nasprotju s potrebo po evropskem organu umetne inteligence, neodvisnem od kakršnega koli političnega vpliva. Da bi zagotovil svojo neodvisnost, mora predlog dati EAIB več avtonomije in zagotoviti, da lahko deluje na lastno pobudo.
Vir: EDPB
