EDPB: Mnenje o modelih umetne inteligence
EDPB: Mnenje o modelih umetne inteligence
27. 12. 2024
objavil/a Info Hiša
EDPB je sprejel mnenje o uporabi osebnih podatkov za razvoj in uvajanje modelov umetne inteligence. Ključna področja so: kdaj so modeli anonimni, zakoniti interes kot pravna podlaga in posledice nezakonite obdelave osebnih podatkov pri razvoju modelov.
Mnenje je bilo izdano 18.12.2024
Evropski odbor za varstvo podatkov (EDPB) je sprejel mnenje o uporabi osebnih podatkov za razvoj in uvajanje modelov umetne inteligence. To mnenje obravnava 1) kdaj in kako se modeli umetne inteligence lahko štejejo za anonimne, 2) ali in kako se zakoniti interesi lahko uporabljajo kot pravna podlaga za razvoj ali uporabo modelov umetne inteligence in 3) kaj se zgodi, če je model umetne inteligence razvit z uporabo osebnih podatki, ki so bili obdelani nezakonito. Upošteva tudi uporabo podatkov prve in tretjih oseb.
Za mnenje je sicer zaprosil irski nadzorni organ za varstvo podatkov (DPA) z namenom vzpostavitve vseevropske regulativne uskladitve. Za zbiranje prispevkov za to mnenje, ki obravnava hitro razvijajoče se tehnologije, ki pomembno vplivajo na družbo, je EDPB organiziral dogodek za zainteresirane strani in izmenjal informacije z Uradom EU za umetno inteligenco.
Predsednik EDPB Talus je dejal: »Tehnologije umetne inteligence lahko prinesejo veliko priložnosti in koristi različnim industrijam in življenjskim področjem. Zagotoviti moramo, da se te inovacije izvajajo etično, varno in na način, ki koristi vsem. EDPB želi podpreti odgovorne inovacije umetne inteligence z zagotavljanjem zaščite osebnih podatkov in popolnega spoštovanja Splošne uredbe o varstvu podatkov (GDPR).«
V zvezi z anonimnostjo mnenje pravi, da bi morali nadzorni organi za vsak primer posebej oceniti, ali je model umetne inteligence anonimen. Da bi bil model anonimen, bi moralo biti zelo malo verjetno (1) neposredno ali posredno identificiranje posameznikov, katerih podatki so bili uporabljeni za ustvarjanje modela, in (2) pridobiti osebne podatke iz modela s pomočjo poizvedb. Mnenje vsebuje seznam metod za dokazovanje anonimnosti.
V zvezi z zakonitim interesom mnenje podaja splošne premisleke, ki bi jih morali nadzorni organi upoštevati, ko ocenjujejo, ali je zakoniti interes ustrezna pravna podlaga za obdelavo osebnih podatkov za razvoj in uvedbo modelov umetne inteligence. Test v treh korakih pomaga oceniti uporabo zakonitega interesa kot pravne podlage. EDPB navaja primere pogovornega bota za pomoč uporabnikom in uporabo umetne inteligence za izboljšanje kibernetske varnosti. Te storitve so lahko koristne za posameznike in se lahko zanašajo na zakonit interes kot pravno podlago, vendar le, če se izkaže, da je obdelava nujno potrebna in se spoštuje ravnovesje pravic. Mnenje vključuje tudi številna merila, ki nadzornim organom pomagajo oceniti, ali lahko posamezniki razumno pričakujejo določene uporabe svojih osebnih podatkov. Ta merila vključujejo: ali so bili osebni podatki javno dostopni ali ne, naravo odnosa med posameznikom in upravljavcem, naravo storitve, kontekst, v katerem so bili osebni podatki zbrani, vir, iz katerega so bili podatki zbrani, možne nadaljnje uporabe modela in ali se posamezniki dejansko zavedajo, da so njihovi osebni podatki na spletu. Če test ravnotežja pokaže, da obdelava ne bi smela potekati zaradi negativnega vpliva na posameznike, lahko omilitveni ukrepi omejijo ta negativni vpliv. Mnenje vključuje neizčrpen seznam primerov takih omilitvenih ukrepov, ki so lahko tehnične narave ali posameznikom olajšajo uveljavljanje njihovih pravic ali povečajo preglednost.
Nazadnje, ko je bil model UI razvit z nezakonito obdelanimi osebnimi podatki, bi to lahko vplivalo na zakonitost njegove uporabe, razen če je bil model ustrezno anonimiziran.
Glede na obseg zahteve irskega nadzornega organa za varstvo podatkov, veliko raznolikost modelov umetne inteligence in njihov hiter razvoj, je namen mnenja podati smernice glede različnih elementov, ki se lahko uporabijo za izvedbo analize posameznega primera.
EDPB pripravlja tudi smernice, ki bodo zajemale bolj konkretna vprašanja razvoja in uvedbe modelov umetne inteligence, na primer v zvezi s strganjem podatkov.
Vir: EDPB
