Francija: CNIL ima akcijski načrt za AI

Francija: CNIL ima akcijski načrt za AI
15. 06. 2023 objavil/a Info Hiša
ChatGPT
CNIL
Francija
umetna inteligenca

Glede na hitri razmah umetne inteligence, še zlasti generativnih AI (ChatGPT), francoski nadzorni organ objavlja svoje usmeritve za uvedbo sistemov AI, ki spoštujejo zasebnost

Članek je bil objavljen 16.5.2023

CNIL je že več let aktiven v smeri, da bi predvidel in se odzval na vprašanja, ki porajajo ob uporabi umetne inteligence. Z akcijskim načrtom za AI želi razširiti svoje delo na generativne umetne inteligence, velike jezikovne modele in aplikacije, ki te modele uporabljajo (zlasti chatbote).

Njegov akcijski načrt je sestavljen iz štirih sklopov:

-        razumeti delovanje sistemov AI in njihov vpliv na ljudi;

-        omogočanje in usmerjanje razvoja zasebnosti prijazne umetne inteligence;

-        združiti in podpreti inovativne akterje v ekosistemu umetne inteligence v Franciji in Evropi;

-        revizijo in nadzor sistemov AI ter zaščito ljudi.

To delo predstavlja tudi neke vrste pripravo na začetek uporabe osnutka evropske Akta o umetni inteligenci, ki je trenutno v razpravi.

Razumevanje delovanja sistemov AI in njihov vpliv na ljudi bo eno od prednostnih področij dela CNILove Službe za umetno inteligenco in laboratorija digitalnih inovacij (LINC). Na splošno želi CNIL sodelovati v trajnem dialogu z raziskovalnimi skupinami, centri za raziskave in razvoj ter francoskimi podjetji, ki razvijajo ali želijo razviti sisteme umetne inteligence v skladu z načeli skladnosti s pravili o varstvu osebnih podatkov.

CNIL bo posebno pozornost namenil temu, kaj imajo subjekti, ki obdelujejo osebne podatke za razvoj, usposabljanje ali uporabo sistemov umetne inteligence:

·        izvedli oceno učinka na varstvo podatkov (DPIA), da bi dokumentirali tveganja in sprejeli ukrepe za njihovo zmanjšanje;

·        ustrezno informirali posameznike;

·        načrtovali ukrepe za uveljavljanje pravic posameznikov, ki so prilagojeni temu posebnemu kontekstu.

Varstvo osebnih podatkov, temeljni izziv pri razvoju umetne inteligence

Razvoj umetne inteligence spremljajo izzivi na področju varstva podatkov in temeljnih človekovih pravic, s katerimi se CNIL ukvarja že nekaj let. Od objave svojega poročila o etičnih izzivih algoritmov in umetne inteligence leta 2017 je CNIL večkrat izpostavil vprašanja, ki so jih sprožila nova orodja, ki jih prinaša ta nova tehnologija.

Zlasti generativna umetna inteligenca se že nekaj mesecev hitro razvija, bodisi na področju besedila in pogovorov, prek velikih jezikovnih modelov (large language models-LLM), kot so GPT-3, BLOOM ali Megatron NLG in izpeljani chatboti (ChatGPT ali Bard), ampak tudi v slikovnih (Dall-E, Midjourney, Stable Diffusion itd.) ali govoru (Vall-E).

Jezikovni modeli in orodja, ki na njih temeljijo, že imajo svoje implementacije v različnih sektorjih. Kljub temu pa razumevanje njihovega delovanja, njihovih možnosti in omejitev, pa tudi pravna, etična in tehnična vprašanja v zvezi z njihovim razvojem in uporabo ostajajo v veliki meri predmet razprave.

Glede na to, da je varstvo osebnih podatkov velik izziv za načrtovanje in uporabo teh orodij, CNIL objavlja svoj akcijski načrt o umetni inteligenci, katerega cilj je med drugim tudi uokviriti razvoj generativne umetne inteligence.

Vir: CNIL

Naslovna fotografija: RawPixel