IP: Generativna umetna inteligenca
Generativna umetna inteligenca pod drobnogledom Informacijskega pooblaščenca v okviru usklajenega sodelovanja evropskih nadzornih organov.
Novica je bila objavljena 19.02.2025
Informacijski pooblaščenec se je pridružil skupnim prizadevanjem nadzornih organov Evropske unije za zaščito temeljnih pravic in svoboščin posameznikov pri uporabi orodij, ki temeljijo na generativni umetni inteligenci (ChatGPT, DALL-E, Google Gemini, DeepSeek itd.). V okviru usklajenega sodelovanja bo Informacijski pooblaščenec preučil, ali obstajajo okoliščine, ki zahtevajo uvedbo inšpekcijskih postopkov zoper ponudnike tovrstnih sistemov umetne inteligence, vključno s ponudniki v Sloveniji.
Evropski odbor za varstvo podatkov (EDPB) je na plenarnem zasedanju 11. februarja 2025 ponovno poudaril potrebo po sodelovanju in usklajevanju med nadzornimi organi v postopkih nadzora nad ponudniki sistemov UI in sprejel odločitev, da bo z namenom hitrega posredovanja v občutljivih primerih sodeloval v okviru delovne skupine za nadzor nad UI sistemi.
Informacijski pooblaščenec kot del EDPB pozorno spremlja tehnološki razvoj na področju generativne umetne inteligence ter odzive evropske in širše mednarodne skupnosti nanj. S skokovitim povečevanjem velikosti in kompleksnosti velikih jezikovnih modelov se povečujejo tudi njihove zmogljivosti. Uvajanje tovrstnih rešitev brez tehtnega premisleka o tem, kako ti sistemi vplivajo na posameznike in družbo kot celoto, ima lahko daljnosežne posledice.
Informacijski pooblaščenec je posebej pozoren na vplive (generativne) umetne inteligence na ranljive skupine; poleg otrok mednje lahko prištevamo tudi starejše, ki po eni strani pogosteje niso seznanjeni s tveganji tovrstnih tehnologij, obenem pa lahko vezanost nanje pri opravljanju vsakdanjih opravil povzroči, da je del starejših prikrajšan za dostop do določenih storitev (na primer, ko osebni pogovor nadomesti klepetalnik ali chatbot), bodisi ker tovrstne tehnologije sploh ne znajo uporabljati ali pa ji zgolj ne zaupajo.
Posameznikom IP svetuje, naj tovrstna orodja, ki temeljijo na generativni umetni inteligenci, uporabljajo previdno in odgovorno. Zavedati se je treba, da ponudniki teh, sicer privlačnih orodij, velikokrat obdelujejo osebne podatke v tretjih državah, torej izven EU, kjer lahko veljajo tudi mnogo nižji standardi varstva osebnih podatkov. Zato IP priporoča uporabo storitev, ki so zavezane k spoštovanju Splošne uredbe o varstvu podatkov. Prav tako naj uporabnik pred posredovanjem svojih osebnih podatkov zelo dobro premisli, ali orodje resnično potrebuje njegove osebne podatke in naj jih deli v čim manjšem obsegu. Posebej previdni je potrebno biti pri razkrivanju občutljivih podatkov (na primer podatkov o zdravstvenem stanju, politični ali verski pripadnosti ipd.).
Preden posamezniki svoje osebne podatke vključijo v vprašanje umetni inteligenci (t. i. prompt), se je pametno pozanimati o tem, ali bodo morda osebni podatki uporabljeni za nadaljnje učenje modela in na kakšen način je mogoče uveljavljati pravice po GDPR, še posebej pravico do izbrisa. Te podatke podjetja običajno navedejo v Politiki zasebnosti (Privacy Policy) in Pogojih uporabe ali storitve (Terms of use oziroma Terms of service).
Vir: IP RS
