EU: Akt o umetni inteligenci

EU: Akt o umetni inteligenci
12. 05. 2023 objavil/a Info Hiša
akt o umetni inteligenci
evropska unija

Potrditev akta o umetni inteligenci – prvem celovitem poskusu ureditve uporabe umetne inteligence na svetu – je v Evropskem parlamentu predvidena sredi junija. Dva ključna odbora (IMCO in LIBE) sta včeraj besedilo sprejela z veliko večino

Članek je bil objavljen 11.5.2023

Člani Odbora za notranji trg in varstvo potrošnikov in Odbora za državljanske svoboščine, pravosodje in notranje zadeve so 11. 5. 2023 potrdili predlog Akta o umetni inteligenci. Na plenarnem glasovanju sredi junija lahko še pride do kakšnih presenečenj, vendar je parlamentarni položaj do zdaj v veliki meri utrjen.

Zakonodajalci EU so med pripravami na to glasovanje izpopolnili besedilo zakona o umetni inteligenci, ki zdaj zajema generativne modele umetne inteligence. Evropska komisija je pred skoraj dvema letoma začela pripravljati osnutek zakona o umetni inteligenci, da bi uredila nastajajočo tehnologijo umetne inteligence, ki je doživela razcvet naložb in priljubljenosti po izdaji OpenAI-jevega klepetalnega robota ChatGPT, ki temelji na umetni inteligenci. Še v začetku tega leta pa generativna umetna inteligenca v osnutku uredbe ni bila zares tako uporabljena.

Glavne spremembe, ki so jih v besedilo vnesli poslanci Evropskega parlamenta, so:

  • definicija umetne inteligence je usklajena z definicijo OECD na način, da bo skladna tudi s prihodnjo dopolnitvijo definicije, ki jo opredeli OECD;

  • razširili so seznam prepovedanih praks, pri čemer so prepovedi manipulativnih tehnik in socialnega točkovanja, za katere velja, da predstavljajo nesprejemljivo tveganje. Dodali še prepoved modelov umetne inteligence za biometrično kategorizacijo, napovedovanje kriminalnih dejanj, »scrapping« fotografij za gradnjo baz podatkov. Programska oprema za prepoznavanje čustev je prepovedana v organih kazenskega pregona, pri upravljanju meja, na delovnem mestu in v izobraževanju. Prepovedani so tudi biometrični identifikacijski sistemi;

  • pravila se ločijo na tista, ki veljajo za generativno umetno inteligenco  in tista, ki veljajo temeljne modele, ki dejansko omogočajo generativno umetno inteligenco;

  • dodaten za kategorizacijo sistemov z visokim tveganjem, in sicer visoko tveganje za škodo zdravju, varnosti ali temeljnim človekovim pravicam;

  • večje obveznosti za sisteme z visokim tveganjem, zlasti pri obvladovanju tveganj, upravljanju podatkov, tehnični dokumentaciji in vodenju evidenc. Uvedena je popolnoma nova zahteva za uporabnike visoko tveganih rešitev umetne inteligence, da izvedejo oceno učinka na temeljne pravice ob upoštevanju vidikov, kot je morebitni negativni vpliv na marginalne skupine in okolje;

  • močna, skladna in integrirana struktura upravljanja in izvrševanja, ki zagotavlja, da se pravila izvajajo enotno po vsej EU, da so države članice usklajene in se učijo druga od druge.

Naslednji korak je sprejetje na plenarnem zasedanju, predvideni datum je 14. junij. Ko bodo evropski poslanci formalizirali svoje stališče, bo predlog prešel v zadnjo fazo zakonodajnega postopka, s čimer se bodo začela pogajanja oz. trialogi s Svetom in Komisijo EU.

"Smo tik pred izgradnjo pravega mejnika zakonodaje za digitalno okolje, ne le za Evropo, ampak tudi za ves svet," je Brando Benifei, eden od soporočevalcev, povedal svojim kolegom pred glasovanjem.

Dostop do celotnega članka tukaj

Vir: Euractiv

Naslovna fotografija: RawPixel