EU institucije uskladile besedilo Akta o umetni inteligenci
Po maratonskem trialogu so EU zakonodajalci potrdili končno besedilo Akta o umetni inteligenci. Svet Evrope, Parlament in Komisija so v petek zaokrožili vsebino, ki sicer mora še skozi tehnični pregled.
Novica je bila objavljena 9.12.2023
Besedilo usklajenega Akta o umetni inteligenci še ni na voljo, v naslednjih tednih bo besedilo šlo skozi tehnični pregled. Pričakuje se, da bo končno besedilo objavljeno v Uradnem listu Evropske unije januarja 2024.
Področje Akta o umetni inteligenci
Definicija sistemov umetne inteligence je usklajena z mednarodno priznanimi merili, in sicer s smernicami OECD (čeprav ne do črke natančno) in se glasi »Sistem umetne inteligence je strojni sistem, ki za eksplicitne ali implicitne cilje iz prejetih vnosov ustvarja rezultate, kot so napovedi, vsebina, priporočila ali odločitve, ki [lahko] vplivajo na fizična ali virtualna okolja. Različni sistemi umetne inteligence se razlikujejo po stopnjah avtonomije in prilagodljivosti po uvedbi« se glasi nova definicija (op. uradni prevod še ni na voljo).
V trialogu je bilo vendarle dogovorjeno, da bo brezplačna in odprtokodna programska oprema izključena iz področja uporabe uredbe, razen če gre za sistem z visokim tveganjem, prepovedane aplikacije ali rešitev umetne inteligence, pri kateri obstaja tveganje, da povzroči manipulacijo.
Organi pregona
Urejanje področja uporabe umetne inteligence na področju državne varnosti je bilo pogajalsko zelo zahtevno. Države EU s Francijo na čelu so vztrajale pri široki izjemi za vse sisteme umetne inteligence, ki se uporabljajo v vojaške ali obrambne namene, tudi s strani zunanjega izvajalca. V preambuli besedila bo navedeno, da se bo to področje urejalo v skladu s pogodbami EU.
Klasifikacija sistemov umetne inteligence
Za vse sisteme umetne inteligence veljajo osnovne obveznosti glede preglednosti, da se zagotovi minimalna raven jasnosti in splošnega razumevanja.
Sistemi umetne inteligence, za katere je bilo ugotovljeno, da nosijo sistemsko tveganje – tisti, ki bi lahko znatno vplivali na zdravje, varnost, temeljne pravice, okolje, demokracijo ali pravno državo – so zavezani celovitim regulativnim standardom. Ti standardi zahtevajo natančno opredeljeno porazdelitev odgovornosti med razvijalci in uporabniki, in sicer tako, da razvijalci pomagajo uporabnikom pri izpolnjevanju meril za ocenjevanje sistema umetne inteligence z visokim tveganjem.
Metrike za določanje klasifikacij umetne inteligence, ki so opredeljene v aneksu, so nastavljive in jih je mogoče sčasoma spremeniti.
Akt prepoveduje naslednje prakse, ki se štejejo za škodljive:
tehnike, ki manipulirajo z razumevanje in vedenjem posameznika,
naključno zbiranje podatkov o prepoznavanju obraza iz javnih internetnih portalov in videonadzora,
uporaba sistemov za prepoznavanje čustev na delovnih mestih in v izobraževalnih okoljih,
uporaba socialnih kreditnih točk,
biometrična obdelava za sklepanje posebnih vrst osebnih podatkov, kot je spolna usmerjenost ali versko prepričanje,
določene aplikacije prediktivnega policijskega nadzora, ki ciljajo na posameznike.
Strožje obveznosti za generativno umetno inteligenco
Akt o umetni inteligenci daje močan poudarek pravicam in preglednosti za temeljne modele, prav tako določa, da so ocene učinka na temeljne pravice obvezne za sisteme umetne inteligence z visokim tveganjem ter zahteva spoštovanje tehničnih standardov in zakonodaje o avtorskih pravicah celo z obvezno registracijo v evropskem registru in razkritjem uporabljene vsebine pridobljene s sistemom umetne inteligence.
Upravljanje umetne inteligence
V okviru Komisije bo ustanovljen Urad za umetno inteligenco, ki bo uveljavljal določbe vezane na uporabo velikih jezikovnih modelov. Institucije EU naj bi podale skupno izjavo, da bo Urad za umetno inteligenco imel namensko postavko v proračunu.
Sisteme umetne inteligence bodo nadzorovali nacionalni pristojni organi, ki bodo zbrani v Evropskem odboru za umetno inteligenco, da bi zagotovili dosledno uporabo zakonodaje.
Svetovalni forum bo zbral povratne informacije zainteresiranih strani, vključno s civilno družbo. Uveden je bil znanstveni odbor neodvisnih strokovnjakov, ki bo svetoval pri uveljavljanju uredbe, označeval morebitna sistemska tveganja in informiral o razvrstitvi modelov umetne inteligence s sistemskimi tveganji.
Sankcije akta o umetni inteligenci
Sistem kazni temelji na globalnem prometu podjetij ali vnaprej določenem znesku, kar je višje. Za kršitve prepovedanih aplikacij umetne inteligence bodo znašali 35 milijonov evrov ali 7 odstotkov, za kršitve obveznosti akta o umetni inteligenci 15 milijonov evrov ali 3 odstotke in za posredovanje netočnih informacij 7,5 milijona evrov ali 1,5 odstotka. Izjeme so narejene za manjša podjetja, z omejenimi kaznimi za SMP in novoustanovljena podjetja.
Časovnica akta o umetni inteligenci
Datum začetka veljavnosti Akta o umetni inteligenci bo sledil natančni časovnici, s prehodnim obdobjem šestih mesecev za uvedbo prepovedi, eno leto za generativne modele in sisteme umetne inteligence za splošno uporabo ter dve leti za uvedbo drugih sistemov umetne inteligence.
Vir: Euractiv
