EDPS: Mnenje o urejanju odgovornosti umetne inteligence

EDPS: Mnenje o urejanju odgovornosti umetne inteligence
20. 10. 2023 objavil/a Info Hiša
EDPS
mnenje
umetna inteligenca

Evropski nadzornik za varstvo podatkov je izdal mnenje na lastno pobudo o dveh predlogih direktiv o odgovornosti za proizvode z napako in o prilagoditvi pravil o nepogodbeni civilni odgovornosti umetne inteligence

Novica je bila objavljena 11.10.2023

Oba predloga sta del svežnja ukrepov za podporo uvajanja umetne inteligence v Evropi, mnenje pa je del zelo dejavne vloge, ki jo ima EDPS na področju umetne inteligence.

Predlog Direktive o odgovornosti za proizvode z napako (Product Liability Directive - PLD), ki zadeva proizvajalčevo brezkrivdno odgovornost za proizvode z napako, bo posodobila trenutni pravni okvir, tako da bo v definicijo produkta vključila programsko opremo in digitalnih produktov ter opredelila, kdaj je treba povezano storitev obravnavati kot sestavni del proizvoda. Predlog Direktive o odgovornosti za sisteme umetne inteligence (Liability for AI systems - AILD), ki se nanaša na odškodninske zahtevke v skladu z nacionalnimi sistemi odgovornosti na podlagi krivde v primerih, ko so sistemi umetne inteligence vpleteni v povzročanje škode, poskuša harmonizirati nacionalne sisteme, tako da določa enotna pravila za dostop do informacij in razbremenitev dokaznega bremena v zvezi s škodo, ki jo povzročijo nekateri sistemi umetne inteligence. EDPS v celoti podpira cilj predlogov, zagotoviti, da žrtve škode, ki jo povzroči umetna inteligenca, uživajo enako raven zaščite kot osebe, ki zahtevajo odškodnino za škodo, povzročeno brez vpletenosti sistema umetne inteligence. V zvezi s tem lahko posebne značilnosti sistemov umetne inteligence, kot so nepreglednost, avtonomnost, kompleksnost, stalno prilagajanje in pomanjkanje predvidljivosti, povzročijo znatne ovire za posameznike, ki iščejo pravno sredstvo za škodo, ki je posledica uporabe takih sistemov.

Med svojimi številnimi priporočili nadzornik poziva sozakonodajalca, naj zagotovita, da posamezniki, ki so utrpeli škodo zaradi sistemov umetne inteligence, ki jih proizvajajo in/ali uporabljajo institucije, organi in agencije EU, uživajo enakovredno raven zaščite kot posamezniki, ki so utrpeli škodo zaradi sistemov umetne inteligence, ki jih proizvajajo in/ali uporabljajo zasebni akterji ali nacionalni organi.

EDPS je tako podal 7 priporočil:

  • Odgovornost institucij EU: zagotoviti, da posamezniki, ki so utrpeli škodo zaradi sistemov umetne inteligence, ki jih proizvajajo in/ali uporabljajo institucije EU, niso postavljeni v manj ugoden položaj in lahko uživajo enakovredno raven zaščite, kot je določeno v predlogih.

  • Razmerje med predlogi in zakonom o varstvu podatkov: potrebna je izrecna potrditev, da predlog AILD ne posega v zakonodajo Unije o varstvu podatkov. Pravila glede zaščite osebnih podatkov med pravili, na katera ta direktiva ne bi smela vplivati.

  • Odnos z AIA: razširitev postopkovnih zaščitnih ukrepov predloga AILD (razkritje dokazov in domneva vzročne zveze) na vse primere škode, ki jo povzroči sistem umetne inteligence, ne glede na njegovo razvrstitev kot visoko tveganega ali netveganega sistema.

  • Odnos z AIA: zagotoviti, da informacije, razkrite v skladu s členom 3 predloga AILD, vključujejo pojasnila v razumljivi in splošno razumljivi obliki.

  • Tveganja izogibanja in morebitne vrzeli v zaščiti: črtati zadnja dva stavka uvodne izjave 15 predloga AILD.

  • Dokazno breme: razmisliti o dodatnih ukrepih za dodatno razbremenitev dokaznega bremena za žrtve sistemov umetne inteligence kot sredstva za zagotovitev učinkovitosti pravil EU in nacionalnih pravil o odgovornosti.

  • Pregled: skrajšati obdobje pregleda iz člena 5(2) predloga AILD, saj je 5 let predolgo obdobje.

Dostop do mnenja tukaj

Naslovna fotografija: RawPixel