CJEU: Vprašanja glede AIA
Predhodno posvetovanje pred sodiščem EU zaradi obveze razkritja algoritmov umetne inteligence v skladu z Aktom o UI
Novica je bila objavljena 14.2.2025
Do primera je prišlo zaradi spora med Yettel Bulgaria, ponudnikom mobilnih telekomunikacij, in njihovo stranko, ki se ni strinjala z vsebino mesečnega računa. V nekem trenutku je stranka prenehala plačevati svoje račune, saj naj bi bilo Yettelovo zaračunavanje nepregledno, tako da ni bilo mogoče preveriti, kako so bili stroški dejansko izračunani.
Yettel uporablja avtomatizirane sisteme in algoritme, ki zbirajo podatke iz mobilnih naprav uporabnikov ter samodejno določajo trajanje klicev in porabo mobilnih podatkov za namene obračunavanja. Tudi po opravljanem izvedenskemu pregledu je bilo nemogoče ugotoviti, kako se odločitve o obračunu obveznosti dejansko izvedejo.
Spor je prišel pred Okrožno sodišče v Sofiji, ki je postopek zamrznilo in sodišču EU poslalo predhodna vprašanja glede interpretacije Akta o UI:
Ali lahko potrošnik na podlagi zakonodaje EU o pravicah potrošnikov in obveznosti glede preglednosti iz Akta o UI od izvajalca/ponudnika umetne inteligence zahteva razkritje podrobnih informacij o delovanju umetne inteligence (vključno z izvorno kodo, parametri, podrobnostmi o algoritmu in odločanju algoritma)?
Ali lahko sodišča zahtevajo dostop do algoritmov po 86. členu Akta o UI za zagotovitev učinkovite zaščite pravic potrošnikov?
Ali zahteva Akta o UI za visoke etične standarde pomeni obvezo zaposlitve oziroma vključitve specializiranih pravnikov ali visokih strokovnjakov za etiko v razvoj sistemov UI, da se zagotovi ustrezen človeški nadzor v skladu z Aktom o UI (člen 95(2)(a) Akta o UI)
Primer predstavlja prvo pomembno predhodno posvetovanje s sodiščem EU zaradi Akta o UI in lahko predstavlja precedens glede obveznosti razvijalcev/ponudnikov storitev UI, da morajo razkriti podrobnosti algoritmov, ki sprejemajo avtomatizirane odločitve.
Vir: Dataguidance.com, Lexology.com
Naslovna slika: RawPixel
