EDPS: Človeški nadzor pri avtomatiziranim odločanjem
Evropski nadzornik za varstvo podatkov v tokratnem TechDispatch poročilu preučuje ključno vlogo človeškega nadzora v sistemih avtomatiziranega odločanja, pri čemer izpodbija običajne predpostavke in ponuja smernice za učinkovito izvajanje.
Poročilo je bilo objavljeno 3. 10. 2025
EDPS v svojih poročilih TechDispatch podaja konkretne opise nove tehnologije in njenega vpliva na varstvo osebnih podatkov. Ta tehnična objava Evropskega nadzornika za varstvo podatkov se osredotoča na človeški faktor pri avtomatiziranem sprejemanju odločitev.
Poročilo izpostavlja tri ključne kategorije napačnih predpostavk:
Predpostavka o tehnologiji: Sistemi ne bodo vedno delovali v vnaprej določenih pogojih ali prenesli nadzora na ljudi v netipičnih situacijah
Predpostavke o interakciji med človekom in tehnologijo: Avtomatizacija pomembno vpliva na človeško presojo zaradi svoje pristranskosti, človeški nadzor v procesu pa ne odpravlja avtomatiziranega odločanja. Operativni delavci morda nimajo dejanske možnosti oziroma pooblastila za spremembo odločitve, ki jo sistem ponudi, hibridni sistemi ne delujejo avtomatično bolje, mehanizmi za preglasitev odločitev pa so pogosto neustrezni.
Predpostavke o človeškem vedenju: Operativni delavci morda ne vedo, kaj storiti, morda ne morejo učinkovito opravljati nalog ali pa nimajo ustreznih namenov.
Na osnovi analize predpostavk so avtorji poročila pripravili tudi štiri skupine priporočil za učinkovit nadzor:
Organizacijski ukrepi: Zagotovite stabilne, zdrave in poštene delovne pogoje z dovolj časa za pregled. Človeški nadzor obravnavajte kot ključno varovalko in ne kot rezervo ter zagotovite ustrezno usposabljanje, ki zajema delovanje sistema, primere napak in operativne postopke.
Tehnični ukrepi: Zagotovite, da so odločitve sistema razložljive in da imajo vmesniki jasne, intuitivne in dostopne zasnove, ki spodbujajo kritično razmišljanje.
Profil operativnega delavca: Operativni delavci bi morali imeti ustrezne namene, ki so skladni z zagotavljanjem poštenih in nediskriminatornih rezultatov. Operativni delavci bi morali imeti potrebno strokovno znanje na ustreznem področju (npr. radiologija za medicinske slikovne sisteme, finance za sisteme kreditnega točkovanja).
Praktični pristopi: Izvajanje rednih revizij, strateškega vzorčenja, institucionaliziranih mehanizmov nezaupanja, kot je načelo štirih oči, in vključevanje povratnih informacij prizadetih posameznikov.
Ključno sporočilo:
Samo človeški nadzor ne more odpraviti inherentno pomanjkljivih sistemov avtomatiziranega sprejemanja odločitev. Sisteme, ki kršijo zakone ali temeljne pravice, je treba v celoti prepovedati, ne pa jih odpravljati s človeškim posredovanjem po dogodku. Dokument poudarja, da smiseln človeški nadzor zahteva skrbno zasnovo, jasne protokole, ustrezno usposabljanje in organizacijsko zavezanost, da se temeljnim pravicam da prednost pred učinkovitostjo ali dobičkom.
Povezava do poročila.
Vir: EDPS
Naslovna slika: RawPixel
