EU: Vloženih več pritožb zoper Scale AI
Avstrijska nevladna organizacija Noyb je vložila pet pritožb zoper ameriško podjetje Scale AI, ki upravlja platformo Outlier, namenjeno izboljšanju in usposabljanju delovanja sistemov UI.
Novica je bila objavljena 27. 10. 2026.
Čeprav se sistemi UI v veliki meri učijo na velikih količinah besedil in drugih podatkov, sta razvoj in izboljševanje sistemov umetne inteligence v veliki meri odvisna tudi od človeškega dela. Posamezniki na spletnih platformah opravljajo v ta namen različne naloge, kot so ocenjevanje različnih odgovorov jezikovnih modelov, priprava pozivov in označevanje podatkov in s tem pomagajo pri usposabljanju sistemov UI.
Eno večjih podjetij na tem področju je Scale AI, ki prek platforme Outlier sodeluje z več kot 900.000 zunanjimi sodelavci po svetu, ki za naročnike podjetja opravljajo naloge podobne opisanim zgoraj. Med naročniki njegovih storitev so tudi velika tehnološka podjetja, kot so Meta, OpenAI, Google in Anthropic.
Noyb podjetju očita obsežno in nesorazmerno obdelavo osebnih podatkov delavcev, med drugim sledenje njihovim aktivnostim med delom prek različnih sledilnih tehnologij, obvezno biometrično preverjanje identitete in neupoštevanje zahtev za dostop do osebnih podatkov.
Tehnična analiza platforme Outlier, ki je bila izvedena v okviru širše raziskave delovnih pogojev na platformah za usposabljanje umetne inteligence, je pokazala uporabo sledilnih tehnologij različnih tretjih oseb, med drugim družb TikTok, LinkedIn, Facebook, Sprig in Datadog. Po navedbah Noyb se podatki o delavcih tretjim osebam posredujejo vsakih nekaj sekund. Med njimi so naslovi IP, kontaktni podatki, edinstveni identifikatorji in informacije o obiskanih spletnih straneh. Takšni podatki lahko omogočajo spremljanje aktivnosti posameznikov, njihovo profiliranje in uporabo informacij za namene ciljnega oglaševanja.
Poleg sledenja platforma od delavcev zahteva tudi večkratno preverjanje identitete, ki vključuje snemanje obraza in predložitev osebnega dokumenta. Postopek izvaja zunanji ponudnik Persona, Scale AI pa njegovo uporabo utemeljuje s preprečevanjem identitetnih goljufij in preverjanjem usposobljenosti delavcev.
Po mnenju Noyb takšen način preverjanja presega tisto, kar bi bilo nujno potrebno za doseganje navedenih namenov. Dodatne pomisleke vzbuja tudi obseg osebnih podatkov, ki jih lahko zbira ponudnik preverjanja identitete, vključno s podatki o napravah, geolokaciji in drugimi informacijami o posameznikih.
Vložene pritožbe in očitane kršitve GDPR
Noyb je v sodelovanju z organizacijami Intérêt à Agir, DIPLab in Reversing.Works vložila pet pritožb, v katerih opozarja na več domnevnih kršitev zakonodaje o varstvu osebnih podatkov. Pritožbe so bile vložene pri pristojnih nadzornih organih v Franciji, Italiji, na Nizozemskem in v Avstriji.
Eden osrednjih očitkov se nanaša na odsotnost ustrezne pravne podlage za uporabo sledilnih tehnologij in nadaljnjo obdelavo zbranih osebnih podatkov. Po navedbah Noyb se sledilne tehnologije uporabljajo brez veljavne privolitve posameznikov, čeprav lahko omogočajo obsežno spremljanje njihovih aktivnosti in posredovanje podatkov tretjim osebam.
Pritožbe izpostavljajo tudi vprašanje spoštovanja načela najmanjšega obsega podatkov iz točke (c) prvega odstavka 5. člena GDPR. Upravljavec mora namreč zagotoviti, da so osebni podatki ustrezni, relevantni in omejeni na tisto, kar je potrebno za namene njihove obdelave. Zbiranje podatkov o delovnih aktivnostih in njihovo posredovanje številnim tretjim osebam zato odpira vprašanje, ali je takšna obdelava sploh potrebna za delovanje platforme.
Pomemben del pritožb se nanaša tudi na biometrično preverjanje identitete. Kadar se podatki o obrazu obdelujejo s posebnimi tehničnimi sredstvi za edinstveno identifikacijo posameznika, gre za biometrične podatke, katerih obdelava praviloma spada med posebne vrste osebnih podatkov iz 9. člena GDPR. Za njihovo zakonito obdelavo morata biti izpolnjena tako ustrezna pravna podlaga iz 6. člena GDPR kot ena od izjem iz drugega odstavka 9. člena GDPR.
Pri tem je treba upoštevati tudi razmerje med upravljavcem in posameznikom. Če je preverjanje identitete obvezen pogoj za dostop do dela in posledično zaslužka, se zastavlja vprašanje, ali bi bila morebitna privolitev posameznika sploh lahko prostovoljna.
Poleg navedenega Noyb podjetju Scale AI očita tudi kršitev pravice do dostopa iz 15. člena GDPR. Po navedbah organizacije podjetje ni odgovorilo na zahteve posameznikov za dostop do njihovih osebnih podatkov, s čimer naj bi jim onemogočilo vpogled v obseg in okoliščine obdelave.
Noyb je pristojne nadzorne organe pozvala, naj očitane kršitve celovito preučijo in po potrebi sprejmejo ustrezne korektivne ukrepe, vključno z izrekom upravnih glob.
Pomembno je poudariti, da gre za vložene pritožbe in ne za že sprejete odločitve nadzornih organov. O zakonitosti posameznih postopkov obdelave osebnih podatkov bodo pristojni nadzorni organi šele odločali.
Vir in dostop do besedila vloženih pritožb: noyb.eu
Naslovna fotografija: Ustvarjena z UI
