Velika Britanija: Generativni AI chatbot "My AI" na Snapu
Britanski informacijski pooblaščenec je družbama Snap, Inc in Snap Group Limited izdal predhodno obvestilo o izvršitvi zaradi morebitne neustrezne ocene tveganj za zasebnost, ki jih predstavlja Snapov chatbot »My AI«
Novica je bila objavljena 6.10.2023
V predhodnem obvestilu so navedeni koraki, ki jih lahko zahteva pooblaščenec, odvisno od navedb družbe Snap v odgovoru na predhodno obvestilo. Če bo sprejeto dokončno obvestilo o izvršitvi, bo Snap verjetno moral prenehati obdelovati podatke v povezavi z »My AI«. To pomeni, da fukcionalnosti »My AI« ne bodo ponudili uporabnikom v Združenem kraljestvu, dokler Snap ne izvede ustrezne ocene tveganja.
Snap je februarja 2023 lansiral funkcijo »My AI« za naročnike Snapchat+ v Združenem kraljestvu, aprila 2023 pa je bila uvedena v širšo bazo uporabnikov (osnovne verzije) Snapchat v Združenem kraljestvu. Funkcija chatbota, ki jo poganja tehnologija GPT OpenAI, je pomenila prvi primer generativne umetne inteligence vdelan v glavno platformo za sporočanje v Združenem kraljestvu. Maja 2023 je imel Snapchat v Združenem kraljestvu 21 milijonov mesečno aktivnih uporabnikov .
Preiskava ICO je začasno ugotovila, da ocena tveganja Snap, ki je bila izvedena, preden je zagnal "My AI", ni ustrezno ocenila tveganj za varstvo podatkov, ki jih predstavlja generativna tehnologija AI, zlasti za otroke. V tem kontekstu je še posebej pomembna ocena tveganja varstva podatkov, ki vključuje uporabo inovativne tehnologije in obdelavo osebnih podatkov otrok, starih od 13 do 17 let. Ugotovitve pooblaščenca v obvestilu so začasne. Na tej stopnji ne bi smeli sklepati, da je dejansko prišlo do kakršne koli kršitve zakonodaje o varstvu podatkov ali da bo na koncu izdana taka odločba. ICO bo pred sprejetjem končne odločitve skrbno pretehtal vse izjave Snapa.
John Edwards, informacijski pooblaščenec: »Začasne ugotovitve naše preiskave kažejo na zaskrbljujoč neuspeh Snapa, da bi ustrezno prepoznal in ocenil tveganja zasebnosti za otroke in druge uporabnike, preden je zagnal »My AI«.
»Jasni smo bili, da morajo organizacije poleg koristi upoštevati tudi tveganja, povezana z umetno inteligenco. Današnje predhodno obvestilo o izvršitvi kaže, da bomo ukrepali z namenom, da bi zaščitili pravice potrošnikov v Združenem kraljestvu do zasebnosti.«
Izdaja tega predhodnega obvestila o izvršitvi sledi opomniku ICO podjetjem, ki razvijajo ali uporabljajo generativno umetno inteligenco, da morajo že od samega začetka upoštevati svoje obveznosti glede varstva podatkov.
Novica je dostopna tukaj
Vir: ICO
Naslovna fotografija: RawPixel
