Uporaba AI Chatbot brez vednosti ljudi

Uporaba AI Chatbot brez vednosti ljudi
20. 01. 2023 objavil/a Info Hiša
chatbot
umetna inteligenca
zdravstveno stanje

Platforma za duševno zdravje je uporabila chatbot z umetno inteligenco, ne da bi o tem podala uporabnikom ustrezne informacije.

Članek je bil objavljen 10.1.2023

Koko je neprofitna platforma za duševno zdravje, ki povezuje najstnike in odrasle, ki potrebujejo pomoč pri duševnem zdravju, s prostovoljci prek aplikacij za komuniciranje, kot sta Telegram in Discord. Brezplačna storitev za duševno zdravje Koko je eksperimentirala z uporabo klepetalnega robota z umetno inteligenco za pomoč pri odzivanju na ljudi, ki iščejo podporo. Test je bil deležen kritik, da je neetičen in premalo pregleden.

Brezplačna storitev za pomoč pri duševnem zdravju ljudem omogoča, da prejmejo spodbudne besede podpore in nasvete od drugih testiranih odgovorov, ustvarjenih z umetno inteligenco, ne da bi o tem predhodno obvestili uporabnike.

Rob Morris, ustanovitelj brezplačne storitve za duševno zdravje Koko, je v nizu objav na Twitterju opisal, kako je podjetje testiralo uporabo chatbota za pomoč pri zagotavljanju podpore za duševno zdravje približno 4.000 ljudem.

Klepetalne robote je poganjal GPT-3, javno dostopen AI, ki ga je razvilo podjetje OpenAI s sedežem v San Franciscu. Na Discordu se uporabniki vpišejo v strežnik Koko Cares in pošljejo neposredna sporočila chatbotu Koko, ki postavi več vprašanj z več možnimi odgovori (npr. Katera je vaša najbolj črna misel o tem?). Nato osebne pomisleke, napisane z nekaj stavki besedila, anonimno deli z nekom drugim na strežniku, ki lahko anonimno odgovori s svojim kratkim sporočilom.

V uvodu v strežnik administratorji pišejo: "Koko te poveže z resničnimi ljudmi, ki te resnično razumejo. Ne terapevti, ne svetovalci, samo ljudje, kot si ti."

Zamisel o uporabi umetne inteligence kot terapevta še zdaleč ni nova, vendar je razlika med Kokovim eksperimentom in tipičnimi pristopi k terapiji z umetno inteligenco ta, da pacienti običajno vedo, da se ne pogovarjajo s pravim človekom. V primeru Koko je platforma zagotovila hibridni pristop, pri katerem si je človeški posrednik lahko predogledal sporočilo, preden ga je poslal, namesto neposredne oblike klepeta.

Kljub temu pa kritiki trdijo, da je Koko brez informiranega soglasja kršil prevladujoče etične norme, namenjene zaščiti ranljivih ljudi pred škodljivimi zlorabami raziskovalnih praks.

Dostop do članka tukaj

Naslovna fotografija: RawPixel