Več strokovnjakov za visoko tehnologijo, med njimi tudi direktor Tesle Elon Musk in soustanovitelj Appla Steve Wozniak, poziva k začasni ustavitvi razvoja mogočnih sistemov umetne inteligence
Novica je bila objavljena 30.3.2023
V odprtem pismu, ki so ga objavili v sredo, predlagajo vsaj šest mesecev za razmislek. V tem času naj bi dorekli varnostne standarde za razvoj umetne inteligence.
"Sistemi umetne inteligence s človeku konkurenčno inteligenco lahko pomenijo veliko tveganje za družbo in človeštvo," so zapisali v pismu.
Pismo so napisali ga v odgovor na začetek delovanja najnovejše različice programa GPT-4 podjetja OpenAI, ki pravi, da je najnovejša različica veliko zmogljivejša od prejšnje, ki je bila uporabljena za klepet. Zdaj je s pomočjo umetne inteligence sposobna ustvariti besedila na podlagi najkrajših pozivov.
"Zmogljive sisteme umetne inteligence je treba razvijati šele, ko bomo prepričani, da bodo njihovi učinki pozitivni, tveganja pa obvladljiva," so še prepričani podpisniki.
Družba naj ne bi bila pripravljena
Kanadski pionir umetne inteligence Yoshua Bengio je na virtualni novinarski konferenci v Montrealu opozoril, da družba ni pripravljena na to zmogljivo orodje in njegove morebitne zlorabe, je poročala francoska tiskovna agencija AFP.
"Upočasnimo. Poskrbimo, da bomo razvili boljše varovalke," je dejal Bengio in pozval k temeljiti mednarodni razpravi o umetni inteligenci in njenih posledicah, kot je po njegovih besedah svet storil v zvezi z jedrsko energijo in jedrskim orožjem.
Odprto pismo navaja zapis ustanovitelja OpenAI-ja Sama Altmana na blogu, da bi bilo na neki točki morda pomembno pridobiti neodvisen pregled, preden začnemo usposabljati prihodnje sisteme. "Strinjamo se. Ta trenutek je zdaj," je še poudaril Bengio.
"Zato pozivamo vse laboratorije za umetno inteligenco, da nemudoma vsaj za šest mesecev prekinejo usposabljanje sistemov umetne inteligence, ki so zmogljivejši od GPT-4," so zapisali podpisniki. Vlade so pozvali, naj uvedejo moratorij, če se podjetja s tem ne bodo strinjala.
Teh šest mesecev bi po mnenju avtorjev pisma morali izkoristiti za razvoj varnostnih protokolov, sistemov upravljanja umetne inteligence in preusmeritev raziskav v zagotavljanje natančnejših, varnejših, zaupanja vrednih in zvestih sistemov umetne inteligence.
Dostop do celotnega članka tukaj
Vir: MMC-RTVslo
Naslovna fotografija: RawPixel
