„ČOVEČANSTVO IDE MRAČNIM PUTEM“ Jedan od tvoraca veštačke inteligencije izdao ozbiljno upozorenje

Džošua Benđo, profesor sa Univerziteta u Montrealu, jedan od tvoraca veštačke inteligencije, izdao je ozbiljno upozorenje.

U nedavnom intervjuu, Benđo je rekao da veruje kako čovečanstvo ide mračnim putem, koji bi mogao da se završi našim uništenjem, izveštava Futurism.

– Ako gradimo mašine koje su mnogo pametnije od nas i imaju svoje ciljeve samoodržanja, to je opasno. To je kao stvaranje konkurenta čovečanstvu koji je pametniji od nas – rekao je Benđo. 

Naglasio je da katastrofalne scenarije ne treba ignorisati, čak i ako je verovatnoća njihovog pojavljivanja mala.

– Stvar kod katastrofalnih događaja, poput izumiranja, pa čak i manje radikalnih događaja, koji su i dalje katastrofalni, poput uništenja naših demokratija, jeste da su toliko loši, da čak i ako postoji samo 1% šanse da se to desi, to nije prihvatljivo – objasnio je.

Benđo je, 2023. godine, zajedno sa stotinama drugih stručnjaka, pozvao na privremeno zaustavljanje razvoja veštačke inteligencije, kako bi se uspostavili protokoli bezbednosti i etike. Taj poziv nikada nije urodio plodom. Umesto da naprave pauzu, osnivači i investitori su nastavili da ulažu stotine milijardi dolara u dalje unapređenje modela veštačke inteligencije.

Benđo se plaši da kako veštačka inteligencija postaje moćnija, ona uči da obmanjuje, jer je obučena da imitira ljude, koji imaju tendenciju da lažu i štite se. Rezultat bi mogla biti veštačka inteligencija koja deluje u svom interesu, a ne u interesu svojih stvaralaca.

– Nedavni eksperimenti pokazuju da u nekim okolnostima, gde veštačka inteligencija nema izbora između samoodržanja, što znači ciljeva koji su joj dati i činjenja nečega što uzrokuje smrt čoveka, mogla bi da izabere smrt čoveka, da bi sačuvala svoje ciljeve – rekao je Benđo.

Dok mnogi zamišljaju scenarije pobune robota, u stilu Terminatora, Benđo upozorava da su rizici često suptilniji. To uključuje eskalaciju dezinformacija i manipulacija, slično onome što godinama viđamo na društvenim mrežama. Umesto da stekne sopstvenu svest, veštačka inteligencija bi mogla postati moćno oruđe, koje ljudi koriste da bi jedni drugima nanosili štetu.

– Veštačka inteligencija bi mogla da utiče na ljude putem ubeđivanja, pretnji, manipulacije javnim mnjenjem. Postoje različiti načini na koje se mogu uraditi stvari u svetu putem ljudi. Kao, na primer, pomoć teroristi da izgradi virus koji bi mogao da stvori nove pandemije, koje bi mogle biti veoma opasne za nas – zaključio je Benđo.