Vrhunski strokovnjaki za visoko tehnologijo svarijo: ustavimo razvoj umetne inteligence

Več strokovnjakov za visoko tehnologijo, med njimi prvi mož Tesle Elon Musk in soustanovitelj Appla Steve Wozniak, poziva k začasni ustavitvi razvoja mogočnih sistemov umetne inteligence. V odprtem pismu, ki so ga objavili v sredo, predlagajo vsaj šest mesecev za razmislek. V tem času naj bi dorekli varnostne standarde za razvoj umetne inteligence.

Pismo je objavil inštitut Future of Life, v prevodu Prihodnost življenja, pri katerem Musk sodeluje kot zunanji svetovalec. Poleg njega ga je podpisalo več kot 1000 ljudi, med njimi več sodelavcev Googlove hčerinske družbe za umetno inteligenco DeepMind. "Sistemi umetne inteligence s človeku konkurenčno inteligenco lahko pomenijo veliko tveganje za družbo in človeštvo," so zapisali v pismu.

Musk med začetnimi vlagatelji v OpenAI

Napisali so ga v odgovor na začetek delovanja najnovejše različice programa GPT-4 podjetja OpenAI, ki ga podpira Microsoft. Podjetje pravi, da je najnovejša različica veliko zmogljivejša od prejšnje, ki je bila uporabljena za klepet. Zdaj je s pomočjo umetne inteligence sposobna ustvariti besedila na podlagi najkrajših pozivov.

"Zmogljive sisteme umetne inteligence je treba razvijati šele, ko bomo prepričani, da bodo njihovi učinki pozitivni, tveganja pa obvladljiva," so prepričani podpisniki.

Musk je bil začetni vlagatelj v OpenAI, več let je bil tudi član upravnega odbora, njegovo avtomobilsko podjetje Tesla pa med drugim razvija sisteme umetne inteligence, ki pomagajo poganjati tehnologijo vozil brez voznika.

Poziv k mednarodni razpravi

Kanadski pionir umetne inteligence Yoshua Bengio je na virtualni novinarski konferenci v Montrealu opozoril, da družba ni pripravljena na to zmogljivo orodje in njegove morebitne zlorabe.

"Upočasnimo. Poskrbimo, da bomo razvili boljše varovalke," je dejal Bengio in pozval k temeljiti mednarodni razpravi o umetni inteligenci in njenih posledicah, kot je po njegovih besedah svet storil v zvezi z jedrsko energijo in jedrskim orožjem.

Odprto pismo navaja zapis ustanovitelja OpenAI Sama Altmana na blogu, da bi bilo na neki točki morda pomembno pridobiti neodvisen pregled, preden začnemo usposabljati prihodnje sisteme. "Strinjamo se. Ta trenutek je zdaj," je še poudaril Bengio.

Razviti je treba varnostne protokole

"Zato pozivamo vse laboratorije za umetno inteligenco, da nemudoma vsaj za šest mesecev prekinejo usposabljanje sistemov umetne inteligence, ki so zmogljivejši od GPT-4," so zapisali podpisniki. Vlade so pozvali, naj uvedejo moratorij, če se podjetja s tem ne bodo strinjala.

Teh šest mesecev bi po mnenju avtorjev pisma morali izkoristiti za razvoj varnostnih protokolov, sistemov upravljanja umetne inteligence in preusmeritev raziskav v zagotavljanje natančnejših, varnejših, zaupanja vrednih in zvestih sistemov umetne inteligence.

Novo na Metroplay: Nuša Lesar o najlepšem letu svojega življenja, materinstvu in delu voditeljice