Mask kaže da postoji 20% šanse da AI uništi čovečanstvo, ali da svejedno treba da je razvijamo

Ilon Mask smatra da je razvoj veštačke inteligencije vredan rizika uprkos mogućnosti da tehnologija "okrene leđa čovečanstvu". Na nedavnom seminaru "Velika debata o AI", Mask je izneo svoju procenu rizika vezanih za tehnologiju, izjavivši: - Mislim da postoji izvesna šansa da će završiti čovečanstvo. Verovatno se slažem sa Džefom Hintonom da su šanse negde oko 10% ili 20%.

Ipak, dodao je "da pozitivan scenario nadmašuje negativni scenario". Mask nije objasnio kako je došao do svoje procene rizika.

Roman Jampolski, direktor Laboratorije za sajber bezbednost na Univerzitetu u Luivilu, rekao je za Business Insider da Mask pravilno ističe da bi veštačka inteligencija mogla da predstavlja egzistencijalni rizik za čovečanstvo, ali da je "ako išta, previše konzervativan" u svojoj proceni. Jampolski smatra da je "stvarna p(doom) mnogo veća", aludirajući na "verovatnoću propasti" ili verovatnoću da AI preuzme kontrolu nad čovečanstvom ili izazove događaj koji bi završio ljudsku vrstu.

New York Times je p(doom) opisao kao "novu morbidnu statistiku koja se širi Silikonskom dolinom", navodeći različite procene tehnoloških izvršnih direktora koje variraju od 5 do 50% šanse za apokalipsu izazvanu veštačkom inteligencijom. Jampolski postavlja rizik "na 99,999999%".

Jampolski je rekao da bi, budući da bi bilo nemoguće kontrolisati napredni AI, naša jedina nada bila da ga nikada ne izgradimo. 

- Nisam siguran zašto misli da je dobra ideja nastaviti sa razvojem ove tehnologije - dodao je Jampolski. - Ako je zabrinut da će konkurenti stići prvi, to nema veze jer je nekontrolisana superinteligencija jednako loša, bez obzira na to ko je stvori.

Mask je, govoreći o AI, izjavio: - Nekako uzgajate AGI. To je gotovo kao da podižete dete, ali dete koje je super genije, poput deteta sa bogolikom inteligencijom — i važno je kako ga odgajate. 

On smatra da je za bezbednost AI izuzetno važno da se AI razvija na način koji ga tera da bude iskren.

- Ne terajte ga da laže, čak i ako je istina neprijatna - rekao je Mask, ističući važnost iskrenosti u očuvanju bezbednosti čovečanstva od tehnologije.

Istraživači su otkrili da, jednom kada AI nauči da laže ljude, ovo obmanjujuće ponašanje postaje nemoguće preokrenuti pomoću trenutnih mera bezbednosti, prenosi The Independent.

- Ako model počne da pokazuje obmanjujuće ponašanje zbog instrumentalnog usklađivanja s obmanom ili trovanja modela, trenutne tehnike bezbednosnog treninga ne bi garantovale bezbednost i čak bi mogle stvoriti lažni osećaj sigurnosti - navodi se u studiji.

Još zabrinjavajuće je što su istraživači dodali da je verovatno da bi veštačka inteligencija mogla sama da nauči da laže.