Као авион пуштен да лети без ТЕСТИРАЊА: Професор Харари о опасностима ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ

Више од 700 стручњака и истраживача у водећим компанијама које се баве вештачком интелигенцијом учествовало је прошле године у анкети у којој су их питали и о могућим ризицима даљег развоја вештачке интелигенције. Половина је проценила да изгледи да овакви системи у будућности доведу до нестанка људске врсте (или бар произведу трајне и погубне последице) износе 10 одсто и више. Технолошке компаније које данас развијају велике језичке моделе (ларге лангуаге модел – LLM) утркују се да укрцају човечанство у тај авион, пише професор Јувал Ноа Харари, аутор књиге "Нексус - Кратка историја информационих мрежа, од каменог доба до вештачке интелигенције"

Фармацеутским компанијама није дозвољено да продају нове лекове пре него што их подвргну ригорозним проверама безбедности. Биотехничке лабораторије не смеју да ослобађају нове вирусе само да би импресионирале потенцијалне инвеститоре. Исто тако, системи вештачке интелигенције са способностима каквима располаже ГПТ-4 не би смели да се уводе у животе милијарди људи брже него што је наша култура способна да их безбедно апсорбује. Трка за заузимање водеће позиције на тржишту не сме бити једини параметар од кога зависи брзина усвајања технологије која може имати несагледиве последице. Морамо напредовати оном брзином која ће осигурати да посао обавимо како треба.

Баук вештачке интелигенције прогања човечанство још од половине 20. века, али донедавно је то била далека будућност, тема за научну фантастику, а не за озбиљне научне и политичке дебате. Наш ум не може да појми способности којима системи као што је ГПТ-4 већ располажу нити да прати њихов експоненцијални раст и брзину развоја. Ипак, већина тих вештина своди се на једну ствар: то је способност манипулације и генерисања језика, било речима, звуцима или сликама.

У почетку беше реч. Језик је оперативни систем људске културе. Из језика настају митови и закони, богови и новац, уметност и наука, пријатељства, државе, компјутерски код. Степен владања језиком који су системи вештачке интелигенције већ достигли показује да они могу хаковати и мењати оперативни систем цивилизације. Овладавши језиком, вештачка интелигенција је добила кључ који отвара сва врата наше цивилизације, од банкарских сефова до светих места.

Какав живот нас чека у свету у коме ће велики постотак прича, мелодија, слика, закона и политика обликовати не-људска интелигенција, обучена да с надљудском ефикасношћу користи слабости, предрасуде и зависности људског ума, уз то способна да развије однос присности с људским бићима? У играма као што је шах већ одавно нема људи који могу победити рачунар. Шта ће бити када слична ситуација наступи у уметности, политици или религији?

Вештачкој интелигенцији неће требати много времена да инкорпорира сву људску културу – све што смо хиљадама година стварали – да је свари и почне да нас засипа новим културним артефактима. Не само школским есејима, него и политичким говорима, идеолошким манифестима, светим књигама и новим култовима. Могуће је да на председничким изборима у Америци 2028. године кампање неће водити људи.

Људска бића обично немају директан приступ стварности. Затворени смо у чауру своје културе и стварност доживљавамо кроз њену призму. Наше политичке ставове обликују новински уводници и разговори с пријатељима. Наше сексуалне преференције су под утицајем уметности и религије. Досад су чауру културе плела друга људска бића. Како ће изгледати стварност када је искусимо кроз призму која није дело људске интелигенције?

Хиљадама годинама смо живели у сновима других људи. Клањали смо се боговима, трагали за идеалима лепоте, посвећивали живот сукобима који су биле производ имагинације пророка, песника и политичара. Ускоро можемо завршити унутар халуцинација једне не-људске интелигенције.

У филму Терминатор роботи ходају улицама и пуцају на људе. У филму Matrix се претпоставља да вештачка интелигенција мора добити физички приступ нашим мозговима и повезати их с компјутерском мрежом да би могла да контролише људско друштво. Заправо, све што је вештачкој интелигенцији потребно да нас затвори у свет илузија, сличан свету из Matrixa, јесте да загосподари језиком. Није јој потребно ни оружје ни уградња чипова у мозгове. Ако неко буде пуцао, биће то људи, они којима је вештачка интелигенција испричала одговарајућу причу.

Страх да смо затворени у свет илузија прогони човечанство много дуже него баук вештачке интелигенције. Дошао је тренутак да се суочимо с Декартовим демоном, Платоновом пећином, будистичком мајом. Ако завеса илузије падне на читаво човечанство, можда никада више нећемо моћи да је уклонимо – или бар схватимо да постоји.

Прво место сусрета вештачке интелигенције и човечанства биле су друштвене мреже. У том првом контакту човечанство је поражено. Остао је горак укус у устима као најава догађаја који следе. Примитивна вештачка интелигенција коришћена је на друштвеним мрежама не да производи садржаје, већ да уређује садржај које производе корисници. Вештачка интелигенција управља оним што видимо на екранима, бира речи, клипове и слике који ће стићи до нас, и чини то на основу њиховог капацитета да стекну вирални статус, да изазову најснажније могуће реакције и највише ангажовања.

Мада веома примитивна, вештачка интелигенција друштвених мрежа била је довољна да произведе завесу илузија које продубљују поларизације у друштву, поткопавају наше ментално здравље и угрожавају демократију. Милиони људи су поверовали да су илузије стварност. Сједињене Државе имају најнапредније информационе технологије у историји света, али нису постигле консензус о томе ко је победио на последњим изборима. Мада смо сви свесни погубних ефеката друштвених мрежа, то је тема којом се нико не бави јер су наше друштвене, економске и политичке институције већ дубоко уплетене у њих.

Велики језички модели су друга тачка контакта с вештачком интелигенцијом. Не смемо дозволити да поново доживимо пораз. Али на основу чега уопште верујемо да је човечанство способно да нове облике вештачке интелигенције потчини својим потребама? Ако наставимо по старом, нова и моћнија вештачка интелигенција ће се поново ставити у службу стицања профита и моћи, иако то разара темеље друштва.

Вештачка интелигенција нам може помоћи да победимо рак, откријемо нове лекове који спасавају животе, пронађемо решења за климатску и енергетску кризу, да учинимо још безброј ствари које не можемо ни да замислимо. Али небитна је достигнута висина тог солитера ако је темељ попустио и све се срушило.

Прави тренутак за обрачун с вештачком интелигенцијом је сада, пре него што наша политика, економија и свакодневни живот постану зависни од ње. Демократија је разговор, а разговор је језик. Ако је сам језик хакован и манипулисан, разговор више није могућ, па демократија постаје неодржива. Када наступи хаос, биће прекасно да се било шта учини.

Можда некога још мучи следеће питање: ако не напредујемо најбрже што можемо, зар онда запад неће изгубити трку с Кином? Не. Коришћењем неконтролисане вештачке интелигенције коју уводимо у друштво и дајемо јој божанску моћ ослобођену сваке одговорности заправо бирамо најбржи пут до пораза у трци с Кином.

Још можемо изабрати будућност какву желимо. Користи које вештачка интелигенција обећава остварићемо тек када се њене божанске моћи ограниче одговарајућим контролама и одговорностима.

Призвали смо ванземаљску интелигенцију. Не знамо много о њој, осим да је веома моћна и да нуди блиставу будућност, али и могућност да уништи нашу цивилизацију. Позивамо светске лидере да буду на висини изазова који је пред њима. Први корак јесте да купимо себи довољно времена да институције изграђене у 19. веку прилагодимо свету вештачке интелигенције, да научимо како да овладамо њом пре него што она завлада нама.