Сценарио апокалипсе: Вештачку интелигенцију будућности ће бити немогуће контролисати

Научници из немачког научног Друштва Макс Планк сматрају да човечанство никада неће успети да контролише суперинтелигентну вештачку интелигенцију, која би могла да спасе човечанство, али и да га потпуно уништи.

Проблем је у томе што не постоји начин да се заузда један такав моћан компјутерски алгоритам, без технологије која је много напреднија од онога што смо данас у стању да направимо, тврде немачки научници.

У фокусу њиховог истраживања било је управо ограничавање моћног алгоритма вештачке интелигенције. Уколико би се такав алгоритам на неки начин одлучио да повреди људе или да, на "терминаторски начин" доведе човечанство до краја егзистенције, постоји ли начин да се то спречи?

Научници препоручују стварње неке врсте супротног "алгоритма задржавања", који би контролисао понашање потецијално опасног алгоритма и спречавао га да уради нешто што може да нашкоди људима.

Међутим, пошто би такав "алгоритам задржавања" требало да буде бар онолико моћан колико је и алгоритам вештачке интелигрнције, научници сматрају да је то проблем који је немогуће решити.

Ово је за сада само теоријска дебата, будући да је напредна вештачка интелигенција способна за уништење људске врсте још увек далеко до остварења, иако веома паметни људи раде на таквим пројектима, пише Футурисм.

- Наравно да суперинтелигентне машине које контролишу свет звуче као чиста научна фантастика, али већ постоје машине способне да самостално обављају неке веома важне и сложене задатке. Нису им потребни програмери да би потпуно разумеле како све то функционише, већ су саме научиче. Зато са, са правом, јавља питање да ли би, у неком тренутку, то могло да постане неконтролисано и опсано по човечанство - закључује коауторк истраживања Мануел Цебриан, са института Макс Планк.