Контроверзна одлука ОпенАИ-а: Расформиран тим који је требало да се побрине да АИ не постане претња

ОпенАИ је расформирао свој тим за "суперусаглашеност", који је требало да осигура да општа вештачка интелигенција (АГИ) не постане претња за човечанство.

У индустрији вештачке интелигенције, "усаглашеност" се односи на напоре да се осигура да АИ програми деле исте циљеве као и људи који их користе. "Суперусаглашеност" се обично односи на осигурање да најнапреднији АГИ пројекти не постану претња својим ствараоцима.

Ова промена долази у тренутку када се компанија све више понаша као стартап из Силицијумске долине, фокусирајући се на брзо избацивање нових производа. ОпенАИ је саопштио да ће се рад који је обављао тим за суперусаглашеност сада бити интегрисан у истраживачке тимове компаније, промена која је започела пре неколико недеља.

Илија Сутскевер, суоснивач ОпенАИ-а и вођа тима за суперусаглашеност од његовог оснивања прошле године, напустио је компанију прошле недеље. Са њим је отишао и други вођа тима, Јан Лејке, који је оштро критиковао компанију при одласку.

Лејке је у петак на мрежи X изјавио да су "током протеклих година култура безбедности и процеси пали у други план због бљештавих производа." Он је критиковао ОпенАИ због недовољног улагања ресурса у "проналажење начина како да се усмере и контролишу АИ системи много паметнији од нас."

Генерални директор ОпенАИ-а, Сем Алтман, признао је да компанија има још много посла на пољу безбедности, додајући да ће ускоро објавити дужи пост на ту тему. Суоснивач и председник ОпенАИ-а, Грег Брокман, одговорио је на Лејкове критике рекавши да је компанија спремна да одложи пуштање нових производа због безбедносних забринутости.

Брокман је нагласио да "проналажење начина како да се нова технологија учини безбедном није лако", додајући да верују у испоруку великих предности док раде на ублажавању озбиљних ризика.

Ова одлука ОпенАИ-а није усамљен случај у АИ индустрији. Компаније као што су Google и Мета такође су реорганизовале своје тимове за безбедност и одговорност, тврдећи да је боље да се овај рад обавља широм компаније, а не у изолованим тимовима.

Критичари сматрају да је посвећен тим најбољи начин да се осигура да безбедносни рад добије потребне ресурсе и место за одлучивање.

У АИ индустрији тренутно доминирају они који желе да убрзају развој, док се они који виде егзистенцијалне опасности повлаче.