ИНТЕРВЈУ
Тед Ћанг: Не би требало да стварамо дигиталне облике живота
Тед Ћанг, аутор највизионарскије научне фантастике нашег времена, мајсторски креира будућности које нису само засноване на најновијим научним и технолошким сазнањима већ постављају и дубока алегоријска питања о етичким дилемама везаним за људску слободу, вољу, свест, живот и срећу.
Чланица уредничког тима DISTANCE.media, Доминик Шен (истраживач у области информационих студија), разговарала је са Ћангом о тренутним и будућим правцима развоја вештачке интелигенције (АИ) и вештачког живота (АЛИФЕ), настављајући да истражује ове сложене теме, преноси магазин Греен News.
Поред тога што сам дугогодишњи обожавалац ваших романа, истраживач сам у области дизајна интеракције и фокусирам се на однос између људи, микроба и рачунара. Данас бих желела да разговарамо о вашем креативном процесу, језику и етичким питањима у развоју АИ. Видела сам вашу презентацију на конференцији АЛИФЕ2023, где сте говорили о образовању „дигијената“ (Виртуелна животна форма која се појављује у делу. Може да учи језик и понашање, а такође показује радозналост и емоционалне изразе), помињући ваш рад „Животни циклус софтверских објеката.“ Чула сам вашу критику према лаком антропоморфизму, који је чест у технолошком контексту, нарочито када се ради о АИ и виртуелним ликовима. Сматрам да је ова тема фасцинантна, нарочито јер ме је дирнула ваша интерпретација Аниног (Ана је главни лик у "Животном циклусу софтверских објеката" која се бори да обезбеди правично животно окружење за дигијенте које је одгајила) односа према њеним дигијентима. Која је разлика између Anninog односа према дигијентима и манипулативног антропоморфизма од стране корпорација, који сте критиковали?
- Разлика је у томе што дигијенти у причи заиста имају субјективна искуства, док чатботови које данас видимо то немају. То је слично разлици између пса и виртуелног пса. Ако неко изгладњује биолошког пса, он заиста пати. Ако неко „не нахрани“ виртуелног пса, виртуелни пас не осећа ништа. Корпорације можда желе да искористе људску емотивну реакцију на анимацију цвилећег пса, али то је само анимација. Дигијенти у мојој причи су били способни за праву патњу, и физичку и емоционалну, баш као што су биолошки пси. Апсолутно је прикладно да људи делују како би смањили физичку и емоционалну патњу животиња, и мислим да би такође било прикладно да људи делују како би смањили патњу дигиталних организама. Али тренутно немамо ништа слично дигиталним облицима живота. Све што имамо су анимације и звучни фајлови.
Тачно. Дакле, чињеница да је Џекс био способан за физичку и емоционалну патњу омогућила је аутентичну повезаност између њега и Anne. Да ли би онда требало размотрити имплементацију патње у дигиталне организме да бисмо избегли манипулативни корпоративни приступ технологији?
- Повезаност коју је Ана имала са Џексом (Џекс, дигијент који Ана негује, један је од главних протагониста у "Животном циклусу софтверских објеката) била је стварна као повезаност власника пса са псом. Можда је боља паралела веза коју неки приматолози имају са чимпанзама које су одгајали. Не мислим да би требало да стварамо дигиталне облике живота, управо зато што нам не треба нова категорија бића која су способна за патњу.
Разумем. То је важна порука за ИТ индустрију.
- Мислим да је теоретски могуће да створимо дигиталне облике живота који би могли да доживе и радост и патњу, али мислим да је спречавање патње много већи приоритет. Тренутно људи узрокују огромну патњу животињама, а животиње су направљене од крви и меса, па је лако видети да пате. Дигитални организам не би био од крви и меса, и многи би људи занемарили његову патњу. Зато, ако бисмо створили дигиталне организме, мислим да бисмо им неизбежно проузроковали огромну патњу.
На неки начин, ситуација у којој су се Ана и Дерек нашли је трагедија коју наше друштво треба да избегне?
- Да будем јасан, ово је потпуно хипотетичко разматрање. Проблем са којим се тренутно суочавамо је да корпорације користе наше емоционалне реакције на анимације и звучне датотеке како би од нас извукле новац. Као што сам рекао Анилу Сету (Односи се на разговор који је вођен са компјутерским неуро-научником Анилом Сетом на АЛИФЕ2023), то је такође лоше, али је сасвим другачији проблем. Из филозофског угла, проблем патње дигиталних организама је интересантан за мене. Али из практичног угла, то неће бити нешто о чему ћемо бринути веома дуго. Довођење у питање претпоставке да је више технологије увек боље
Следеће бих желела да повежем ово питање са вашим недавним есејом у часопису The New Yorker и посматрам га из практичније перспективе. У свом чланку сте написали: „За технолошке стручњаке, најтежи посао од свих – задатак који највише желе да избегну – биће довођење у питање претпоставке да је више технологије увек боље и веровања да могу наставити као до сада и да ће се све једноставно решити.“ Ми, истраживачи технологије, требало би озбиљно да схватимо вашу поруку. Али како замишљате пожељан облик АИ агента као консултанта?
- У чланку на који се позивате, мој фокус је на томе како широка категорија технологија које називамо АИ оснажује капитал на штету рада. Питање које ме занима је како можемо користити ове технологије да оснажимо рад. Како бисмо могли да их искористимо за побољшање живота људи који раде? Немам добар одговор на то.
Рад је другачија ситуација у поређењу са бригом о дигијентима?
- Веома различита. Постоје начини да се технологија користи како би се људима као радницима одузела моћ, као и начини да се технологија користи за извлачење веће вредности од људи као потрошача. Ова друга категорија обухвата виртуелне љубимце или романтичне чатботове.
Ово ме наводи да мислим да је одлука Блуе Gamme да се бави дигијентима на крају била грешка, уколико се то икада деси у стварности. Веома занимљиво. У вези с тим, како видите улогу, на пример, ChatGPT-a у радном окружењу?
- Тренутно, ChatGPT није довољно поуздан да замени људе у готово било чему. Свакодневно постоји нови наслов о томе како је ChatGPT направио грешку у неком задатку. Волимо идеју технолошких решења, јер обећавају тренутне резултате
Да ли је могуће да наше друштво развије технологију која заиста оснажује људе као раднике? Шта мислите да је потребно да се позабавимо овим питањем?
- То је кључно питање. Евгениј Морозов је сковао израз "техно-решењизам" за описивање тенденције да се све посматра као проблем који се може решити технологијом. Јасно је зашто компаније подржавају ову тенденцију, јер је технолошко решење производ који могу продати. Али шта је са проблемима чије решење је првенствено политичке природе? На пример, постоји ли технологија која би помогла радницима да се синдикализују? Чак и ако таква технологија постоји, да ли је то производ који неко може профитабилно продати?
Тачно. То је перспектива која је потребна и која се може применити у нашем друштву. Проблем техно-решењизма није само у пословним корпорацијама већ и у нама, такозваним потрошачима. Ова тема ме подсећа на ваше помињање људске жеље (за дигиталним облицима живота или савршеним језиком) у вашем разговору са Анилом Сетом.
- Да, ми као потрошачи волимо идеју технолошких решења јер она обећавају тренутне резултате.
Слажем се. Верујем да читање научнофантастичних наратива попут "Животног циклуса софтверских објеката" помаже да превазиђемо решењизам јер нас увлачи у дилеме које се не могу решити технологијом.
- Друштвени проблеми не могу се решити појединцима који делују у изолацији. Куповина виртуелне девојке је нешто што усамљени момак може да уради сам. Реструктурисање нашег друштва како би се смањила усамљеност није. Добра научна фантастика говори о замишљању не-очигледних последица.
Желела сам да сазнам како користите два типа писања – научну фантастику и критичке есеје. С обзиром на то да правите друштвену сатиру и у својој фикцији, а ваши есеји су моћни као и ваше приче, како разликујете своје критичке есеје од својих романа? Јесу ли међусобно повезани?
- Писање есеја је нешто што сам почео тек недавно, и још увек покушавам да схватим свој однос према томе.
Разумем. Замишљала сам да бисте неке од тема обрађених у вашем есеју могли користити за изградњу нових романа?
- За мене, мотивација за писање фикције је веома различита од мотивације за писање есеја. У својој фикцији, углавном покушавам да испричам причу и, надам се, изазовем емоционални одговор.
Шта очекујете као реакцију на своје есеје?
- Нисам имао конкретна очекивања. Било је изненађење за мене што су привукли толико пажње.
Каква вас је реакција изненадила?
- Згрожен сам стварима које Силицијумска долина ради, али мислим да већ постоји много људи који боље од мене указују на њене недостатке. Али људи су желели да ме интервјуишу због есеја, што нисам очекивао.
Претпостављам да је то зато што се утицај ваших ставова као писца научне фантастике разликује од утицаја инжењера или истраживача. Шта мислите о употреби научне фантастике у академским круговима? Као предавач, користим прототипове научне фантастике и задатке где студенти пишу врло кратке дистопијске приче како би развили критичку перспективу. Да ли очекујете нешто од академика и студената у њиховом читању и писању научне фантастике?
- Мислим да добра научна фантастика говори о замишљању не-очигледних последица. То је корисна вештина у многим контекстима. Теодор Стурџен је рекао да научна фантастика треба да постави следеће питање. Лако је поставити прво питање, али открити следеће је тешко.
На АЛИФЕ2023 у Сапору, говорили сте о концепту Савршеног језика Умберта Ека и указали на дубоко укорењену тежњу за том врстом идеје, али сматрате да је то недостижан сан. Овај разговор ме подсетио на Хептапод Б у вашој причи "Причео твог живота", писани језик који користе хептаподи. Узимајући у обзир природни језик као једну од основних вештачких комуникацијских технологија, можемо ли осмислити идеју за еволуцију нашег језика како бисмо постигли бољу повезаност?
- Језици нису статични; они расту. Сваки језик има потенцијално бесконачну изражајну моћ, тако да нам није потребан нови језик да побољшамо наше међусобне односе. Временом ће наша култура генерисати нове идеје и начине за изражавање тих идеја постојећим језиком. Све што нам треба можемо постићи језицима које већ имамо.