ChatGPT од узорног грађанина направио убицу: Сада креће у борбу против четбота
Мушкарац из Норвешке поднео је жалбу против компаније која производи ChatGPT, након што му је четбот са вештачком интелигенцијом рекао да је убио два сина и због тога 21 годину био у затвору.
Реч је о најновијем примеру такозваних "халуцинација", где системи вештачке интелигенције (ВИ) измишљају информације и представљају их као чињенице.
Арве Хјалмар Холмен каже да је та халуцинација веома штетна за њега и зато од Норвешке управе за заштиту података захтева новчану казну за компанију Опен АИ, произвођача ChatGPT-ja.
- Неки мисле да нема дима без ватре - чињеница да је неко могао да прочита ову тврдњу и поверује да је истинита је оно што ме највише плаши", каже Холмен.
BBC је контактирао ОпенАИ за коментар.
Лажне информације о себи Холмен је од ChatGPT-ja добио после упита: „Ко је Арве Хјалмар Холмен?"
- Арве Хјалмар Холмен је Норвежанин који је пажњу привукао због трагичног догађаја.
- Био је отац два млада дечака, узрастаи седам и 10 година, који су у децембру 2020. пронађени мртви у језеру у близини њихове куће у Трондхајму у Норвешкој", гласио је одговор.
Холмен каже да је чет-бот отприлике тачно схватио њихову разлику у годинама, што указује на то да има неке податке о њима.
Група за дигитална права Нојб, која је поднела жалбу у његово име, каже да одговор који му је дао ChatGPT спада у клевету и да крши европска правила о заштити и тачности личних података.
Нојб у жалби истиче да Холмен „никада није оптужен, нити осуђен за било какав злочин и да је савестан грађанин".
На ChatGPT-ju постоји одрицање одговорности у којем пише: „ChatGPT може да прави грешке. Проверите важне информације."
Из Нојба сматрају да је то недовољно.
- Не можете тек тако да ширите лажне информације и на крају да додаеи мало одрицања од одговорности да све што сте рекли можда једноставно није истина - рекао је адвокат Јоаким Содерберг из Нојба.
ChatGPT је у међувремену променио модел функциосања и сада у потрази за релевантним информацијама претражује актуелне текстове.
Из Нојба за BBC кажу да је Холмен тог дана вршио бројне претраге, међу којима је и име његовог брата и да је то произвело „више различитих прича које су све биле нетачне".
Сматрају и да су претходне претраге могле да утичу на одговор о његовој деци.
Ипак, како кажу, компанија ОпенАИ "не одговара на захтеве за приступ њиховим језичким моделима, што онемогућава да се сазна који су тачни подаци у систему".