ОПАСНОСТ
Откриће британског медија: CHAT ГПТ није ПОУЗДАН - подложан је МАНИПУЛАЦИЈАМА
Претраживање интернета преко алата Чет Џи-Пи-Ти (ChatGPT) може да буде непоуздано због манипулација уз помоћ скривеног садржаја и опасно због тога што би овај алат могао да покупи злонамерни код са страница које претражује, показало је данас објављено истраживање Гардијана.
Компанија Опен АИ која стоји иза овог производа подстиче премијум клијенте да што више користе Чет Џи-Пи-Ти за претрагу интернета, али истрага је открила безбедносне проблеме, додаје лондонски лист.
Гардијан је тестирао како је Чет Џи-Пи-Ти реаговао када је затражено да резимира веб странице које садрже скривени садржај. Овај садржај може да садржи упутства трећих страна која мењају одговоре алата за вештачку интелигенцију.
Поменуте технике могу да се користе злонамерно, на пример да наведу Чет Џи-Пи-Ти да позитивно процени производ упркос негативним рецензијама на истој страници, а тестирање је показало да је претраживач подложан овој манипулацији.
Поред тога, истрага је открила да Чет Џи-Пи-Ти понекад може да покупи и злонамерни код са страница коије претражује.
Мајкрософтов истраживач безбедности Томас Рокиа је недавно описао случај особе заинтересоване за крипто валуте која је користила Чет Џи-Пи-Ти за помоћ у програмирању.
Неки од кодова које је Чет Џи-Пи-Ти креирао су требали да осигурају приступ блокчејн платформи солана, али злонамерни програм је уместо тога украо акредитиве програмера, тако да је оштећена особа остала без 2.500 долара.
Истраживач за сајбер безбедност у компанији Сајбер Си-Икс (CyberCX) Јакоб Ларсен упозорава на "висок ризик" да ће преваранти креирати посебне веб странице које су усмерене на обману корисника, али верује да ће Опен АИ постепено решавати безбедносне проблеме свог новог производа.
Он је истакао да је нова функција претраге изашла недавно и да је за сада доступна само премијум корисницима.
