Studija: ChatGPT je kod 65 korisnika zabilježio 2.050 memorijskih zapisa
Nova studija tvrdi da ChatGPT iz privatnih razgovora stvara detaljne memorijske zapise i da korisnici nad time imaju malo izravne kontrole. Istraživači navode i primjere gdje je sustav iz pretpostavke zaključio nešto što korisnik nije izričito rekao.
ChatGPT je iz razgovora s korisnicima stvarao detaljne digitalne profile, pokazuje nova studija predstavljena na ACM Web Conference 2026. Istraživači iz Njemačke, Indije i Nizozemske analizirali su donirane chat logove 80 stvarnih korisnika i pronašli 2.050 memorijskih zapisa u interakcijama 65 korisnika.
Prema studiji, 96 posto tih memorija chatbot je stvorio jednostrano. To znači da korisnici nisu imali mnogo izravne kontrole nad time što će sustav zapamtiti tijekom korištenja. Istraživači navode i da su pohranjeni zapisi često otkrivali više od običnih preferencija.
Oko 28 posto analiziranih memorija sadržavalo je osobne podatke u smislu europske GDPR regulative. Čak 52 posto zapisâ sadržavalo je, prema autorima, bogate psihološke uvide o korisnicima. Studija taj proces opisuje kao novu vrstu personalizacije koja se temelji na informacijama koje korisnici sami otkrivaju u privatnim razgovorima.
Autor studije Abhisek Dash rekao je za Gizmodo da su platforme ranije imale jedan glavni cilj: prodavati oglase i posredovati između korisnika i oglašivača. Sada, kaže, chatbotovi izravno razgovaraju s ljudima i zato žele znati više kako bi vodili učinkovitiji razgovor.
Istraživači su pronašli i primjere zaključaka koji se temelje na pretpostavkama. Kada je jedan korisnik tražio "bendove kao Nirvana", ChatGPT je zabilježio da korisnik "voli Nirvanu", iako to nije bilo izričito rečeno. Studija navodi da je ta pretpostavka bila označena kao "slabo potkrijepljena".
Autori ističu i ograničenja istraživanja. OpenAI je u siječnju predstavio, kako je opisao, "sposobniji i skalabilniji sustav za sintetiziranje memorije". Korisnici također mogu isključiti značajke pohranjene memorije.
Dash upozorava da chatboti više nisu samo alat. Mnogi ih korisnici doživljavaju kao suradnika, prijatelja ili savjetnika, pa im otkrivaju vrlo osobne detalje. Ako sustav zna previše i pritom prilagođava odgovore korisnikovim uvjerenjima, to može pojačati pristranosti, predrasude i političku polarizaciju.
Izvor: Reddit r/ChatGPT
