Badanie przeprowadzone przez naukowców z ETH Zurich wykazało, że sztuczna inteligencja potrafi precyzyjnie przewidywać cechy osobowości użytkownika na podstawie historii rozmów z czatbotami, takimi jak ChatGPT. Analiza obejmowała ponad 62 tysiące czatów 668 użytkowników z USA i Wielkiej Brytanii, które zostały porównane z wynikami standardowych testów psychologicznych opartych na modelu OCEAN (Wielka Piątka). Użyty model językowy RoBERTa-base osiągnął dokładność od 35% do 61,8% w identyfikowaniu cech takich jak otwartość, sumienność, ekstrawersja, ugodowość i neurotyczność. Skuteczność systemu rosła wraz z długością historii rozmów, co sugeruje, że im częściej i dłużej użytkownik rozmawia z AI, tym dokładniejszy staje się jego portret psychologiczny.

Naukowcy ostrzegają, że te dane mogą być wykorzystywane do manipulacji — np. poprzez spersonalizowane wiadomości wpływające na decyzje zakupowe, zaangażowanie czy nawet poglądy polityczne. W badanej grupie użytkownicy najczęściej ujawniali informacje o pracy, stylu życia, relacjach i stanie psychicznym. Niektórzy wpisywali nawet hasła czy dane uwierzytelniające. Choć główne modele AI deklarują neutralność, istnieją alternatywne czatboty zaprogramowane do działania bez ograniczeń etycznych, co zwiększa ryzyko nadużyć.

Badacze proponują narzędzia ochronne, które automatycznie wykrywałyby i usuwały wrażliwe dane przed ich przetworzeniem przez model. Celem jest ochrona prywatności użytkowników i zapobieganie nieświadczemu ujawnianiu informacji. Badanie opublikowano na arXiv (2026), co wskazuje na potrzebę regulacji i świadomości w codziennym korzystaniu z asystentów AI.