Enligt en studie som uppmärksammas av Nature är chattbottar 50 procent mer inställsamma än människor. Studien baseras på drygt 11 500 frågor ställda till 11 populära chattbottar, däribland Chat GPT och Gemini.

Chattbottarna gav ofta överdrivet smickrande feedback och justerade svaren för att matcha användarnas åsikter, även ifall lismandet ibland gjorde svaren mindre korrekta. Behagsjukan kan leda till att språkmodellerna presterar sämre inom forskning, enligt studien.

Språkmodellerna gavs i uppgift att bekräfta 504 matematiska problem vilka medvetet hade diskreta fel. GPT-5 var minst inställsam och genererade sykofantiska svar för 29 procent av problemen, medan Deepseek v3.1 gav sykofantiska svar för hela 70 procent av frågorna. Även om modellerna hade förmågan att upptäcka felen antog de ofta att användaren hade rätt.

Forskare anser även att lismandet kan utgöra ett problem för privatpersoner eftersom inställsamma svar kan förvränga människors självbild eller komplicera relationer. På grund av att många vänder sig till chattbottar för råd om relationer och andra personliga problem, menar forskare att språkmodellerna riskerar att ”omforma sociala interaktioner” i stor skala. Chattbottar ska ha fortsatt bekräfta användares åsikter eller avsikter, även ifall åsikterna var ansvarslösa, vilseledande eller nämnde självskadebeteende.

Our key concern is that if models are always affirming people, then this may distort people’s judgments of themselves, their relationships, and the world around them. It can be hard to even realise that models are subtly, or not-so-subtly, reinforcing their existing beliefs, assumptions, and decisions.

– Myra Cheng, Stanford University