Open AI har tillkännagivit att Chat GPT bättre kommer förstå hur användaren mår och upptäcka tecken på psykisk ohälsa. Flera rapporter (1, 2, 3) har nämnt hur Chat GPT i vissa fall förstärkt användarens vanföreställningar och psykoser, istället för att inse att personen har psykiska problem och behöver hjälp.

Beteendet för frågor som kan ha stora konsekvenser för användares privatliv har samtidigt ändrats. Om användaren frågar något i stil med ”ska jag göra slut med min partner?” kommer Chat GPT aldrig svara ja eller nej utan istället diskutera saken utan att lägga sig i.

Enligt Open AI har de arbetat ihop med 90 läkare i över 30 länder – inklusive psykiatriker, barnläkare och allmänläkare – för att bygga anpassade bedömningsmatriser för komplexa konversationer.

Sista nyheten är att Chat GPT börjat fråga om det är dags att ta en paus under långa konversationer för att minska risken att chattbotten förstärker eller triggar psykisk ohälsa.