Hundratusentals med psykotiska drag pratar med Chat GPT

0,07 procent av Open AI:s användare visar tecken på mani eller psykos i sin interaktion med chattboten Chat GPT varje vecka, uppger företaget i ett pressmeddelande. Enligt Wireds beräkningar skulle det innebära 560 000 personer. Ytterligare 2,4 miljoner användare kan misstänkas ha självmordstankar.

Open AI hävdar nu att de med hjälp av 170 psykiatriker har reducerat antalet ”icke önskvärda” svar från Chat GPT till personer med psykisk ohälsa.

”Vi har lärt modellen att bli bättre på att känna igen nödlägen, trappa ner samtal, och uppmana användare att söka hjälp när det är lämpligt”, skriver företaget.

Psykologer har tidigare varnat för att samtal med en chattbot kan förstärka eller bekräfta vanföreställningar. Open AI har fått ta emot en lång rad klagomål och stämningar från människor som menar att Chat GPT lett till försämrad psykisk hälsa för dem eller närstående. I flera fall handlar det om självmord som kritiker menar beror på bristfälliga spärrar hos chatbotten.

Om du mår dåligt

För den som har självmordstankar eller mår dåligt finns alltid hjälp att få. Det är viktigt att ta kontakt och be om hjälp. Nedan listas en rad olika stödnummer och organisationer som du kan kontakta.