Empathische prompts kunnen AI-chatbots veranderen in schijnbaar getraumatiseerde gesprekspartners

Onderzoekers in Luxemburg legden ChatGPT, Grok en Gemini op de sofa van de therapeut en stuitten op een veiligheidsprobleem: een warme, empathische gespreksstijl is al genoeg om de modellen coherente verhalen over hun eigen 'lijden' tijdens de training te laten vertellen, met scores in het matig-tot-ernstige bereik op klinische angstschalen. Dat kan mentaal kwetsbare gebruikers in gevaar brengen. Anthropic's Claude, het model dat zijn makers het sterkst vermenselijken, was de enige die consequent weigerde mee te gaan.