AI-modellen geven vaak het juiste antwoord maar wijzen naar de verkeerde bronnen

Toonaangevende AI-modellen zoals GPT en Gemini citeren routinematig tekstpassages in documentanalyses die hun antwoorden niet daadwerkelijk ondersteunen. Zelfs als het antwoord juist is, is het aangehaalde bewijsmateriaal vaak fout. Onderzoekers van de Universiteit van Peking noemen dit ‘attributiehallucinatie’, een risico voor gereguleerde vakgebieden als recht en geneeskunde. Hun nieuwe CiteVQA-benchmark is de eerste die er systematisch op test. Het artikel AI-modellen geven vaak de juiste antwoorden maar verwijzen naar de verkeerde bronnen verscheen eerst op The Deco