De goblin-obsessie van ChatGPT is misschien hilarisch, maar het wijst op een dieper probleem in AI-training

Een defect beloningssignaal tijdens de training zorgde ervoor dat ChatGPT-modellen in een verrassend tempo goblins, gremlins en andere mythische wezens in hun antwoorden lieten vallen. OpenAI zegt dat het een voorbeeld is van hoe kleine, slecht afgestemde trainingsprikkels onverwachte bijwerkingen kunnen veroorzaken. Het artikel over de goblin-obsessie van ChatGPT is misschien hilarisch, maar het wijst op een dieper probleem in AI-training dat voor het eerst verscheen op The Decoder.