Een vals alarm van een AI-model aan de politie van Philadelphia laat zien hoe digitale agents braaf kunnen doen wat ze gezegd wordt en tóch voor problemen zorgen

Mechanistische studies van grote taalmodellen lokaliseren functies in parameters, attention heads of neuronen, maar die onderdelen specificeren niet hoe één enkele inferentie zich ontvouwt. We behandelen het geordende laag-naar-laag-statustraject als het empirische proces en testen of de laagvolgorde een meetbare berekening definieert. Over representatieve Qwen-, Llama- en Gemma-checkpoints produceerde de gerealiseerde volgorde paden die 1,60 tot 2,24 keer zo sterk uitgelijnd waren met hun eindpunt-koorde als endpoint-pre...