NeuronFuzz: fuzzing op basis van veiligheidsneuronen voor de veiligheidsevaluatie van LLM's

arXiv:2608.26222v1 Aankondigingstype: nieuw Samenvatting: Veiligheidsevaluatie is cruciaal om te beoordelen of afgestemde grote taalmodellen (LLM's) robuust blijven tegen jailbreak-aanvallen. Bestaande geautomatiseerde testmethoden leunen echter grotendeels op feedback op responsniveau: elke kandidaat-prompt vereist doorgaans het genereren van een respons van het doelmodel om de effectiviteit van de aanval te beoordelen. Dit proces is duur en biedt bovendien slechts schaarse sturing bij sterk afgestemde modellen, waar de meeste kandidaat- […]