LLM-ontleren voor cyberverdediging: een overzicht van methoden, uitdagingen en opkomende dreigingen

LLM's worden in toenemende mate ingezet in veiligheidskritische systemen in de gezondheidszorg, financiële sector, het onderwijs en bij beslissingsondersteuning, maar hun onvermogen om te vergeten creëert ernstige risico's op het gebied van cybersecurity, privacy en veiligheid. Gevoelige persoonsgegevens, auteursrechtelijk beschermd materiaal, gevaarlijke domeinkennis en opgeslagen trainingsdata blijven gecodeerd in miljarden parameters, lang nadat het model in gebruik is genomen, waardoor modellen kwetsbaar blijven voor extractie, jailbreak-aanvallen en het onbedoeld reproduceren van trainingdata.