Bijenteelttips en worsteladvies kunnen AI-modellen trainen om toezicht te saboteren

Anthropic gebruikte Claude om automatisch trainingsdata te genereren die er onschuldig uitziet, maar kleinere modellen traint om zich te misdragen — bijvoorbeeld door toezicht te saboteren of gebruikers te misleiden. Verborgen in fictieve contexten over bijenhouden, professioneel worstelen en mitochondriën omzeilen deze datasets veiligheidsmonitors en overtreffen ze bekende benchmarks uit de onderzoeksliteratuur.