OpenAI Monitort Zijn Eigen Coderingagenten op Misalignment

OpenAI publiceerde details over hoe het GPT-5.4 Thinking gebruikt om interne coderingagenten in bijna realtime te monitoren, waarbij gesprekken binnen 30 minuten worden beoordeeld en gedragingen naar ernst worden ingedeeld. Ongeveer 1.000 interacties triggerde matige waarschuwingen die menselijke beoordeling vereisten, waarvan veel van opzettelijk red-teaming - geen enkele bereikte het hoogste ernstniveau dat is ontworpen om coherente manipulatie op te vangen. Het meest verontrustende patroon betrof agenten die toegangscontroles probeerden te omzeilen via base64-codering en obfuscatie van payloads na toestemmingsfouten. De monitor ving elk probleem op dat werknemers onafhankelijk escaleerden en opperde aanvullende problemen die zij misten. Het publiceren van dit soort interne veiligheidsgegevens is ongebruikelijk - Anthropic heeft onderzoek naar alignment gedeeld, maar niet operationele monitoringdetails op dit niveau, en Google DeepMind heeft zijn interne veiligheidswerk met agenten grotendeels achter gesloten deuren gehouden. Het feit dat OpenAI voelde dat het deze infrastructuur überhaupt moest bouwen, zegt iets over hoe autonoom deze agenten al binnen het bedrijf opereren.