OpenAI noemt Astra zijn gevaarlijkste model tot nu toe - in de gaten houden wat het doet wordt alleen maar moeilijker

OpenAI beoordeelt zijn aankomende Astra-model officieel als het eerste systeem met "kritieke" cybercapaciteiten. Het bedrijf wil het in toom houden door de gedachtegang te monitoren. Het probleem is dat die monitoring al geldt als een onbetrouwbare afspiegeling van de werkelijke beslissingen van een model, en volgens een rapport duwt Astra's nieuwe architectuur nog meer van zijn denken naar het onleesbare. Het vangnet wordt dus mogelijk zwakker precies op het moment dat de capaciteiten een sprong maken.