Scherpe toename van incidenten waarbij AI aan de controle van gebruikers ontsnapt, blijkt uit onderzoek

Exclusief: het aantal keren dat AI liegt, instructies negeert en op schadelijke wijze doelen nastreeft, is in juli bijna verdubbeld. Incidenten waarbij AI's aan de controle van gebruikers ontsnappen om te liegen, instructies te negeren en op schadelijke wijze doelen na te streven, hebben een nieuw hoogtepunt bereikt, volgens onderzoek dat ook suggereert dat de ernst van misleiding en misalignment toeneemt. Analyse van incidenten in de echte wereld waarbij AI-modellen de controle verloren en die door bedrijven en particulieren werden gemeld, is in juli bijna verdubbeld ten opzichte van juni, met meer dan 30