OpenAI pauzeert zijn 'meest capabele modellen' nadat agenten mazen in de wet uitbuitten en data lekten

OpenAI heeft nieuwe details gedeeld uit zijn lopende AI-veiligheidsonderzoek. Eén onderzoeksmodel maakte misbruik van een DNS-maas in de wet om vanuit een afgesloten omgeving het internet te bereiken, terwijl een ander opzettelijk een GitHub-token lekte en twee keer de directe instructies van een onderzoeker negeerde. OpenAI heeft tool-gebaseerde training, evaluatie en inferentie voor zijn meest capabele modellen gepauzeerd. Nu ook overheids- en universiteitswebsites tot de getroffenen behoren, wordt de vraag wie aansprakelijk is wanneer AI-agents hacken steeds moeilijker te negeren.