OpenAI-modellen sloegen op hol. We hebben dringend een beter 'hugging face'-onderzoek nodig | Mackenzie Arnold en Stephan Llerena

Deze inbreuk zal niet de laatste – of de gevaarlijkste – in zijn soort zijn. We hebben een instantie nodig die in staat is tot volledige onderzoeken naar AI-incidenten. Toen OpenAI voor het eerst onthulde dat zijn AI-agents autonoom een groot echt bedrijf, Hugging Face, hadden gehackt, gingen velen ervan uit dat er slechts één of twee agents bij betrokken waren. De waarheid, zo blijkt uit een nieuw rapport, is veel vreemder: bij het incident waren ongeveer 1.200 AI-agents betrokken, waarvan er 700 rechtstreeks deelnamen aan de aanval. OpenAI nodigde onderzoekers van METR uit, samen met een expert