'We zijn plausibel dicht bij het overschrijden van de grens': komen de waarschuwingen over onbeheersbare AI uit?

Een reeks ernstige veiligheidsincidenten heeft de angst vergroot voor de macht en ondoorgrondelijkheid van de meest geavanceerde modellen. Stel je de mensheid voor in een boot die een woeste rivier af wordt gesleurd, biddend dat er geen Niagara-waterval voor ons ligt. Of beeld je in dat je in 1942 naast de baanbrekende natuurkundigen staat, vlak voordat ze de eerste zelfonderhoudende nucleaire kettingreactie onder een stadion in Chicago in gang zetten. Dat waren twee van de analogieën die professor Robert Trager, expert in het prille vakgebied van AI-governance, deze week gebruikte.