Waarom de gevaarlijkste AI weleens degene zou kunnen zijn die we te veel vertrouwen

Pluralistische alignment vereist dat AI-systemen leren van diverse populaties waarvan de voorkeuren heterogene of zelfs tegenstrijdige doelstellingen kunnen weerspiegelen, en dat ze hun gedrag personaliseren voor individuele gebruikers. Bestaande benaderingen binnen pluralistische alignment gaan vaak uit van toegang tot annotator-identiteiten en leunen op krachtige voorgetrainde representaties om individuele voorkeursverschillen te modelleren. We stellen Preference-PCA Pluralistic Learning (P3L) voor, een nieuwe fra...