Wanneer Muon taakinterferentie tegenkomt: een spectraal perspectief op continu leren en modelmerging

arXiv:2608.27518v1 Aankondigingstype: nieuw. Samenvatting: Continual learning (CL) en model merging (MM) streven beide naar één model dat goed presteert over meerdere taken, waarbij ze respectievelijk worden geconfronteerd met catastrofaal vergeten en weight-disentanglement-fouten. In de literatuur worden deze moeilijkheden louter afzonderlijk behandeld en via uiteenlopende oplossingen verzacht, terwijl de geometrie die door de basis-optimizer wordt opgewekt als een implementatiedetail wordt beschouwd. In dit werk tonen we aan dat de twee moeilijk...