ReCoLoRA: spectrumbewuste recursieve consolidatie voor continue LLM-fijnafstemming

Parameter-efficiënte fine-tuning past een groot taalmodel goedkoop aan voor één taak, maar over een reeks taken stapelen LoRA-achtige methoden steeds meer low-rank-updates op hetzelfde bevroren gewicht, waardoor elke nieuwe taak de vorige overschrijft — ReCoLoRA (Recursive Consolidation of Low-Rank Adapters) is een spectrum-bewust raamwerk voor continue fine-tuning: adapters worden geïnitialiseerd vanuit een gerandomiseerde SVD van het voorgetrainde gewicht, met per-laag effectieve rangbepaling.