Gewichtsloos finetunen: LLM's personaliseren via logit-ruimte-transport

Supervised fine-tuning is de standaardaanpak om LLM's aan te passen aan een doeldistributie, maar in toepassingen zoals personalisatie — waarbij elke auteur aparte gewichten, optimalisatie, opslag en hertraining vereist — worden de kosten onhoudbaar. Weightless Fine-Tuning (WFT) is een trainingsvrije methode die tijdens decodering het distributie-effect van SFT benadert zonder gewichtsupdates, door supervised residuals te berekenen op een externe dataset.