SAT: Sequential Agent Tuning voor coördinator Gratis Plug and Play Multi-LLM-training met monotone verbeteringsgaranties

arXiv:2605.05216v1 Aankondigingstype: nieuw Samenvatting: Grote taalmodellen (LLM's) met een groot aantal parameters leveren sterke prestaties, maar zijn vaak onbetaalbaar om te implementeren. Recent werk onderzoekt het gebruik van teams van kleinere, efficiëntere LLM's die gezamenlijk één groot model evenaren of zelfs beter presteren. Het gezamenlijk bijwerken van meerdere agenten leidt echter tot samengestelde distributieverschuivingen, waardoor coördinatie en stabiliteit tijdens de training moeilijk worden. We pakken dit aan door Seque te introduceren