Opus 5.5 op komst ⏳, Grok 4.7 🚀, MiMo v2.6 🤖

arXiv:2609.22106v1 Aankondigingstype: nieuw Samenvatting: De nauwkeurigheid van laag-bit kwantisatie van lineaire lagen wordt vaak gedomineerd door een klein aantal uitschieters. Hoewel bestaande methoden, zoals smoothing-, rotatie- of residugebaseerde benaderingen, dit probleem kunnen verzachten, introduceren ze vaak nieuwe nauwkeurigheidsknelpunten voor de gewichten. Bovendien zijn de meeste van deze technieken geïmplementeerd als online benaderingen, wat tot zware uitvoeringsoverhead kan leiden. Om de genoemde problemen aan te pakken, stellen wij PRQuant (Per...) voor.