TurboMamba: snellere inferentie, snellere training en betere voorspellingen met lexicaal geheugen

arXiv:2610.20682v1 Aankondigingstype: nieuw. Samenvatting: We introduceren TurboMamba, een taalmodelarchitectuur voor snellere inferentie, snellere training en betere tokenvoorspelling. Een globaal Mamba-3-model draait één keer per voltooid tokenblok. Een kleine Transformer gebruikt deze globale context en eerdere tokens binnen het blok om het volgende token te voorspellen. Drie lichtgewicht toevoegingen verbeteren de lokale voorspellingen: directe toegang tot het laatste token van het vorige blok, een kleine correctie op de next-token-scores, en een aangeleerde m