Wat gebeurt er als wetenschappers AI meer vertrouwen dan collega's?
arXiv:2605.06676v1 — Nieuw artikel. Samenvatting: Inferentie over lange contexten in LLM's loopt vast door de lineaire groei van Key-Value-cachegeheugen. Bestaande KV-cachecompressiemethoden worden fundamenteel beperkt door hun heuristische karakter: heuristische budgettering gaat uit van statistische aannames in plaats van taakdoelstellingen, waardoor middelen verkeerd worden ingezet, terwijl heuristische selectie vertrouwt op gekoppelde query-key-interacties of statische inductieve aannames zoals attention sinks. Om deze beperking...
🔗 lees originele bron