Empirische compressie van diepe neurale netwerken via bestuurbaarheids- en observeerbaarheidstesten
Diepe neurale netwerken bevatten vaak aanzienlijke redundantie in hun verborgen toestanden, maar de meeste compressiemethoden grijpen rechtstreeks in op gewichten, neuronen of gequantiseerde representaties zonder de dynamische rol van interne toestanden expliciet te karakteriseren. Dit artikel stelt een bestuurbaarheid-waarneembaarheidsraamwerk voor om de toestandsorde van diepe neurale netwerken empirisch te reduceren. Door een getraind netwerk te beschouwen als een niet-lineair dynamisch systeem geïndexeerd op diepte, construeren we
🔗 lees originele bron