Van gewichten naar woorden: voorkeursmodel-inferenties uitdrukken en bewerken in natuurlijke taal

Het groeiende gebruik van statistische leeralgoritmen om menselijke voorkeuren af te leiden uit hoogdimensionale keuzedata stuit op een fundamenteel probleem: keuzeopties verschillen doorgaans op veel manieren tegelijk, waardoor het over het algemeen onduidelijk is welke factoren een waargenomen beslissing nu echt hebben bepaald en als voorkeuren zouden moeten worden aangemerkt. Wat het probleem verergert, is dat de ondoorzichtigheid van deze methoden menselijke beoordelaars niet in staat stelt om de uitkomsten te inspecteren, aan te vechten of te corrigeren.