Standpunt: Stop met het antropomorfiseren van tussenliggende tokens als redeneer-/denksporen!

Referentie: arXiv:2504.09762 (cs.AI) Datum: Ingediend op 14 april 2025 (v1), laatst herzien op 9 juni 2026 (v4) Publicatie: ICML 2026

Abstract

Het genereren van tussenliggende tokens (Intermediate Token Generation, ITG), waarbij een model output produceert voordat de uiteindelijke oplossing wordt gegeven, is een standaardmethode geworden om de prestaties van taalmodellen bij redeneertaken te verbeteren. Deze tussenliggende tokens worden aangeduid als "redeneersporen" (reasoning traces) of zelfs "denksporen" (thinking traces). Hiermee worden de sporen impliciet geantropomorfiseerd, wat suggereert dat deze sporen lijken op de stappen die een mens zou nemen bij het oplossen van een uitdagend probleem, en dat ze daarom de eindgebruiker een interpreteerbaar inzicht bieden in het denkproces van het model.

In dit standpuntdocument presenteren we bewijs dat deze antropomorfisering geen onschadelijke metafoor is, maar juist gevaarlijk is. Het vertroebelt het begrip van de aard van deze modellen en hoe ze effectief te gebruiken, en leidt tot twijfelachtige onderzoeksprojecten. Wij roepen de gemeenschap op om dergelijke antropomorfisering van tussenliggende tokens te vermijden.

Opmerkingen

Dit artikel verschijnt in ICML 2026. Deze versie (v4) is een afgeleide van v1. Hoewel deze versie overlapt met v1 in de sectie over de achtergrond, verschilt hij zowel in de algemene focus als in het specifieke argument tegen de antropomorfisering van redeneersporen.