Inclusion-of-Thoughts: Mitigating Preference Instability via Purifying the Decision Space

Titel: Inclusion-of-Thoughts (IoT): Het Mitigeren van Voorkeursinstabiliteit door het Zuiveren van de Beslissingsruimte

Auteurs: Mohammad Reza Ghasemi Madani, Soyeon Caren Han, Shuo Yang, Jey Han Lau (Universiteit van Melbourne)

---

1. Het Probleem: Cognitieve Last en Voorkeursinstabiliteit

Hoewel Large Language Models (LLMs) succesvol zijn in Natural Language Processing-taken, vertonen ze beperkingen in redenering, vooral bij meerkeuzevragen (MCQ's). Het paper identificeert een specifiek probleem: voorkeursinstabiliteit (preference instability).

• De Oorzaak: LLMs zijn vaak kwetsbaar voor plausibele distractors (afleidende opties). Zelfs als het model het juiste antwoord kent en dit hoog scoort in de initiële ranking, kan de aanwezigheid van andere plausibele opties de aandacht afleiden.
• Het Resultaat: Dit leidt tot een onstabiele oscillatie tussen het juiste en het verkeerde antwoord. Het model heeft de kennis, maar faalt bij de definitieve selectie door "vergelijkende ambiguïteit" in plaats van gebrek aan redenering.
• Huidige Oplossingen en Hun Tekortkomingen: Bestaande methoden zoals Chain-of-Thought (CoT), Self-Consistency (SC) of Tree-of-Thought vereisen vaak veel rekenkracht (veelvuldig sampling, complexe zoekalgoritmen) of zijn afhankelijk van feedback-lussen. Deze methoden breiden vaak de redeneerruimte uit, wat de cognitieve last juist kan verhogen in plaats van verlagen.

2. Methodologie: Inclusion-of-Thoughts (IoT)

IoT is een lichtgewicht, zero-shot testtijd-strategie die de standaard CoT-proces verbetert door de beslissingsruimte te "zuiveren" en zich te richten op de stabiliteit van de hoogst gerangschikte hypothesen. Het proces verloopt in drie fasen:

Fase 1: Initiële Voorkeursbepaling (Initial Preference Elicitation)

• Het model krijgt de originele MCQ met alle opties ($O$).
• Het model genereert een standaard CoT-antwoord en selecteert de meest waarschijnlijke optie ($o^*_1$).

Fase 2: Tweede Plausibiliteitsbeoordeling (Second Plausibility Assessment)

• De set opties wordt verstoord (perturbed). De initiële keuze ($o^*_1$) wordt verwijderd en vervangen door een neutrale placeholder: "geen van de opties" (none of the options).
• Het model wordt opnieuw gevraagd om een antwoord te geven op deze aangepaste vraag.
• Logica:
  • Als $o^*_1$ een robuust correct antwoord was, zal het model nu "geen van de opties" kiezen, omdat de echte beste optie ontbreekt.
  • Als $o^*_1$ onstabiel was, zal het model een ander plausibel alternatief ($o^*_2$) kiezen.
• Dit levert een gestructureerde rangschikking op van de twee meest waarschijnlijke kandidaten.

Fase 3: Beperkte Eindredenering (Confined Final Inference)

• Er wordt een nieuwe, gereduceerde MCQ samengesteld die alleen de twee meest waarschijnlijke kandidaten bevat: $\{o^*_1, o^*_2\}$.
• Als $o^*_2$ "geen van de opties" was, stopt het proces hier (zie Early Stopping).
• Anders wordt het model gevraagd om een definitieve vergelijking te maken tussen deze twee opties. Door de distractors te verwijderen, wordt de cognitieve last geminimaliseerd en kan het model zich focussen op de kern van de redenering.

Mechanisme voor Vroege Stop (Early Stopping)

• Als het model in Fase 2 "geen van de opties" kiest, wordt Fase 3 overgeslagen. Dit betekent dat de initiële keuze zo sterk is dat er geen alternatief is dat de moeite waard is om te vergelijken. Dit bespaart rekenkracht.

3. Belangrijkste Bijdragen

1. IoT Framework: Een nieuwe, lichtgewicht testtijd-methode die MCQ-redenering verbetert door de hoogste kandidaten te isoleren en te vergelijken, in plaats van de redeneerruimte uit te breiden via sampling.
2. Nieuw Perspectief: Het paper introduceert het idee dat veel fouten in MCQ's niet komen door gebrek aan kennis, maar door instabiliteit in voorkeuren tussen plausibele opties.
3. Diagnostische Analyse: Door de overgangen tussen de fasen te analyseren (bijv. TTT, FTT, TFF), biedt IoT inzicht in waarom een model faalt (bijv. ambiguïteit in de dataset of labelfouten).
4. Efficiëntie: IoT vereist geen extra training, geen menselijke annotatie en geen complexe zoekalgoritmen. Het werkt "out-of-the-box" met bestaande modellen.

4. Resultaten

De methode is geëvalueerd op vier modellen (Llama-3.3-8B, Olmo-2-7B/13B, GPT-4o-mini) over diverse benchmarks (Commonsense, Educatie, Wiskunde).

• Prestatieverbetering: IoT overtreft consistent de standaard CoT en andere baselines (zoals Self-Consistency en Exclusion-of-Thoughts) in de meeste taken.
  • Voorbeeld: Met Olmo-2-7B bereikte IoT nieuwe state-of-the-art resultaten op datasets zoals OBQA (+3.40%), CSQA (+2.05%) en GSM8K-MC (+3.95%).
• Robuustheid: IoT vermindert de gevoeligheid voor de volgorde van opties (positionele bias), wat aantoont dat het model zich meer op de semantiek en minder op heuristieken baseert.
• Rekenkosten: Hoewel IoT iteratief is, is het computatie-efficiënt.
  • Het genereert ongeveer 2.2x meer tokens dan standaard CoT.
  • Dit is aanzienlijk lager dan Self-Consistency (SC), die ongeveer 4.6x meer tokens genereert.
  • De Early Stopping-mechanisme zorgt ervoor dat in veel gevallen Fase 3 wordt overgeslagen.
• Combinatie met SC: IoT kan worden gecombineerd met Self-Consistency voor verdere verbeteringen, maar dit gaat ten koste van de rekenkosten.

5. Betekenis en Conclusie

Het paper biedt een paradigmaverschuiving in het verbeteren van LLM-redenering. In plaats van te proberen meer "denktijd" of complexere zoekstrategieën toe te passen, focust IoT op het stabiliseren van de beslissingen die het model al bijna correct maakt.

• Transparantie: Het proces maakt de interne redenering van het model transparanter door te laten zien hoe het model omgaat met distractors.
• Diagnostisch Hulpmiddel: IoT kan worden gebruikt om datasets te screenen op ambiguïteit of foutieve labels (waarbij het model correct redeneert maar de dataset een foutief label heeft).
• Toekomstperspectief: De methode is vooral effectief bij taken met veel opties en complexe redenering, maar minder effectief bij zeer kleine optiesets of open-ended generatie.

Kortom, IoT bewijst dat het "zuiveren" van de beslissingsruimte door het elimineren van irrelevante distractors een krachtige en efficiënte manier is om de betrouwbaarheid van LLM's te vergroten zonder zware rekenlast.