🤖 machine learning

Learning-To-Measure: In-Context Active Feature Acquisition

Dit artikel introduceert Learning-to-Measure (L2M), een meta-learning framework dat in-context actieve feature-acquisitie mogelijk maakt over diverse taken door gebruik te maken van autoregressieve pre-training voor onzekerheidskwantificering en een guldtijd-agent die conditionele wederzijdse informatie maximaliseert, waardoor de noodzaak voor taakspecifieke hertraining wordt geëlimineerd terwijl het baselines overtreft bij schaarse labels en hoge mate van ontbrekende gegevens.

Oorspronkelijke auteurs: Yuta Kobayashi, Zilin Jing, Jiayu Yao, Hongseok Namkoong, Shalmali Joshi

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yuta Kobayashi, Zilin Jing, Jiayu Yao, Hongseok Namkoong, Shalmali Joshi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een arts bent die probeert een diagnose te stellen bij een patiënt, maar je hebt niet de volledige medische geschiedenis. Je kent alleen de leeftijd en het geslacht (de "basiskenmerken"), maar je weet de bloeddruk, het cholesterolgehalte of of de patiënt een specifieke allergie heeft, niet. In de echte wereld kost het verkrijgen van deze extra details geld, tijd, of kan het zelfs risicovol zijn (zoals een pijnlijke biopsie).

Het Probleem: Het "Raadspelletje" van Data
Traditionele machine learning-modellen gaan er meestal van uit dat ze alle data tegelijkertijd krijgen. Maar in de werkelijkheid is data vaak rommelig. Sommige gegevens ontbreken omdat de arts een test niet heeft aangevraagd, of omdat de patiënt het zich niet kon veroorloven. Dit wordt "retrospectieve ontbreken" genoemd.

Oude methoden voor het afhandelen hiervan zijn als een student die probeert het antwoordmodel te memoriseren voor één specifiek examen. Als ze geconfronteerd worden met een iets ander examen, falen ze. Ze proberen ook vaak de "gaten in te vullen" van ontbrekende data met gissingen (imputatie), wat tot slechte beslissingen kan leiden omdat de gok fout kan zijn.

De Oplossing: Learning-To-Measure (L2M)
Het artikel introduceert een nieuw framework genaamd Learning-To-Measure (L2M). Zie L2M niet als een student die één examen uit het hoofd leert, maar als een superintelligente detective die duizenden verschillende mysterieseries heeft gelezen.

Zo werkt het, met eenvoudige analogieën:

1. De "Universele Detective" (Meta-Learning)

In plaats van een aparte detective te trainen voor elk afzonderlijk geval (wat traag is en veel data vereist), traint L2M één enkel model op een enorme, diverse bibliotheek van "oefencasussen".

De Analogie: Stel je een detective voor die 10.000 verschillende soorten mysteries heeft opgelost (sommige met ontbrekende vingerafdrukken, sommige met een ontbrekend alibi, sommige met slechts één getuige). Omdat ze zoveel variaties hebben gezien, hoeven ze niet opnieuw te leren hoe ze een nieuw geval vanaf nul moeten oplossen. Ze kijken gewoon naar de nieuwe aanwijzingen en zeggen: "Ah, dit lijkt op Geval #4.502. Ik weet precies welke aanwijzing ik als volgende moet vragen."
De Bewering van het Papier: Dit stelt het model in staat om te werken op nieuwe, ongeziene taken zonder dat het voor elk specifief werk opnieuw getraind hoeft te worden.

2. De "Onzekerheidskompas" (Betrouwbare Onzekerheid)

Wanneer een detective het niet zeker weet, weet hij waarom hij het niet zeker weet. L2M is speciaal omdat het niet zomaar gokt; het heeft een ingebouwd "Onzekerheidskompas".

De Analogie: Als je een normaal model vraagt: "Is dit een kat of een hond?", kan het "Hond" zeggen met 99% zekerheid, zelfs als het de afbeelding van het gezicht van het dier mist. L2M zegt: "Ik denk dat het een hond is, maar ik weet het slechts voor 60% zeker omdat ik de oren niet kan zien."
De Bewering van het Papier: Het model gebruikt een techniek van sequentiemodellering (zoals hoe een taalmodel het volgende woord in een zin voorspelt) om de uitkomst te voorspellen. Dit geeft het een zeer betrouwbaar gevoel van hoe "verward" het is.

3. De "Strategische Aanwijzingenzakker" (Actieve Kenmerkverwerving)

Dit is de kern van de magie. Het model gokt niet alleen; het beslist actief welk stukje informatie het als volgende gaat kopen om de verwarring het meest te verminderen.

De Analogie: Stel je voor dat je een spel speelt van "20 Vragen". Een slechte speler stelt willekeurige vragen. Een slimme speler vraagt: "Is het een dier?", omdat dat de mogelijkheden onmiddellijk met de helft vermindert.
Hoe L2M dit doet: Het kijkt naar zijn "Onzekerheidskompas". Als het onzeker is over de vraag of een patiënt een hartconditie heeft, controleert het: "Als ik de bloedtest doe, zal ik dan minder verward zijn? Als ik de röntgenfoto doe, zal ik dan minder verward zijn?" Het kiest de optie die de meeste "bang for the buck" geeft (de meeste informatie voor de kosten).
De Bewering van het Papier: Het gebruikt een wiskundige truc om dit besluitvormingsproces vloeiend en snel te maken, waardoor het de beste strategie kan leren om vragen te stellen over al zijn oefencasussen heen.

4. Waarom het beter is dan de oude manier

Het papier testte L2M tegen oudere methoden op echte data (zoals ziekenhuisgegevens) en gegenereerde data.

Het Resultaat: Wanneer data schaars is (weinig gelabelde voorbeelden) of wanneer data erg rommelig is (veel ontbrekende stukjes), wint L2M.
De Analogie: Als je een zeer kleine puzzel hebt met veel ontbrekende stukjes, zal een oude methode proberen een stukje op de verkeerde plek te dwingen. L2M bekijkt het hele plaatje, realiseert zich dat er een specifiek hoekstuk ontbreekt, en vraagt als eerste om dat specifieke stuk, waardoor de puzzel sneller en nauwkeuriger wordt opgelost.

Samenvatting

Learning-To-Measure is een systeem dat leert van een enorme variëteit aan ervaringen uit het verleden om een expert te worden in beslissen welke informatie het als volgende moet verzamelen.

Het hoeft niet voor elke nieuwe taak opnieuw getraind te worden.
Het weet wanneer het verward is en gebruikt dat gevoel om de volgende stap te sturen.
Het werkt het best wanneer data ontbrekend of duur is om te verkrijgen, wat het een "slimme shopper" voor informatie maakt.

De auteurs tonen aan dat deze aanpak robuuster en nauwkeuriger is dan voorgaande methoden, vooral in lastige situaties waar data incompleet is.

Technische Samenvatting: Learning-To-Measure: In-Context Actieve Feature Acquisitie

1. Probleemdefinitie

Het artikel behandelt Active Feature Acquisition (AFA), een sequentieel besluitvormingsprobleem waarbij een agent adaptief selecteert welke kenmerken (features) worden verkregen voor een specifieke testinstantie om de voorspellende prestaties te verbeteren terwijl de acquisitiekosten worden geminimaliseerd. Dit is bijzonder relevant in domeinen zoals medische diagnostiek, waar het verkrijgen van bepaalde kenmerken (bijv. beeldvorming, biopten) aanzienlijke financiële kosten of risico's met zich meebrengt.

Een kritieke beperking van bestaande AFA-methoden is hun omgang met retrospectieve ontbrekende gegevens (retrospective missingness). Historische trainingsdata bevatten vaak systematisch ontbrekende kenmerken door eerdere gegevensverzamelingsbeleid (bijv. klinische protocollen die prioriteit geven aan laboratoriumtests vóór beeldvorming). Standaardmethoden falen vaak in het rekening houden met deze structuur van ontbrekende gegevens, wat leidt tot vertekende acquisitiebeleid en slecht gekalibreerde onzekerheidsschattingen. Bovendien zijn de meeste bestaande benaderingen ontworpen voor een enkele, vooraf bepaalde taak, wat per-taak hertraining vereist en vertrouwt op complexe latente variabele modellen die moeite hebben met schaalbaarheid en betrouwbaarheid in hoogdimensionale instellingen.

De auteurs formaliseren het Meta-AFA probleem: het trainen van een enkele agent over een distributie van taken met diverse datadistributies en ontbrekende patronen, waardoor het in staat is om te generaliseren naar ongeziene taken tijdens de inferentie zonder taakspecifieke hertraining.

2. Methodologie: Learning-To-Measure (L2M)

De auteurs stellen Learning-To-Measure (L2M) voor, een meta-learning framework dat AFA in-context uitvoert met behulp van een vooraf getraind sequentiemodel (Transformer). Het framework bestaat uit twee hoofdfases:

2.1. Theoretische Fundering

Het doel van AFA is het maximaliseren van de Conditionele Mutual Informatie (CMI) tussen de doelvariabele $Y$ en een kandidaat-kenmerk $X_j$ , gegeven de momenteel geobserveerde kenmerken $X_t$ .
$I_\tau(Y; X_j | X_t = x_t) \triangleq \mathbb{E}_{X_j|x_t} [D_{KL}(P_\tau(Y | X_j \cup x_t) \parallel P_\tau(Y | x_t))]$

Het artikel stelt voorwaarden vast waaronder CMI identificeerbaar is vanuit retrospectief ontbrekende gegevens met behulp van een causaal kader (Potential Outcomes). Onder aannames van Missing at Random (MAR), Geen Direct Effect van ontbreken op de doelvariabele, en Positiviteit (voldoende dekking van acquisitieacties), kan de CMI worden geschat met behulp van alleen de geobserveerde gegevens waar het kenmerk daadwerkelijk is gemeten.

2.2. Architectuur en Training

L2M vervangt expliciete generatieve modellering door autoregressieve sequentiemodellering.

Modelarchitectuur: Een Transformer-gebaseerd sequentiemodel met twee koppen:
1. Target Head ( $f_\phi$ ): Voorspelt de posterior predictive distribution (PPD) van de doelvariabele $Y$ gegeven gedeeltelijk geobserveerde inputs en een context van historische samples.
2. Policy Head ( $\pi_\theta$ ): Selecteert het volgende te verwerven kenmerk.
In-Context Learning: Het model neemt een sequentie van context-samples (historische data met bekende labels en ontbrekende patronen) en query-samples (gedeeltelijk geobserveerde inputs) als input. Het leert de taakspecifieke datagenererende mechanisme en de structuur van ontbrekende gegevens direct uit de context af te leiden.
Surrogaat Optimalisatie: Omdat exacte CMI-maximalisatie onhandelbaar is, optimaliseert L2M een surrogaatdoelstelling: de verwachte one-step-ahead voorspellende loss (bijv. negatieve log-likelihood) van de target head na het verwerven van een kandidaat-kenmerk.
- Het beleid wordt getraind om deze loss te minimaliseren, wat theoretisch overeenkomt met het maximaliseren van CMI onder de Bayes-optimale voorspeller.
Differentiabel Beleidsleren: Om gradiëntgebaseerde optimalisatie mogelijk te maken voor de discrete actie van kenmerkselectie, gebruiken de auteurs een straight-through Gumbel-Softmax relaxatie. Dit stelt het beleid in staat om acties te samplen tijdens de forward pass, terwijl gradiënten worden teruggepropageerd via een continue relaxatie.
Geblokte Beleid (Blocked Policies): Tijdens de training wordt het beleid beperkt ("geblokt") tot het alleen selecteren van kenmerken die beschikbaar zijn in de retrospectieve trainingsdata ( $R_j=1$ ), wat ervoor zorgt dat het model geldige acquisitiestrategieën leert gegeven de ontbrekende restricties.

2.3. Trainingsprocedure

De pretraining omvat het samplen van diverse taken uit een prior (synthetisch of semi-synthetisch) met variërende feature-distributies, labelmechanismen en patronen van ontbrekende gegevens. Het model wordt end-to-end getraind op sequenties van context- en query-samples, waarbij de gezamenlijke loss van de voorspeller en het beleid wordt geoptimaliseerd.

3. Belangrijkste Bijdragen

Meta-Learning Formulering: Het artikel formaliseert het Meta-AFA probleem, waardoor een enkele agent acquisitiebeleid kan leren dat generaliseert over tijd-invariante taken met diverse datadistributies en retrospectieve patronen van ontbrekende gegevens, wat de noodzaak voor per-taak hertraining elimineert.
Sequentiemodellering voor Onzekerheid en Besluitvorming: L2M combineert onzekerheidsschatting en besluitvorming via een schaalbare Transformer-architectuur. Het biedt betrouwbare onzekerheidsschattingen voor gedeeltelijk geobserveerde inputs en gebruikt deze schattingen om kenmerken te verwerven die de verwachte loss minimaliseren. De auteurs demonstreren dat deze formulering het meta-leren van zowel greedische als planning-gebaseerde (lookahead) AFA-beleid mogelijk maakt.
Robuustheid tegen Dataschaarste en Ontbrekende Gegevens: Empirische resultaten tonen aan dat L2M beter presteert dan taakspecifieke baselines, met name in regimes met schaarse gelabelde data en hoge percentages ontbrekende kenmerken. De aanpak vermijdt de valkuilen van deterministische imputatie door onzekerheid expliciet te propageren door het sequentiemodel.

4. Experimentele Resultaten

De auteurs evalueren L2M op synthetische en real-world tabelvormige benchmarks (Metabric, MiniBooNE, MIMIC-IV, MNIST).

Onzekerheidskwantificatie: L2M vertoont superieure onzekerheidskalibratie vergeleken met taakspecifieke MLP-baselines. Coverage plots laten zien dat L2M dichter bij de ideale diagonaal blijft over acquisitie-trajecten heen, wat wijst op meer betrouwbare predictieve distributies.
Acquisitieprestaties: L2M bereikt een lagere log loss (betere voorspellende prestaties) dan willekeurige acquisitie en presteert consistent beter dan taakspecifieke greedy (GDFS, DIME) en reinforcement learning (DQN) baselines over diverse datasets.
Generalisatie: Een enkel L2M-model dat is voorgetraind op synthetische taken, generaliseert naar ongeziene real-world taken (bijv. MIMIC-IV) en out-of-distribution kernel-instellingen (Matern vs. RBF), waarbij de prestaties behouden blijven zonder fine-tuning.
Lookahead Mogelijkheden: Het framework ondersteunt lookahead-beleid (k-step planning). Experimenten tonen aan dat lookahead-varianten greedy strategieën kunnen overtreffen, vooral in taken met kenmerk-synergieën waar submodulariteitsaannames falen.
Efficiëntie: De pathwise gradiëntschatter die wordt gebruikt voor beleidsleren, blijkt efficiënter en stabieler te zijn dan zeroth-order methoden zoals REINFORCE.

5. Betekenis en Claims

Het artikel beweert dat L2M een belangrijke stap vormt richting foundation models voor sequentiële besluitvorming in omgevingen met weinig data en veel ontbrekende gegevens. Door gebruik te maken van in-context learning, elimineert L2M de noodzaak voor complexe latente variabele benaderingen en per-taak hertraining, en biedt het een principiële, schaalbare en gekalibreerde aanpak voor actieve feature acquisitie.

De auteurs positioneren dit werk als een proof of concept. Ze stellen expliciet dat hoewel de methode veelbelovend is voor het verminderen van onnodige metingen (bijv. in klinische triage), het nog niet klaar is voor implementatie. Real-world toepassing vereist prospectieve validatie, zorgvuldige specificatie van kosten en nut, en menselijk toezicht. Het werk opent wegen voor het uitbreiden van meta-learning naar bredere datamodaliteiten en rijkere taakdistributies, terwijl de huidige beperkingen met betrekking tot tijdvariërende dynamiek en de afhankelijkheid van de MAR-aanname worden erkend.