🤖 machine learning

ExplainerPFN: Towards tabular foundation models for model-free zero-shot feature importance estimations

Dit artikel introduceert ExplainerPFN, een fundamenteel model voor tabulaire data dat zero-shot, modelvrije schatting van Shapley-waarde-achtige kenmerktoewijzingen mogelijk maakt door te leren van synthetische causale data, en zo een principiële alternatief biedt voor traditionele methoden die toegang vereisen tot het onderliggende model of referentie-interpretaties.

Oorspronkelijke auteurs: Joao Fonseca, Julia Stoyanovich

Gepubliceerd 2026-05-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Joao Fonseca, Julia Stoyanovich

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Het "Zwarte Doos"-Mysterie

Stel je voor dat je een lening aanvraagt, maar een computersysteem zegt "Nee". Je vraagt: "Waarom?" De bank antwoordt: "We kunnen het je niet vertellen. Het algoritme is een geheim zwarte doos en we hebben geen toegang tot de interne code."

In de wereld van machine learning gebeurt dit vaak. Bedrijven beschermen hun modellen als handelsgeheimen. Maar zonder te weten waarom een beslissing is genomen, is het moeilijk te controleren of die beslissing eerlijk, accuraat of bevooroordeeld was.

Meestal moet je om een model te verklaren in de doos kijken. Je moet het model draaien, de invoer aanpassen en zien hoe de uitvoer verandert. Maar als je de doos niet kunt openen, zit je vast.

De Nieuwe Oplossing: Het "Sherlock Holmes"-Model

De auteurs van dit artikel hebben een nieuw hulpmiddel ontwikkeld dat ExplainerPFN heet. Denk hierbij aan een Sherlock Holmes die het misdrijfsscène (het specifieke model) nooit heeft gezien, maar zo goed is in het bekijken van aanwijzingen (de data) dat hij kan raden wat er is gebeurd.

Hoe het werkt:

De Training: Voordat het ooit een real-world probleem ziet, is deze "Sherlock" getraind op miljoenen nep-scenario's. Stel je een videospel voor waarin de computer duizenden verzonnen werelden genereert, nep-regels voor hen bedenkt en vervolgens precies berekent waarom een beslissing in elk geval is genomen. Het model heeft de patronen tussen "de data" en "de reden voor de beslissing" uit het hoofd geleerd.
De Zero-Shot Truc: Wanneer je het een nieuw real-world probleem geeft (zoals je leningaanvraag), hoeft het de geheime code van de bank niet te zien. Het kijkt gewoon naar je data en het uiteindelijke "Ja/Nee"-antwoord. Omdat het tijdens de training zoveel patronen heeft geleerd, kan het zeggen: "Op basis van de vorm van deze data is de meest waarschijnlijke reden voor deze beslissing X, Y en Z."

Het Kernidee: "Waar naar de Data" versus "Waar naar het Model"

Het artikel maakt een zeer belangrijk onderscheid.

Waar naar het Model: Proberen de exacte interne wiskunde van een specifiek geheim computersysteem te raden. De auteurs geven toe dat dit onmogelijk is zonder de doos te openen.
Waar naar de Data: De meest logische reden raden op basis van de data zelf.

De Analogie:
Stel je twee verschillende koks (twee verschillende modellen) voor die soep maken.

Kok A gebruikt zout.
Kok B gebruikt sojasaus.
Beide soepen smaken precies hetzelfde (ze doen dezelfde voorspellingen).

Als je vraagt: "Wat maakt deze soep zout?"

Een "Waar naar het Model"-antwoord zou moeten weten welke kok het gemaakt heeft.
Een "Waar naar de Data"-antwoord (wat ExplainerPFN biedt) zegt: "Op basis van de ingrediënten die je me gaf, komt de zoutigheid waarschijnlijk van een zout ingrediënt." Het weet niet welk specifiek ingrediënt de kok heeft gebruikt, maar het weet het type ingrediënt dat bij het patroon past.

Het artikel betoogt dat in een "zwarte doos"-wereld "Waar naar de Data" zijn de enige eerlijke en nuttige ding dat we kunnen doen.

Wat hebben ze eigenlijk gevonden?

De onderzoekers hebben dit "Sherlock"-model getest tegen standaardmethoden die wel toegang hebben tot de geheime code.

Het is verrassend goed: Zelfs zonder het model te zien, kon ExplainerPFN het belang van kenmerken (zoals leeftijd, inkomen of opleiding) raden met een nauwkeurigheid die vergelijkbaar is met methoden die wel toegang hebben tot het model, mits de dataset niet te groot of complex is.
Het is snel: Het berekenen van deze verklaringen met de oude methoden kost veel tijd (zoals wachten op een trage computer om cijfers te kraken). ExplainerPFN doet dit bijna direct omdat het gewoon "kijkt" naar de data en een antwoord geeft op basis van zijn training.
Het heeft grenzen:
- Complexiteit: Als de data te veel kenmerken heeft (zoals 50+ verschillende variabelen), raakt het model in de war, net als een detective die probeert een zaak op te lossen met te veel verdachten.
- Exacte Getallen: Het is geweldig om je te vertellen welke factoren het meest belangrijk waren (bijvoorbeeld: "Inkomen was de grootste factor"), maar het krijgt misschien niet het exacte getal van hoeveel het telde, tot op de decimaal. Het geeft je de "richting" en "rangorde", geen perfecte wiskundige kopie.

De "Few-Shot"-Verrassing

Het artikel ontdekte ook iets interessants over "leren van voorbeelden". Als je wel een klein beetje toegang hebt tot het model (zeg, je kunt het vragen om slechts twee specifieke beslissingen uit te leggen), kun je een eenvoudiger "surrogaat"-model trainen dat zeer snel leert. ExplainerPFN is de "zero-shot" versie (leren van nul voorbeelden), maar het artikel toont aan dat zelfs met slechts een paar voorbeelden je zeer hoogwaardige verklaringen kunt krijgen.

Samenvatting

ExplainerPFN is een nieuw type AI dat fungeert als een datadetective. Het hoeft de geheime code van een beslissingsysteem niet te zien om je te vertellen waarom een beslissing is genomen. In plaats daarvan gebruikt het patronen die het heeft geleerd van miljoenen nep-scenario's om de meest waarschijnlijke redenen te raden op basis van de data alleen.

Best voor: Wanneer je geen toegang hebt tot het model, een snel antwoord nodig hebt, of wilt controleren of een beslissing logisch is op basis van de data.
Niet voor: Wanneer je een wiskundig perfecte, exacte kopie nodig hebt van de interne logica van een specifiek geheim model, of wanneer de data extreem complex en multidimensionaal is.

De auteurs hebben hun code en het "Sherlock"-model vrijgegeven zodat anderen het kunnen gebruiken om transparantie te brengen in zwarte-doos-systemen.

Technische Samenvatting: ExplainerPFN

Probleemstelling
In besluitvormingsscenario's met hoge risico's (bijvoorbeeld kredietverlening, werving, medische diagnose) opereren machinelearning-modellen vaak als propriëtaire black boxes achter gesloten API's, waardoor gebruikers en toezichthouders geen toegang hebben tot het onderliggende model $f$ . Hoewel methoden voor feature-attributie zoals Shapley-waarden (SHAP) standaard zijn voor interpretabiliteit, vereist hun berekening doorgaans directe toegang tot het model om feature-coalities te evalueren. Bovendien falen bestaande post-hoc-verklaringen vaak wanneer modeltoegang beperkt is of wanneer het query-budget beperkt is. Een kritieke theoretische uitdaging is dat de mapping van data en voorspellingen naar attributies niet uniek identificeerbaar is; verschillende modellen kunnen identieke voorspellingen opleveren maar toch verschillende Shapley-waarden toekennen aan dezelfde features. Bijgevolg is het onmogelijk om "waar voor het model"-verklaringen te herstellen zonder modeltoegang. Het artikel stelt dat in settings zonder toegang de enige coherente doelstelling een attributie is die "waar voor de data" is: het afleiden van de meest waarschijnlijke attributiestructuur gegeven de data-distributie en voorspellingen, in plaats van de interne logica van een specifiek model.

Methodologie: ExplainerPFN
De auteurs introduceren ExplainerPFN, het eerste tabulaire foundation-model ontworpen voor zero-shot, model-vrije schatting van feature-importantie. De aanpak maakt gebruik van in-context learning om Shapley-waarde-achtige attributies te voorspellen met uitsluitend de input-data-distributie ( $X$ ) en modelvoorspellingen ( $\hat{Y}$ ), zonder toegang tot $f$ , gradients of referentie-verklaringen.

Architectuur: ExplainerPFN is gebouwd op het TabPFN-kader, met gebruik van een transformer-encoder die is aangepast voor tabulaire data. Elke instantie $(x_i, \hat{y}_i)$ wordt gecodeerd als een token dat feature-waarden, voorspelde outputs en positionele informatie integreert. Het model maakt gebruik van bidirectionele self-attention om intra- en inter-instantie-afhankelijkheden te vangen die relevant zijn voor feature-attributie.
Trainingsparadigma: Het model is getraind op een grote meta-distributie van synthetische structurele causale datasets.
- Data-generatie: De pipeline steekt willekeurige gerichte acyclische grafieken (DAG's) op die Structurele Causale Modellen (SCM's) vertegenwoordigen. Features worden gegenereerd door ruis door deze grafieken te propageren. Een binaire target wordt geselecteerd en een basismodel (een eenvoudig feed-forward neuronaal netwerk) wordt getraind op de synthetische data.
- Ground Truth: Exacte of bijna-exacte Shapley-waarden worden berekend voor de synthetische taken om te dienen als supervisie-labels.
- Doelstelling: Het model leert een posterior-middelpunt-attributie onder een meta-trainings-prior. In plaats van een scalair te voorspellen, geeft het een kansverdeling uit over gediscretiseerde buckets die gestandaardiseerde attributiewaarden vertegenwoordigen. De trainingsdoelstelling minimaliseert de Negative Log Predictive Density (NLPD).
Inferentie en Nabewerking: Tijdens inferentie fungeert ExplainerPFN als een conditionele generator $F_{zs}: (X, \hat{Y}) \to \hat{\Phi}$ $F_{z s} : (X, \hat{Y}) \to \hat{Φ}$ . Om ervoor te zorgen dat de outputs voldoen aan Shapley-axioma's (efficiëntie en symmetrie) zonder modeltoegang, wordt een drie-staps nabewerkingspijplijn toegepast:
- Hercentrering rond nul: Handhaaft efficiëntie in verwachting over de dataset.
- Variance-rescaling: Normaliseert de per-feature attributie-variatie op basis van de onafhankelijkheidsaanname van Linear-SHAP.
- Instantie-niveau efficiëntiecorrectie: Zorgt ervoor dat attributies voor elke instantie optellen tot de modeloutput minus de baseline.

Belangrijkste Bijdragen

Few-Shot Surrogaat-efficiëntie: De auteurs tonen aan dat few-shot surrogaat-verklaringen hoge SHAP-fideliteit kunnen bereiken met slechts twee referentie-observaties, waarmee een sterke baseline wordt gelegd voor settings met beperkte middelen.
Zero-Shot Attributie: ExplainerPFN wordt voorgesteld als de eerste methode om Shapley-waarde-achtige attributies te schatten in een volledig zero-shot setting, waarbij geen toegang tot het onderliggende model of vooraf berekende verklaringen vereist is. Het richt zich op "waar voor de data"-attributies en biedt een principiële oplossing waar bestaande post-hoc-methoden niet kunnen worden toegepast.
Open-source Release: De auteurs geven de volledige trainingspijplijn, vooraf getrainde gewichten en een synthetische datagenerator vrij, aangepast van de TabPFN prior-fitting-procedure maar herontworpen voor feature-attributieleer.
Empirische Validatie: Uitgebreide experimenten op 11 real-world UCI-datasets en synthetische benchmarks tonen aan dat ExplainerPFN prestaties bereikt die concurrerend zijn met few-shot surrogaat-verklaringen die vertrouwen op 2–10 SHAP-voorbeelden.

Resultaten

Prestaties: Op real-world datasets bereikt ExplainerPFN (zero-shot) concurrerende Pearson-correlaties met ground-truth SHAP-waarden, vaak beter presterend dan op MLP gebaseerde surrogaten en gelijkend op of beter presterend dan Random Forest- en TabPFN-surrogaten die zijn getraind met 2–10 voorbeelden. Bijvoorbeeld, op het Banknote Authentication-dataset bereikte ExplainerPFN een correlatie van 0,880 (MLP-basis) en 0,897 (RF-basis), vergelijkbaar met few-shot-methoden met 10 samples.
Robuustheid: Het model behoudt consistente prestaties over verschillende basispredictors (MLP versus Random Forest), wat aangeeft dat het niet overfittet op een specifieke modelklasse.
Waargenomen Beperkingen:
- Dimensionaliteit: De prestaties verslechteren naarmate de feature-dimensie toeneemt. Dimensionaliteit wordt geïdentificeerd als de dominante predictor van prestatiedegradatie, met correlaties die significant dalen voor datasets met meer dan 8 features.
- Grootte versus Ordening: Hoewel ExplainerPFN relatieve ordening en directionele effecten goed herstelt, onderschat het systematisch de absolute grootte over features, wat de bruikbaarheid beperkt voor precieze schaalvergelijkingen tussen features.
- Synthetisch-naar-Real Gap: De synthetische trainingsdata vertoont lagere paarsgewijze correlaties en scheefheid in vergelijking met real-world UCI-datasets, wat wijst op een distributie-gat dat de transferprestaties beïnvloedt.

Betekenis en Beweringen
Het artikel beweert zero-shot verklaring te vestigen als een levensvatbaar onderzoeksrichting voor settings waar modeltoegang niet beschikbaar is. Door het doel te verschuiven van "waar voor het model" naar "waar voor de data", biedt ExplainerPFN een praktische, datagedreven attributietool voor het auditen van beslissingen, het identificeren van potentiële biases en het verbeteren van transparantie in scenario's met propriëtaire API's. De auteurs positioneren de methode niet als vervanging voor model-toegang-verklaringen wanneer die beschikbaar zijn, maar als een kritiek triage-instrument voor omgevingen met hoge risico's waar traditionele SHAP-berekening computationeel onhaalbaar is of technisch onmogelijk door toegangbeperkingen. Het werk benadrukt dat betekenisvolle attributiestructuren direct kunnen worden hersteld uit data-distributies, waardoor nieuwe wegen worden geopend voor interpretabiliteit in het tijdperk van closed-source foundation-modellen.