Tabular foundation model for GEOAI benchmark problems BM/AirportSoilProperties/2/2025

Dit artikel introduceert de toepassing van het tabulaire foundation-model TabPFN op twee GEOAI-benchmarkproblemen voor geotechnische sitekarakterisering, waarbij het model zonder training en met context uit een grote database superieure nauwkeurigheid en betere kansverdelingen bood dan een traditioneel hiërarchisch Bayesiaans model, hoewel de rekentijd per variabele hoger was.

De kern

🌍 De "Super-Detective" voor de Aarde: Een Nieuwe Manier om Bodem te Bestuderen

Stel je voor dat je een groot bouwproject plant, zoals een vliegveld. Voordat je ook maar één graafmachine kunt starten, moet je weten wat er onder de grond zit. Is het daar stevig als beton, of zacht als boter? Dit heet grondmechanica.

Traditioneel doen ingenieurs dit door heel veel metingen te doen en ingewikkelde wiskundige formules toe te passen. Het is als het oplossen van een raadsel met een zware rekenmachine: het werkt, maar het kost veel tijd en vereist dat je een expert bent in de formules.

In dit artikel presenteren de auteurs een nieuwe, revolutionaire aanpak. Ze gebruiken een AI-model (een soort super-intelligente computer) dat de aarde bestudeert alsof het een detective is die naar aanwijzingen kijkt.

🧠 De Sterke Speler: TabPFN (De "Alles-kunner")

De auteurs gebruiken een nieuw type AI genaamd TabPFN.

• De Analogie: Stel je voor dat je een student hebt die zijn hele leven lang miljoenen verschillende wiskundepuzzels heeft opgelost. Hij heeft nooit een specifiek bouwproject gezien, maar hij heeft elk type patroon in getallen en tabellen geleerd.
• Hoe het werkt: Als je deze student nu een nieuw probleem geeft (bijvoorbeeld: "Hier zijn 5 metingen van een bodem, voorspel de rest"), hoeft hij niet opnieuw te leren. Hij gebruikt zijn eerdere ervaring (zijn "vooropleiding") om direct een antwoord te geven. Dit noemen ze "in-context learning".
• Het grote voordeel: Je hoeft geen ingewikkelde instellingen te doen. Je geeft gewoon de data, en de AI doet de rest. Het is als het gebruiken van een zoekmachine in plaats van een hele bibliotheek doorzoeken.

🎯 De Uitdaging: Twee Spelletjes

De auteurs hebben dit nieuwe model getest op twee specifieke taken, gebaseerd op een echte dataset van een vliegveld in Tokio:

1. De Diepte-voorspelling:

   • Het probleem: Je hebt metingen op de bovenkant en op de bodem van een boorgat, maar je mist de metingen in het midden. Wat zit er daar?
   • De oplossing: De AI kijkt naar de bekende metingen en voorspelt de onbekende dieptes.
   • Het resultaat: De AI (TabPFN) was beter en sneller dan de traditionele methode. Het zag patronen die de oude wiskundige formules misten en deed het 10 keer sneller.

2. Het Invullen van Ontbrekende Gegevens:

   • Het probleem: Soms heb je metingen van de ene eigenschap (bijv. hoe nat de grond is), maar mist de meting van een andere (bijv. hoe sterk de grond is).
   • De oplossing: De AI gebruikt de bekende eigenschappen om de onbekende in te vullen.
   • Het resultaat: Ook hier was de AI preciezer. De voorspellingen zaten dichter bij de werkelijkheid. Het enige nadeel was dat het iets meer tijd kostte om alle ontbrekende stukjes één voor één in te vullen, maar de kwaliteit was het waard.

⚡ Waarom is dit zo belangrijk?

1. Snelheid en Gemak (De "Plug-and-Play" aanpak)
De oude methode (HBM) is als het bouwen van een auto: je moet eerst het chassis ontwerpen, de motor afstellen en de wielen monteren voordat je kunt rijden.
De nieuwe methode (TabPFN) is als het huren van een Uber. Je stapt in, geeft je bestemming op, en de auto rijdt. Je hoeft niet te weten hoe de motor werkt. Voor ingenieurs betekent dit dat ze complexe analyses kunnen doen zonder jarenlange wiskundige training.

2. Betere Voorspellingen
De AI leert direct uit de data, zonder dat mensen vooraf moeten gokken over hoe de grond zich gedraagt. Dit leidt tot nauwkeurigere voorspellingen, wat betekent dat gebouwen veiliger kunnen worden ontworpen en er minder onnodige grondwerkzaamheden nodig zijn.

3. "Prompt Engineering" voor Grond
De auteurs noemen dit "geotechnisch prompt engineering". Dit klinkt ingewikkeld, maar het betekent simpelweg: hoe je de informatie aan de AI geeft, bepaalt hoe goed het antwoord is.

• Analogie: Als je een detective vraagt om een moord op te lossen, helpt het als je hem niet alleen de moordenaar geeft, maar ook de buurt, het weer en de getuigen. Als je de detective alleen de moordenaar geeft, is het moeilijker. De AI werkt het beste als je de juiste "context" (soortgelijke grondsoorten uit andere gebieden) meegeeft.

🚀 Conclusie: Een Nieuw Tijdperk

Dit artikel is een mijlpaal. Het is de eerste keer dat zo'n krachtige, algemene AI-model succesvol wordt gebruikt voor de aarde.

Het suggereert dat we de toekomst van de bouw en geologie kunnen veranderen. In plaats van dat alleen experts met dure software complexe berekeningen doen, kunnen we AI gebruiken die sneller, slimmer en makkelijker is. Het democratiseert de kennis: meer mensen kunnen betere beslissingen nemen over wat er onder hun voeten zit.

Kortom: De AI is de nieuwe super-detective die de aarde beter begrijpt dan ooit tevoren, en dat allemaal zonder dat we de oude, zware formules hoeven te vergeten – we gebruiken ze gewoon op een slimmere manier.

Technische samenvatting

Titel: Tabular foundation model voor GEOAI-benchmarkproblemen

Auteurs: Taiga Saito, Yu Otake, Stephen Wu
Context: Toepassing van het Tabular Prior-Data Fitted Network (TabPFN) op geotechnische site-characterisatieproblemen.

---

1. Het Probleem

De probabilistische karakterisering van bodemlocaties is een hoeksteen van modern geotechnisch ontwerp. Het doel is om ondergrondse bodemeigenschappen te voorspellen door beperkte, locatie-specifieke data te integreren met bredere, indirecte databases (Big Indirect Database, BID).

• Huidige aanpak: Traditionele methoden vertrouwen op hiërarchische Bayesiaanse modellen (HBM). Hoewel deze rigoureus zijn en domeinkennis kunnen coderen, vereisen ze aanzienlijke modelleerinspanning, zijn rekenkundig intensief en zijn ze gevoelig voor de aannames die door de gebruiker worden gemaakt.
• De uitdaging: Er is behoefte aan directere, datagedreven alternatieven die minder modelleerwerk vereisen en sneller zijn, zonder in te leveren op nauwkeurigheid of de kwaliteit van onzekerheidskwantificering.
• De benchmark: Het onderzoek gebruikt de GEOAI-benchmark BM/AirportSoilProperties/2/2025, die twee specifieke taken definieert voor een locatie met zachte klei (Yurakucho-formatie, Tokio):
  1. Ruimtelijke voorspelling: Het voorspellen van de variatie van de ongedraineerde schuifsterkte ($s_u$) over de diepte van boringen.
  2. Imputatie van ontbrekende data: Het invullen van ontbrekende mechanische parameters (zoals $s_u$, $E_u$, $\sigma'_p$, $C_c$, $c_v$) in een dataset met onvolledige metingen.

2. Methodologie

De auteurs passen TabPFN (Tabular Prior-Data Fitted Network) toe, een transformer-gebaseerd foundation model specifiek ontworpen voor tabulaire data.

• TabPFN Architectuur:

  • Gebaseerd op een Transformer-architectuur met een tweeweg-attentie-mechanisme (rij- en kolomgewijs), wat het model invariant maakt voor permutaties van rijen (samples) en kolommen (features).
  • Prior-Data Fitted: Het model is niet getraind op de gebruikersdata, maar is één keer vooraf getraind op miljoenen synthetische datasets gegenereerd uit causale modellen. Hierdoor leert het Bayesiaanse inferentie te benaderen in één enkele forward pass.
  • In-Context Learning: Het model werkt in een "zero-shot" of "few-shot" setting zonder hyperparameter-tuning. Het gebruikt de beschikbare data (site-specifiek + BID) als context om nieuwe voorspellingen te doen.

• Experimenteel Opzet:

  • Taak 1 (Ruimtelijke $s_u$-voorspelling): TabPFN wordt getest in twee scenario's:
    1. Individuele boring: Voorspelling per boring met verschillende BID-bronnen (lokaal, regionaal, globaal) als context.
    2. Simultane voorspelling: Alle boringen tegelijkertijd voorspellen in één context.
  • Taak 2 (Imputatie): Ontbrekende mechanische parameters worden voorspeld door TabPFN te laten werken op basis van de Local-BID/11 database als context. Omdat TabPFN één target per keer voorspelt, worden 14 aparte modellen opgezet voor de verschillende combinaties van ontbrekende patronen en doelen.
  • Vergelijking: De prestaties worden vergeleken met een Hiërarchisch Bayesiaans Model (HBM) dat eerder door Otake et al. is ontwikkeld voor dezelfde benchmark.

• Geotechnische Prompt Engineering: Een kernconcept in dit onderzoek is het selecteren van de meest informatieve contextdata (BID). De kwaliteit en relevantie van de gekozen databron (bijv. lokaal versus globaal) fungeren als de "prompt" voor het model.

3. Belangrijkste Resultaten

Benchmark Probleem #1: Ruimtelijke $s_u$-voorspelling

• Nauwkeurigheid: TabPFN presteerde consistent beter dan het HBM. De Root Mean Squared Error (RMSE) was gemiddeld 20–30% lager. De voorspellingen volgden de echte waarden nauwkeuriger dan de "over-gesmoorde" resultaten van het HBM.
• Onzekerheid: De 95% voorspellingsintervallen van TabPFN waren goed gekalibreerd en bevatten de ware waarden betrouwbaar.
• Efficiëntie: TabPFN was aanzienlijk sneller. Voor de simultane voorspelling van alle boringen was de runtime ongeveer een orde van grootte sneller dan het HBM (bijv. 1559s vs. cumulatief 7685s voor Local-BID/4).
• Invloed van BID: Lokale, gerichte databases presteerden vaak beter dan grote, algemene globale databases, wat de belangrijkheid van "prompt engineering" benadrukt.

Benchmark Probleem #2: Imputatie van ontbrekende parameters

• Nauwkeurigheid: TabPFN behaalde een significante verbetering in RMSE voor alle vijf de mechanische parameters en alle ontbrekende patronen in vergelijking met het HBM.
• Rekenkosten: Hier was het HBM efficiënter (452s vs. 2923s voor TabPFN). Dit komt doordat het HBM alle parameters in één geïntegreerd model schat, terwijl TabPFN 14 aparte voorspellingen moest uitvoeren (één per parameter/patrooncombinatie).
• Conclusie: Er is een afweging (trade-off): TabPFN biedt superieure nauwkeurigheid en onzekerheidskwantificering, maar vereist bij multi-target taken meer cumulatieve rekentijd door de huidige implementatie.

4. Bijdragen en Significantie

1. Eerste succesvolle toepassing: Dit is het eerste onderzoek dat een tabulaire foundation model (TabPFN) succesvol toepast op geotechnische modellering.
2. Paradigmaverschuiving: De resultaten suggereren een verschuiving van gespecialiseerde, handmatig getuned modellen (HBM) naar algemene, datagedreven foundation modellen die "out-of-the-box" werken.
3. Geotechnische Prompt Engineering: Het onderzoek introduceert het concept om bestaande geotechnische kennis (zoals het selecteren van vergelijkbare bodemprofielen) te gebruiken om de input-context van foundation modellen te optimaliseren, in plaats van het model zelf aan te passen.
4. Democratisering van analyse: Door het wegnemen van de noodzaak voor complexe modelselectie en hyperparameter-tuning, en door de snelle inferentie, wordt geavanceerde probabilistische analyse toegankelijker voor praktijkmensen.
5. Onzekerheidskwantificering: Het model levert goed gekalibreerde probabilistische uitkomsten zonder sterke a priori-aannames, wat essentieel is voor risicogestuurd ontwerp.

5. Conclusie en Toekomstperspectief

Het onderzoek concludeert dat TabPFN een krachtig, nauwkeurig en efficiënt alternatief is voor traditionele geotechnische modellen. Hoewel er nog ruimte is voor verbetering (bijv. multi-output capaciteiten voor snellere imputatie en hybride modellen die fysica en data combineren), markeert dit werk een belangrijke stap in de richting van geautomatiseerde, datagedreven geotechnische analyse. De "generalist" foundation model kan de prestaties van de "specialist" HBM overtreffen, zelfs zonder expliciete geotechnische theorie in het model te coderen.