Toward a foundational thermal model for residential buildings

Technische Samenvatting: Op weg naar een fundamenteel thermisch model voor residentiële gebouwen

Probleemstelling
De gemeenschap voor gebouwenergie mist momenteel een "fundamenteel thermisch model"—een enkel, vooraf getraind model dat in staat is om te generaliseren over uiteenlopende gebouwen, klimaatzones en besturingsstrategieën zonder gebouw-specifieke kalibratie. Bestaande aanpakken staan voor aanzienlijke hindernissen: op fysica gebaseerde modellen vereisen uitgebreide, gebouw-specifieke kalibratie; datagedreven modellen vragen vaak om grote datasets en generaliseren slecht; en grijs-boks RC-modellen kampen met niet-lineariteiten. Bovendien vertonen recente Time-Series Foundation Models (TSFMs) beperkte generaliseerbaarheid voor taken op het gebied van gebouwenergie, en hun schaal komt vaak niet overeen met de eisen op het gebied van besturingslatentie. De centrale onderzoeksvraag luidt hoe een overdraagbaar thermisch model kan worden geconstrueerd dat in staat is tot zero-shot generalisatie naar onbekende gebouwen.

Methodologie: De Physics Transformer
De auteurs stellen een "Physics Transformer" voor, een decoder-only transformer-architectuur die domeinkennis direct in de neurale netwerkstructuur verwerkt, in plaats van uitsluitend te vertrouwen op vooraf trainen met enorme hoeveelheden data. De architectuur integreert drie kernprincipes die gebaseerd zijn op fysica:

1. Verrijking met afgeleiden: Om de dynamiek van veranderingssnelheid die inherent is aan warmteoverdracht expliciet vast te leggen, verrijkt het model de invoerruimte met eerste-orde tijdsafgeleiden van de covariaten. Deze worden berekend met behulp van centrerende differentieschema's van de tweede orde.
2. Euler-gebaseerde residu-predictie: In plaats van absolute temperatuurwaarden te voorspellen, voorspelt het model de temperatuurverandering ($\Delta T_t$) op het volgende tijdstip. Deze formulering is equivalent aan expliciete Euler-integratie van een gewone differentiaalvergelijking (ODE). Door thermische responspatronen te leren (bijvoorbeeld "deze warmte-input veroorzaakt een stijging van 0,5°C per uur") in plaats van absolute temperatuurbereiken, richt het model zich op universele dynamieken die consistenter zijn over gebouwen heen dan specifieke instelpunten.
3. Verrijking met statische kenmerken: Het model integreert tijdsonafhankelijke gebouwkenmerken (bijvoorbeeld vloeroppervlak, aspectratio, verhouding raamoppervlak tot gevel, R-waarden, dichtheid van interne winsten) die zijn ontleend aan simulatiemodellen. Deze statische kenmerken worden geprojecteerd en toegevoegd aan de tijdsrepresentatie na codering, waardoor het model voorspellingen kan moduleren op basis van gebouw-specifieke fysica zonder deze relaties puur uit tijdspatronen te hoeven leren.

De architectuur maakt gebruik van Rotary Position Embedding (RoPE) voor aandacht (attention) om tijdsafhankelijkheden te coderen, waardoor generalisatie naar tijdsposities mogelijk wordt die niet tijdens het trainen zijn gezien. Het model is getraind op het CityLearn-dataset, dat gesimuleerde thermische responsen bevat voor 247 residentiële gebouwen in drie klimaatzones (Texas, Californië, Vermont) onder vijf verschillende HVAC-besturingsstrategieën.

Belangrijkste bijdragen

• Op fysica gebaseerde architecturale principes: Het artikel identificeert en valideert verrijking met afgeleiden en Euler-gebaseerde residu-predictie als inductieve bias die warmteoverdrachtsfysica in neurale architecturen verwerkt, waardoor datadoeltreffend transfer learning mogelijk wordt.
• Empirisch bewijs voor zero-shot transfer: De studie biedt de eerste systematische evaluatie van de overdraagbaarheid van thermische modellen, zowel tussen gebouwen binnen een klimaatzones als tussen verschillende klimaatzones, en toont succesvolle zero-shot transfer aan zonder fijnafstemming.
• Benchmarking van het foundation model-paradigma: Het werk vergelijkt op fysica gebaseerde ontwerpen met heersende foundation model-aanpakken (schaal + generieke architectuur) en daagt het idee uit dat massaal generiek vooraf trainen voldoende is voor taken op het gebied van gebouwenergie.

Resultaten
Geëvalueerd op het CityLearn-dataset behaalde de Physics Transformer state-of-the-art prestaties:

• Nauwkeurigheid: Het model behaalde een RMSE voor één-stapsvoorspelling van 0,30°C in Texas en 0,29°C in Vermont, en presteerde beter dan traditionele baselines (LSTM, XGBoost) en fijnafgestemde Time-Series Foundation Models (TimesFM).
• Datadoeltreffendheid: Het model toonde opmerkelijke steekproefdoeltreffendheid. Trainen met slechts twee gebouwen leverde prestaties op die vergelijkbaar waren met een LSTM getraind op 32 gebouwen, wat een vermindering van de data-eisen met een factor 16 vertegenwoordigt.
• Zero-shot transfer: Modellen getraind op een kleine subset van gebouwen (bijvoorbeeld 2–4 gebouwen) generaliseerden effectief naar onbekende gebouwen en zelfs naar verschillende klimaatzones (bijvoorbeeld een in Texas getraind model toegepast op Vermont) zonder enige fijnafstemming.
• Vergelijking met baselines: Algemene foundation modellen (TimesFM-200M) faalden catastrofaal bij de voorspelling van gebouwthermiek (RMSE > 2°C) zonder domeinspecifieke adaptatie, terwijl de op fysica gebaseerde aanpak slaagde met minimale data.

Betekenis en claims
De auteurs positioneren dit werk als een stap in de richting van het visioen van fundamentele thermische modellen, waarbij ze architecturale principes vaststellen in plaats van een complete, universele oplossing te claimen. Zij betogen dat voor gebouwthermische dynamiek domeinspecifieke inductieve bias superieur zijn aan generieke architecturen op grote schaal, zelfs wanneer laatstgenoemde zijn fijnafgestemd op domein-specifieke data.

Het artikel claimt dat het inbedden van warmteoverdrachtsfysica via verrijking met afgeleiden en residu-predictie een noodzakelijke basis vormt voor universele modellen voor gebouwenergie. De resultaten bieden empirisch bewijs dat zero-shot transfer haalbaar is voor thermische dynamiek, en bieden een proof-of-concept voor modellen die universeel, overdraagbaar en praktisch inzetbaar zijn.

Beperkingen en reikwijdte
De auteurs blijven bescheiden wat betreft de reikwijdte van hun claims. Zij erkennen dat:

• De evaluatie beperkt is tot eengezinswoningen; commerciële gebouwen met HVAC-systemen met meerdere zones en complexe besturingen blijven ongetest.
• Alle training en evaluatie vertrouwen op EnergyPlus-simulaties in plaats van real-world data, wat een "sim-to-real" kloof creëert die toekomstige domeinadaptatie kan vereisen.
• De klimaatdiversiteit beperkt is tot drie Amerikaanse zones (heet-humid, maritiem, koud), en extreme tropische, aride of subarctische omstandigheden uitsluit.

Het artikel concludeert dat hoewel deze architecturale principes noodzakelijk zijn, het schalen ervan naar bredere gebouwpopulaties en het valideren ervan op real-world data essentiële volgende stappen zijn op weg naar echt fundamentele modellen.