Technische Samenvatting: Permutatie-Equivariante Deep Equilibrium Networks voor Real-Time Single-Bus DER Dispatch

1. Probleemformulering

Het artikel behandelt de uitdaging van real-time dispatch voor heterogene Distributed Energy Resources (DERs)—specifiek elektrische voertuigen (EV's), batterijopslag achter de meter (ST) en flexibele demand-response belastingen (DR)—onder een single-bus real-time prijsregime.

De kern van de moeilijkheid ligt in het oplossen van een hoog-dimensionaal geconstrueerd evenwicht bij elk dispatch-interval (bijv. elke 15 minuten). In deze setting:

• Device Dynamiek: Elk apparaat $i$ optimaliseert zijn intertemporele energieverbruik onder fysieke beperkingen (State-of-Charge limieten, laadvensters, vermogensratings) en apparaatspecifieke parameters (bijv. urgentie voor EV's, elasticiteit voor DR).
• Marktverdeling: Een enkele real-time prijs $\lambda(t)$ moet de geaggregeerde vermogensbalans klaren, wat alle $N$ apparaten aan elkaar koppelt.
• Schaalbaarheidsproblemen:
  1. Vloek van de dimensionaliteit: Gecentraliseerde mixed-integer of convexe programma's worden prohibitief traag naarmate $N$ opschaalt naar duizenden.
  2. Interactie tussen apparaten: Apparaten zijn alleen gekoppeld via de geaggregeerde balans en de prijs, een structuur die standaard volledig verbonden architecturen niet efficiënt kunnen exploiteren.
  3. Real-Time Latentie: Het herhaaldelijk oplossen van optimalisatieproblemen bij elk interval voldoet niet aan de strikte latentiebudgetten (5–15 minuten) voor grote vloten.

Bestaande leergestuurde benaderingen zijn doorgaans supervised, vereisen dure gelabelde data gegenereerd door offline solvers, en lijden vaak aan een gebrekkige schaalbaarheid met $N$.

2. Methodologie: DER-Transformer-DEQN

De auteurs stellen een Permutatie-Equivariante Transformer Deep Equilibrium Network (DER-DEQN) voor. Deze benadering beschouwt het dispatch-probleem als een competitief evenwicht en leert het beleid en de prijs simultaan zonder gelabelde data.

A. Competitieve Evenwicht Formulering

Het probleem wordt gemodelleerd als een competitief evenwicht waarbij:

• Apparaten prijsnemers zijn die intertemporele waarde maximaliseren gegeven $\lambda(t)$.
• De prijs $\lambda(t)$ de duale variabele is van de markt-clearing beperking.
• Deze structuur is analoog aan het evenwicht op de obligatiemarkt met heterogene agenten dat door de oorspronkelijke DEQN-methoden wordt opgelost, maar aangepast voor energiesystemen.

B. Architectuur: $O(1)$ Parameter Schaling

Het netwerk maakt gebruik van een Transformer-architectuur om parameterefficiëntie te bereiken die onafhankelijk is van het aantal apparaten $N$:

• Tokenisatie: De staat wordt geserialiseerd in een geaggregeerde contextvector $g(t)$ en $N$ per-apparaat tokens $h_i$.
• Gedeelde Gewichten: In tegenstelling tot een Multi-Layer Perceptron (MLP) waar de breedte van de input/output lagen schaalt met $N$ (wat resulteert in $O(N)$ parameters), deelt de Transformer gewichten over alle apparaat-tokens. Het aantal parameters blijft $O(1)$, ongeacht de grootte van de vloot.
• Composiet Positionele Codering: Om de noodzakelijke fysieke structuur te injecteren terwijl permutatie-equivariantie behouden blijft, wordt een composiet positionele codering toegevoegd:
  $$PE_i = \text{TypeEmbed}(\tau_i) \oplus \text{WindowEmbed}(w_i) \oplus \text{FeederEmbed}(f_i) \oplus \text{SinRank}(r_i)$$
  Dit codeert het apparaattype, de beschikbaarheidsperiode, de feeder-klasse en een sinusvormige rang (tie-breaker), waardoor symmetrie alleen wordt doorbroken waar de fysieke identiteit dit dicteert.

C. Ongesuperviseerd Evenwicht Verlies

Het model wordt getraind zonder gelabelde optimale dispatches door het residu van de evenwichtscondities te minimaliseren. De verliesfunctie $L$ bestaat uit vijf componenten:

1. Intertemporele Marginale Waarde (FOC): Analoog aan Euler-vergelijkingen, zorgt ervoor dat de marginale waarde gelijk is aan de prijs voor opslag, EV's en DR.
2. KKT Power-Box: Complementariteitscondities voor vermogenslimieten.
3. KKT SoC-Bounds: Complementariteit voor State-of-Charge limieten.
4. KKT EV-Deadline: Condities voor het halen van de doelstelling voor het laden bij vertrek.
5. Marktverdeling: Het residu van de geaggregeerde vermogensbalansvergelijking, die de real-time prijs vastlegt.

Het verlies gebruikt een relatieve vloer-normalisatie om schaalinvariantie en stabiele training te garanderen.

3. Belangrijkste Bijdragen

1. Probleemformulering: Het formuleren van real-time single-bus DER dispatch als een competitief evenwicht dat structureel analoog is aan macro-economische modellen met heterogene agenten.
2. Architectuurontwerp: Introductie van een permutatie-equivalente Transformer-DEQN met $O(1)$ parameter schaling in $N$, in contrast met de $O(N)$ schaling van standaard MLP-baselines.
3. Symmetrie Injectie: Herontwerp van de positionele codering om apparaattype, tijdsvenster en feeder-priors als de enige symmetrie-doorbrekende termen te integreren.
4. Label-vrije Training: Ontwerp van een ongesuperviseerd verlies gebaseerd op evenwichtsresiduen (Euler-analogen, KKT-complementariteiten en marktverdeling) dat geen gelabelde optimale dispatch-labels vereist.
5. Empirische Validatie: Demonstratie van de eigenschappen van de methode op twee schalen:
   • Architectuur Schaal ($N=5000$): Validatie van parameterefficiëntie en latentie.
   • Evenwichtskwaliteit ($N=50$): Validatie van de convergentie van residuen en welvaartsvergelijking.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op twee NVIDIA RTX 3090 GPU's.

A. Parameter Schaling en Efficiëntie

• Parameters: Het Transformer-model behoudt een vlak aantal van 119.142 parameters over alle vlootgroottes ($N=50$ tot $5000$). In contrast hiermee schaalt een MLP-baseline van $1,87 \times 10^6$ naar $8,60 \times 10^7$ parameters bij $N=5000$ (een 720x verschil).
• Permutatie-Equivariantie: De Transformer bereikt machine-precisie equivariantie ($\sim 2 \times 10^{-6}$ fout) over permutaties, terwijl de MLP fouten vertoont die lineair met $N$ groeien.

B. Real-Time Latentie

• Het geleerde beleid wordt uitgevoerd in 8,8 ms voor $N=5000$ (mediaan latentie), ruim binnen het 5–15 minuten dispatch-budget.
• Dit is twee ordes van grootte sneller dan gecentraliseerde solvers (CVXPY/CLARABEL) en aanzienlijk sneller dan Mixed-Integer Linear Programming (MILP) benaderingen, die onhandelbaar worden voor grote $N$.

C. Evenwichtskwaliteit en Welvaart

• Residu Convergentie: Bij $N=50$ convergeren de markt-clearing en KKT-residuen naar $\sim 10^{-4}$, wat wijst op stabiele label-vrije training.
• Welvaartsvergelijking: De geleerde dispatch bereikt een concurrerende welvaart vergeleken met het gecentraliseerde convexe optimum. Echter, het intertemporele marginale waarde (FOC) residu stabiliseert op een niet-nul vloer ($\sim 0,6$).
• Beperking: Vanwege deze FOC-vloer en de ongeankerde prijsschaal (Propositie 1), is de dispatch benaderingsgewijs, maar niet exact, welvaartsoptimaal. Het artikel merkt op dat het prijstraject van het beleid de vorm van de duale prijs van de gecentraliseerde solver niet perfect volgt, wat suggereert dat het gat wordt gedreven door het FOC-residu in plaats van een eenvoudige schaalmismatch.

D. Trainingsbeperkingen

• Hoewel parameters $O(1)$ schalen, schaalt de attention activatie geheugen $O(N^2)$. Full-batch training bij $N=5000$ overschrijdt het GPU-geheugen (24 GB) vanwege de $[B, H, N, N]$ attention matrix. Bijgevolg worden resultaten voor evenwichtskwaliteit gerapporteerd bij $N=50$, de grootste schaal waar de ongesuperviseerde verliesfunctie convergeert onder het huidige trainingsbudget.

5. Betekenis en Claims

Het artikel claimt dat dit werk de kloof tussen computationele economie en elektriciteitnetwerkoperaties overbrugt door real-time, fleet-scale dispatch mogelijk te maken op commodity hardware.

• Schaalbaarheid: De $O(1)$ parameter schaling maakt het mogelijk voor één enkel netwerk met een vaste capaciteit om vloten van elke omvang te bedienen, waardoor hertraining of herdimensionering van modellen wanneer apparaten de vloot aan of verlaten, wordt geëlimineerd.
• Real-Time Haalbaarheid: Inferentietijden van minder dan 10 ms maken de methode levensvatbaar voor dispatch-cycli waar gecentraliseerde optimalisatie faalt.
• Theoretische Afstemming: Door direct aan de evenwichtscondities te voldoen, respecteert de methode de economische structuur van het probleem (prijs-gemedieerde coördinatie) zonder te vertrouwen op supervised imitatie van offline solvers.

Bescheiden Beperkingen Erkend:
De auteurs stellen expliciet dat exacte welvaartspariteit met gecentraliseerde solvers een openstaande uitdaging blijft vanwege de niet-nul FOC-residu vloer. Bovendien vereist de huidige $O(N^2)$ geheugenbottleneck voor het trainen van grote vloten toekomstige adoptie van lineaire of flash-attention varianten om het volledige potentieel op de grootste schalen te realiseren. De huidige studie is beperkt tot een single-bus model zonder netwerkbeperkingen.