Technische Samenvatting: ACOPULA – Archimedean Copula Inference via Taylor-Mode AD

Probleemstelling

Het artikel behandelt drie kritieke beperkingen in bestaande hulpmiddelen voor het aanpassen van geneste Archimedische copula's, een klasse van modellen die essentieel zijn voor het vastleggen van hiërarchische afhankelijkheid in overlevingsanalyse, financiën en klinische risicosituaties:

1. Per-variabele censurering: Bestaande hulpmiddelen verwerken over het algemeen alleen bivariate problemen, gedeelde censureringstijden of lage-dimensionale gevallen ($d \le 10$). Ze zijn niet in staat om willekeurige rechts-censureringsmaskers $\delta \in \{0, 1\}^d$ te accommoderen waarbij verschillende variabelen in één observatie onafhankelijk van elkaar gecensureerd kunnen zijn. Dit komt veel voor in ICU-gegevens (bijvoorbeeld MIMIC-IV), waarbij laboratoriummetingen bij ontslag op verschillende tijdstippen worden gecensureerd.
2. Willekeurige nesting en generatoren: Huidige implementaties (bijvoorbeeld het R-pakket copula) vertrouwen op handmatig afgeleide Stirling-getalentabellen voor een vast aantal van vijf klassieke generatoren en ondersteunen slechts twee nestingslagen. Ze kunnen geen willekeurige boomstructuren, nesten van gemengde families of door de gebruiker gedefinieerde generatoren verwerken (zoals neurale Archimedische copula's).
3. Exacte parametergradienten: Het aanpassen van hoog-dimensionale modellen zonder exacte automatische differentiatie dwingt tot een beroep op methoden zonder afgeleiden, eindige verschillen of Monte Carlo-benaderingen (bijvoorbeeld Gesimuleerde Maximum Likelihood Schatting, SMLE). Deze benaderingen lijden onder slechte schaalbaarheid, bias of hoge variantie, vooral naarmate de dimensionaliteit toeneemt.

De kernwiskundige hindernis is dat de waarschijnlijkheid voor een geneste copula met censurering vereist dat een gemengde partiële afgeleide wordt berekend van de cumulatieve verdelingsfunctie (CDF) van de copula. Voor een boom van samengestelde generatoren houdt dit in dat partiële Bell-polynomen van hogere-orde afgeleiden van generatorensamenstellingen worden berekend. Bestaande methoden coderen deze polynomen ofwel hard voor specifieke families of maken gebruik van combinatorische enumeratie die exponentieel schaalt.

Methodologie: ACOPULA

De auteurs presenteren ACOPULA, een JAX-natief framework dat deze barrières oplost door middel van Taylor-mode Automatische Differentiatie (AD) en polynoomverheffing.

Kernalgoritme

Het framework berekent de dichtheid van de geneste copula en de bijbehorende gradienten via een bottom-up recursie die handmatig afgeleide Bell-polynoomtabellen vervangt door één differentieerbare berekening:

1. Taylor-Mode AD (Jet Propagatie): In plaats van geneste eerste-orde AD-aanroepen (die schalen als $O(2^n)$), gebruikt het framework Taylor-mode AD om de vector van hogere-orde afgeleiden (jets) van elke generatorensamenstelling $h = \psi^{-1}_{outer} \circ \psi_{inner}$ in één forward pass te berekenen. Dit levert de coëfficiënten van de Taylor-reeksontwikkeling van de edgesamenstelling op.
2. Polynoomverheffing voor Bell-polynomen: De partiële Bell-polynomen $B_{n,k}$ die nodig zijn volgens de dichtheidsformule van Hofert en Pham [2013], worden berekend door de Taylor-coëfficiëntvector tot opeenvolgende machten te verheffen via afgeknotte convolutie.
   • Laat $p(\epsilon)$ de exponentiële genererende functie zijn van de edge-afgeleiden.
   • De coëfficiënt van $\epsilon^n$ in $p(\epsilon)^k$ is evenredig met $B_{n,k}$.
   • Door de Taylor-vector iteratief met zichzelf te convolteren, herstelt het framework alle benodigde Bell-polynoomwaarden zonder combinatorische enumeratie of per-familie tabellen.
3. Omgaan met censurering: Censurering wordt behandeld als een eerste klas operatie. Een gecensureerd blad initialiseert zijn bijdragevector als $\alpha = [1]$ (het identiteitselement voor Cauchy-producten), terwijl een niet-gecensureerd blad $\alpha = [0, 1]$ gebruikt. Dit mechanisme reduceert automatisch de effectieve dimensie van de polynoomverheffings- en Cauchy-productstappen bij elke voorouderknoop, waardoor het algoritme willekeurige censureringsmaskers $\delta$ kan verwerken zonder hercompilatie.
4. Numerieke stabiliteit: Om onderstroom/overstroom te voorkomen in hoge dimensies (bijvoorbeeld $d=98$), werkt de implementatie in het log-domein met gebruik van voor tekens verantwoordelijke log-sum-exp-aritmetiek en per-index herschaling. Voor generatorenpaartjes zonder gesloten-vorm inverse lost het impliciete vergelijkingen op met behulp van impliciete functie-stelling gradienten om catastrofale annulering te voorkomen.

Complexiteit

• Slechtste geval: $O(d^3)$ voor bomen met vaste diepte.
• Geoptimaliseerd: $O(d^2)$ voor $\sqrt{d}$-gedecomposeerde bomen (waarbij elke niet-wortelsubboom ten hoogste $O(\sqrt{d})$ niet-gecensureerde bladeren heeft).
• Het framework schaalt in de praktijk kwadratisch voor gebalanceerde topologieën, met bereiken tot $d=8.000$.

Belangrijkste Bijdragen

1. Familieneutrale inferentie: Het framework leidt dichtheden en exacte gradienten automatisch af voor elke door de gebruiker gedefinieerde generator (klassiek of neuronaal), waardoor de behoefte aan handmatig afgeleide formules verdwijnt.
2. Per-variabele censurering: Het ondersteunt willekeurige per-observatie censureringsmaskers direct in de kernrecursie, waardoor de beperkingen tot bivariate of gedeelde-tijd situaties van eerdere hulpmiddelen worden opgeheven.
3. Schaalbaarheid: Het bereikt $O(d^2)$ schaalbaarheid voor gebalanceerde bomen, empirisch gevalideerd tot $d=8.000$, en biedt een snelheidswinst van $\sim 650\times$ ten opzichte van R's nacLL bij $d=35$.
4. Open-source implementatie: ACOPULA wordt uitgebracht als een JAX-pakket met een eenvoudige API voor geneste-copula-dichtheid, gradienten en validatiediagnostiek.
5. Stalen trekken: Als neveneffect maakt het framework praktisch stalen trekken uit de voorwaardelijke verdeling (Rosenblatt-stalen trekken) mogelijk voor deze copula's, wat eerder geblokkeerd werd door de moeilijkheid om afgeleiden van hoge orde te berekenen.

Experimentele Resultaten

De auteurs valideren ACOPULA door middel van uitgebreide simulaties en vier experimenten met reële data:

• Juistheid: Parameterherwinning op gesimuleerde geneste Clayton-copula's ($d \in \{10, 20, 50\}$) toont een bias $< 2,7\%$ en empirische standaardfouten die overeenkomen met waargenomen-Fisher SE's. Dichtheidswaarden komen overeen met R's nacLL tot $< 10^{-14}$ en met Mathematica-symbolische afgeleiden tot $d=60$.
• MIMIC-IV ($d=53$): Geneste Archimedische copula's werden aangepast aan 85.229 ICU-opnames met per-variabele censurering. Zowel klassieke families (Clayton, Frank, Gumbel) als geneste neurale Archimedische copula's (ACNet, Gen-AC) werden succesvol gefit. Neuronale generatoren presteerden beter dan klassieke, waarbij ACNet de beste negatieve log-likelihood (NLL) op de vastgehouden dataset behaalde met slechts 70 parameters.
• S&P 500 ($d=98$): Er werd een hiërarchisch model voor 11 sectoren gefit op dagelijkse rendementen. Deze dimensie ligt buiten het bereik van R's nacLL (dat afbreekt na $d=40$). Het geneste Gumbel-model legde sectorniveau staartafhankelijkheid vast die consistent was met empirische data.
• Retinopathie-studie: Toonde familieneutrale gecensureerde Maximum Likelihood Schatting (MLE) over tien Archimedische families, waarvan vijf geen eerdere gecensureerde implementatie hadden.
• HACSurv Reproductie: Het framework reproduceerde exact de resultaten van de HACSurv-neurale copula-pijplijn op het Framingham-dataset, waardoor de dichtheidsmachinerie werd gevalideerd tegen een iteratieve inverse-functie-stelling-oplosser.

Betekenis

Het artikel beweert dat ACOPULA de inferentie van geneste Archimedische copula's verenigt onder één differentieerbare pijplijn. Door beperkte, handgecodeerde segmenten te vervangen door willekeurige families, willekeurige nestingsdieptes en hoog-dimensionale gemengde partiële afgeleiden, verlaagt het de drempel voor practitioners in overleving, financiën en betrouwbaarheid om expressieve, interpreteerbare en censureringsbewuste afhankelijkheidsmodellen te bouwen. Het werk maakt exacte likelihood-inferentie mogelijk in regimes waar eerdere hulpmiddelen vertrouwden op bevooroordeelde benaderingen of volledig faalden vanwege de dimensionaliteit.