Technische Samenvatting: Wanneer Regelenschendingen Zeldzaam Zijn: Chimera-training voor Logische Anomaliedetectie

Probleemstelling

Het artikel behandelt Logische Anomaliedetectie, een setting waarin anomalieën niet uitsluitend worden gedefinieerd als statistische uitschieters of samples die buiten de verdeling vallen (OOD), maar als invoer die bekende semantische beperkingen schendt. Deze beperkingen omvatten gestructureerde co-voorkomens van objecten, actievoorwaarden en temporele of relationele regulariteiten.

Een kritieke uitdaging in dit domein is dat regelenschendingen in de echte wereld vaak zeldzaam zijn of tijdens het trainen volledig ontbreken. Standaard supervisie voor binaire classificatie vereist toegang tot anomalie-samples, die per definitie schaars zijn. Bovendien staan bestaande methoden voor een afweging: volledig symbolische pijplijnen vertrouwen op breekbare perceptie-uitvoer, terwijl volledig neurale pijplijnen vaak beperkingen impliciet opnieuw leren, waardoor ze verstrikt raken in toevallige visuele aanwijzingen en geen interpreteerbare attributies op regelniveau bieden. De auteurs streven naar een methode die kan leren regelenschendingen te detecteren met uitsluitend trainingsdata die consistent is met de regels (d.w.z. "normale" data), zonder expliciete voorbeelden van anomalieën te vereisen.

Methodologie

Het voorgestelde raamwerk, het Neurale Evaluator, is een neuro-symbolische aanpak die logische beperkingen compileert tot expliciete gerichte acyclische grafen (DAG's) en herbruikbare neurale operatoren leert om deze te evalueren.

1. Architectuur en Trainingspijplijn

De methode werkt in vier fasen (geïllustreerd in Figuur 1):

• Fase 1 (Bladconceptbank): Een gedeelde encoder $E_\phi$ extrahet kenmerken $z$ uit invoerafbeeldingen. Een reeks "blad"-hoofden voorspelt kansen voor een vooraf gedefinieerde set semantische concepten (bijv. aanwezigheid van objecten, relaties).
• Fase 2 (Subboompoortleer): Elke logische regel wordt weergegeven als een DAG waarbij bladeren concept-ID's zijn en interne knopen logische operatoren (EN, OF, IMPLIEERT, IFF). Het systeem leert een subboompoort $g_{\theta_v}$ voor elke interne knoop. Deze poorten mappingen kind-kenmerken en op randen gebaseerde ontkenningvlaggen naar een ouder-kenmerkrepresentatie en een regel-voldoening-kans.
• Fase 3 (Trainen per niveau): Training verloopt van onder naar boven op diepte. Poorten op lagere dieptes worden bevroren, en poorten op het huidige niveau worden getraind met knoop-voor-knoop binaire kruisentropie. Cruciaal is dat de grondwaarheidstargets voor interne knopen worden afgeleid via exacte Booleaanse propagatie vanuit de harde conceptlabels, wat tussenliggende supervisie biedt voor elke knoop in de grafiek, niet alleen voor de wortel.
• Fase 4 (Inferentie): Voor een nieuwe afbeelding propageren de bevroren poorten kenmerken omhoog door de DAG om de wortel-voldoening-kans te berekenen. De anomaliescore wordt gedefinieerd als $1 - \hat{t}_{root}$.

2. Chimera Negatieve Training

De kerninnovatie die de schaarste aan echte schendingen aanpakt, is Chimera-training.

• Het Probleem: Trainen op normale data van dezelfde afbeelding leidt vaak tot "shortcut learning", waarbij een poort leert een globale visuele sjabloon van een regel te herkennen in plaats van de logische operator te componeren. Bovendien kunnen informatieve tegenvoorbeelden (bijv. $A=1, B=0$ voor een implicatie $A \Rightarrow B$) ontbreken in de trainingsverdeling.
• De Oplossing: In plaats van ruwe pixels te mengen (zoals Mixup), construeert de methode contrfactuele operanden op kenmerkniveau. Voor een binaire knoop met kinderen $\ell$ en $r$ wordt de trainingsinvoer voor sample $i$ gevormd door het linkerkind-kenmerk van sample $i$ te concateneren met het rechterkind-kenmerk van een ander sample $\pi(i)$ (waarbij $\pi$ een permutatie is).
• Targetgeneratie: De targetlabel voor deze "chimera"-invoer wordt berekend door de logische operator toe te passen op de harde waarheidlabels van de respectievelijke samples ($t_\ell(y_i)$ en $t_r(y_{\pi(i)})$).
• Effect: Dit dwingt de poorten om te gedragen als compositie-operatoren, waarbij ze de logische relatie tussen kenmerken leren in plaats van visuele correlaties te memoriseren. Het levert supervisie voor logische tegenvoorbeelden, zelfs wanneer specifieke regeluitkomsten ontbreken in de natuurlijke data.

3. Lineage-bewust Cachen

Om te schalen over vele regels, hanteert het systeem een caching-mechanisme. Een cache-sleutel wordt gegenereerd op basis van de symbolische subboomstructuur, rand-ontkenningen, poortarchitectuur, kenmerkdimensie en een vingerafdruk van de upstream-encoder. Dit maakt het mogelijk om geleerde subbomen veilig te hergebruiken over verschillende regels en runs, mits de kenmerkrepresentatie en logische structuur overeenkomen.

Belangrijkste Bijdragen

1. Subboompoorten: Een van onder naar boven werkend, lokaal leermecanisme per knoop dat concept-geconditioneerde kenmerken componeert tot waarheidskansen onder harde Booleaanse supervisie, waardoor hergebruik van geleerde logische operatoren mogelijk wordt.
2. Chimera Negatieve Training: Een innovatieve trainingsstrategie die operator-niveau compositie afdwingt en shortcut learning voorkomt door subboomoperanden van verschillende samples te mengen. Dit stelt het model in staat effectief te opereren in scenario's waar echte contrafacten (schendingen) volledig ontbreken in de trainingsdata.
3. Empirische Validatie: Demonstratie van de effectiviteit van de methode op gestructureerde beeld/video-benchmarks (CLEVRER, OpenImages, VidOR) en data uit de echte wereld, met significante verbeteringen ten opzichte van onafhankelijk-evenement baselines en semantische training op dezelfde afbeelding.

Resultaten

De auteurs evalueerden de Neuraal Evaluator tegen drie baselines:

• INDEPPROB: Een onafhankelijk-evenementen probabilistische evaluator (symbolische baseline).
• SEM (Semantisch-Verlies): Een semantische trainingsbaseline op dezelfde afbeelding zonder chimera-menging.
• Mono-N/Mono-C: Monolithische baselines alleen voor de wortel (getraind op alleen normale data of met chimera-data).

Belangrijkste Bevindingen:

• Prestatiewinst: De Neuraal Evaluator presteerde consistent beter dan de onafhankelijk-evenementen baseline op regel-niveau anomalie AUROC. Opmerkelijke winsten werden waargenomen op CLEVRER (+0,083), OpenImages (+0,078) en VidOR (+0,234).
• Noodzaak van Chimera-training: De SEM-baseline (alleen training op dezelfde afbeelding) stortte in op complexe datasets, met een AUROC $\approx 0,5$ (willekeurig gokken). Dit bevestigt dat gewone normale data onvoldoende dekking biedt van informatieve schendende waarheidsconfiguraties om een niet-triviaal anomaliesignaal te leren zonder expliciete contrafactuele supervisie.
• Compositieregels: De methode toonde bijzondere sterkte op compositie- en relationele regels (bijv. ketens van implicaties in CLEVRER, object-relatieregels in VidOR), waar vaste probabilistische aannames (zoals onafhankelijkheid van gebeurtenissen) falen.
• Ablatie-insights: Hoewel de monolithische chimera-getrainde baseline vergelijkbaar presteerde met het volledige modulaire model, biedt de modulaire aanpak een meer interpreteerbare en herbruikbare decompositie van regel-evaluatie zonder significante prestatieverlies.

Betekenis en Claims

Het artikel beweert dat veel praktische anomalieën het beste worden gekarakteriseerd als schendingen van domeinbeperkingen in plaats van louter zeldzaamheid in pixelruimte. Door beperkingen te compileren tot expliciete DAG's en te trainen met chimera-gebaseerde supervisie, biedt de detector niet alleen een scalair anomaliescore, maar ook gestructureerde, regel-niveau attributies die uitleggen welke beperkingen werden geschonden.

De auteurs benadrukken dat deze aanpak detectie van regelenschendingen mogelijk maakt, zelfs wanneer de trainingsdataset uitsluitend samples bevat die consistent zijn met de regels. Dit is een onderscheidend kenmerk ten opzichte van volledig supervisie voor binaire classificatie, die toegang vereist tot zeldzame anomalie-samples. De methode overbrugt de kloof tussen symbolisch redeneren (expliciete beperkingen) en neurale perceptie (robuste kenmerkextractie), en biedt een schaalbare oplossing voor logische anomaliedetectie in scenario's waar grondwaarheid-anomalieën niet beschikbaar zijn.

Het artikel blijft bescheiden wat betreft zijn beperkingen, en merkt op dat de methode fouten erft van de bladconceptbank, biases van datasetannotaties en potentiële toevallige correlaties in gemijnde regels. Het stelt dat hoge anomaliescores semantische inconsistentie aangeven ten opzichte van de geselecteerde regelset, en niet een algemeen veiligheidsoordeel.