🤖 machine learning

CountTRuCoLa: Rule Learning for Interpretable Temporal Knowledge Graph Forecasting

CountTRuCoLa is een interpreteerbare methode voor het voorspellen van temporele kennisgrafieken die vier soorten symbolische regels leert die recentheid en frequentie incorporeren, waarbij het competitieve prestaties en schaalbaarheid bereikt terwijl het ervoor zorgt dat alle voorspellingen direct herleidbaar zijn naar hun onderliggende regels en observaties.

Oorspronkelijke auteurs: Julia Gastinger, Christian Meilicke, Heiner Stuckenschmidt

Gepubliceerd 2026-08-04

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Julia Gastinger, Christian Meilicke, Heiner Stuckenschmidt

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de toekomst probeert te voorspellen, maar in plaats van een kristallen bol heb je een gigantisch, levend dagboek van alles wat ooit is gebeurd. In de wereld van de computerwetenschap wordt dit dagboek een Temporale Kennisgraaf genoemd. Denk aan het als een massief web van feiten, zoals "Alice ontmoette Bob in 2020" of "De aandelenmarkt stortte in maart in." Het "temporele" deel betekent simpelweg dat elk feit een tijdstempel heeft, zodat de computer weet wanneer dingen gebeurden. Wetenschappers zijn geobsedeerd door deze grafen omdat ze willen raden wat er hierna gebeurt—zoals voorspellen of Alice Bob weer zal ontmoeten, of dat er een nieuwe trend zal ontstaan. Meestal gebruiken computers om deze gissingen te maken gigantische, complexe "neurale netwerken". Dit zijn als superintelligente maar mysterieuze zwarte dozen die getallen verwerken om patronen te vinden. Ze zijn krachtig, maar ook zwaar, traag en vaak onmogelijk te begrijpen. Je krijgt een voorspelling, maar je hebt geen idee waarom de computer die keuze heeft gemaakt.

Ontmoet een nieuw artikel van onderzoekers van de Universiteit van Mannheim die beslotenenden anders te proberen. Ze vroegen zich af: "Wat als we geen gigantische zwarte doos nodig hebben? Wat als we gewoon eenvoudige, duidelijke regels kunnen gebruiken, zoals de regels die we in het dagelijs leven gebruiken?" Ze bouwden een systeem genaamd CountTRuCoLa. In plaats van een complex brein, werkt dit systeem als een detective die naar de geschiedenis kijkt en zegt: "Hé, telkens wanneer dit specifieke ding onlangs gebeurde, volgt dat andere ding meestal." De onderzoekers testten hun eenvoudige detective tegen de gigantische zwarte dozen op negen verschillende datasets. Ze ontdekten dat hun eenvoudige regelgebaseerde systeem niet alleen sneller en lichter was (het crashte niet op enorme hoeveelheden data zoals de anderen dat deden), maar ook net zo goed, en soms zelfs beter, was in het voorspellen van de toekomst. Het beste deel? Je kunt naar hun antwoord kijken en de exacte regel en de specifieke gebeurtenis uit het verleden zien die ertoe leidde. Het is alsoals het inruilen van een toverstaf die je niet kunt begrijpen voor een heldere, stapsgewijze kaart die iedereen kan lezen.

De Gereedschapskist van de Detective: Hoe CountTRuCoLa Werkt

Het kernidee achter CountTRuCoLa is dat de toekomst vaak het verleden herhaalt, maar met een twist: recentheid en frequentie doen ertoe. Stel je voor dat je probeert te raden of je vriend(in) je een berichtje terugstuurt. Als hij/zij vijf minuten geleden een bericht stuurde, neem je misschien aan dat hij/zij snel zal antwoorden. Als hij/zij elke dag van de week een bericht stuurde, zou je misschien nog zelfverzekerder zijn. CountTRuCoLa gebruikt deze logica om toekomstige verbindingen in een kennisgraaf te voorspellen.

Het systeem leert vier soorten eenvoudige "regels" om deze voorspellingen te doen:

De "Weer hetzelfde" Regel (Recurrente Regels): Dit is de eenvoudigste. Als "Alice ontmoette Bob" gisteren gebeurde, suggereert de regel "Alice zal morgen weer Bob ontmoeten". Het is alsof je merkt dat je koffiezetapparaat altijd op dinsdagen kapot gaat.
De "Andere Twist" Regel (Niet-recurrente Regels): Soms leidt één gebeurtenis tot een andere gebeurtenis. Als "Alice ontmoette Bob", dan is de volgende stap misschien "Alice en Bob gingen samen lunchen". Het systeem leert dat ontmoeten vaak leidt tot samen eten.
De "Specifiek Karakter" Regel (Constante Regels): Deze regel richt zich op specifieke mensen of dingen. Bijvoorbeeld: "Als iemand in Amsterdam is geboren, studeert diegene vaak aan de Universiteit van Amsterdam." Het maakt niet uit wie de persoon is; als ze uit Amsterdam komen, wordt de regel geactiveerd.
De "Algemene Trend" Regel (Frequentie Regels): Deze regels kijken naar het grote plaatje. "Pizza wordt vaak gegeten" of "Kim houdt specifiek van pizza." Deze regels hebben geen specifieke trigger-gebeurtenis nodig; ze weten gewoon dat bepaalde dingen vaak voorkomen in de wereld.

Het Geheime Ingrediënt: De Vertrouwensfunctie

De echte magie zit niet alleen in de regels, maar in hoe het systeem beslist hoeveel het deze regels moet vertrouwen. De onderzoekers creëerden een speciale "vertrouwensfunctie" die werkt als een scorekaart. Wanneer het systeem een regel ziet die de toekomst zou kunnen voorspellen, stelt het twee vragen:

Hoe recent was de laatste keer dat dit gebeurde? (Recentheid)
Hoe vaak is dit onlangs gebeurd? (Frequentie)

Het systeem geeft een hoge score als de gebeurtenis zeer recent was of in een korte periode veel voorkwam. Als het een lange tijd geleden is of slechts één keer per jaar gebeurt, daalt de score. Dit is vergelijkbaar met hoe je een weersvoorspelling meer zou vertrouwen als het de hele week heeft geregend vergeleken met wanneer het één keer vorige maand regende. Het systeem leert de perfecte balans voor elke regel, waarbij het precies uitzoekt hoe snel het "vertrouwen" moet vervagen naarmate de tijd verstrijkt.

De Showdown: Simpel versus Complex

Om te zien of hun eenvoudige detective de gigantische zwarte dozen kon verslaan, testten de onderzoekers CountTRuCoLa op negen verschillende datasets, variërend van kleine verzamelingen feiten tot enorme collecties zoals GDELT (die wereldwijde nieuwsgebeurtenissen bijhoudt). Ze vergeleken het met 11 andere state-of-the-art modellen, waarvan er veel gebruikmaken van deep learning en krachtige grafische kaarten (GPU's) vereisen om te draaien.

De resultaten waren verrassend. CountTRuCoLa, dat op een standaard computerprocessor (CPU) draait en geen GPU nodig heeft, presteerde ongelooflijk goed.

Het won op vier datasets en kwam op de tweede of derde plaats op de overige datasets.
Het versloeg de "Recurrency Baseline" (een eenvoudige methode die simpelweg voorspelt dat dingen zich zullen herhalen) op zeven van de negen datasets, wat bewijst dat het toevoegen van die extra regels en de slimme vertrouwensscore daadwerkelijk helpt.
Het crashte niet. Dit is een groot ding. Toen de onderzoekers de complexe neurale netwerkmodellen op de grootste datasets probeerden te draaien, liepen veel van hen zonder geheugen of duurden ze te lang (out-of-time errors). CountTRuCoLa verwerkte alle datasets zonder een enkele crash.

Het artikel suggereert dat voor veel van deze voorspellings-taken de "complexiteit" van de gigantische neurale netwerken eigenlijk niet nodig is. De patronen in de data zijn vaak eenvoudig genoeg zodat een duidelijke set regels ze net zo goed, zo zelfs beter, kan vinden.

Waarom dit ertoe doet: De Kracht van "Waarom"

Het grootste voordeel van CountTRuCoLa is niet alleen dat het werkt; het is dat het uitlegt waarom. Bij de complexe neurale netwerken, als de computer voorspelt "Alice zal Bob ontmoeten", kun je niet vragen: "Waarom?". Het antwoord ligt begraven in miljoenen getallen. Maar met CountTRuCoLa krijg je een volledig rapport.

Stel je voor dat het systeem voorspelt dat "Alexis_T. zal consulteren met Evangelos_V." Het systeem kan je laten zien:

De Regel: "Mensen die de intentie uitten om te ontmoeten, consulteren meestal later."
De Trigger: "Alexis_T. uitte de intentie om te ontmoeten 4 tijdstappen geleden."
De Score: "Deze regel heeft een vertrouwen van 0,17 gebaseerd op hoe recent en frequent dit patroon is."

Deze transparantie is als het hebben van een detective die niet alleen de zaak oplost, maar je ook het bewijsdossier, de tijdlijn en de logica achter elke conclusie laat zien. De onderzoekers hebben een hulpmiddel gebouwd waarmee gebruikers op een voorspelling kunnen klikken en de exacte graaf en cijfers kunnen zien die tot die voorspelling hebben geleid. Dit helpt wetenschappers om niet alleen te begrijpen wat er zal gebeuren, maar ook welke patronen in de data deze voorspellingen aansturen.

De Kern van het Verhaal

De auteurs van dit artikel beweren niet dat ze het mysterie van tijdreizen hebben opgelost of dat complexe AI nutteloos is. Ze suggereren dat we voor de specifieke taak van het voorspellen van toekomstige verbindingen in kennisgrafen misschien te ingewikkeld aan het doen waren. Hun eenvoudige, regelgebaseerde aanpak, CountTRuCoLa, laat zien dat je topniveau prestaties kunt leveren zonder de zware machines van deep learning. Het is sneller, het crasht niet op grote data, en het belangrijkste is dat het de "zwarte doos" openhoudt zodat we precies kunnen zien hoe de magie gebeurt. In een wereld waarin AI complexer en moeilijker te begrijpen wordt, biedt CountTRuCoLa een verfrissende herinnering dat soms de eenvoudigste regels de krachtigste zijn.

Technische Samenvatting: CountTRuCoLa

Probleemstelling

Het artikel behandelt de taak van Temporal Knowledge Graph (TKG) forecasting, wat het voorspellen van toekomstige links (quadruples van onderwerp, relatie, object en tijdstempel) in een TKG behelst. Hoewel recente state-of-the-art modellen vaak vertrouwen op complexe neurale netwerken, recurrente architecturen of reinforcement learning, lijden ze vaak aan een gebrek aan interpreteerbaarheid en schaalbaarheidsissues (bijv. out-of-memory of out-of-time fouten) op grote datasets. Bov�elijke hebben recente baselines die puur gebaseerd zijn op feit-recurrente patronen competitieve prestaties aangetoond, wat de noodzaak van complexe architecturen uitdaagt. De auteurs streven ernaar een methode te ontwikkelen die inherent interpreteerbaar is, computationeel efficiënt en in staat is om grootschalige TKGs te verwerken zonder in te boeten op voorspellende nauwkeurigheid.

Methodologie: CountTRuCoLa

De voorgestelde methode, CountTRuCoLa (Temporal Rule Confidence Learning), is een symbolische, regelgebaseerde aanpak die vier specifieke typen logische regels leert om temporele regulariteiten te vangen. In tegenstelling tot statische Knowledge Graph Completion (KGC) methoden, modelleert CountTRuCoLa expliciet de temporele dimensie via geleerde confidence-functies.

1. Regeltypen

Het model maakt gebruik van vier verschillende regeltypen, die alle maximaal één body-atoom bevatten om eenvoud en traceerbaarheid te garanderen:

xy-regels: Algemene regels van de vorm $h(x, y, t^*) \leftarrow b(x, y, t)$ . Deze vangen temporele afhankelijkheden tussen specifieke subject-relatie-object triples. Een subtype, recurrent xy-regels, voorspelt de recurrente verschijning van exact hetzelfde triple ( $h=b$ ).
c-regels: Regels die constanten bevatten, bijv. $h(x, d, t^*) \leftarrow b(x, d', t)$ . Deze vangen patronen waarbij frequente entiteiten betrokken zijn (bijv. een persoon geboren in een specifieke stad die aan een specifieke universiteit studeert).
z-regels: Regels met een lege body, $h(x, d, t^*) \leftarrow$ . Deze vangen algemene frequentieverdelingen van objecten voor een gegeven relatie.
f-regels: Regels met een lege body, $h(c, d, t^*) \leftarrow$ . Deze vangen specifieke frequentieverdelingen voor een vast subject-relatie paar.

2. Temporele Confidence Functies

In plaats van een enkele statische confidence score aan een regel toe te kennen, leert CountTRuCoLa een parametrische confidence functie $conf_r(\Delta)$ voor elke regel. Deze functie brengt een set temporele afstanden $\Delta$ (de tijdverschillen tussen het voorspelde tijdstip en de tijdstempels van de voorkomens van de regel body) in kaart naar een plausibiliteitsscore. De functie is gedefinieerd als de som van twee componenten:

Recency Component ( $f_r$ ): Gemodelleerd met een exponentiële vervalfunctie die afhankelijk is van de minimale tijdsafstand ( $\min(\Delta)$ ). Het bevat leerbare parameters voor schaling ( $\alpha_r$ ), vervalsnelheid ( $\lambda_r$ ) en een asymptotische ondergrens ( $\phi_r$ ).
Frequency Component ( $g_r$ ): Vangt de impact van hoe vaak de regel body is voorgekomen binnen een specifieke tijdvenster $W$ . Het is een begrensde functie die afhankelijk is van het aantal voorkomens ( $|\Delta_W|$ ) en de minimale afstand, met leerbare parameters voor helling ( $\rho_r$ ), offset modulatie ( $\kappa_r$ ) en clipping bounds ( $\gamma_r$ ).

3. Leerproces

Voorbeeldverzameling: Voor elke regel doorloopt het systeem de trainingsset om positieve en negatieve voorbeelden te verzamelen. Een voorbeeld bestaat uit een set tijd-afstanden $\Delta$ en een binaire label die aangeeft of de regel het feit op dat toekomstige tijdstip correct heeft voorspeld.
Optimalisatie: De parameters van de confidence functies worden geleerd door de Som van Kwadratische Fouten (SSE) te minimaliseren tussen de voorspelde confidence en de gesmoothde geobserveerde confidence waarden. De geobserveerde waarden worden aangepast met een smoothing parameter $P$ om gevallen met weinig voorbeelden op te vangen.
Voorspelling: Voor een query haalt het model alle relevante regels op, berekent hun confidence scores op basis van de geobserveerde historie en rangschikt de kandidaat-entiteiten.

Belangrijkste Bijdragen

Interpreteerbaarheid: De methode is inherent interpreteerbaar. Elke voorspelling is direct herleidbaar naar de specifieke regels die werden geactiveerd, hun geleerde confidence scores en de exacte historische observaties die hen triggerden. Er zijn geen post-hoc uitlegmethoden vereist.
Schaalbaarheid: CountTRuCoLa is de enige TKG forecasting methode die in het artikel gerapporteerd wordt die functioneel blijft op alle negen geteste datasets (inclusief zeer grote zoals GDELT en ICEWS) zonder out-of-memory (OM) of out-of-time (OT) fouten te veroorzaken. Het werkt efficiënt op CPU-hardware.
Prestaties: Ondanks de eenvoud bereikt het model competitieve prestaties en presteert het vaak beter dan complexe neurale baselines en state-of-the-art methoden.
Nieuw Scoring Mechanisme: De introductie van een geleerde, regel-specifieke confidence functie die zowel recency als frequency gezamenlijk modelleert binnen een symbolisch kader, wat een transparant alternatief biedt voor neurale Hawkes processen.

Experimentele Resultaten

De auteurs evalueerden CountTRuCoLa op negen datasets (inclusen ICEWS14/18, GDELT, YAGO, WIKI en TGB 2.0 datasets) tegenover 11 bestaande benaderingen en 2 baselines.

Nauwkeurigheid: CountTRuCoLa behaalde de hoogste Mean Reciprocal Rank (MRR) op vier datasets en de tweede of derde hoogste op de resterende datasets. Het presteerde beter dan de Recurrency Baseline op zeven van de negen datasets.
Vergelijking met SOTA: Hoewel CognTKE CountTRuCoLa op vier datasets versloeg, slaagde het er niet in om op de drie grootste datasets te draaien vanwege geheugenbeperkingen en had het GPU-acceleratie nodig. CountTRu of l was vijf keer sneller dan CognTKE wanneer uitgevoerd op CPU versus GPU.
Ablatie studies:
- Het verwijderen van xy-regels veroorzaakte de meest significante prestatiedaling, wat hun centraliteit bevestigt.
- Het combineren van alle regeltypen leverde de beste resultaten op, hoewel recency ( $f_r$ ) meer bijdroeg aan de prestatiewinst dan frequency ( $g_r$ ).
- Het leren van regel-specifieke parameters was cruciaal; het vastzetten van parameters naar generieke waarden verminderde de prestaties aanzienlijk.

Betekenis en Claims

Het artikel claimt dat CountTRuCoLa aantoont dat complexe end-to-end neurale architecturen niet strikt noodzakelijk zijn om competitieve of superieure voorspellende resultaten te behalen in TKG forecasting. De sterke prestaties van eenvoudige, interpreteerbare regels suggereren dat een groot deel van de voorspellende kracht in deze datasets voortkomt uit eenvoudige temporele afhankelijkheden (recurrence, frequentie en basis temporele patronen) in plaats van complexe redenering.

De auteurs positioneren hun werk niet alleen als een forecasting tool, maar ook als een mechanisme voor transparantie. Door een directe link te bieden tussen voorspellingen en datapatronen, stelt de methode onderzoekers in staat om te begrijpen waarom een voorspelling is gedaan en potentieel de beperkingen van meer complexe "black-box" modellen te identificeren (bijv. hun onvermogen om lange-termijn afhankelijkheden te vangen door beperkte window-sizes). Het artikel concludeert dat hoewel toekomstig werk rijkere redeneringen voor specifieke benchmarks kan verkennen, huidige benchmarks de complexiteit van bestaande neurale modellen wellicht niet volledig rechtvaardigen, en dat eenvoudigere, interpreteerbare benaderingen een levensvatbaar en robuust alternatief bieden.