Hierarchy-Aware Semantic Losses for Knowledge Graph Link Prediction

In het uitgestrekte digitale landschap van de moderne wetenschap wordt informatie zelden opgeslagen in eenvoudige lijsten of platte bestanden. In plaats daarvan vertrouwen onderzoekers en computers steeds meer op kennisgrafen, die lijken op massieve, onderling verbonden webben van feiten. Stel je een web voor waarbij elke knoop een ding is—een persoon, een medicijn, een ziekte, een eiwit—en elke lijn die hen verbindt een relatie is, zoals "behandelt" of "veroorzaakt". Deze structuren stellen machines in staat om door complexe datanetwerken te navigeren, wat hels bij het voorspellen van ontbrekende schakels, zoals het uitzoeken welk nieuw medicijn voor een specifieke ziekte zou kunnen werken. Deze webben rusten echter vaak naast een andere laag van organisatie: een stamboom van concepten. Net zoals een biologische soort tot een geslacht behoort, dat weer tot een familie behoort, zijn digitale concepten vaak gerangschikt in hiërarchieën waar de ene categorie een specifiek type is van een bredere categorie. Deze achtergrondstructuur bevat waardevolle aanwijzingen over hoe dingen met elkaar verband houden, maar lange tijd hebben de computerprogramma's die ontworpen zijn om deze webben te navigeren deze stambomen grotendeels genegeerd, door zich alleen te concentreren op de directe verbindingen die ze kunnen zien.

Een team van onderzoekers aan de Chalmers University of Technology en de Universiteit van Göteborg, werkend samen met een collega van de Universiteit van Cambridge, besloot dit te veranderen. Ze stelden een eenvoudige vraag: als we deze computerprogramma's leren om de stambomen van concepten te respecteren terwijl ze leren, zullen ze dan beter worden in het voorspellen van ontbrekende verbindingen? De onderzoekers testten een nieuwe aanpak op drie zeer verschillende sets gegevens: een verzameling academische en organisatorische feiten, een enorm web van algemene kennis afkomstig van Wikipedia, en een complex biologisch netwerk met medicijnen, ziekten en eiwitten. Ze vergeleken hun nieuwe methode met de standaard manier van doen en met een oudere techniek die probeerde de stamboom in het web te dwingen door extra lijnen aan de kaart toe te voegen.

De resultaten waren duidelijk en consistent. Door een speciale wiskundige straf te gebruiken die de interne begrip van de computer voorzichtig een duwtje gaf om overeen te komen met de bekende stambomen, verbeterden de onderzoekers het vermogen van het systeem om ontbrekende schakels te vinden aanzienlijk. Deze nieuwe methode, die ze een "semantische loss" noemen, werkte beter dan het simpelweg toevoegen van de stamboomrelaties als extra verbindingen in de graaf. Sterker nog, op de biologische dataset was de verbetering aanzienlijk, waarbij de nauwkeurigheid van het systeem met vijftien procent werd verhoogd vergeleken met de standaardaanpak. Op de andere datasets waren de winsten ook positief, variërend van twee tot acht procent. Misschien wel het belangrijkste is dat deze slimmere manier van leren deze resultaten behaalde terwijl het minder computerbronnen gebruikte dan de methode die extra lijnen aan de kaart toevoegde.

De onderzoekers ontdekten dat het succes van deze aanpak sterk afhing van de kwaliteit en diepte van de beschikbare stamboominformatie. De biologische dataset, die rijke, gedetailleerde hiërarchieën bevatte voor medicijnen, ziekten en eiwitten, zag de meest dramatische verbetering. De dataset met algemene kennis, die een vlakkere en minder volledige stamboom had, vertoonde meer bescheiden winsten. Dit suggereert dat de techniek geen wondermiddel is dat overal even goed werkt, maar eerder een krachtig instrument dat schittert wanneer er diepe, gestructureerde kennis beschikbaar is om het leerproces te begeleiden. De studie toont aan dat wanneer computers worden aangemoedigd om hun interne kaarten af te stemmen op de logische structuren die mensen al hebben gebouwd, ze veel effectiever worden in het navigeren door de complexe wereld van data.

Om te begrijpen hoe dit werkt, moet men kijken naar hoe deze systemen leren. Traditioneel leert een computer ontbrekende schakels te voorspellen door patronen in de verbindingen te bestuderen die het al ziet. Het creëert een vereenvoudigde, numerieke representatie van elke entiteit in het netwerk, waarbij ze in een virtuele ruimte worden geplaatst waar vergelijkbare dingen dicht bij elkaar eindigen. Het probleem is dat, zonder begeleiding, de computer een specifiek type kanker ver weg van de algemene categorie "ziekte" kan plaatsen, ook al weten we dat het daar toe behoort. De nieuwe methode introduceert een regel die zegt: "Als je denkt dat A een type B is, moet jouw interne kaart laten zien dat A binnen de ruimte van B valt." Dit gebeurt door de interne kaart van de computer bij elke stap van het leren te controleren en een kleine correctie toe te passen als de hiërarchie wordt geschonden. Deze correctie is geen harde regel die de computer dwingt te gehoorzamen, maar een zachte druk die de computer aanmoedigt om een oplossing te vinden die zowel de waargenomen verbindingen als de logische stambomen bevredigt.

Het team testte dit op drie verschillende datasets om ervoor te zorgen dat hun bevindingen robuust waren. De eerste, AIFB, is een kleinere verzameling feiten over mensen, projecten en organisaties. De tweede, CoDEx, is een enorme, multi-domein graaf afkomstig van Wikipedia, die alles dekt van entertainment tot wetenschap. De derde, BioKG, is een gespecialiseerd biologisch netwerk dat functies, ziekten, bijwerkingen, eiwitten en medicijnen koppelt. Elke van deze datasets had zijn eigen unieke stamboomstructuur, variërend van eenvoudige lijsten tot diepe, complexe hiërarchieën. De onderzoekers vergeleken hun nieuwe methode met twee andere benaderingen: een standaardmodel dat de stambomen volledig negeerde, en een model dat probeerde de bomen te integreren door ze als extra verbindingen aan de graaf toe te voegen.

De resultaten lieten zien dat de nieuwe methode de concurrentie op alle fronten versloeg. Op de biologische dataset verbeterde de nieuwe aanpak de nauwkeurigheid van de linkvoorspellingen met vijftien procent vergeleken met het standaardmodel. Op de academische dataset was de verbetering bijna acht procent, en op de dataset met algemene kennis ongeveer tweeënhalf procent. Cruciaal was dat de nieuwe methode ook de aanpak versloeg die extra verbindingen aan de graaf toevoegde. Sterker nog, het toevoegen van extra verbindingen maakte de prestaties soms zelfs slechter, vooral op de biologische dataset, waarschijnlijk omdat het de graaf vervuilde met te veel informatie die niet direct hielp bij de specifieke taak van het vinden van ontbrekende links. De nieuwe methode hield de graaf daarentegen schoon en gebruikte de stamboominformatie als een leidend principe in plaats van als een fysieke toevoeging.

De onderzoekers keken ook naar hoe het interne begrip van de computer in de loop van de tijd veranderde. Ze volgden de "loss", of de maatstaf voor hoe goed de computer de stambomen respecteerde, terwijl deze leerde. Ze ontdekten dat deze maatstaf gestaag afnam, wat betekende dat de computer erin slaagde om de interne kaart af te stemmen op de logische hiërarchieën. Echter, de snelheid en de omvang van deze verbetering varieerden afhankelijk van het type data. De biologische categorieën, die diepe en gedetailleerde hiërarchieën hadden, vertoonden de meest significante afstemming. De categorieën voor bijwerkingen, die complexer en gevarieerder waren, vertoonden meer fluctuaties. Dit geeft aan dat de methode het meest effectief is wanneer de onderliggende stambomen goed gedefinieerd en consistent zijn.

Een van de meest praktische bevindingen was dat deze slimmere manier van leren ook efficiënter was. De methode die extra verbindingen aan de graaf toevoegde, vereiste aanzienlijk meer computergeheugen en rekenkracht, vooral op de grote biologische dataset. De nieuwe methode, die de stamboom als een leidende regel gebruikte in plaats van als een fysieke toevoeging, behaalde betere resultaten met minder middelen. Deze efficiëntie is belangrijk omdat het betekent dat de techniek kan worden opgeschaald naar nog grotere en complexere netwerken zonder de computersystemen die ze draaien te overbelasten.

De studie concludeert dat het integreren van logische hiërarchieën in het leerproces een krachtige manier is om te verbeteren hoe machines complexe data begrijpen. Het suggereert dat de beste manier om een computer iets te leren over de structuur van de wereld, niet alleen is om hem de verbindingen te laten zien, maar ook om hem te herinneren aan de regels die die verbindingen beheersen. Door dit te doen, bouwt de computer een nauwkeuriger en betrouwbaarder kaart van de data, die in staat is tot betere voorspellingen over wat er ontbreekt. Deze aanpak vervangt de noodzaak voor de data zelf niet, maar verbetert de manier waarop de data wordt gebruikt, waardoor een eenvoudig web van feiten wordt omgezet in een gestructureerd, logisch systeem dat de manier waarop mensen kennis organiseren weerspiegelt. De bevindingen bieden een duidelijk pad vooruit voor het bouwen van intelligentere systemen in velden variërend van geneeskunde tot wetenschappelijk onderzoek, waar het begrijpen van de relaties tussen dingen cruciaal is.