Neural-Symbolic Reasoning over Knowledge Graphs: A Survey from a Query Perspective
Deze survey biedt een uitgebreid overzicht van neuro-symbolische redenering over kennisgrafen, met een focus op querytypen en classificatie, terwijl de innovatieve integratie van grote taalmodellen wordt verkend om de kloof tussen deep learning en symbolische redenering te overbruggen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een enorme, digitale bibliotheek voor waar elk feit over de wereld niet is opgeslagen in boeken, maar als een massief web van verbindingen. In deze bibliotheek is een persoon verbonden met zijn baan, een stad verbonden met zijn land, en een film verbonden met zijn regisseur. Deze structuur, bekend als een kennisgraaf, fungeert als een kaart van het menselijk begrip, waardoor computers van het ene stukje informatie naar het andere kunnen navigeren. Decennialang hebben wetenschappers geprobeerd machines te leren redeneren door deze kaart, om een vraag te stellen en een nieuwe waarheid te vinden die verborgen ligt in de verbindingen. De echte wereld is echter rommelig. Feiten ontbreken vaak, en gegevens kunnen ruis bevatten of tegenstrijdig zijn. Traditionele methoden, die vertrouwen op strikte, rigide regels zoals een wetboek, vallen vaak uit elkaar wanneer ze geconfronteerd worden met deze imperfectie. Ze kunnen de grijze gebieden van de realiteit niet aan.
Om dit op te lossen, ontwikkelen onderzoekers een nieuw soort intelligentie die twee verschillende manieren van denken combineert. De ene manier is als een computerprogramma dat een strikt recept volgt, precies maar broos. De andere manier is als een menselijk brein dat leert van patronen, flexibel maar soms vaag. Door deze benaderingen te versmelten, creëren wetenschappers systemen die door het rommelige web van kennis kunnen redeneren met zowel nauwkeurigheid als aanpassingsvermogen. Een recente enquête door onderzoekers van Wayne State University en de University of Illinois at Urbana-Champaign werpt een diepe blik op hoe dit wordt gedaan. Ze onderzoeken hoe deze systemen vragen beantwoorden, van eenvoudige vragen met één stap tot complexe, meerlaagse puzzels, en hoe ze nu worden vergezeld door een nieuw, krachtig hulpmiddel: grote taalmodellen, dezelfde technologie die moderne chatbots aandrijft.
De onderzoekers organiseerden hun overzicht door te kijken naar de soorten vragen die deze systemen gevraagd worden te beantwoorden. De eenvoudigste vragen zijn single-hop queries, waarbij het antwoord slechts één stap verwijderd is. Als je vraagt: "Wie is de CEO van Bedrijf X?", zoekt het systeem naar een directe link. Voor deze taken gebruikten oudere methoden strikte regels geschreven door experts, maar deze faalden vaak wanneer de gegevens incompleet waren. Nieuwere methoden gebruiken neurale netwerken, die computerprogramma's die leren van voorbeelden, om de ontbrekende links te raden. De meest veelbelovende aanpak combineert beide: het gebruikt het leervermogen van neurale netwerken om met onzekerheid om te gaan, terwijl het de logische structuur van regels behoudt om ervoor te zorgen dat de antwoorden zinvol zijn. Deze hybride methode stelt het systeem in staat om af te leiden dat als een persoon voor een bedrijf in een specifieke stad werkt, die persoon waarschijnlijk ook in die stad woont, zelfs als dat specifieke feit nooit expliciet is opgeschreven.
Wanneer de vragen complexer worden, met meerdere stappen of logische voorwaarden zoals "en", "of" en "niet", groeit de uitdaging aanzienlijk. Dit gaat niet alleen over het vinden van een enkele link, maar over het navigeren door een pad binnen het web. De enquête legt uit dat onderzoekers manieren hebben ontwikkeld om deze vragen te behandelen als wiskundige problemen die kunnen worden opgelost door door een geometrische ruimte te bewegen. In plaats van alleen te controleren of een feit waar of onwaar is, wijst het systeem een mate van waarheid toe aan verschillende mogelijkheden. Sommige methoden visualiseren deze mogelijkheden als vormen, zoals dozen of bollen, in een multidimensionale ruimte. Door te zien hoe deze vormen overlappen of in elkaar passen, kan de computer het antwoord bepalen op een ingewikkelde vraag, zoals: "Zoek alle acteurs die hebben samengewerkt met een regisseur uit Frankrijk maar geen Oscar hebben gewonnen." De onderzoekers stelden vast dat hoewel deze methoden krachtig zijn, ze nog steeds worstelen met de meest ingewikkelde logische structuren, wat suggereert dat het vakgebied nog volwassenheid moet bereiken.
De enquête onderzoekt ook hoe deze systemen omgaan met vragen die in alledaagse taal worden gesteld, in plaats van in een formele code. Wanneer een mens vraagt: "Wie speelde de schurk in de film die vorig jaar de meeste prijzen won?", moet het systeem eerst de zin begrijpen, deze ontleden en dan de kennisgraaf doorzoeken. Vroege pogingen probeerden de zin te vertalen naar een rigide commando, maar dit mislukte vaak als de formulering ongebruikelijk was. Nieuwere benaderingen gebruiken reinforcement learning, een techniek waarbij het systeem leert door middel van trial-and-error, om door de graaf te navigeren en het antwoord te vinden. In gesprekken waarbij een gebruiker een vervolgvraag stelt, moet het systeem de context van de vorige beurt onthouden. De onderzoekers merkten op dat hoewel er vooruitgang is geboekt, deze systemen soms nog de weg kwijtraken in lange ketens van redeneringen of er niet in slagen om te onderscheiden tussen vergelijkbare paden in de gegevens.
Misschien wel de meest opwindende ontwikkeling die in de enquête wordt besproken, is de integratie van grote taalmodellen met kennisgrafen. Deze modellen zijn ongelooflijk goed in het begrijpen van menselijke taal, maar verzinnen vaak dingen, een probleem dat bekend staat als hallucinatie, omdat ze geen toegang hebben tot een geverifieerde database van feiten. Omgekeerd zijn kennisgrafen vol feiten, maar zijn ze slecht in het begrijpen van natuurlijke taal. De onderzoekers vonden dat het combineren van hen een krachtig partnerschap creëert. In één benadering fungeert het taalmodel als een gids, die helpt de menselijke vraag te vertalen naar een zoekopdracht voor de kennisgraaf. In een andere benadering fungeert de kennisgraaf als een factchecker, die het taalmodel voorziet van geverifieerde informatie om te voorkomen dat het dingen verzint. De meest geavanceerde methoden laten de twee samenwerken in een lus, waarbij het taalmodel de graaf helpt relevante informatie te vinden, en de graaf het taalmodel hel help bij het verfijnen van zijn antwoord. Deze wederzijdse assistentie creëert een systeem dat zowel vloeiend in gesprek is als geworteld in de realiteit.
Kijkend naar de toekomst, suggereren de onderzoekers dat de volgende grens ligt in het uitbreiden van deze systemen voorbij tekst. Ze voorzien kennisgrafen die ook afbeeldingen, video's en audio bevatten, waardoor de computer kan redeneren over de wereld op een manier die dichter bij de menselijke perceptie ligt. Ze zien ook een toekomst waarin deze systemen verschillende talen kunnen overbruggen, waarbij ze verbindingen vinden tussen feiten uitgedrukt in het Engels, Chinees of Spaans zonder dat daar een menselijke vertaler voor nodig is. Hoewel de huidige technologie aanzienlijke stappen heeft gezet in het slimmer en betrouwbaarder maken van machines, concludeert de enquête dat er nog veel werk te doen is. Het doel is om systemen te bouwen die niet alleen informatie kunnen ophalen, maar ook echt de complexe, onderling verbonden aard van de menselijke kennis kunnen begrijpen, waarbij ze de rommeligheid van de echte wereld met dezelfde gratie aanpakken als een menselijke geest.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.