Learning Chain Of Thoughts Prompts for Predicting Entities, Relations, and even Literals on Knowledge Graphs
Het paper introduceert RALP, een methode die chain-of-thought prompts leert met behulp van een LLM om kennisgrafiek-taakken zoals het voorspellen van entiteiten, relaties en literalen uit te voeren, en behaalt hiermee betere resultaten dan bestaande inbeddingsmodellen, zelfs met zeer weinig trainingsdata.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorme, digitale bibliotheek hebt vol met feiten over de wereld. Dit noemen we een Kennisgrafiek. In deze bibliotheek staan zinnen als "Costa Rica ligt in Centraal-Amerika" of "Gabon heeft een bevolking van 2 miljoen".
Het probleem met de oude manieren om deze bibliotheek te besturen, is dat ze een beetje als een stijve robot werken. Ze onthouden feiten als getallen in een geheugen. Als ze een nieuw land zien dat ze nog nooit hebben gezien, of een nieuw soort feit (zoals een specifiek getal of een beschrijving), raken ze in de war. Ze kunnen niet echt "nadenken" over wat er zou kunnen kloppen.
RALP: De slimme bibliothecaris
De auteurs van dit papier hebben een nieuwe manier bedacht, genaamd RALP. In plaats van een stijve robot, gebruiken ze een slimme bibliothecaris (een grote taalmodel, of LLM) die we kunnen instrueren met een speciaal receptje.
Hier is hoe het werkt, vertaald naar alledaagse taal:
1. Het receptje in plaats van de geheugenkaart
De oude robots leerden feiten uit door ze om te zetten in onzichtbare codes (vectoren). RALP doet iets anders: het leert een tekstueel receptje (een "prompt").
- De analogie: Stel je voor dat je een kok wilt leren koken.
- Oude methode: Je geeft de kok een lijst met exacte gram-maten en temperaturen voor elke specifieke maaltijd die hij ooit heeft gemaakt. Als hij een nieuw ingrediënt ziet, weet hij niet wat hij moet doen.
- RALP-methode: Je geeft de kok een recept dat zegt: "Als je een land ziet en de vraag is 'waar ligt dit?', denk dan na over de buren en de regio, en geef dan een antwoord met een reden."
- Dit recept is een Chain of Thought (een keten van gedachten). Het dwingt de AI om stap voor stap te redeneren, net als een mens.
2. Het vinden van het perfecte recept (MIPRO)
Hoe vind je het perfecte receptje? Je kunt niet zomaar raden. De auteurs gebruiken een slimme zoekmachine genaamd MIPRO.
- De analogie: Stel je voor dat je een nieuwe cocktail wilt maken, maar je hebt maar 30 proefjes om het perfecte recept te vinden. Je hebt geen tijd om duizenden keren te proberen.
- De MIPRO-algoritme is als een slimme mixoloog. Hij probeert een recept, proeft het resultaat, en denkt: "Hmm, te zoet, minder suiker en meer citroen." Hij past het recept aan op basis van wat hij heeft geproefd, zonder dat hij de hele keuken hoeft te herbouwen.
- Zo vindt RALP in recordtijd (met minder dan 30 voorbeelden) het perfecte tekstuele recept om feiten te voorspellen.
3. Wat kan deze slimme bibliothecaris?
RALP is niet alleen slim in het vinden van ontbrekende feiten, hij is ook een veelzijdig genie:
- Het zien van onbekende dingen: Als je vraagt naar een nieuw land dat niet in de oude boeken staat, kan RALP het antwoord afleiden uit de context (bijv. "Het ligt in Zuid-Amerika, dus het is waarschijnlijk een land in die regio").
- Het voorspellen van getallen: Stel je vraagt: "Wat is het BNP per hoofd van de bevolking van Gabon?" RALP kijkt naar de totale economie en het aantal mensen, doet een berekening in zijn hoofd (in het recept), en zegt: "Het ligt waarschijnlijk ergens tussen $1.000 en $15.000, met een schatting van $7.225." Hij geeft zelfs een vertrouwensscore (een interval) zodat je weet hoe zeker hij is.
- Logische puzzels: Hij kan complexe vragen beantwoorden zoals: "Wie is een persoon die óf een dokter is, óf (niet een dokter is)?" (Dit klinkt gek, maar in logica is dat iedereen). RALP snapt dit soort logica beter dan de oude robots.
Waarom is dit belangrijk?
De oude methoden werken goed zolang je binnen de muren van hun eigen kennis blijft. Maar de wereld verandert snel. Nieuwe landen, nieuwe wetten, nieuwe cijfers.
RALP is als een schakelaar die de AI van een "geheugenmachine" verandert in een denker.
- Het heeft geen zware training nodig (geen dure supercomputers om jarenlang te leren).
- Het werkt met weinig voorbeelden.
- Het kan feiten voorspellen die nog nooit zijn gezien.
Kortom:
De auteurs hebben een manier bedacht om kunstmatige intelligentie te leren nadenken in plaats van alleen te herinneren. Ze gebruiken een slimme zoektocht om het perfecte "gedachte-recept" te vinden, zodat de AI feiten kan voorspellen, zelfs als het om nieuwe dingen of complexe cijfers gaat. Het is alsof je je computer een bril geeft waardoor hij de wereld niet meer als een lijst met codes ziet, maar als een verhaal dat hij kan begrijpen en verder kan vertellen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.