Toward Machine Learning with the Unit as a Primitive: Learning from Unit-Linked Events
Dit artikel stelt voor om machine learning te formaliseren door expliciet de "eenheid" te introduceren als een primitieve semantische entiteit, waarbij gesuperviseerd leren wordt gedefinieerd als de inferentie van een gedeelde respons-wet conditioneel aan een door een tokenizer gegenereerde eenheidstoken om onderscheid te maken tussen homogene en heterogene wereldmodellen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de wereld van machine learning worden computers vaak onderwezen door te kijken naar rijen gegevens, vergelijkbaar met een student die een stapel flashcards bestudeert. Elke kaart bevat een vraag en een antwoord, en de taak van de computer is om het patroon te vinden dat hen verbindt. Decennialang heeft deze methode opmerkelijk goed gewerkt voor veel taken, van het herkennen van gezichten tot het voorspellen van het weer. Deze benadering behandelt echter elke individuele kaart als een geïsoleerde gebeurtenis, waarbij een fundamentele waarheid over de echte wereld wordt genegeerd: veel van deze kaarten behoren eigenlijk tot dezelfde persoon, hetzelfde dier of hetzelfde apparaat. Wanneer een computer leert van de medische geschiedenis van een patiënt, de winkelgewoonten van een gebruiker of de metingen van een sensor, ziet het vaak meerdere momentopnames van dezelfde persistente entiteit. Standaardmethoden behandelen deze momentopnames meestal als afzonderlijke, ongerelateerde vermeldingen, of ze vertrouwen op verborgen aannames dat de computer simpelweg aan het gissen is. Dit creëert een blinde vlek. Als de computer niet kan onderscheiden tussen een patroon dat bij een specifiek individu hoort en een patroon dat algemeen is voor iedereen, kan het falen wanneer het gevraande wordt om te voorspellen wat er met diezelfde persoon zal gebeuren in een nieuwe situatie, of het kan een unieke eigenschap van één persoon aanzien voor een universele regel.
Een nieuw artikel stelt een manier voor om dit op te lossen door de basis van hoe deze leertaken worden gedefinieerd te veranderen. In plaats van te beginnen met een lijst met records, suggereren de onderzoekers om te beginnen met het concept van de "eenheid" — de persistente entiteit waartoe de gegevens behoren. Stel je een bibliotheek voor waar de bibliothecaris, in plaats van alleen boeken te catalogiseren, eerst de specifieke lezer identificeert die ze heeft geleend. In dit nieuwe kader wordt de computer eerst verteld wie het individu is, of krijgt tenminste een duidelijke regel om te beslissen wanneer twee gegevens bij dezelfde persoon horen. Deze eenvoudige verschuiving stelt de computer in staat om te begrijpen dat hoewel de gebeurtenissen (de vragen en antwoorden) veranderen, de onderliggende persoon hetzelfde blijft. De onderzoekers laten zien dat door deze "eenheid" een expliciet onderdeel van het probleem te maken, machines een gedeelde set regels kunnen leren die voor iedereen gelden, terwijl ze tegelijkertijd de unieke verschillen van elk individu respecteren.
De kern van deze ontdekking is een tweestaps-proces dat de computer gebruikt om de wereld te begrijpen. Eerst fungeert het als een vertaler, die de ruwe bewijzen over een persoon — zoals hun verleden gedrag of fysieke kenmerken — omzet in een compacte samenvatting, die de auteur een "token" noemt. Denk bij deze token aan een unieke identiteitskaart die de computer ter plekke maakt om die specifien persoon te representeren. Ten tweede gebruikt de computer een enkele, gedeelde set regels om die identiteitskaart te lezen en te voorspellen wat er vervolgens zal gebeuren. Dit is een cruciaal onderscheid. Bij oudere methoden probeert de computer misschien een aparte set regels te onthouden voor elke persoon die het tegenkomt, wat onmogelijk is als het iemand ontmoet die het nog nooit heeft gezien. In deze nieuwe benadering leert de computer één universeel regelboek. Het kijkt simpelweg naar de identiteitskaart (de token) om te zien hoe die specifieke persoon in het algemene patroon past. Dit stelt het systeem in staat om te generaliseren: het kan nauwkeurige voorspellingen doen voor een nieuw persoon die het nog nooit heeft ontmoet, simpelweg door een token voor die persoon te creëren op basis van de beschikbare bewijzen, en vervolgens de zelfde gedeelde regels toe te passen die het van iedereen heeft geleerd.
De onderzoekers verkenden ook wat er gebeurt wanneer de computer niet precies weet wie de persoon is. Soms zijn de gegevens incompleet, of is de link tussen twee records onzeker. In die gevallen kan de computer niet simpelweg een naam in een database opzoeken. In plaats daarvan gebruikt het de beschikbare bewijzen om een beste gok te doen over de identiteit van de persoon, waarbij een token wordt gecreëerd die deze onzekerheid weerspiegelt. In deze gevallen kan de computer niet simpelweg een naam in een database opzoeken. In plaats daarvan gebruikt het de beschikbare bewijzen om een beste gok te doen over de identiteit van de persoon, waarbij een token wordt gecreëerd die deze onzekerheid weerspiegelt. Het artikel bewijst dat zelfs met deze gokwerk, het systeem nog steeds effectief kan leren, mits het de handeling van het identificeren van de persoon scheidt van de handeling van het voorspellen van de uitkomst. De studie demonstreert dat als je alleen naar enkele, geïsoleerde records kijkt zonder te weten bij wie ze horen, je het verschil niet kunt zien tussen een wereld waarin iedereen exact hetzelfde is en een wereld waarin iedereen verschillend is maar toevallig hetzelfde lijkt op gemiddeld niveau. Echter, als je meerdere records met zekerheid aan dezelfde persoon kunt koppelen, kan de computer de verborgen verschillen tussen individuen detecteren. Dit inzicht is essentieel omdat het een duidelijke grens stelt voor wat mogelijk is: een machine kan niet leren over individuele verschillen als er alleen maar een enkele momentopname van elke persoon wordt getoond zonder enige manier om deze terug te koppelen naar de bron.
Dit werk verheldert ook hoe we succes moeten meten. In veel huidige systemen beoordelen we een model op basis van hoe goed het de gemiddelde uitkomst over alle gegevenspunten voorspelt. De auteur laat zien dat dit misleidend kan zijn. Als sommige mensen veel vaak in de gegevens voorkomen en anderen slechts één keer, kan een eenvoudig gemiddelde worden gedomineerd door de frequente gebruikers, waardoor de unieke behoeften van de zeldzame gebruikers worden genegeerd. Het artikel suggereert dat we modellen moeten evalueren op basis van het individu, en niet alleen op basis van het record. Dit betekent controleren of het model kan voorspellen wat er met een specifiek persoon zal gebeuren in een nieuwe situatie, in plaats van alleen de algemene statistieken correct te krijgen. De onderzoekers bieden een checklist voor hoe deze tests goed ontworpen moeten worden, om ervoor te zorgen dat we de computer niet per ongeluk verleiden om namen te memoriseren in plaats van patronen te leren.
Uiteindelijk biedt dit artikel een eerlijkere manier om intelligente systemen te bouwen. Het erkent dat de wereld bestaat uit persistente individuen, en niet alleen uit een stroom van losgekoppelde gebeurtenissen. Door de computer te dwingen te verklaren over wie het leert voordat het begint met het raden van de antwoorden, wordt het systeem robuuster en beter in staat om de complexiteit van het echte leven aan te kunnen. Het beweert niet elk probleem in kunstmatige intelligentie te hebben opgelost, maar biedt een solide, logisch kader voor het begrijpen van hoe machines kunnen leren van mensen zonder het oog te verliezen voor wie die mensen zijn. Het resultaat is een methode die niet alleen wiskundig sluitend is, maar ook conceptueel helderder, waardoor de kloof tussen de rommelige realiteit van menselijke gegevens en de gestructureerde logica van machine learning wordt overbrugd.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.