Learning From How Humans Correct
Dit artikel stelt een nieuwe "learn-on-correction"-methode voor die gebruikmaakt van menselijke correctie-feedback om ruisgevoelige data te herlabelen en deep learning-modellen te verbeteren, waarbij een verbetering van de testnauwkeurigheid van 91,7% naar 92,5% wordt bereikt op een industriële tekstclassificatie-dataset.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot leert om je gedachten te lezen, maar in plaats van een brein voer je het een enorme bibliotheek aan tekst. Dit is de wereld van Natural Language Processing (NLP), waar computers proberen menselijke taal te begrijpen. Lange tijd was het geheime ingrediënt om deze robots slim te maken "Deep Learning", een methode waarbij de computer leert door naar miljoenen voorbeelden te kijken, een beetje zoals een kind leert een kat te herkennen door duizenden foto's van katten te zien. Onlangs verscheen er een superster-model genaamd BERT, die fungeert als een superlezer die bijna het hele internet al heeft gelezen voordat je zelfs maar een vraag stelt. Maar hier is de crux: zelfs superlezers maken fouten, en soms bevatten de boeken die ze lezen (de data die we hen geven) typefouten of verkeerde labels. Als een robot wordt geleerd dat een "hond" een "kat" is omdat een mens een fout heeft gemaakt, zal de robot blijven denken dat honden katten zijn. De grote vraag die wetenschappers zich stellen is: kunnen we de robot niet alleen leren lezen, maar ook leren van zijn eigen fouten, net zoals een mens dat doet wanneer iemand een fout aanwijst?
Dit artikel, getiteld "Learning From How Humans Correct", stelt een slimme manier voor om een computermodel de menselijke gewoonte van zelfcorrectie te laten imiteren. De auteurs, werkend aan een echt tekstclassificatieprobleem voor een industriële toepassing, merkten op dat hun handmatig gelabelde data "ruisige" voorbeelden bevatte—gevallen waarin het oorspronkelijke menselijke label waarschijnlijk fout was. In plaats van deze slechte voorbeelden gewoon weg te gooien of blindelings op de computer te vertrouwen, creëerden ze een vijfstaps trainingslus. Eerst trainden ze een model (laten we het "Model-A" noemen) op een enorme dataset van 2 miljoen items. Vervolgens gebruikten ze Model-A om de hele dataset te scannen en de 300.000 items te vinden waar de gok van de computer niet overeenkwam met het oorspronkelijke menselijke label. Deze werden gemarkeerd als de "ruisige" lastposten.
Hier gebeurt de magie. Mensen gingen terug en her-labelden deze 300.000 lastige items handmatig. Maar ze veranderden niet alleen het label; ze hielden een verslag bij van wat de computer dacht dat het label was voordat de mens het verbeterde. Dit creëerde een speciaal soort trainingsdata die twee stukken informatie bevatte: het "vooraf" (de foutieve gok van de computer) en het "achteraf" (het correcte menselijke label). Vervolgens trainden ze een nieuw, slimmer model (Model-C) met deze dubbele informatie. Het doel was om Model-C niet alleen te leren teksten te classificeren, maar om de specifieke vaardigheid van het "corrigeren" van de eerdere fouten van de computer te leren.
De resultaten suggereren dat deze aanpak werkt. Wanneer ze de modellen testten, had het oorspronkelijke model (Model-A) 83,3% van de testvragen goed. Nadat de mensen de ruisige data hadden gecorrigeerd en een standaardmodel hadden opnieuw getraind (Model-B), sprong de nauwkeurigheid naar 91,7%. Maar de ster van de show was Model-C, het model dat leerde van het correctieproces, dat een nauwkeurigheid van 92,5% behaalde op de testset. Nog indrukwekkender was dat toen mensen de resultaten evalueerden op een steekproef van 5.000 real-world items, Model-C een goedkeuringspercentage van 97,7% behaalde. Het artikel betoogt dat deze methode praktisch is voor de industrie omdat het geen enorm nieuw team van labelaars vereist; in plaats daarvan richt het zich op het oplossen van de specifieke datapunten waar de computer en mensen van mening verschillen, waardoor de fouten van de computer effectief worden omgezet in een leermoment. De auteurs suggereren dat hoewel dit een solide verbetering is, er nog ruimte is voor groei, bijvoorbeeld door te focussen op gevallen waarin de computer echt onzeker is tussen twee antwoorden, maar voor nu hebben ze aangetoond dat het aanleren van een machine om van zijn eigen correcties te leren een levensvatbaar pad is naar intelligentere AI.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.