An extremely coarse feedback signal is sufficient for learning human-aligned visual representations
Deze studie toont aan dat het trainen van neurale netwerken met uiterst grove feedbacksignalen, zoals het onderscheiden van slechts acht brede categorieën, voldoende is om visuele representaties te leren die beter overeenkomen met menselijke hersenactiviteit en perceptuele oordelen dan modellen die zijn getraind met fijnmazige of zelftoezichtdoelstellingen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je probeert een robot te leren de wereld te zien, net zoals een mens dat doet. Gedurende het afgelopen decennium hebben wetenschappers geloofd dat je, om de "hersenen" van een robot menselijk te laten lijken, hem een enorme, gedetailleerde huisopdracht moet geven. Je zou hem miljoenen afbeeldingen laten zien en zeggen: "Is dit een golden retriever of een poedel? Is dit een rode sportwagen of een blauwe sedan?" Het idee was dat hoe specifieker de labels, hoe beter de robot de wereld zou begrijpen.
Maar dit nieuwe artikel van de Johns Hopkins University suggereert dat de robot niet zoveel detail nodig heeft. Sterker nog, het zou beter kunnen leren als je hem een zeer eenvoudige, wazige versie van de huisopdracht geeft.
Hier is het verhaal van wat ze ontdekten, eenvoudig uitgelegd:
Het "Wazige Kaart"-experiment
De onderzoekers wilden testen of een robot de wereld kan leren zien zoals een mens, met slechts een paar brede categorieën in plaats van duizenden specifieke.
Stel je de wereld van afbeeldingen voor als een gigantische bibliotheek.
- De Oude Manier (Fijnkorrelig): Je vertelt de robot om elk boek in zijn eigen specifieke lade te sorteren. Er zijn 1.000 laden, elk voor een specifiek type boek (bijvoorbeeld "Franse poëzie uit de 19e eeuw", "sciencefiction uit de 20e eeuw", enzovoort).
- De Nieuwe Manier (Grofkorrelig): Je vertelt de robot om de boeken in slechts 8 grote bakken te sorteren. Misschien is er één bak "Dieren", één "Eten", één "Voertuigen", en zo verder. Het maakt niet uit of hij het verschil kent tussen een kat en een hond; je wilt gewoon weten of hij het verschil kent tussen een dier en een auto.
Om dit eerlijk te doen, verzonnen ze deze 8 categorieën niet zomaar. Ze gebruikten een slimme truc: ze namen een slimme, vooraf getrainde computerhersenen en vroegen: "Als je deze 1,2 miljoen afbeeldingen op basis van hoe ze eruitzien in slechts 2, 4 of 8 groepen moest verdelen, hoe zou je dat doen?" Ze gebruikten de eigen "intuïtie" van de computer om deze brede groepen te creëren.
De Grote Verrassing
Ze trainden honderden verschillende robothersenen met deze verschillende niveaus van detail. Vervolgens controleerden ze twee dingen:
- De "Neurale" Test: Leek de interne bedrading van de robot op het brein van een aap of op een hersenscan van een mens?
- De "Menselijk Gevoel"-test: Toen de robot naar twee objecten keek, vond hij ze dan op dezelfde manier vergelijkbaar als een mens? (Bijvoorbeeld: zou een mens zeggen dat een "leeuw" en een "tijger" meer op elkaar lijken dan een "leeuw" en een "broodrooster"? Was de robot het hiermee eens?)
De resultaten waren schokkend:
- Neurale Uitlijning: Robots die waren getraind op slechts 8 brede categorieën leerden de wereld net zo goed te zien (en soms zelfs beter) dan robots die waren getraind op de volledige 1.000 categorieën. Hun interne "kaarten" van de wereld leken bijna identiek op de hersenen van mensen en apen.
- Menselijke Gevoelens: Hier werd het nog vreemder. De robots die waren getraind op de grove, 8-categorie taak kwamen de menselijke intuïtie beter overeen dan welke andere geteste robot dan ook. Ze waren beter in het raden hoe mensen dingen groeperen dan de robots die waren getraind op de supergedetailleerde 1.000-categorie taak.
Waarom gebeurt dit?
Het artikel suggereert dat wanneer je een robot dwingt zich te concentreren op het grote plaatje (Dieren versus Voertuigen), hij op natuurlijke wijze de belangrijkste, fundamentele manieren leert waarop onze hersenen de wereld organiseren.
Wanneer je een robot dwingt 1.000 kleine details te memoriseren, raakt hij afgeleid door het ruis. Hij leert de kleine verschillen te herkennen tussen een "rode sportwagen" en een "blauwe sedan", maar hij mist misschien het bos door de bomen. Door de taak te vereenvoudigen tot slechts een paar grote bakken, wordt de robot gedwongen een sterke, duidelijke basis te bouwen die overeenkomt met hoe mensen dingen van nature waarnemen.
De "Low-Data" Bonus
De onderzoekers ontdekten ook dat deze "wazige kaart"-benadering ongelooflijk efficiënt is.
- Een robot die was getraind op de volledige 1,2 miljoen afbeeldingen met de gedetailleerde 1.000-categorie taak deed het slechter dan een robot die was getraind op slechts 1% van de afbeeldingen (ongeveer 12.000 foto's) met de eenvoudige 8-categorie taak.
- Het is alsof je zegt dat je de plattegrond van een hele stad kunt leren door te kijken naar een eenvoudige schets met 8 hoofdstraten, in plaats van te proberen elk straatadres in een enorme atlas uit je hoofd te leren.
De Conclusie
Het artikel concludeert dat je, om een computervisie-systeem te bouwen dat als een mens denkt, geen doctoraatsniveau-examen met duizenden specifieke vragen hoeft te geven. Je hoeft hem alleen maar een zeer eenvoudige, grove opdracht te geven: "Sorteer deze dingen in een paar grote stapels."
Deze eenvoudige feedback is voldoende om de hersenen van de robot te laten oplichten en informatie te organiseren op een manier die opmerkelijk lijkt op de onze. Het blijkt dat soms minder detail leidt tot een helderder, menselijker begrip van de wereld.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.