AceAction-5M: Hierarchical Goals for Generalist Action Learning Across 3D Game Worlds
Dit artikel introduceert AceAction, een grootschalige dataset van menselijke gameplay over meerdere 3D-games die hiërarchische, temporeel uitgelijnde visie-taal-actie annotaties biedt om generalistische agenten het leren van vaardigheidscompositie en subdoeltransities in dynamische omgevingen mogelijk te maken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Om een machine te leren hoe hij in de wereld moet handelen, hebben onderzoekers een enorme bibliotheek nodig van voorbeelden die de verbinding laten zien tussen wat een agent ziet, wat hij wil bereiken en de specifieke zetten die hij maakt om daar te komen. In de fysieke wereld is het verzamelen van dit soort gegevens traag, duur en gevaarlijk; het vereist robots, menselijke toezichthouders en herhaalde opstellingen die jaren kunnen duren om te accumuleren. Videospellen bieden een praktisch alternatief. Ze bieden rijke, driedimensionale omgevingen waarin menselijke spelers dagelijks complexe taken uitvoeren, en waar elke visuele scène perfect kan worden gekoppeld aan de exacte toetsenbord- en muiscommando's die werden gebruikt om deze te creëren. De uitdaging voor wetenschappers is geweest dat hoewel games eindeloze hoeveelheden data genereren, het omzetten van ruwe gameplay in een nuttige les voor kunstmatige intelligentie meer vereist dan alleen het opnemen van video. Het vereist een manier om niet alleen het eindresultaat te begrijpen, maar ook het stapsgewijze denken dat daaraan voorafging: hoe een speler besluit te bewegen, wanneer ze overschakelen van verkennen naar vechten, en hoe ze een groot doel opdelen in kleinere, beheersbare taken.
Een team van onderzoekers heeft dit aangepakt door een nieuwe collectie gegevens te creëren genaamd AceAction-5M, ontworpen om computers te leren hoe ze complexe instructies kunnen volgen in veel verschillende 3D-videospellen. In plaats van alleen op te nemen wat er gebeurde, hebben de onderzoekers duizenden uren aan menselijke gameplay georganiseerd in een gestructureerde hiërarchie. Ze namen lange, aaneengesloten speelsessies en braken deze af in een duidelijke commandoketen: een hoofdmissie, een reeks tussenliggende subdoelen en de specifieke, moment aan moment vereiste acties om elk doel te bereiken. Bijvoorbeeld, een enkele taak zou kunnen zijn om "de gang over te steken en de trap op te klimmen naar het rode bakstenen huis". Het systeem breekt dit verder af: eerst moet de speler de deur aan de rechterkant bereiken; daarna moeten ze de trap beklimmen; ten slotte naderen ze het huis. Elke van deze stappen is gekoppeld aan de exacte visuele scène die de speler zag en de precieze sequentie van toetsaanslagen en muisbewegingen die ze gebruikten om de stap uit te voeren.
De dataset beslaat een grote verscheidenheid aan virtuele werelden, waaronder populaire titels zoals Fortnite, Minecraft, Counter-Strike en Euro Truck Simulator 2. In totaal bevat de collectie meer dan 5.000 uur aan gameplay van 42 verschillende games, wat staat voor meer dan 5,4 miljoen onderscheidende taakinstructies en bijna 116 miljoen individuele toetsenbord- en muisacties. Om dit op te bouwen, hebben de onderzoekers opnames van professionele spelers in hun eigen studio's gecombineerd met publiekelijk beschikbare wedstrijdgegevens van online gemeenschappen. Vervolgens gebruikten ze geavanceerde computer vision-tools om de gameplay te bekijken en automatisch te identificeren wanneer het doel van een speler veranderde. Als een speler door een gang liep en toen stopte om een vijand te schieten, herkende het systeem dat de "loopfase" was geëindigd en een "gevechtsfase" was begonnen. Het labelde deze verschuivingen als afzonderlijke stadia, waarbij een duidelijke start- en eindtijd aan elk subdoel werd toegewezen.
Een cruciaal onderdeel van dit werk is het vermogen om deze stadia te koppelen aan specifieke visuele oriëntatiepunten. Wanneer een speler naar een bestemming navigeert, identificeert het systeem het moment waarop ze aankomen bij een herkenbare plek, zoals een poort, een helling of een specifieke kamer, en markeert dit als een waypoint. Dit stelt de data in staat om niet alleen te laten zien dat een speler bewoog, maar dat ze bewogen met een specifieke bestemming in gedachten. De onderzoekers hebben deze waypoints vervolgens gegroepeerd in langere sequenties om volledige taakbeschrijvingen te vormen. Om de nauwkeurigheid van de data te garanderen, hanteerden zij een strikt tweestaps controleproces. Eerst controleerden AI-modellen elke annotatie om te verifiëren of de geschreven beschrijving overeenkwam met de video en de geregistreerde besturing. Daarna inspecteerde een team van acht menselijke beoordelaars handmatig honderden gameplay-trajecten. Deze menselijke audit bevestigde dat de beschrijvingen in 95,8 procent van de gevallen correct waren, waardoor de koppeling tussen taal, visie en actie solide werd gewaarborgd.
Het resultaat is een dataset die een kunstmatige agent expliciet leert hoe hij tussen verschillende vaardigheden moet schakelen naarmate een situatie verandert. In tegen tegenstelling tot eerdere collecties die wellicht alleen het eindresultaat beschrijven of vage instructies geven, laat AceAction-5M de machine precies zien wanneer ze met één activiteit moeten stoppen en aan een andere moeten beginnen. Het legt het volledige bereik van gedragingen vast die nodig zijn in een dynamische omgeving, van het navigeren over een kaart en het opsporen van vijanden tot het aangaan van een gevecht en het herstellen na een tegenslag. Door dit niveau van detail te bieden, hebben de onderzoekers een fundament gelegd voor het trainen van agenten die complexe, meerfasige instructies kunnen begrijpen en deze met dezelfde flexibiliteit als een menselijke speler kunnen uitvoeren. Het werk demonstreert dat door gameplay te organiseren in duidelijke, hiërarchische doelen, het mogelijk is om machines niet alleen te leren hoe ze moeten bewegen, maar ook hoe ze door een reeks acties kunnen nadenken om een complex doel te bereiken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.