← Nieuwste papers
💻 computer science

PolyComp: A Polycube-based Benchmark for Compositional 3D Spatial Reasoning in Multimodal Models

Het artikel introduceert PolyComp, een procedureel gegenereerde benchmark van 120 problemen die ontworpen is om compositioneel 3D ruimtelijk redeneren in multimodale modellen te evalueren, waarbij wordt onthuld dat hoewel geavanceerde modellen zoals GPT-5.6 Sol een matige nauwkeurigheid bereiken (50%), anderen worstelen rond het niveau van willekeurig gokken ondanks variërende kosten en presentatieformaten.

Oorspronkelijke auteurs: Siddharth Patel

Gepubliceerd 2026-08-18
📖 5 min leestijd🧠 Diepgaand

Oorspronkelijke auteurs: Siddharth Patel

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De menselijke geest bezit een stille, bijna instinctieve gave om complexe vormen uit elkaar te halen en zich voor te stellen hoe ze weer in elkaar passen. We kunnen naar een puzzelstuk, een kapot speelgoed of een stapel dozen kijken en direct visualiseren hoe de onderdelen zich tot het geheel verhouden, zelfs wanneer we niet elk oppervlak kunnen zien. Deze vaardigheid, bekend als ruimtelijk inzicht, is een hoeksteen van hoe we ons door de fysieke wereld bewegen. Decennialang hebben wetenschappers zich afgevraagd of de nieuwe generatie kunstmatige intelligentie, die afbeeldingen kan herkennen en tekst kan lezen, hetzelfde interne gevoel voor ruimte heeft ontwikkeld. Hoewel deze machines uitblinken in het herkennen van katten op foto's of het samenvatten van artikelen, blijft het onduidelijk of ze werkelijk het driedimensionale geometrische begrip van objecten bezitten, of dat ze simpelweg gokken op basis van patronen die ze eerder hebben gezien.

Een nieuwe studie introduceert een rigoureuze test die ontworpen is om deze vraag te beantwoorden, waarbij verder wordt gegaan dan eenvoudige beeldherkenning om de kern te onderzoeken van hoe machines over vorm en assemblage denken. De onderzoekers creëerden een benchmark genaamd PolyComp, een collectie van 120 visuele puzzels gebouwd uit blokkerige, op kubussen gebaseerde structuren. In elke puzzel krijgt een kunstmatige intelligentie een doelobject te zien dat bestaat uit verschillende verbonden kubussen, bekeken vanuit twee verschillende hoeken. Vervolgens krijgt het model vier mogelijke paren kleinere stukken voorgelegd en wordt het gevraagd welk paar, wanneer gedraaid en verplaatst, perfect combineert om het oorspronkelijke doelobject te recreëren. De taak vereist dat het model een mentale 3D-representatie van de stukken bouwt, simuleert hoe ze in de ruimte zouden draaien, en verifieert of ze zonder gaten of overlappingen in elkaar passen. Dit is geen test van geheugen of taal, maar een pure test van geometrische logica.

De studie onderwierp drie van de meest geavanceerde systemen voor kunstmatige intelligentie aan de test: GPT-5.6 Sol, Claude Fable 5 en Gemini 3.1 Pro Preview. Elk systeem kreeg dezelfde 120 puzzels voorgelegd, maar de puzzels werden op drie verschillende manieren gepresenteerd om te zien of het formaat van de afbeelding de redenering hielp of juist hinderde. Soms verschenen het doelobject en de opties samen in één afbeelding; andere keren werd het doelobject in één afbeelding getoond en werden de vier opties verdeeld over vier afzonderlijke afbeeldingen, ofwel met generieke labels of beschrijvende namen. Het doel was om te zien of het opdelen van de visuele informatie in kleinere brokken de taak gemakkelijker maakte, of dat de modellen moeite hadden ongeacht de manier waarop de informatie werd weergegeven.

De resultaten onthulden een aanzienlijke kloof tussen menselijk niveau van intuïtie en de huidige machinale capaciteiten. Het best presterende model, GPT-5.6 Sol, slaagde er slechts voor de helft in de puzzels correct op te lossen, met een nauwkeurigheid van 50 procent. Het tweede model, Claude Fable 5, loste ongeveer 39 procent op, terwijl het derde model, Gemini 3.1 Pro Preview, presteerde op het niveau van willekeurig gokken, met slechts 27,5 procent goede antwoorden. Aangezien er voor elke puzzel vier opties waren, zou een computer die blind gokt naar verwachting 25 procent correct hebben. Dit betekent dat de meest geavanceerde modellen nauwelijks beter waren dan toeval, en de minst geavanceerde in essentie aan het gokken waren. De studie vond ook dat het type vorm belangrijker was dan de manier waarop de afbeeldingen werden gepresenteerd. De modellen hadden de meeste moeite met puzzels die rechthoekige lussen bevatten, waarbij de stukken een ringachtige structuur vormden, maar presteerden iets beter op puzzels die leken op eenvoudige blokken die uit elkaar werden gehaald of samengevoegd.

Interessant genoeg maakte de manier waarop de puzzels werden getoond geen dramatisch verschil in de uitkomst. Het opsplitsen van de afbeeldingen in aparte bestanden of het toevoegen van beschrijvende labels zorgde niet voor een significante verbetering van de scores voor de modellen. Dit suggereert dat de moeilijkheid niet ligt in het vermogen van de modellen om de afbeeldingen duidelijk te zien, maar in hun onvermogen om een stabiel, intern 3D-model van de objecten te construeren en te simuleren hoe ze bewegen. De onderzoekers merkten op dat wanneer de modellen slaagden, dit vaak kwam omdat de stukken een zeer duidelijke algemene vorm hadden of een groot, plat oppervlak dat ze gemakkelijk te matchen maakte. Wanneer de puzzels vereisten dat kleine verborgen hoeken werden gevolgd of dat werd uitgezocht hoe stukken in een holle ruimte pasten, faalden de modellen consequent.

De studie benadrukte ook de kosten van dit soort diepgaand redeneren. Om de 360 totale vragen (120 puzzels gepresenteerd op drie manieren elk) op te lossen, verbruikte het meest capabele model een enorme hoeveelheid rekenkracht, wat bijna één dollar per vraag kostte bij gebruik van standaardtarieven. De minder capabele modellen waren goedkoper in gebruik, maar ook minder nauwkeurig. Deze afruil suggereert dat zelfs wanneer we betalen voor de krachtigste beschikbare systemen, ze nog steeds het fundamentele ruimtelijke inzicht missen dat mensen natuurlijk ontwikkelen. De onderzoekers hebben alle 120 puzzels en de code die gebruikt is om ze te genereren vrijgegeven, in een uitnodiging aan anderen om toekomstige modellen tegen dezezelfde standaard te testen.

Uiteindelijk dient dit werk als een duidelijk diagnostisch instrument, dat laat zien dat hoewel kunstmatige intelligentie enorme vooruitgang heeft geboekt in het begrijpen van taal en het herkennen van objecten, het nog niet in staat is om het mentale manipuleren van driedimensionale ruimte te beheersen. De modellen kunnen een kubus beschrijven of een vorm identificeren, maar ze kunnen nog niet betrouwbaar voorstellen hoe twee afzonderlijke stukken van een vorm zouden passen als ze in de lucht gedraaid en geroteerd zouden worden. Totdat machines deze interne 3D-kaarten kunnen bouwen en transformaties daarin kunnen simuleren, zal hun ruimtelijk inzicht fragiel blijven, gevoelig voor fouten die een menselijk kind waarschijnlijk met gemak zou oplossen. De studie beweert niet dat dit vermogen onmogelijk is voor machines om te leren, maar stelt stevig vast dat huidige systemen het nog niet hebben bereikt, waarmee een duidelijk pad is geëffend voor toekomstig onderzoek om de kloof te overbruggen.

Verdrinkt u in papers in uw vakgebied?

Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.

Probeer Digest →