FiGuRO: Intrinsic Dimension Estimation for Multi-Modal Data

Stel je voor dat je een complex object probeert te beschrijven, zoals een kolkende sterrenstelsel of een bruisende stad, met slechts een paar woorden. Als je zegt "het is groot en glanzend", heb je het grootste deel van het verhaal verloren. Als je een duizendpagina tellende roman schrijft, heb je te veel detail en is het moeilijk om de kern te vinden. Wetenschappers noemen de "precies juiste" hoeveelheid informatie die nodig is om iets te beschrijven de Intrinsieke Dimensie. Denk eraan als het werkelijke aantal "knoppen" die je daadwerkelijk moet omdraaien om een vorm te reproduceren, zelfs als die vorm zich in een kamer bevindt met een miljoen andere dingen. Een plat vel papier heeft bijvoorbeeld een intrinsieke dimensie van 2 (lengte en breedte), zelfs als het in een 3D-ruimte zweeft.

Stel je nu voor dat je twee verschillende camera's hebt die dezelfde gebeurtenis filmen: de ene ziet in kleur, de andere in zwart-wit. Ze kijken allebei naar dezelfde "gedeelde" actie, maar elke camera legt ook zijn eigen unieke "privé"-details vast (zoals de kleur van een shirt of de korrel van de film). De grote uitdaging voor computers is om uit te vogelen: hoeveel "knoppen" beschrijven de gedeelde actie? En hoeveel beschrijven de unieke details voor elke camera? Als de computer dit fout doet, kan hij het verhaal door elkaar halen, denkend dat de kleur van het shirt deel uitmaakt van de hoofdactie, of hij kan overweldigd raken door te veel data. Het goed krijgen hiervan is cruciaal voor het maken van slimme AI die biologie, geneeskunde en de echte wereld kan begrijpen zonder in de war te raken.

Maak kennis met FiGuRO (Fidelity-Guided Rank Optimization), een nieuwe tool die door onderzoekers is ontwikkeld om precies dit puzzelstukje op te lossen. Je kunt FiGuRO zien als een superintelligente, zelfcorrigerende editor voor data. Stel je voor dat je een koffer probeert te pakken voor een reis. Je begint met alles wat je bezit in de koffer te gooien (te veel spullen!). FiGuRO is de reiziger die de koffer blijft controleren: "Is deze jas echt nodig? Kan ik hem eruit halen zonder de reis te verpesten?" Maar hier is de magie: als ze beseffen dat ze te weinig hebben ingepakt en een jas zijn vergeten, legt FiGuRO hem weer terug. Het krimpt en vergroot voortdurend de "omvang" van de beschrijving van de data totdat het de perfecte pasvorm vindt.

Het artikel laat zien dat FiGuRO de eerste methode is die dit tegelijkertijd voor meerdere soorten data kan doen. In plaats van alleen maar te gokken hoe groot de koffer moet zijn, leert het de "gedeelde" items (de dingen die beide camera's zagen) te scheiden van de "privé"-items (de dingen die slechts één camera zag). In hun tests ontdekte FiGuRO succesvol de ware complexiteit van gesimuleerde data, zelfs wanneer de data rommelig, ruizig of voorzien van zeer verschillende hoeveelheden informatie in elk deel was. Het had geen ingewikkelde extra regels nodig om de data te dwingen tot scheiding; de scheiding gebeurde natuurlijk omdat de tool zo goed was in het vinden van de meest efficiënte manier om de koffer te pakken.

Wanneer de onderzoekers FiGuRO testten op real-world data — zoals het matchen van audio-opnames van gesproken cijfers met afbeeldingen van die cijfers, of het combineren van radar- en optische satellietfoto's — werkte het net zo goed. Het slaagde erin om de ruis weg te filteren en het kernachtige "gedeelde" signaal te vinden, wat computers hielp patronen beter te herkennen dan voorheen. Het artikel suggereert dat deze aanpak robuust en betrouwbaar is, en goed werkt over verschillende soorten data zonder constant aangepast te hoeven worden. Het is alsof je AI een bril geeft die het helpt precies te zien hoe complex een situatie echt is, waardoor het signaal van de ruis wordt gescheiden, zodat het sneller en slimmer kan leren.