FiGuRO: Intrinsic Dimension Estimation for Multi-Modal Data

Stellen Sie sich vor, Sie versuchen, ein komplexes Objekt, wie etwa eine wirbelnde Galaxie oder eine belebte Stadt, mit nur wenigen Worten zu beschreiben. Wenn Sie sagen: „Es ist groß und glänzend“, haben Sie den Großteil der Geschichte verloren. Wenn Sie einen tausendseitigen Roman schreiben, haben Sie zu viele Details und es ist schwierig, den Kernpunkt zu finden. Wissenschaftler nennen die „genau richtige“ Menge an Informationen, die benötigt wird, um etwas zu beschreiben, dessen intrinsische Dimension. Denken Sie an sie als die wahre Anzahl der „Regler“, die man tatsächlich drehen muss, um eine Form zu rekonstruieren, selbst wenn diese Form in einem Raum mit einer Million anderen Dingen liegt. Zum Beispiel hat ein flaches Blatt Papier eine intrinsische Dimension von 2 (Länge und Breite), auch wenn es in einem 3D-Raum schwebt.

Stellen Sie sich nun vor, Sie haben zwei verschiedene Kameras, die dasselbe Ereignis filmen: Eine sieht in Farbe, die andere in Schwarz-Weiß. Beide beobachten dieselbe „gemeinsame“ Handlung, aber jede Kamera erfasst auch ihre eigenen, einzigartigen „privaten“ Details (wie die Farbe eines Hemdes oder das Korn des Films). Die große Herausforderung für Computer besteht darin, herauszufinden: Wie viele „Regler“ beschreiben die gemeinsame Handlung? Und wie viele beschreiben die einzigartigen Details für jede Kamera? Wenn der Computer dies falsch berechnet, könnte er die Geschichte vermischen und denken, dass die Farbe des Hemdes Teil der Haupthandlung ist, oder er könnte von zu vielen Daten überwältigt werden. Dies richtig zu machen, ist entscheidend, um intelligente KI zu erschaffen, die Biologie, Medizin und die reale Welt verstehen kann, ohne verwirrt zu werden.

Hier kommt FiGuRO (Fidelity-Guided Rank Optimization) ins Spiel, ein neues Werkzeug, das von Forschern entwickelt wurde, um genau dieses Rätsel zu lösen. Sie können sich FiGuRO als einen superintelligenten, selbstkorrigierenden Editor für Daten vorstellen. Stellen Sie sich vor, Sie versuchen, einen Koffer für eine Reise zu packen. Sie beginnen damit, alles, was Sie besitzen, in den Koffer zu werfen (zu viel Zeug!). FiGuRO ist der Reisende, der ständig den Koffer überprüft: „Ist diese Jacke wirklich notwendig? Kann ich sie herausnehmen, ohne die Reise zu ruinieren?“ Aber hier ist die Magie: Wenn sie merken, dass sie zu wenig eingepackt und einen Mantel vergessen haben, legt FiGuRO ihn wieder hinein. Es verkleinert und vergrößert die „Größe“ der Beschreibung der Daten ständig so lange, bis es die perfekte Passform findet.

Die Arbeit zeigt, dass FiGuRO die erste Methode ist, die dies gleichzeitig für mehrere Arten von Daten tun kann. Anstatt nur zu raten, wie groß der Koffer sein sollte, lernt es, die „gemeinsamen“ Gegenstände (die Dinge, die beide Kameras gesehen haben) von den „privaten“ Gegenständen (die Dinge, die nur eine Kamera gesehen hat) zu trennen. In ihren Tests fand FiGuRO erfolgreich die wahre Komplexität simulierter Daten heraus, selbst wenn die Daten unordentlich, verrauscht oder mit sehr unterschiedlichen Informationsmengen in jedem Teil waren. Es benötigte keine komplizierten Zusatzregeln, um die Daten zur Trennung zu zwingen; die Trennung geschah natürlich, weil das Werkzeug so gut darin war, den effizientesten Weg zu finden, den Koffer zu packen.

Als die Forscher FiGuRO mit realen Daten testeten – wie etwa dem Abgleichen von Audioaufnahmen gesprochener Zahlen mit Bildern dieser Zahlen oder der Kombination von Radar- und optischen Satellitenfotos – funktionierte es ebenso gut. Es gelang dem Tool, das Rauschen zu entfernen und das zentrale „gemeinsame“ Signal zu finden, was Computern half, Muster besser zu erkennen als zuvor. Die Arbeit legt nahe, dass dieser Ansatz robust und zuverlässig ist und über verschiedene Arten von Daten hinweg gut funktioniert, ohne ständig angepasst werden zu müssen. Es ist, als würde man einer KI eine Brille geben, die ihr hilft, genau zu sehen, wie komplex eine Situation wirklich ist, indem sie das Signal vom Rauschen trennt, damit sie schneller und intelligenter lernen kann.