11619 Arbeiten
Die Arbeit stellt Skywork-Reward-V2 vor, eine Reihe von Belohnungsmodellen, die durch ein menschlich-künstliche Intelligenz-Synergie-Verfahren auf dem groß angelegten Präferenzdatensatz SynPref-40M trainiert wurden und damit neue Maßstäbe in der Leistungsfähigkeit offener Belohnungsmodelle setzen.
Der vorgestellte Ansatz MC-INR überwindet die Einschränkungen bestehender Implicit Neural Representations für multivariate wissenschaftliche Simulationsdaten auf unstrukturierten Gittern durch die Kombination von Meta-Learning, einem dynamischen Re-Clustering-Mechanismus und einer verzweigten Netzarchitektur, um eine effiziente und flexible Kodierung komplexer Strukturen zu ermöglichen.
Der Artikel stellt EP-GAT vor, ein energiebasiertes paralleles Graph-Attention-Neurales Netzwerk, das durch die Modellierung dynamischer Interdependenzen und hierarchischer Intra-Stock-Dynamiken die Vorhersagegenauigkeit von Aktienkurstrends auf mehreren globalen Märkten im Vergleich zu bestehenden Methoden verbessert.
Diese Arbeit analysiert theoretisch die Wirkung von Classifier-Free Guidance in niedrigdimensionalen Masked-Diffusion-Modellen, identifiziert deren negative Auswirkungen in frühen Generierungsphasen und schlägt eine einfache, aber effektive Methode zur Glättung des Übergangs zwischen Verteilungen vor, die die Probenqualität in hochdimensionalen Anwendungen wie Bild- und Textgenerierung verbessert.
Diese Arbeit stellt Gauge Flow Models vor, eine neue Klasse generativer Strömungsmodelle, die durch die Integration eines lernbaren Eichfelds in die Strömungs-ODE eine signifikant bessere Leistung als herkömmliche Modelle erzielen.
Diese Arbeit stellt Higher Gauge Flow Models vor, eine neue Klasse generativer Flussmodelle, die durch die Erweiterung der Lie-Algebra zu einer L-Algebra höhere Geometrie und Symmetrien integrieren und auf einem Gaußschen Mischverteilungs-Datensatz eine signifikante Leistungssteigerung gegenüber herkömmlichen Flussmodellen erzielen.
Diese Arbeit zeigt, dass die datengesteuerte Quantisierung linearer Einheiten in neuronalen Netzen dem Lösen des „Closest Vector Problem" entspricht, beweist die Äquivalenz des GPTQ-Algorithmus zu Babais bekanntem „Nearest-Plane"-Algorithmus und liefert geometrische Intuitionen sowie Hinweise auf potenzielle Verbesserungen durch Gitterbasisreduktion.
Diese Studie entwickelt einen graphenbasierten Rahmen zur Vorhersage von Datenschutzrisiken, der auf der Analyse von über 5.000 Identitätsdiebstahlfällen beruht und mithilfe von Graph-Neural-Networks die Wahrscheinlichkeit weiterer Datenoffenlegungen bei Kompromittierung bestimmter personenbezogener Informationen abschätzt.
Die Arbeit stellt Shuffle-R1 vor, ein datenzentriertes RL-Framework für multimodale große Sprachmodelle, das durch dynamisches Umschichten von Trajektorien und gezieltes Sampling von Kontrastpaaren die Probleme des Vorteilskollapses und der Rollout-Stummschaltung überwindet, um die Trainings-effizienz und das Reasoning zu verbessern.
Die Autoren stellen ein nichtparametrisches Framework zur Optimierung von Reaktionskoordinaten vor, das Trajektorienverläufe nutzt, um die Dynamik seltener Ereignisse in komplexen Systemen – von Proteinfaltung bis hin zu klinischen Daten – auch bei unregelmäßigen oder unvollständigen Daten und ohne umfangreiche Stichprobenziehung präzise zu analysieren.
Die vorgestellte Arbeit führt Reward Ensemble under Confidence (REC) ein, ein probabilistisches Framework für präferenzbasiertes Reinforcement Learning, das durch die explizite Modellierung von Unsicherheit in Belohnungsmodellen erfolgreich komplexe akrobatische Drohnenflüge rein aus menschlichem Feedback lernt und dabei die Leistung manueller Belohnungsfunktionen in Simulation und auf echten Hardware-Systemen übertrifft.
Diese Studie demonstriert erstmals den erfolgreichen Einsatz des tabellarischen Foundation-Modells TabPFN für geotechnische Benchmark-Probleme, wobei es in einem Zero-Shot-Setting sowohl eine überlegene Vorhersagegenauigkeit und besser kalibrierte Unsicherheiten als auch eine deutlich höhere Inferenzgeschwindigkeit im Vergleich zu herkömmlichen hierarchischen Bayes-Modellen aufweist.
Die Arbeit stellt DPH-RL vor, ein neues Framework, das durch den Einsatz massenerfassender f-Divergenzen (wie Forward-KL) als Rehearsal-Mechanismus das Problem des Diversitätsverlusts und der Katastrophalen Vergessenheit beim Reinforcement Learning mit verifizierbaren Belohnungen (RLVR) löst und gleichzeitig die Pass@1- sowie Pass@k-Leistung verbessert.
Diese Arbeit zeigt, dass tiefste ResNets unabhängig von ihrer tatsächlichen Breite wie unendlich breite Netze trainiert werden, indem sie durch eine nichtlineare Mean-ODE approximiert werden, und leitet dabei scharfe Fehlergrenzen sowie eine Phasendiagramm-Struktur für verschiedene Skalierungsregime her.
Das Paper stellt ScaleDoc vor, ein System, das die effiziente semantische Analyse großer Dokumentenbestände durch eine Entkopplung in eine Offline-Repräsentationsphase und eine Online-Filterung mittels eines leichten Proxy-Modells ermöglicht, wodurch die Anzahl teurer LLM-Aufrufe um bis zu 85 % reduziert und die End-zu-End-Geschwindigkeit verdoppelt wird.
Das Paper stellt AIGB-Pearl vor, eine neue Methode, die generatives Planen mit einer RL-basierten Trajektorienbewertung und einer KL-Lipschitz-gesicherten Strategie kombiniert, um die Leistungsgrenzen bestehender KI-gestützter Gebotsverfahren zu überwinden und eine sichere Exploration über statische Datensätze hinaus zu ermöglichen.
Die vorgestellte Arbeit schlägt eine effiziente Methode zur schnellen Schätzung von Wasserstein-Distanzen vor, bei der durch Regression auf geschnittene Wasserstein-Distanzen (sowohl untere als auch obere Schranken) trainierte lineare Modelle entwickelt werden, die in verschiedenen Anwendungen eine genauere und datensparsamere Approximation als der aktuelle State-of-the-Art bieten und zudem das Training von Wasserstein-Embeddings beschleunigen.
Diese Arbeit stellt eine rigorose, datenlecksfreie Evaluierungsmethode für die Lagerfehlerdiagnose mittels maschinellem Lernen vor, die durch eine trennscharfe Aufteilung nach physischen Bauteilen und die Formulierung als Multi-Label-Klassifikationsproblem realistische Generalisierungsfähigkeiten sicherstellt und so die Zuverlässigkeit industrieller Anwendungen erhöht.
Diese Arbeit stellt einen theoretischen Rahmen vor, der die Kolmogorov-Komplexität mit Deep Learning verbindet, indem sie zeigt, dass asymptotisch optimale Beschreibungsziel-Funktionen für Transformer-Modelle existieren und durch eine variationale Formulierung mit adaptivem Gaußschen Mischprior praktisch umsetzbar sind, um bessere Generalisierung durch Kompression zu erreichen.
Diese Arbeit analysiert theoretisch die Vor- und Nachteile von Reinforcement Learning für die Planung in Sprachmodellen und zeigt, dass Exploration entscheidend für die Generalisierung ist, während Policy Gradient zu einem Diversitätsverlust führt, wohingegen Q-Learning durch Off-Policy-Lernen und Diversitätserhaltung Vorteile bietet, sofern die Belohnungsfunktion sorgfältig gestaltet wird.