7411 Arbeiten
Diese Arbeit liefert explizite obere Schranken für die quadratische Wasserstein-Distanz zwischen dem Ausgang eines trainierten einlagigen neuronalen Netzwerks und seiner Gaußschen Näherung, die einen polynomiellen Konvergenzverlauf in Abhängigkeit von der Netzbreite und den Trainingsdynamiken quantifizieren.
Die Studie stellt eine stabile NVFP4-Pretraining-Methode für große Sprachmodelle vor, die durch Random Hadamard-Transformationen, ein zweidimensionales Quantisierungsschema und stochastisches Runden eine Effizienzsteigerung ermöglicht, ohne die Leistung im Vergleich zu FP8-Baselines zu beeinträchtigen.
OPPO ist ein leichtgewichtiges, modellunabhängiges Framework, das die Effizienz von PPO-basiertem RLHF durch die Überlappung von Pipeline-Schritten mittels intra- und inter-stufiger Techniken signifikant steigert, ohne die Konvergenz zu beeinträchtigen.
Die Arbeit stellt VidGuard-R1 vor, den ersten KI-generierten Video-Detektor, der durch den Einsatz von Group Relative Policy Optimization (GRPO) und spezialisierten Belohnungsmodellen nicht nur eine state-of-the-art Zero-Shot-Erkennungsgenauigkeit erreicht, sondern auch physikalisch fundierte, nachvollziehbare Erklärungen für seine forensischen Urteile liefert.
Diese Arbeit leitet nicht-asymptotische Schranken für die Effizienz von konformalisierten Regressionsverfahren her, die die gemeinsame Abhängigkeit der Vorhersageintervalllänge von der Trainings- und Kalibrierungsdatengröße sowie dem Misscoverage-Level quantifizieren und Phasenübergänge in den Konvergenzraten aufzeigen.
Diese Arbeit zeigt empirisch, dass eine einfache Vergrößerung der Modellbreite in Kombination mit einer geeigneten Softmax-Temperaturkalibrierung ausreicht, um lineare Modus-Konnektivität zu erreichen, ohne dass eine aufwendige Permutation der Parameter notwendig ist.
Die Arbeit stellt XFactor vor, das erste geometriefreie selbstüberwachte Modell für die Synthese neuer Ansichten, das durch eine spezielle Augmentationsstrategie übertragbare Kameraposen lernt und damit zeigt, dass echte Übertragbarkeit ohne explizite 3D-Induktionsverzerrungen oder Multi-View-Geometrie erreicht werden kann.
Die Arbeit stellt CBF-RL vor, ein Framework, das Control Barrier Functions direkt in das Reinforcement-Learning-Training integriert, um sichere Strategien zu erlernen, die auch ohne nachgeschaltete Online-Sicherheitsfilter robust in realen Anwendungen wie der Unitree G1-Humanoiden-Roboterplattform operieren können.
Diese Arbeit stellt B-ODIL vor, eine bayessche Erweiterung der Methode zur Optimierung eines diskreten Verlustes (ODIL), die physikalische PDE-Modelle als Prior mit Daten-Likelihoods kombiniert, um Lösungen für inverse Probleme mit quantifizierten Unsicherheiten zu liefern, wie beispielsweise bei der Schätzung von Tumorwachstum aus MRT-Daten.
Die Autoren stellen Schrödinger Bridge Mamba (SBM) vor, ein effizientes Ein-Schritt-Modell für die Sprachverbesserung, das durch die Kombination des Schrödinger-Brücken-Trainingsparadigmas mit der Mamba-Architektur sowohl bei der Rauschunterdrückung als auch bei der Entreverberation überlegene Ergebnisse im Vergleich zu bestehenden Methoden erzielt.
Die Arbeit zeigt, dass bestehende Abwehrmechanismen gegen Control-Flow-Hijacking-Angriffe in Multi-Agent-Systemen aufgrund grundlegender Zielkonflikte und unvollständiger Kontextsicht umgangen werden können, und stellt darauf aufbauend ControlValve vor, eine neue Verteidigung, die auf dem Prinzip der Control-Flow-Integrität basiert und die Ausführung durch generierte Graphen sowie kontextuelle Regeln erzwingt.
Diese Arbeit zeigt theoretisch, dass die Geometrie der Daten bei überparametrisierten ReLU-Netzen unterhalb der Stabilitätsgrenze den Generalisierungserfolg bestimmt, indem sie steuert, ob der Gradientenabstieg gemeinsame Muster lernt oder zu einer Memorierung neigt.
Diese Arbeit entwickelt ein prinzipielles statistisches Rahmenwerk für die Hypothesenprüfung übermäßig einflussreicher Datensubsets in der linearen Regression, indem sie exakte Einflussformeln und Extremwertverteilungen nutzt, um rigorose Tests durchzuführen und ad-hoc-Heuristiken zu ersetzen.
Das Paper stellt LLEMA vor, ein Framework, das Large Language Models mit chemischen Evolutionsregeln und Gedächtnis-basiertem Feedback kombiniert, um in einem multi-objektiven Suchprozess effizient und synthetisierbare neue Materialien für verschiedene Anwendungsbereiche zu entdecken.
Die Autoren stellen eine adaptive Sampling-Methode für Physics Informed Neural Networks (PINNs) vor, die es ermöglicht, problem-spezifische Heuristiken zur gezielten Erfassung von Phasenübergängen in Allen-Cahn-Gleichungen zu nutzen und dabei die Leistungsfähigkeit gegenüber residual-adaptiven Ansätzen nachweist.
Die Arbeit stellt FMint-SDE vor, ein multimodales Basis-Modell auf Transformer-Basis, das durch In-Context-Learning und eine universelle Fehlerkorrektur auf Basis grober numerischer Lösungen eine überlegene Genauigkeit und Effizienz bei der Simulation stochastischer Differentialgleichungen in verschiedenen wissenschaftlichen Domänen ermöglicht.
Das Paper stellt MotionStream vor, ein Echtzeit-Video-Generierungsmodell, das durch die Destillation eines bidirektionalen Lehrmodells in einen kausalen Schüler und den Einsatz von gleitenden Fenster-Aufmerksamkeitsmechanismen interaktive, qualitativ hochwertige Videostreams mit subsekundärer Latenz und unbegrenzter Länge auf einer einzigen GPU ermöglicht.
CytoNet ist ein auf 1 Million ungelabelter mikroskopischer Bildpatches trainiertes Fundamentmodell, das die zelluläre Architektur des menschlichen Großhirns in hoher Auflösung analysiert und so eine skalierbare Untersuchung der kortikalen Mikroarchitektur sowie deren Verknüpfung mit der makroskopischen Struktur-Funktions-Organisation ermöglicht.
Die Arbeit stellt CoRPO vor, eine einfache Modifikation von GRPO, die durch das Setzen einer festen Korrektheits-Schwelle als untere Grenze für die Baseline eine Überbewertung falscher Lösungen verhindert und so die Generalisierungsfähigkeit von Modellen auf domänenübergreifende Aufgaben signifikant verbessert.
Diese Arbeit stellt ein end-zu-end Deep-Learning-Verfahren namens SPOT vor, das mittels trainierbarer Phasen- und Zeitverzögerungskoeffizienten in Phasen-Zeit-Arrays optimierte Regenbogenstrahlen erzeugt, um die Position eines Nutzers bereits nach einer einzigen Downlink-Übertragung mit deutlich geringerem Overhead und höherer Genauigkeit zu bestimmen.