6786 Arbeiten
Diese Arbeit stellt „Adam-Aware In-Run Data Shapley" vor, eine Methode, die durch eine geschlossene Näherung und eine neuartige Linearisierung die genaue Datenattribution für den Adam-Optimierer ermöglicht und dabei die hohe Rechenleistung moderner Trainingspipelines beibehält.
Die Studie zeigt, dass die Struktur der Schwartz-Höherwert-Kategorien als induktive Verzerrung nützlich ist, jedoch die Kalibrierung und Ensemble-Methoden im Vergleich zu starren hierarchischen Gating-Mechanismen oder eigenständigen kompakten LLMs die entscheidenden Verbesserungen bei der Erkennung menschlicher Werte auf Satzebene liefern.
Die Arbeit stellt LatentMem vor, ein lernbares Multi-Agenten-Gedächtnisframework, das durch eine rollenspezifische Anpassung und die Optimierung kompakter latenter Repräsentationen mittels LMPO die Leistung bestehender Systeme signifikant steigert, ohne deren zugrundeliegende Architekturen zu verändern.
Die Arbeit stellt T2T (Thickening-to-Thinning) vor, ein dynamisches Belohnungsframework für das Reinforcement Learning von Large Language Models, das menschliche Lernprozesse nachahmt, indem es bei fehlerhaften Versuchen längere Suchpfade fördert und bei korrekten Lösungen Redundanzen bestraft, um so die mathematische Reasoning-Leistung signifikant zu steigern.
Die Studie zeigt, dass Angreifer durch Manipulation der Chat-Templates in Open-Weight-Modellen inferencezeitbasierte Backdoors implementieren können, die ohne Änderungen an den Modellgewichten oder Trainingsdaten zu einer drastischen Verschlechterung der Faktenkorrektheit und zur Ausgabe manipulierter URLs führen, während sie gleichzeitig bestehende Sicherheitsmechanismen umgehen.
Die Arbeit stellt den Hinge Regression Tree (HRT) vor, ein Verfahren, das oblique Entscheidungsbäume durch eine effiziente, auf dem Damped-Newton-Verfahren basierende Optimierung formuliert, um schnelle Konvergenz, mathematische Konvergenzbeweise und universelle Approximationsfähigkeit zu gewährleisten.
Der Artikel stellt Radiale Müntz-Szász-Netzwerke (RMN) vor, eine neuartige Architektur mit lernbaren Potenzbasen, die singuläre radiale Felder effizient modelliert und dabei deutlich geringere Fehler sowie einen wesentlich sparsameren Parameterbedarf als herömliche neuronale Netze erreicht.
Das Paper stellt SDFed vor, ein heterogenes Framework für das federierte Prompt-Learning, das durch Subspace-Refinement und Divergenzkontrolle die Diskrepanz zwischen lokalen und globalen Repräsentationen überbrückt, indem es variable lokale Prompts bei gleichzeitiger Beibehaltung eines festen globalen Prompts ermöglicht.
Die Studie zeigt, dass hybride RAG-Pipelines durch eine neue Sicherheitslücke namens „Retrieval Pivot Attacks" anfällig für Datenlecks sind, die durch die unkontrollierte Erweiterung von Vektor- zu Graphendaten entstehen, und demonstriert, dass eine Autorisierung an der Übergangsstelle dieses Risiko effektiv eliminiert.
Die Arbeit stellt ein einheitliches, diffusionsbasiertes Pretraining-Framework für Gehirngraphen vor, das durch struktur- und topologiebewusste Augmentierungs- sowie Rekonstruktionsstrategien die Grenzen bestehender kontrastiver und Maskierungsverfahren überwindet und so robustere, übertragbare Repräsentationen für neuroimaging-Daten liefert.
Die Studie untersucht Methoden zur Wiederherstellung der Seitenreihenfolge in 5.461 verschütteten niederländischen WOO-Dokumenten und zeigt, dass spezialisierte Modelle bei langen Dokumenten deutlich besser abschneiden als Seq2Seq-Transformer, die aufgrund unterschiedlicher Ordnungsstrategien bei kurzen und langen Texten sowie fehlender Generalisierungsfähigkeit versagen.
Diese Studie stellt einen reaktionsfreien Framework vor, der mithilfe von Topic Modeling und semantischen Embeddings psychologische Skalen effizient vereinfacht, indem sie die inhärente semantische Struktur der Items nutzt, um die Skalenlänge im Durchschnitt um 60,5 % zu reduzieren, ohne dabei die psychometrische Güte oder die zugrundeliegenden Konstrukte zu beeinträchtigen.
TrasMuon ist ein neuer Optimierer, der die geometrischen Vorteile orthogonaler Momentum-Methoden mit einer globalen RMS-Kalibrierung und einem energiebasierten Trust-Region-Clipping kombiniert, um die Stabilität zu erhöhen und eine schnellere Konvergenz ohne Warmup-Stufen zu ermöglichen.
Diese Studie zeigt, dass Datenlecks in Benchmark-Datensätzen die Leistungsbewertung von LLM-basierten Empfehlungssystemen verfälschen können, indem sie durch Domänen-relevante Kontamination künstlich überhöhte Ergebnisse erzeugen oder durch irrelevante Daten die Genauigkeit verschlechtern.
Die Arbeit stellt die Mean Velocity Policy (MVP) vor, eine neue generative Politik, die durch die Modellierung eines mittleren Geschwindigkeitsfeldes unter einer instantanen Geschwindigkeitsbeschränkung (IVC) sowohl eine hochexpressive als auch extrem schnelle Ein-Schritt-Aktionsgenerierung in der robotischen Manipulation ermöglicht.
Das Papier stellt Pawsterior vor, ein variationsbasiertes Flow-Matching-Framework für die simulationsbasierte Inferenz, das durch die Einführung einer endpunktabhängigen affinen geometrischen Einschränkung sowohl strukturierte Domänen als auch diskrete latente Strukturen effektiv handhabt.
Das Papier argumentiert, dass der Erfolg von Code-Generierung im Vergleich zu Reinforcement Learning auf einer hierarchischen Lernbarkeit beruht, die durch die Informationsstruktur und die Verfügbarkeit von Feedback bestimmt wird, und zeigt auf, dass die Grenzen des maschinellen Lernens weniger von der Modellgröße als vielmehr von der grundlegenden Lernbarkeit der Aufgaben abhängen.
Das Paper stellt LongAudio-RAG vor, ein hybrides Framework, das durch die Umwandlung von stundenlangen Audioaufnahmen in strukturierte, zeitgestempelte Ereignisdaten und deren gezielte Abfrage mittels SQL die präzise Beantwortung natürlicher Sprachfragen mit minimierten Halluzinationen ermöglicht.
Die vorgestellte Arbeit führt Direct Kolen-Pollack Predictive Coding (DKP-PC) ein, einen effizienteren und skalierbaren Algorithmus, der durch direkte Lernfeedbackverbindungen die zeitliche Komplexität der Fehlerausbreitung von O(L) auf O(1) reduziert und gleichzeitig die Lokaliät der Updates sowie die Leistungsfähigkeit gegenüber herkömmlichen Predictive-Coding-Methoden verbessert.
Diese Arbeit zeigt, dass durch die gezielte Auswahl einer informierenden Teilmenge von Datenquellen bereits eine statistisch optimale Schätzung des gemeinsamen Unterraums erreicht werden kann, selbst wenn ein erheblicher Teil der Daten verworfen wird.