8664 Arbeiten
Die Arbeit untersucht die Konvergenz- und Fluchtdynamik des stochastischen Gradientenabstiegs in eindimensionalen Landschaften mit unterschiedlichem Rauschen und zeigt, wie Rauschcharakteristika und die Geometrie der Funktion bestimmen, ob SGD in Minima konvergiert, in der Nähe von Maxima verweilt oder diese mit einer bestimmten Wahrscheinlichkeit zu benachbarten Minima überwindet.
Dieses Paper stellt das BAH-Dataset vor, eine multimodale Videodatenbank mit 1.427 Aufnahmen von 300 Teilnehmern, die zur automatischen Erkennung von Ambivalenz und Zögern in digitalen Verhaltensänderungsinterventionen dient und erste Benchmark-Ergebnisse für die Entwicklung angepasster Modelle liefert.
Das Paper stellt SafeDPO vor, eine einfache und theoretisch fundierte Methode zur direkten Optimierung von Präferenzen, die die Sicherheit von Large Language Models ohne komplexe Zusatzmodelle oder Online-Sampling verbessert und dabei die Hilfsbereitschaft erhält.
Die Arbeit stellt TADA vor, ein Framework zur gezielten Bildaugmentation mittels Diffusionsmodellen, das durch selektive Erweiterung nur derjenigen Trainingsdaten, die zu Beginn des Lernprozesses noch nicht erfasst wurden, die Generalisierungsfähigkeit von Bildklassifizierern effizient verbessert und dabei den Rechenaufwand im Vergleich zu herkömmlichen Methoden signifikant reduziert.
Die Studie stellt einen effizienten, kopulabasierten Filter vor, der Merkmale anhand ihrer gemeinsamen Extremwerte mit der positiven Klasse bewertet und sich in der Diabetes-Risikovorhersage als schneller und klinisch interpretierbarer Ansatz erweist, der insbesondere bei großen Datensätzen mit Standardmethoden konkurrieren kann.
Die Arbeit stellt „Supervised Calibration" (SC) vor, ein auf Verlustminimierung basierendes Framework, das durch das Lernen optimaler affiner Transformationen im Logit-Raum und die Integration spezieller Regularisierungstechniken die Grenzen bestehender Kalibrierungsmethoden überwindet und so die Leistung von Large Language Models beim In-Context Learning signifikant verbessert.
Diese Arbeit bietet eine Übersicht über die Lücke zwischen Approximationstheorie und maschinellem Lernen, diskutiert aktuelle Trends wie tiefe Netzwerke und physik-informierte Surrogate, und stellt eine neue Forschung vor, die Funktionsapproximation auf unbekannten Mannigfaltigkeiten ohne explizite Merkmalslernen ermöglicht.
Die Autoren stellen ein energieeffizientes und kostengünstiges System zur strukturellen Schwingungsüberwachung vor, das eine gemeinsam optimierte diffraktive Schicht mit einem neuronalen Netz kombiniert, um 3D-Schwingungsspektren von Bauwerken präzise und in Echtzeit zu rekonstruieren.
Das Paper stellt AutoQD vor, einen theoretisch fundierten Ansatz, der mithilfe von Zufalls-Fourier-Features und Occupancy-Maßen automatisch aussagekräftige Verhaltensdeskriptoren für Quality-Diversity-Optimierung generiert, wodurch die Abhängigkeit von manuell definierten Merkmalen überwunden und eine offene Entdeckung vielfältiger Verhaltensweisen in der Reinforcement Learning ermöglicht wird.
Die vorgestellte Arbeit führt Conflict-Aware Evidential Deep Learning (C-EDL) ein, eine leichte Nachbearbeitungsmethode, die durch die Quantifizierung von Repräsentationswidersprüchen mittels diverser Transformationen die Robustheit von Evidential Deep Learning gegenüber adversariellen Angriffen und Out-of-Distribution-Daten signifikant verbessert, ohne dass ein Nachtraining erforderlich ist.
Die Studie zeigt, dass die standardmäßige „ehrliche" Schätzung bei Causal Forests die Genauigkeit individueller Behandlungseffekte beeinträchtigen kann, da sie durch die Aufteilung der Daten das Risiko des Underfitting erhöht, und empfiehlt daher eine anwendungsbezogene Abwägung statt einer reflexiven Anwendung.
Die Autoren stellen einen neuen bayesschen Ansatz vor, der die federierten ADMM-Methoden durch die Ausnutzung einer Variational-Bayes-Dualität verallgemeinert und dabei sowohl bekannte Updates als auch leistungsfähige neue Varianten wie Newton- und Adam-ähnliche Algorithmen für heterogene Deep-Learning-Szenarien hervorbringt.
Diese Arbeit liefert eine theoretische Analyse, die zeigt, dass herkömmliche Sparse Autoencoder die Wiederherstellung monosemantischer Merkmale oft versagen, und schlägt eine gewichtete Variante (WSAE) vor, die durch eine gezielte Umverteilung die Interpretierbarkeit signifikant verbessert.
Die vorgestellte Methode verbessert die Erkennungsgenauigkeit von Wörtern mit Aussprache-Rechtschreib-Unterschieden in automatischen Spracherkennungssystemen durch die Nutzung von Korrekturdaten während der Inferenz, was zu einer signifikanten Reduzierung des Fehleranteils bei verzerrten Wörtern führt, ohne die Gesamtleistung zu beeinträchtigen.
Meta FAIR stellt UMA vor, eine Familie universeller Atommodelle, die auf einer einzigartigen Datenbank von 500 Millionen 3D-Strukturen trainiert wurden und durch eine innovative Architektur aus linearen Experten sowohl hohe Genauigkeit als auch Geschwindigkeit bieten, wodurch ein einzelnes Modell ohne Feinabstimmung in der Lage ist, spezialisierte Modelle in verschiedenen chemischen und materialwissenschaftlichen Anwendungen zu übertreffen.
Das Paper stellt UQLM, ein Python-Paket vor, das fortschrittliche Techniken zur Unsicherheitsquantifizierung nutzt, um Halluzinationen in großen Sprachmodellen durch die Berechnung von Konfidenzwerten zu erkennen und so die Zuverlässigkeit der Ausgaben zu erhöhen.
Die Arbeit stellt Q-SVMPC vor, eine Methode, die modellprädiktive Steuerung mit einem RL-basierten Prior und Stein-Variational Gradient Descent kombiniert, um unter Q-Wert-Leitung diverse Trajektorien zu inferieren und so die Effizienz, Stabilität und Robustheit in verschiedenen robotischen Anwendungen zu verbessern.
Die vorgestellte Arbeit entwickelt „Fast Equivariant Imaging" (FEI), ein neuartiges unüberwachtes Lernframework, das durch die Kombination von Augmented Lagrangian und Plug-and-Play-Denoisern das Training von Bildgebungsnetzwerken ohne Ground-Truth-Daten um den Faktor 10 beschleunigt und gleichzeitig die Generalisierungsleistung verbessert.
Die Autoren stellen eine probabilistische Architektur für die Ein-Kanal-Sprachtrennung vor, die durch unsicherheitsbasierte Frühbeendigung die Rechenleistung dynamisch an die Anforderungen anpasst und dabei sowohl Recheneffizienz als auch eine hohe Rekonstruktionsqualität gewährleistet.
Diese Studie nutzt Interpretierbarkeitsmethoden, um zu zeigen, wie Large Language Models durch einen neuartigen Mechanismus namens „Funktionsinduktion" generalisieren, bei dem parallele Aufmerksamkeitsköpfe abstrakte Funktionen (wie eine Off-by-One-Addition) lernen und auf diverse neue Aufgaben übertragen.