2296 Arbeiten
TrainDeeploy ist ein Framework, das die hardwarebeschleunigte, parameter-effiziente Feinabstimmung von kleinen Transformer- und CNN-Modellen direkt auf extrem ressourcenbeschränkten Edge-Geräten ermöglicht und damit erstmals einen vollständigen On-Device-Trainings-Pipeline für heterogene SoCs bereitstellt.
Die Studie zeigt, dass Sprachmodelle durch das Training auf semantisch treuen Umschreibungen subliminal Präferenzen von einem Lehrermodell übernehmen können, selbst wenn der Inhalt diese Präferenzen explizit widerspricht, was die Wirksamkeit rein inhaltsbasierter Sicherheitsfilter in Frage stellt.
Die vorgestellte Arbeit stellt EDA vor, einen parameter- und dateneffizienten Rahmen zur Anpassung von Draft-Modellen, der durch eine entkoppelte Architektur, eine Strategie zur Datenregeneration und eine Stichprobenauswahl die Leistung des spekulativen Decodings bei feinabgestimmten Zielmodellen mit geringeren Trainingskosten wiederherstellt.
Die Arbeit führt BRACE ein, einen parameterfreien Algorithmus für Banditen mit Nichtkonformität, der durch eine klare Unterscheidung zwischen Empfehlungswohlfahrt und Behandlungseffekten sowie durch zertifizierte Intervalle sowohl die optimale Empfehlungsstrategie als auch die strukturell optimale Behandlungsstrategie unter Unsicherheit und schwacher Identifikation zuverlässig ermittelt.
Diese Arbeit demonstriert, dass sich Mamba-2 durch compilerbasierte XLA-Optimierungen ohne handgeschriebene CUDA-Kernels effizient auf CPU, NVIDIA-GPUs und TPUs portieren lässt, wodurch eine theoretische -Zustandsverwaltung und hardwareunabhängige Inferenz mit hoher Leistung erreicht werden.
Die Arbeit untersucht das strukturelle Lernen von Markov- und Bayesianischen Netzwerken unter Verwendung eines unzuverlässigen Orakels und zeigt, dass Markov-Netzwerke auch bei moderat exponentiellen Fehlern identifizierbar sind, während Bayesianische Netzwerke selbst bei beschränkten Graphparametern keine Fehler tolerieren können, sofern eine eindeutige Identifizierbarkeit gewährleistet werden soll.
Die vorgestellte Arbeit stellt den a-TMFG-Algorithmus vor, der durch die Nutzung von k-Nächste-Nachbarn-Graphen und eine On-the-Fly-Schätzung von Korrelationen die Skalierbarkeit des traditionellen TMFG-Verfahrens auf Datensätze mit Millionen von Beobachtungen ermöglicht.
Diese Arbeit stellt einen optimalen Steuerungsansatz für das Transformer-Training vor, der die Architektur als gesteuertes Partikelsystem modelliert, um über einen gehobenen Markov-Entscheidungsprozess globale Optimalität und Robustheit ohne Gradientenabstieg zu gewährleisten.
Die Arbeit stellt SCDP vor, einen Sensor-geführten Diffusionsansatz, der durch eine gemischte Beobachtungstraining-Methode die robuste Steuerung von humanoider Lokomotion ausschließlich auf Basis onboarder Sensoren ermöglicht und dabei den Bedarf an komplexer Zustandsabschätzung eliminiert.
Die Arbeit stellt „Routing without Forgetting" (RwF) vor, eine Transformer-Architektur, die durch energie-basierte assoziative Abrufschichten dynamische Prompts generiert und so das Problem des Vergessens im Online-Continual-Learning ohne explizite Aufgabenkennungen oder wiederholte Optimierung löst.
Diese Arbeit zeigt, dass der Adam-Optimierer auf hochdegenerierten Polynomen ohne externe Scheduler automatisch konvergiert und durch einen Entkopplungsmechanismus zwischen dem zweiten Moment und dem quadrierten Gradienten eine lineare Konvergenzgeschwindigkeit erreicht, die Gradientenabstieg und Momentum signifikant übertrifft.
Diese Arbeit stellt eine theoretisch fundierte Parameterverschneidungsmethode vor, die auf der Minimierung der Rényi-Divergenz basiert und in nichtparametrischen variationalen Differentialprivacy-Modellen sowohl strengere Privatsphärengarantien als auch eine höhere Nützlichkeit bei Downstream-Aufgaben ermöglicht.
Diese Arbeit charakterisiert die Speicherkapazität von tiefen ReLU-Neuronalen Netzen, indem sie zeigt, dass die Kombination aus Breite und Tiefe durch die Beziehung optimal ist, um beliebige Datenpunkte mit einem Mindestabstand zu memorieren.
Dieses Papier stellt ein einheitliches Framework für traditionelle und konvexe nicht-negative Matrixfaktorisierung (NMF) unter Verwendung von Tweedie- und Negativ-Binomial-Kostenfunktionen vor, leitet Multiplikations-Update-Regeln mittels Majorize-Minimisation ab und zeigt durch empirische Evaluierungen, dass die Wahl des Rauschmodells sowie der Einsatz konvexer NMF die Anpassungsgüte und Merkmalswiederherstellung signifikant verbessern.
Die Studie stellt BrainHO vor, einen neuen Ansatz zur Diagnose von Hirnerkrankungen mittels fMRI, der durch einen hierarchischen Aufmerksamkeitsmechanismus und spezielle Verlustfunktionen die inhärente hierarchische Organisation von Hirnnetzwerken erlernt und dabei sowohl die Klassifikationsleistung verbessert als auch interpretierbare Biomarker identifiziert.
Die Arbeit stellt SparseLoom vor, ein Demonstratorsystem für Edge-SoCs, das durch eine neuartige „Model Stitching"-Methode zur rekombinierenden Erstellung von Modellvarianten ohne Nachtraining die SLO-Verletzungsraten um bis zu 74 % senkt, den Durchsatz um das 2,31-Fache steigert und den Speicherbedarf im Vergleich zu bestehenden Multi-DNN-Inferenzsystemen um durchschnittlich 28 % reduziert.
Diese Übersichtsarbeit analysiert systematisch die verschiedenen Rauschquellen in photonischen Quanten-Machine-Learning-Systemen, bewertet deren Auswirkungen auf die Lernleistung und Konvergenz sowie bestehende Minderungsstrategien und experimentelle Fortschritte, um zukünftige Wege zu robusten und skalierbaren Lösungen aufzuzeigen.
Die Studie stellt einen auf bedingten Generativen Adversarial Networks (cGANs) basierenden Ansatz vor, der mithilfe von Bohrlochdaten und spärlichen Petrographieproben realistische, durchgehende Porenstrukturen von Karbonatgesteinen synthetisiert, um die Reservoircharakterisierung für Anwendungen wie Kohlenstoffabscheidung und unterirdische Wasserstoffspeicherung zu verbessern.
Der Artikel stellt FreqCycle vor, ein neuartiges Framework für die Zeitreihenvorhersage, das durch die Kombination von Filter-verbesserter Zyklusvorhersage und segmentiertem Frequenzbereichslernen sowohl niederfrequente als auch mittlere bis hohe Frequenzmuster effektiv erfasst und durch eine hierarchische Erweiterung (MFreqCycle) gekoppelte Mehrperiodizitäten bewältigt, wodurch es in sieben Benchmark-Datensätzen einen neuen State-of-the-Art bei gleichzeitig hoher Inferenzgeschwindigkeit erreicht.
Diese Arbeit analysiert empirisch die unterschiedlichen Auswirkungen von Label- und Selektionsverzerrungen auf die Evaluierung und Leistung von Klassifikationsmodellen sowie auf die Wirksamkeit von Gegenmaßnahmen, wobei ein neu eingeführtes Framework zeigt, dass bei verzerrungsfreien Testdaten kein Zielkonflikt zwischen Fairness und Genauigkeit besteht und die Effizienz von Mitigationsmethoden stark von der Art der Verzerrung abhängt.