8406 Arbeiten
Die Arbeit stellt ZorBA vor, ein Framework für das federierte Fine-Tuning von LLMs, das durch den Einsatz von Zeroth-Order-Optimierung und einer heterogenen Blockaktivierung den VRAM-Verbrauch erheblich senkt und gleichzeitig die Konvergenz beschleunigt.
Die vorgestellte Arbeit schlägt ein adaptives Split-Federated-Learning-Framework (ASFL) vor, das durch die Kombination von serverseitigem Training, adaptiver Modellaufteilung und Ressourcenallokation die Konvergenzgeschwindigkeit verbessert und die Gesamtverzögerung sowie den Energieverbrauch im Vergleich zu bestehenden Methoden um bis zu 75 % bzw. 80 % reduziert.
Die Arbeit stellt CogGen vor, ein vollständig unüberwachtes Deep-Generative-Modell, das durch eine kognitionsbelastungsinformierte, stufenweise Anpassung der Trainingsdaten von niedrigen zu hohen Frequenzen die Rekonstruktion komprimiert abgetasteter MRT-Bilder verbessert und dabei Überanpassung sowie Konvergenzprobleme herkömmlicher Methoden überwindet.
Die Studie stellt ein erklärbares, regimebewusstes Portfolio-Management-Framework vor, das auf einem streng kausalen Wasserstein-Hidden-Markov-Modell basiert und durch dynamische Anpassung der Regime-Komplexität sowie stabile Identitätsverfolgung im Vergleich zu Benchmarks und nichtparametrischen Ansätzen deutlich verbesserte risikoadjustierte Renditen und geringere Drawdowns erzielt.
Die Studie stellt AMV-L vor, ein Framework für das lebenszyklusgesteuerte Speichermanagement von LLM-Agenten, das durch wertbasierte Promotion und Entlassung sowie eine auf die Arbeitsmenge beschränkte Suche die Tail-Latenz und den Durchsatz in langlaufenden Systemen im Vergleich zu herkömmlichen TTL- und LRU-Ansätzen signifikant verbessert.
Die Arbeit stellt SkillNet vor, eine offene Infrastruktur, die durch die Erstellung, Evaluierung und Vernetzung von über 200.000 KI-Fähigkeiten in einer einheitlichen Ontologie die Leistung von Agenten signifikant steigert und so den Übergang von transienter Erfahrung zu dauerhafter Meisterschaft ermöglicht.
Diese Forschung stellt einen erklärbaren Ensemble-Rahmen vor, der durch die Kombination von fünf Ensemble-Algorithmen und einer künstlichen neuronalen Netzwerks auf strukturierten klinischen und kognitiven Daten eine zuverlässige und transparente Vorhersage der Alzheimer-Krankheit ermöglicht, wobei XGBoost, Random Forest und Soft Voting die besten Ergebnisse erzielen.
Die vorgestellte Arbeit führt MPBMC ein, einen hybriden Ansatz zur effizienten Verifikation mehrerer Eigenschaften mittels GNN-gestützter Clustering, der funktionale Repräsentationen von Hardware-Schaltungen und Laufzeitstatistiken nutzt, um die Leistung von Bounded Model Checking signifikant zu steigern.
Die Studie stellt eine klassische neuronale Architektur namens NCnet vor, die durch Gradientenkonkurrenzen in geteilten versteckten Schichten nicht-klassische statistische Merkmale aufweist und zeigt, dass der CHSH-Wert als Indikator für interne Interaktionen und Generalisierungsleistung in tiefen Netzwerken dienen kann.
Die Studie identifiziert und demonstriert eine neue Fehlerart bei multimodalen großen Sprachmodellen, bei der durch die Optimierung auf numerische Instabilität minimal veränderte Bilder erzeugt werden, die zu einer signifikanten Leistungsverschlechterung führen, ohne dass dies durch herkömmliche adversarielle Angriffe erfasst wird.
Diese Arbeit stellt das HARR-Lernparadigma vor, das heterogene numerische und kategoriale Daten durch eine projektionsbasierte Repräsentation in einen homogenen Raum überführt, um einen einheitlichen Distanzmetrik-Lernprozess zu ermöglichen, der die Clusteranalyse ohne manuelle Parameteranpassung verbessert.
Die Arbeit stellt VSPrefill vor, eine vertikal-schräg strukturierte, sparse-Attention-Methode mit leichtgewichtiger Indexierung, die durch adaptive Budgetzuweisung und On-the-Fly-Indexierung bei langen Kontexten (bis 128k) eine 4,95-fache Beschleunigung bei nur minimalen Genauigkeitsverlusten erreicht.
Die Studie stellt MAD-SmaAt-GNet vor, ein multimodales, advektionsgesteuertes neuronales Netzwerk, das die Architektur SmaAt-UNet durch die Integration zusätzlicher Wettervariablen und physikalischer Advektionskomponenten erweitert und damit die Genauigkeit der Niederschlagsvorhersage im Vergleich zum Basismodell signifikant verbessert.
Die Studie analysiert, wie große Sprachmodelle durch widersprüchliche Few-Shot-Beispiele bei der Regelableitung in In-Context-Learning getäuscht werden, und identifiziert mittels linearer Sonden und Logit-Lens-Analyse spezifische Aufmerksamkeitsköpfe in frühen und späten Schichten, deren gezielte Ablation die Robustheit gegen solche Konflikte signifikant verbessert.
Die Arbeit stellt den Act-Observe-Rewrite (AOR)-Rahmen vor, der multimodale Sprachmodelle befähigt, Robotermanipulationsaufgaben durch das visuelle Beobachten von Fehlern und das automatische Neu-Schreiben des zugrunde liegenden Python-Steuerungscode zwischen den Versuchen zu meistern, ohne dabei Demonstrationen, Reward-Engineering oder Gradienten-Updates zu benötigen.
Diese Studie stellt einen erklärungsstarken LSTM-basierten Ansatz zur Vorhersage von Schiffsbahnen auf Binnengewässern vor, der zwar eine hohe Genauigkeit erreicht, jedoch zeigt, dass die durch das gelernte Schiffsdomänenmodell gewichteten Interaktionen nicht vollständig kausal mit den tatsächlichen Begegnungssituationen übereinstimmen.
Die Studie stellt ein neues Framework namens Dictionary Based Pattern Entropy (DPE) vor, das mithilfe von algorithmischer und Shannon-Informationstheorie kausale Richtungen in symbolischen Zeitreihen durch die Minimierung der Unsicherheit von mustergesteuerten Strukturen zuverlässig identifiziert.
Die Studie stellt ein System zur Aktivitätserkennung vor, das mithilfe eines kreisförmigen dilatierten CNN (CDCNN) multi-modale Sensordaten von Smart-Einlegesohlen verarbeitet und dabei eine Testgenauigkeit von 86,42 % bei der Klassifizierung von vier Aktivitäten in einer subjektunabhängigen Evaluation erreicht.
Die Studie stellt das Multi-Teacher-Distillation-Pretraining (MTDP) vor, ein Framework, das etablierte Modelle aus anderen Domänen nutzt, um EEG-Foundation-Modelle effizienter vorzutrainieren und dabei mit nur 25 % der üblichen Daten bessere Ergebnisse als selbstüberwachte Ansätze zu erzielen.
Diese Arbeit untersucht die Kollatz-Stop-Zeit über mittels eines bayesschen hierarchischen Negativ-Binomial-Modells und einer mechanistischen Generatormethode, wobei die Ergebnisse zeigen, dass die Berücksichtigung modularer Restklassen die Verteilungsanpassung erheblich verbessert und das NB2-GLM die höchste Vorhersagegüte erzielt.