10861 Arbeiten
Die vorgestellte Arbeit verbessert die Fairness und Interpretierbarkeit von Concept Bottleneck Models durch den Einsatz von drei neuen Techniken zur Reduzierung von Informationslecks, dem Entfernen voreingenommener Konzepte und adversariellem Debiasing, wodurch signifikant bessere Ergebnisse im Kompromiss zwischen Fairness und Leistung erzielt werden.
Die Arbeit stellt RePO vor, einen Optimierungsansatz, der durch die Kombination von verstärkendem Lernen zur Förderung der Exploration und einer referenzgesteuerten Überwachung zur Stabilisierung des Trainings die Leistung von Large Language Models bei der molekularen Optimierung ohne schrittweise Trajektoriendaten signifikant verbessert.
Diese Studie stellt ein integriertes Framework vor, das eine Node-Transformer-Architektur mit BERT-basierter Sentiment-Analyse kombiniert, um durch die Modellierung von Graphstrukturen und Marktstimmungen die Vorhersagegenauigkeit von Aktienkursen signifikant zu verbessern.
Die vorgestellte Arbeit schlägt das „Artificial Replay"-Verfahren vor, ein neues Experimentdesign, das durch Wiederverwendung aufgezeichneter Belohnungen die Anzahl notwendiger Nutzerinteraktionen zur Vergleichung von Multi-armed-Bandit-Algorithmen nahezu halbiert und dabei einen unverzerrten Schätzer mit sublinear wachsender Varianz liefert.
Die Arbeit stellt Weak-SIGReg vor, eine effiziente Kovarianz-Regularisierungsmethode, die auf dem Prinzip der Sketched Isotropic Gaussian Regularization basiert und das Training von tiefen neuronalen Netzen wie Vision Transformern stabilisiert, indem sie den Zusammenbruch der Repräsentationen durch eine Annäherung an eine isotrope Gauß-Verteilung verhindert.
Diese Arbeit zeigt, dass die Berücksichtigung des menschlichen Kontexts (Autoren) durch die HuLM- und HuFT-Methoden die Leistung eines größeren 8B Llama-Modells verbessert und damit die Bedeutung der Modellierung von Sprache im Kontext ihrer ursprünglichen Ersteller unterstreicht.
Die Autoren stellen einen FPGA-beschleuniger vor, der durch die persistente Speicherung des GDN-Zustands auf dem Chip die speichergebundenen Engpässe bei der Dekodierung linearer Aufmerksamkeit überwindet und damit im Vergleich zu einer NVIDIA H100-GPU eine 4,5-fache Geschwindigkeitssteigerung sowie eine bis zu 60-fach höhere Energieeffizienz pro Token erreicht.
Die Arbeit stellt ein strukturiertes Stil-Umschreibungs-Framework vor, das durch explizite Entzerrung lexikalischer, syntaktischer und pragmatischer Merkmale sowie implizites Stil-Conditioning mittels CoT-Distillation es kleinen Sprachmodellen ermöglicht, auch bei geringen Datenmengen konsistente und dateneffiziente Charakterrollen zu generieren, die größere Baseline-Modelle übertreffen.
Diese Studie entwickelt interpretierbare Modelle, die psychologische Theorien über die Interaktion von Person und Situation mit Sprachdaten kombinieren, um das dynamische Wohlbefinden in sozialen Medien präziser und nachvollziehbarer zu erfassen als rein embedding-basierte Ansätze.
Die Arbeit stellt Omni-Masked Gradient Descent (OMGD) vor, eine speichereffiziente Optimierungsmethode für das Training großer Sprachmodelle, die durch eine nichtkonvexe Konvergenzanalyse eine verbesserte Iterationskomplexität von garantiert und sich nahtlos in bestehende Optimierer integrieren lässt.
Die Arbeit stellt TADPO vor, ein neuartiges Reinforcement-Learning-System, das eine verbesserte Policy-Gradient-Methode nutzt, um hochgeschwindigkeitsfähige Offroad-Fahrzeuge erstmals erfolgreich in der Simulation und im realen Einsatz ohne Anpassungen zu steuern.
Die Arbeit stellt EvoESAP vor, einen evolutionären Suchrahmen, der durch die Optimierung einer nicht-uniformen Schicht-für-Schicht-Sparsität unter Verwendung der ESAP-Metrik die Leistung von Sparse-Mixture-of-Experts-Modellen bei gleichzeitiger Reduzierung des Speicherverbrauchs signifikant verbessert.
Die Autoren zeigen, dass Lernstagnation bei PPO durch eine Diskrepanz zwischen Stichproben-Schätzungen und dem wahren Ziel entsteht, und beweisen, dass diese durch Skalierung auf über eine Million parallele Umgebungen und eine angepasste Hyperparameter-Strategie überwunden werden kann, was zu einer monotonen Leistungsverbesserung über eine Billion Übergänge hinweg führt.
Diese Arbeit verbessert die bekannten Schranken für das agnostische Lernen von Konzeptklassen mit begrenzter Gaußscher Oberflächenfläche, indem sie zeigt, dass ein Polynomgrad von ausreicht, was zu nahezu optimalen Komplexitätsergebnissen für das Lernen von Polynom-Threshold-Funktionen im statistischen Abfragemodell führt.
Diese Arbeit zeigt, dass Langevin-Dynamik in Kombination mit der Mittelung der Iterierten die Notwendigkeit einer expliziten Landschaftsglättung umgeht und in hochdimensionalen Szenarien wie Tensor-PCA und Single-Index-Modellen mit Proben eine optimale Konvergenzrate erreicht.
Die Arbeit stellt TempoSyncDiff vor, einen effizienten, auf Wissenstransfer basierenden Latent-Diffusionsrahmen für audiogetriebene sprechende Köpfe, der durch Few-Step-Inferenz, Identitätsanker und zeitliche Regularisierung eine niedrige Latenz bei gleichzeitiger Verbesserung der temporalen Stabilität und Synchronisation ermöglicht.
Die Arbeit stellt IR-GeoDiff vor, ein latentes Diffusionsmodell, das aus Infrarotspektren dreidimensionale Molekülgeometrien rekonstruiert, indem es spektrale Informationen in die Knoten- und Kantenrepräsentationen der Molekülstrukturen integriert und dabei die komplexe Beziehung zwischen spektralen Merkmalen und der räumlichen Struktur erfasst.
Die Arbeit stellt SGDF vor, einen neuen Optimierer, der durch die Anwendung von Prinzipien der optimalen linearen Filterung momentumgestützte Gradientenupdates dynamisch neu kalibriert, um den Kompromiss zwischen Rauschunterdrückung und Signalbewahrung zu optimieren und damit die Leistung herkömmlicher Methoden zu übertreffen.
Die vorgestellte Arbeit zeigt, dass Diffusionssprachmodelle durch eine zero-shot-Mechanik zur dynamischen Vorschätzung der erforderlichen Antwortlänge aus dem latenten Prompt-Input erheblich rechnerisch effizienter werden, ohne dabei die Leistung auf gängigen Benchmarks zu beeinträchtigen.
Dieses Paper stellt DQE vor, ein neuartiges, semantikbasiertes Evaluationsmaß für die Anomalieerkennung in Zeitreihen, das durch eine subregionale Partitionierung und eine Aggregation über den gesamten Schwellenwertbereich bestehende Limitationen wie Verzerrungen und Inkonsistenzen herkömmlicher Metriken überwindet.