11132 Arbeiten
Diese Arbeit beweist durch eine Gradientenanalyse, dass herkömmliche RLHF-Sicherheitsausrichtungen aufgrund des Verschwindens von Gradienten nach dem Zeitpunkt der Schadensentscheidung inhärent oberflächlich bleiben, und schlägt ein neues Ziel mit Wiederherstellungsstrafen vor, um eine durchgängige Signalgebung über den gesamten Text zu ermöglichen.
Die Arbeit stellt den „Osmosis Distillation"-Angriff vor, eine neuartige Methode zum Hijacking von Deep-Learning-Modellen im Transfer Learning mit synthetischen Datensätzen, die es Angreifern ermöglicht, mit nur wenigen vergifteten Proben versteckte Aufgaben erfolgreich zu übernehmen, ohne die Leistung auf den ursprünglichen Aufgaben zu beeinträchtigen.
Das Paper stellt ReCouPLe vor, ein leichtgewichtiges Framework, das natürliche Sprachbegründungen nutzt, um kausal robuste Belohnungsfunktionen zu lernen, die sich auf die eigentlichen Nutzerabsichten stützen und dadurch bei Verteilungsverschiebungen sowie in neuen Aufgaben eine deutlich bessere Generalisierungsfähigkeit als herkömmliche Methoden aufweisen.
Diese Studie demonstriert, dass allein durch die Analyse von 3D-Kinematikdaten aus Fernsehbildern eine Vorhersagegenauigkeit von 80,4 % für acht verschiedene Baseball-Würfe erreicht werden kann, wobei die Oberkörpermechanik den größten Beitrag leistet und grip-basierte Varianten wie Four-Seam und Two-Seam Fastballs kinematisch nicht unterscheidbar sind.
Diese Arbeit analysiert, wie der für den Datenschutz notwendige Rauschanteil beim DP-SGD-Training in zweischichtigen neuronalen Netzen das Erlernen von Merkmalen beeinträchtigt, was zu einer Verschlechterung der Fairness, der Robustheit gegenüber Adversarial-Angriffen und der allgemeinen Leistung führt, insbesondere bei unausgewogenen Datenverteilungen oder bei der Verwendung von Public-Pre-Training.
Das Paper stellt FedAFD vor, ein einheitliches Framework für multimodales Federated Learning, das durch eine bi-level adversarielle Ausrichtungsstrategie, einen granularitätsbewussten Fusionsmodul und eine similarity-gesteuerte Ensemble-Destillation die Herausforderungen heterogener Datenmodalitäten, Aufgabenunterschiede und Modellheterogenität adressiert, um sowohl auf Client- als auch auf Serverseite eine überlegene Leistung und Privatsphäre zu gewährleisten.
Diese Arbeit zeigt, dass bei hochdimensionalen Zufallsdaten der Gradientenabstieg für flache ReLU-Netzwerke mit hoher Wahrscheinlichkeit eine implizite Verzerrung zugunsten der Minimum-L2-Norm-Lösung aufweist, wobei die Abweichung von der exakten Lösung in der Größenordnung von liegt.
Diese Arbeit stellt U-Parking vor, ein verteiltes autonomes Parksystem, das durch die Integration von UWB-basierter Lokalisierung, Trajektorienverfolgung und einer KI-gestützten Planung zuverlässiges Parken in komplexen Innenräumen ermöglicht.
Das Paper stellt VPWEM vor, eine nicht-Markowsche visuomotorische Strategie, die durch die Kombination eines gleitenden Fensters als Arbeitsgedächtnis und eines Transformer-basierten Kompressors für episodische Erinnerungen robotischen Systemen ermöglicht, langfristige Abhängigkeiten in nicht-Markowschen Aufgaben effizient zu bewältigen und dabei den Speicherbedarf konstant zu halten.
Die Arbeit stellt EVMbench vor, einen Evaluierungsrahmen, der die Fähigkeit fortschrittlicher KI-Agenten misst, Schwachstellen in Smart Contracts zu erkennen, zu beheben und auszunutzen, wobei festgestellt wird, dass diese Agenten in der Lage sind, Angriffe auf live Blockchain-Instanzen erfolgreich durchzuführen.
Die Arbeit stellt BandPO vor, einen neuen Algorithmus für das Reinforcement Learning von Sprachmodellen, der durch die Einführung eines dynamischen, wahrscheinlichkeitsbewussten „Band"-Operators das Problem der Entropie-Kollaps bei herkömmlichen PPO-Clipping-Methoden löst und so eine stabilere und effizientere Optimierung ermöglicht.
Diese Arbeit stellt das SC-USFL-Framework vor, das semantische Kommunikation nutzt, um Split-Federated-Learning in Fahrzeugnetzen durch die Übertragung nur relevanter Informationen zu optimieren, wodurch Kommunikationskosten gesenkt, der Datenschutz verbessert und die Lernleistung unter schwankenden Kanalbedingungen erhalten bleibt.
Diese Arbeit stellt einen maßgeschneiderten Overhead-LiDAR-Datensatz für die Personenerkennung und -verfolgung in industriellen Innenräumen vor, adaptiert bestehende 3D-Detektoren für diese spezielle Perspektive und validiert deren Echtzeitfähigkeit durch eine umfassende Evaluierung, um die Lücke zwischen herkömmlichen Fahrzeugsensordaten und Überkopf-Szenarien zu schließen.
Die Arbeit stellt -Reasoner vor, ein Framework, das durch die Integration differentieller Optimierung von Token-Logits in den Dekodierungsprozess die Schlussfolgerungsfähigkeiten von Large Language Models während der Inferenzzeit effizient verbessert und dabei die Genauigkeit auf mathematischen Benchmarks um über 20 % steigert, während die Anzahl der Modellaufrufe im Vergleich zu bestehenden Methoden reduziert wird.
Die Arbeit stellt TimeWarp vor, einen Benchmark zur Evaluierung der Robustheit von Web-Agenten gegenüber sich wandelnden Web-Designs, und schlägt mit TimeTraj einen effizienten Algorithmus vor, der durch Plan-Distillation über mehrere UI-Versionen hinweg die Leistungsfähigkeit dieser Agenten signifikant steigert.
Diese Studie zeigt, dass Transformer-Modelle mit evidenzbasierten Ausgabelagen auf dem HUPA-UCM-Datensatz die genauesten und am besten kalibrierten Unsicherheitsschätzungen für die Vorhersage des Blutzuckerspiegels bei Typ-1-Diabetes liefern und somit einen wertvollen Ansatz für klinisch sichere Echtzeitsysteme darstellen.
Das Paper stellt WaterSIC vor, einen informationstheoretisch nahezu optimalen Algorithmus zur linearen Schicht-Quantisierung, der durch eine wasserfüllungsähnliche Zuweisung unterschiedlicher Quantisierungsraten zu den Eingangsfeatures die Leistung von GPTQ übertrifft und neue State-of-the-Art-Ergebnisse für LLMs wie Llama und Qwen bei 1 bis 4 Bit erzielt.
Die Studie zeigt, dass das Wiederholen von generischen Vorab-Trainingsdaten während des Feinabstimmungsprozesses die Leistung auf spezifischen Zielaufgaben verbessert und die Daten-Effizienz sowie die Genauigkeit in praktischen Anwendungen signifikant steigert.
Die Arbeit stellt Mixture of Universal Experts (MOUE) vor, eine Verallgemeinerung von Mixture-of-Experts-Modellen, die durch die Einführung einer „virtuellen Breite" mittels wiederverwendeter, schichtübergreifender Expertenpools die Skalierbarkeit verbessert und dabei spezifische Herausforderungen wie Routing-Komplexität und Lastverteilung durch innovative Topologien und Router-Mechanismen adressiert.
Diese Arbeit schlägt eine funktionale Methode zum Zusammenführen von LLMs vor, die den Fisher-Rao-Manifold nutzt, um die Limitierungen euklidischer Parameter-Space-Ansätze zu überwinden und stabile, hochwertige Modelle auch bei der Kombination heterogener Experten zu gewährleisten.