10307 Arbeiten
Das Papier stellt ESC vor, eine kalibrierungsmethode auf Basis von Evolutionsstrategien, die die spezifischen Herausforderungen von Audio-Aktivierungen bei der Low-Bit-Quantisierung adressiert und erstmals nahezu verlustfreie INT4-Quantisierung sowie volle INT8-Leistung für Sprachmodelle ermöglicht.
Die Studie zeigt, dass das kontinuierliche Chain-of-Thought-Verfahren (CODI) im Vergleich zur herkömmlichen Feinabstimmung nicht nur eine bis zu 50-fache Kompression der Denkspuren ermöglicht, sondern auch durch seine sprachinvarianten latenten Repräsentationen insbesondere bei ressourcenarmen Sprachen und Zero-Shot-Szenarien deutlich robustere multilinguale Schlussfolgerungen erzielt.
Diese Studie zeigt, dass die versteckten Zustände end-to-end Full-Duplex-Sprachmodelle wie SALM-Duplex und Moshi erhebliche Privatsphärenrisiken für die Sprecheridentität bergen, und demonstriert, dass vorgeschlagene Streaming-Anonymisierungsmethoden diese Lecks signifikant reduzieren können, ohne dabei die Antwortlatenz oder die Sprachqualität zu beeinträchtigen.
Die Arbeit stellt TildeOpen LLM vor, ein 30-Milliarden-Parameter-Modell, das durch Curriculum-Learning und gezielte Datenkuratierung die Leistung für 34 europäische Sprachen, insbesondere für baltische, finno-ugrische und slawische Sprachen, verbessert und dabei eine deutlich gerechtere sprachliche Repräsentation bei begrenzten Rechenressourcen erreicht.
Die Arbeit stellt MM-TS vor, eine Methode für das kontrastive Lernen mit langschwanzigen Daten, die durch dynamische Temperatur- und Margin-Schedules in multimodalen Settings die Leistung verbessert und den InfoNCE-Loss mit dem Max-Margin-Ansatz vereint.
Die Arbeit kritisiert, dass aktuelle Benchmarks für tabellarische Basis-Modelle wie TabPFN nur Punktschätzer bewerten, und fordert die Einführung von angemessenen Bewertungskennzahlen für probabilistische Regression, insbesondere den Continuous Ranked Probability Score (CRPS), um die Unsicherheit von Vorhersagen zu erfassen und die Modelle entsprechend anzupassen.
Diese Studie stellt zwei neue Fusionsstrategien vor, die eine registrationsbewusste Bildverarbeitung und eine Zuverlässigkeits-gesteuerte Aufmerksamkeitsfusion nutzen, um die Erkennung von unbemannten Luftfahrzeugen (UAVs) durch die Integration heterogener thermischer und visueller Sensordaten signifikant zu verbessern.
Diese Arbeit untersucht alternative Distanzmetriken zur Messung von Gradientenveraltetheit im asynchronen Federated Learning und zeigt, dass deren Integration in den Aggregationsprozess die Konvergenzgeschwindigkeit, Modellleistung und Trainingsstabilität unter heterogenen Bedingungen und nicht-IID-Daten verbessert.
Die Arbeit stellt SplitAgent vor, eine neuartige verteilte Architektur, die durch kontextbewusste dynamische Bereinigung und differenzielle Privatsphäre eine datenschutzkonforme Zusammenarbeit zwischen Unternehmens- und Cloud-Agenten ermöglicht, ohne die Aufgabenleistung zu beeinträchtigen.
Diese Arbeit stellt einen neuen Ansatz vor, der die mehrdeutige Emotionserkennung als verteilungsorientiertes Schlussfolgerungsproblem neu formuliert und durch eine mehrdeutigkeitsbewusste Zielfunktion sowie strukturierte Chain-of-Thought-Supervision die reasoning-Fähigkeiten von großen Audio-Sprachmodellen verbessert.
Diese Studie analysiert mechanistisch, wie sich die Sicherheit von Large Language Models durch einen Wettstreit zwischen dem inhärenten Fortsetzungsdrang des Modells und den durch Alignment-Training erworbenen Sicherheitsmechanismen unterminieren lässt, und identifiziert dabei spezifische Aufmerksamkeitsköpfe als kritische Faktoren für solche Jailbreak-Angriffe.
Diese Studie nutzt Deep-Learning-Modelle und Ultra-Weitfeld-Bildgebung auf dem UWF4DR-Datensatz, um die Diagnose von diabetischer Retinopathie und makulärem Ödem zu verbessern, wobei insbesondere Vision-Transformer, Frequenzbereichsdarstellungen und Feature-Level-Fusion eine robuste und erklärbare Leistung zeigen.
Die Arbeit stellt Fibration Policy Optimization (FiberPO) vor, ein neuartiges Framework, das durch die Aggregational Policy Censoring Objective (APC-Obj) und die algebraische Fiber Bundle Gating (FBG) eine prinzipielle, mehrskalige Stabilitätskontrolle für die Optimierung von Large Language Models über Token-, Trajektorien- und Domänenebenen hinweg ermöglicht.
Das Paper stellt FinToolBench vor, das erste ausführbare Benchmark-System mit 760 realen Finanzwerkzeugen und einem spezialisierten Evaluierungsrahmen, um die Leistung von LLM-Agenten in komplexen, regulatorisch anspruchsvollen Finanzszenarien zu bewerten.
Die Studie zeigt, dass sich die rechenintensive Bias-Erkennung in Finanz-LLMs durch die Nutzung konsistenter Muster über verschiedene Modelle hinweg erheblich beschleunigen lässt, indem beispielsweise 73 % der Verzerrungen von FinMA bereits mit nur 20 % der Eingabepaare identifiziert werden können, wenn man sich auf Erkenntnisse aus DistilRoBERTa stützt.
Das Paper stellt SAIL vor, ein Framework für das In-Context-Imitationslernen, das die Robustheit von Robotern bei variierenden Umgebungen durch testzeitbasiertes Skalieren mittels Monte-Carlo-Baumsuche, eines VLM-basierten Bewertungssystems und einer automatisierten Archivierung erfolgreicher Trajektorien signifikant verbessert.
Die Arbeit stellt SCL-GNN vor, ein neuartiges Framework, das durch den Einsatz des Hilbert-Schmidt-Unabhängigkeitskriteriums (HSIC) zur Identifizierung und Minderung irreführender statistischer Korrelationen die Generalisierungsfähigkeit von Graph Neural Networks sowohl auf IID- als auch auf OOD-Daten signifikant verbessert.
Diese Studie analysiert auf Basis von 172 Milliarden Token die Halluzinationsraten verschiedener LLMs in Dokumenten-Q&A-Szenarien und zeigt, dass die Modellwahl den größten Einfluss hat, während sich die Fehlerquote mit zunehmendem Kontextumfang drastisch erhöht und Hardware-Plattformen kaum eine Rolle spielen.
Die Arbeit stellt AdaCultureSafe vor, ein Framework, das durch die Erstellung eines spezialisierten Datensatzes und eine wissensbasierte Methode die kulturelle Sicherheit von Large Language Models verbessert, indem sie diese explizit mit kulturellem Wissen verknüpft, um deren bisherige mangelnde Korrelation zu überwinden.
Die Studie stellt TA-RNN-Medical-Hybrid vor, ein interpretierbares, zeitaufmerksames Deep-Learning-Framework, das durch die Integration kontinuierlicher Zeitkodierung und medizinischer Konzeptdarstellungen die Sterblichkeitsrisiko-Vorhersage in Intensivstationen sowohl präziser als auch klinisch nachvollziehbarer macht.