2026 Arbeiten
Das Paper stellt VeriTrail vor, eine bahnbrechende Methode zur Erkennung von Halluzinationen in geschlossenen Domänen, die erstmals nicht nur die Endausgabe, sondern auch die Nachverfolgbarkeit von Fehlern in mehrstufigen Generierungsprozessen ermöglicht und durch neue Datensätze mit Zwischenoutputs und menschlichen Annotationen untermauert wird.
Das Paper stellt RedTeamCUA vor, ein Framework mit einer hybriden Sandbox zur realistischen adversarischen Testung von Computer-Use-Agenten, das in RTC-Bench erhebliche Sicherheitslücken gegenüber indirekten Prompt-Injection-Angriffen in gemischten Web-OS-Umgebungen aufdeckt und die dringende Notwendigkeit robuster Verteidigungsmechanismen vor einer realen Einsatzbereitschaft unterstreicht.
Die Arbeit stellt CityLens vor, ein umfassendes Benchmark-System, das die Fähigkeiten von Large Vision-Language-Modellen (LVLMs) bei der Vorhersage sozioökonomischer Indikatoren aus Satelliten- und Straßenbildern in 17 Städten weltweit evaluiert und dabei sowohl deren vielversprechende Potenziale als auch bestehende Grenzen aufzeigt.
Die Arbeit stellt OmniSpatial vor, ein umfassendes Benchmark auf psychologischer Grundlage mit über 8.400 annotierten Beispielen, das die signifikanten Defizite aktueller Vision-Language-Modelle in der komplexen räumlichen Reasoning aufzeigt und zwei Strategien zur Verbesserung dieser Fähigkeiten evaluiert.
Die Arbeit stellt eine Meta-Lern-Methode namens Meta-Adaptive Prompt Distillation vor, die durch die Anpassung von aus aufgabenrelevanten visuellen Merkmalen destillierten Soft-Prompts die Few-Shot-Fähigkeiten von Large Multimodal Models für das Visual Question Answering verbessert und dabei die Leistung herkömmlicher In-Context-Learning-Ansätze signifikant übertrifft.
Die Arbeit stellt VINCIE vor, ein skalierbares Modell, das durch das direkte Lernen aus annotierten Videos und die Nutzung von Block-kausalen Diffusions-Transformern für mehrere Proxy-Aufgaben state-of-the-art Ergebnisse beim in-Kontext-Bildbearbeiten erzielt, ohne auf spezialisierte Expertensysteme angewiesen zu sein.
Die Arbeit stellt FAME vor, ein Framework für Fairness-bewusste multimodale Embeddings, das durch gewichtete Modalitäten und einen kombinierten Verlustfunktion die Vorhersageleistung und Fairness in elektronischen Gesundheitsakten gleichzeitig optimiert.
Die Studie stellt LA-CDM vor, einen hypothesengesteuerten Sprachagenten, der durch eine Kombination aus überwachtem Lernen und Verstärkungslernen klinische Entscheidungen iterativ trifft, indem er relevante Tests anfordert und interpretiert, um die diagnostische Genauigkeit und Effizienz zu verbessern.
Das Paper stellt AgentSynth vor, eine skalierbare und kosteneffiziente Pipeline zur automatischen Generierung hochwertiger Aufgaben und Trajektoriendatensätze für allgemeine Computer-Nutzungs-Agenten, die durch die Kombination einfacher Teilaufgaben komplexe Langzeit-Herausforderungen schafft und dabei deutlich günstiger als menschliche Annotationen ist.
Das Papier stellt GenRecal vor, ein allgemeines Distillations-Framework für Vision-Language-Modelle, das durch eine Rekalisierungs-Komponente den Wissenstransfer zwischen heterogenen Architekturen ermöglicht und so kleine Modelle auf das Niveau großer, ressourcenintensiver Systeme bringt.
Die Studie stellt OJBench vor, einen neuen Benchmark mit 232 anspruchsvollen Wettbewerbsaufgaben aus NOI und ICPC, der zeigt, dass selbst fortschrittliche Sprachmodelle bei der Lösung komplexer Programmierprobleme auf Wettbewerbsniveau erhebliche Schwierigkeiten haben.
Die Arbeit stellt ein theoretisches Raster zur Analyse von Fehlerquellen bei langen Texten in LLMs vor und zeigt, dass eine strategische Aufteilung in Chunks mit einem Aggregator selbst schwächere Modelle in der Lage versetzt, komplexe Langkontextaufgaben effektiver zu lösen als leistungsstarke Einzelmodelle.
Das Paper stellt LongWriter-Zero vor, ein Reinforcement-Learning-Verfahren, das Large Language Models ohne synthetische Trainingsdaten in die Lage versetzt, ultra-lange und qualitativ hochwertige Texte zu generieren und dabei sowohl traditionelle SFT-Methoden als auch deutlich größere Modelle zu übertreffen.
Die Autoren stellen TTSDS2 vor, ein robustes Metrik-System, das als einzige von 16 verglichenen Kennzahlen in allen Domänen eine signifikante Korrelation mit subjektiven Bewertungen aufweist, und stellen zudem umfangreiche Ressourcen wie einen Datensatz mit über 11.000 Bewertungen und ein mehrsprachiges Benchmark für die Evaluierung menschenähnlicher Text-zu-Sprache-Systeme bereit.
Die Studie zeigt, dass sich die durch Reinforcement Post-Training erzielten Verbesserungen der Schlussfolgerungsfähigkeiten von Large Language Models zwar auf ähnliche Aufgaben übertragen, jedoch bei Domänen mit abweichenden Denkmustern inkonsistent sind oder ganz verloren gehen.
Die Studie zeigt, dass kognitive Modelle zur Analyse von Sprachmodellen eingesetzt werden können, um interpretierbare Wertkompromisse zu identifizieren, indem sie systematisch den Einfluss von Denkressourcen, Systemprompts und Trainingsdynamiken auf das Verhalten von LLMs untersuchen.
Die Arbeit stellt DAPFAM vor, einen neuartigen Patent-Datensatz auf Familienebene mit expliziten In- und Out-of-Domain-Partitionen, der als Benchmark dient, um die erheblichen Leistungseinbußen von Retrieval-Systemen bei der querdomainbezogenen Prioritätsrecherche aufzuzeigen und die Entwicklung robusterer IR-Systeme zu fördern.
XISM ist ein interaktives System, das datengetriebene Inferenz mit Expertenwissen kombiniert, um die transparente und skalierbare Erstellung sowie Evaluierung semantischer Karten durch iterative Verfeinerung und Echtzeit-Feedback zu ermöglichen.
Der Paper stellt FrugalRAG vor, ein zweistufiges Feinabstimmungsframework, das durch den gezielten Einsatz von Reinforcement Learning die Anzahl der Retrieval-Schritte in Multi-Hop-Frage-Antwort-Aufgaben an die Schwierigkeit der Frage anpasst und so eine überlegene Effizienz bei gleichzeitig hoher Genauigkeit mit nur etwa 1.000 Trainingsbeispielen erreicht.
Die vorgestellte Arbeit führt den SASFT-Ansatz ein, der mithilfe von Sparse Autoencodern unerwarteten Code-Switching in großen Sprachmodellen durch die Steuerung der Voraktivierungswerte spezifischer Sprachmerkmale während des Fine-Tunings effektiv reduziert, ohne dabei die multilinguistischen Fähigkeiten zu beeinträchtigen.