1726 Arbeiten
Das Paper stellt OSCAR vor, eine neuartige Online-Methode zur weichen Kompression und Neuordnung von Suchergebnissen, die die Rechenkosten von Retrieval-Augmented Generation (RAG) erheblich senkt, ohne dabei die Genauigkeit von Large Language Models zu beeinträchtigen.
Diese Arbeit stellt \data, einen interaktionsfokussierten Datensatz, und \model, ein neues Verfahren zur Verfeinerung von Text-zu-Bild-Generierung durch Zerlegung und MLLM-gestützte Kritik, vor, um die Darstellung komplexer Objektinteraktionen zu verbessern.
Die Arbeit stellt N2M-RSI vor, ein formales, implementierungsunabhängiges Modell, das zeigt, wie KI-Agenten durch die Rückkopplung ihrer eigenen Ausgaben als Trainingsdaten eine unbeschränkte Komplexität erreichen können, sobald sie einen bestimmten Informationsintegrations-Schwellenwert überschreiten.
Diese Studie stellt mit PubHealthBench einen neuen Benchmark vor, der über 8000 Fragen zu britischen öffentlichen Gesundheitsinformationen enthält und zeigt, dass zwar fortschrittliche proprietäre LLMs bei Multiple-Choice-Fragen menschliche Leistungen übertreffen, ihre Genauigkeit bei freien Textantworten jedoch weiterhin verbesserungswürdig ist und zusätzliche Sicherheitsvorkehrungen erfordert.
Die Arbeit stellt MoB vor, eine Methode zur visuellen Token-Pruning, die durch die Formulierung als bi-zielgerichtetes Abdeckungsproblem und die Nutzung von Hausdorff-Distanz sowie -Abdeckungstheorie einen optimalen Kompromiss zwischen Prompt-Ausrichtung und visueller Erhaltung findet, wodurch bei Multimodalen Large Language Models wie LLaVA eine signifikante Beschleunigung bei minimalem Leistungsverlust erreicht wird.
Das Paper stellt R1-Code-Interpreter vor, ein durch mehrstufiges Curriculum-Learning und verstärkendes Lernen optimiertes Sprachmodell, das durch autonomes Generieren von Code-Abfragen komplexe Aufgaben löst und dabei die Leistung von GPT-4o übertrifft.
Die Arbeit stellt „Supervised Calibration" (SC) vor, ein auf Verlustminimierung basierendes Framework, das durch das Lernen optimaler affiner Transformationen im Logit-Raum und die Integration spezieller Regularisierungstechniken die Grenzen bestehender Kalibrierungsmethoden überwindet und so die Leistung von Large Language Models beim In-Context Learning signifikant verbessert.
Diese Arbeit untersucht systematisch, wie Vorurteile in Trainingsdaten zu einer Fehlausrichtung von Präferenzmodellen führen, die oberflächliche Merkmale wie Länge oder Stil überbewerten, und schlägt eine Methode zur Nachschulung mittels kontrastiver Datenverstärkung vor, um diese Verzerrungen effektiv zu reduzieren und die Zuverlässigkeit der Modelle zu erhöhen.
Die Studie stellt CounselBench vor, ein umfassendes Benchmarking-Framework, das mit Hilfe von 100 Fachleuten für psychische Gesundheit entwickelt wurde, um die Leistung und Sicherheitsrisiken von großen Sprachmodellen bei der Beantwortung offener Patientenfragen im Bereich der psychischen Gesundheit zu evaluieren und zu testen.
Diese Arbeit stellt eine trainingsfreie Methode namens „Internal Confidence" vor, die die Unsicherheit von Large Language Models auf Anfrageebene vor der Generierung abschätzt, um adaptive Inferenzprozesse wie Retrieval-Augmented Generation oder das Auslassen von Antworten kosteneffizient zu steuern und so die Zuverlässigkeit der KI zu erhöhen.
Die vorgestellte Methode verbessert die Erkennungsgenauigkeit von Wörtern mit Aussprache-Rechtschreib-Unterschieden in automatischen Spracherkennungssystemen durch die Nutzung von Korrekturdaten während der Inferenz, was zu einer signifikanten Reduzierung des Fehleranteils bei verzerrten Wörtern führt, ohne die Gesamtleistung zu beeinträchtigen.
Die Arbeit stellt RLVER vor, ein Reinforcement-Learning-Framework, das verifizierbare Emotionsbelohnungen von simulierten Nutzern nutzt, um die emotionale Intelligenz von Sprachmodellen signifikant zu steigern, ohne dabei deren kognitive Fähigkeiten zu beeinträchtigen.
Das Paper stellt UQLM, ein Python-Paket vor, das fortschrittliche Techniken zur Unsicherheitsquantifizierung nutzt, um Halluzinationen in großen Sprachmodellen durch die Berechnung von Konfidenzwerten zu erkennen und so die Zuverlässigkeit der Ausgaben zu erhöhen.
Diese Studie zeigt, dass die Anwendung von Coreferenzauflösung in Retrieval-Augmented-Generation-Systemen die Retrieval-Effektivität und die Beantwortungsqualität verbessert, wobei insbesondere kleinere Modelle von der disambiguierten Kontextverarbeitung profitieren.
Diese Studie nutzt Interpretierbarkeitsmethoden, um zu zeigen, wie Large Language Models durch einen neuartigen Mechanismus namens „Funktionsinduktion" generalisieren, bei dem parallele Aufmerksamkeitsköpfe abstrakte Funktionen (wie eine Off-by-One-Addition) lernen und auf diverse neue Aufgaben übertragen.
Diese Arbeit stellt das erste umfassende Benchmark für die Bewertung von Text-Detoxifizierung in neun Sprachen vor und zeigt, dass neuartige Metriken, darunter LLM-basierte Ansätze, eine deutlich höhere Übereinstimmung mit menschlichen Urteilen erzielen als bisherige Methoden.
Die Arbeit stellt Text2VLM vor, eine neuartige Pipeline, die Text-only-Datensätze in multimodale Formate umwandelt, um die Anfälligkeit von Visual Language Models für typografische Prompt-Injection-Angriffe zu bewerten und damit kritische Sicherheitslücken sowie die Überlegenheit geschlossener Modelle aufzuzeigen.
Das Paper stellt WebDS vor, das erste End-to-End-Benchmark für webbasierte Datenwissenschaft, das 870 komplexe Aufgaben über 29 verschiedene Websites umfasst und dabei erhebliche Leistungslücken zwischen aktuellen KI-Agenten und menschlicher Performance aufzeigt.
Das Paper stellt SEVADE vor, ein neuartiges Framework mit selbstentwickelnden Multi-Agenten und entkoppelter Bewertung, das durch eine dynamische Reasoning-Engine und einen separaten Adjudikator Halluzinationen reduziert und bei der Sarkasmuserkennung neue State-of-the-Art-Ergebnisse erzielt.
Die Studie stellt ObfusQAte und das darauf aufbauende Framework ObfusQA vor, um die Robustheit von Large Language Models bei der Beantwortung von Fragen mit mehrstufiger Verschleierung zu evaluieren und dabei festzustellen, dass Modelle bei solchen nuancierten Variationen häufig versagen oder Halluzinationen produzieren.