1072 Arbeiten
Diese Studie zeigt, dass Large Language Models bei Bewertungsaufgaben signifikant schlechter abschneiden als bei Generierungsaufgaben und dabei oft unzuverlässige Bewertungen liefern, was die Notwendigkeit unterstreicht, die Zuverlässigkeit von KI-Modellen als Evaluatoren kritisch zu hinterfragen.
Diese Studie untersucht den innovativen Einsatz von ChatGPT zur Sentimentanalyse von Zitierungen in wissenschaftlichen Artikeln, um deren Rezeption zu bewerten sowie potenzielle Verzerrungen und Interessenkonflikte aufzudecken und so die Objektivität der wissenschaftlichen Literaturbewertung zu stärken.
Die Studie kommt zu dem Schluss, dass Large Language Models aufgrund fehlender körperlicher und normativer Voraussetzungen keine autonomen Agenten sind, sondern als sprachliche Automaten fungieren, die dennoch durch ihre spezifische Verleiblichung und die menschlich-maschinelle Kopplung neue Formen von „mittendriger" (midtended) Handlungsfähigkeit ermöglichen.
Die Studie zeigt, dass gängige Bias-Metriken für Large Language Models die tatsächlichen Verteilungsschäden bei der Ressourcenallokation nicht zuverlässig erfassen, da sie die Diskrepanz zwischen Vorhersagen und den daraus resultierenden Entscheidungen ignorieren.
Das Paper stellt Goldfish vor, eine Suite von über 1.000 kleinen monolingualen Sprachmodellen für 350 Sprachen, die selbst mit sehr wenig Daten trainiert wurden und dabei große multilinguale Modelle sowohl in der Perplexität als auch in der grammatikalischen Korrektheit übertreffen.
Diese Arbeit stellt einen ressourceneffizienten und interpretierbaren Ansatz zur Entbiasierung von Large Language Models vor, der bei der Dekodierung kleine, spezialisierte Expertenmodelle nutzt, um Vorurteile zu reduzieren, ohne die Sprachleistung zu beeinträchtigen.
Das Paper stellt SpecEM vor, ein trainingsfreies Ensemble-Framework für große Sprachmodelle, das durch segmentweise Vorhersage und eine Online-Feedback-Mechanik zur dynamischen Gewichtsanpassung die Leistungsfähigkeit bestehender Ensemble-Methoden verbessert.
Das Paper stellt LEO vor, eine effiziente Architektur für multimodale Sprachmodelle, die durch eine leichte Kombination aus unabhängigen Projektoren, sequenzieller Verflechtung von Bildkacheln und dynamischer Tiling mit globalem Kontext die Leistung bestehender Mixture-of-Vision-Encoders-Ansätze auf zahlreichen Benchmarks und im autonomen Fahren verbessert.
Diese Übersichtsarbeit bietet einen strukturierten Überblick über den Einsatz von Large Multimodal Language Models im gesamten wissenschaftlichen Lebenszyklus, von der Literaturrecherche und Ideengenerierung bis hin zur Inhaltserstellung, Bewertung und den damit verbundenen ethischen Herausforderungen.
Diese Arbeit stellt eine Methode vor, bei der LLMs durch Feinabstimmung auf einem parallelen Korpus, das durch Rückübersetzung natürlicher Code-Switching-Sätze entsteht, trainiert werden, um fließende englisch-spanische Code-Switching-Texte zu generieren, wobei sich zeigt, dass LLM-basierte Bewertungen besser mit menschlichen Präferenzen übereinstimmen als traditionelle Metriken.
Das Paper stellt CAReDiO vor, ein neuartiges Datenoptimierungsframework, das mithilfe informationstheoretischer Ziele die Repräsentativität und Distinktivität kulturspezifischer Trainingsdaten verbessert und so eine effiziente kulturelle Ausrichtung von Sprachmodellen mit nur wenigen Beispielen ermöglicht.
Die Arbeit stellt Reasoning Reward Models (ReasRMs) vor, insbesondere die RM-R1-Familie, die durch die Umformulierung des Reward-Modeling als Reasoning-Aufgabe mit einem Chain-of-Rubrics-Mechanismus und einem zweistufigen Trainingsprozess die Interpretierbarkeit und Leistung von Belohnungsmodellen signifikant steigern.
Diese Arbeit stellt EVA vor, ein neuartiges asynchrones Framework, das durch die Übertragung von Sprachmodellierungstechniken auf die Ereignisverarbeitung überlegene Merkmalsrepräsentationen für Erkennungs- und Detektionsaufgaben in der ereignisbasierten Computer Vision ermöglicht.
Die Studie zeigt, dass durch feingranulare, bedingte Aktivierungssteuerung (K-CAST) die Verzerrung von Sprachmodellen zugunsten inhaltlicher Plausibilität gegenüber formaler logischer Gültigkeit effektiv reduziert und die Genauigkeit beim logischen Schlussfolgern um bis zu 15 % verbessert werden kann.
Das Paper stellt AdAEM vor, einen adaptiven und automatisierten Algorithmus, der durch die dynamische Generierung kontroverser Testfragen die Wertedifferenzen und kulturellen Ausrichtungen von Large Language Models präziser und informativer misst als statische Benchmarks.
Diese Arbeit stellt eine deterministische Pipeline vor, die Rohdaten aus spezifischen Domänen automatisch in unvoreingenommene, LLM-unabhängige Benchmarks für die Bewertung von Fachwissen in Sprachmodellen umwandelt und dabei Kontaminationsprobleme sowie hohe Kosten für manuelle Annotation vermeidet.
Die Arbeit stellt Sysformer vor, ein trainierbares Transformer-Modell, das durch die adaptive Anpassung von Systemprompts in Eingabe-Embedding-Räumen die Sicherheit und Robustheit von eingefrorenen Large Language Models gegenüber schädlichen Eingaben und Jailbreak-Angriffen signifikant verbessert, ohne die Modellparameter selbst nachtrainieren zu müssen.
Die Arbeit stellt VLMQ vor, einen post-training-Quantisierungsrahmen für Vision-Sprach-Modelle, der durch die Identifizierung und Berücksichtigung von visueller Überrepräsentation sowie einer Modality-Gap und die selektive Priorisierung salienter Token mittels eines gradientenbasierten Wichtigkeitsfaktors die Quantisierungsleistung insbesondere bei niedrigen Bitbreiten signifikant verbessert.
Die Studie „Agri-Query" zeigt, dass eine hybride Retrieval-Augmented-Generation (RAG)-Strategie bei der cross-lingualen technischen Fragebeantwortung auf Basis eines landwirtschaftlichen Handbuchs konsistent besser abschneidet als direkte Long-Context-Prompting-Verfahren, wobei Modelle wie Gemini 2.5 Flash und Qwen 2.5 7B mit RAG eine Genauigkeit von über 85 % erreichen.
Die Arbeit stellt CMRAG vor, ein Framework für die visuelle Dokumentenabfrage, das durch die gleichzeitige Nutzung von Text- und Bildinformationen sowie ein einheitliches Kodierungsmodell und eine abgestimmte Retrieval-Methode die Leistung von Retrieval-Augmented-Generation-Systemen verbessert und dabei einen großen tripletbasierten Datensatz bereitstellt.