1071 Arbeiten
Dieser Artikel schlägt vor, große Sprachmodelle als drittes, neues Forschungsziel neben Produktivität und Ausrichtung zu nutzen, indem er sie als wissenschaftliche Instrumente zur Analyse menschlichen Verhaltens, kultureller Muster und moralischer Argumentation auf Basis ihrer als Kondensat menschlicher Symbolik verstandenen Trainingsdaten einsetzt.
Die Studie zeigt, dass Monte-Carlo-Dropout-Methoden im Vergleich zu Softmax-basierten Ansätzen eine robustere Unsicherheitsschätzung für multilinguale Textklassifizierung unter verrauschten Bedingungen bieten und durch das Abstimmen unsicherer Vorhersagen die Gesamtleistung signifikant verbessern.
Diese Studie untersucht den Einfluss verschiedener Rauschfilterungsmethoden auf die Leistung von BERT-Modellen bei der multilingualen Erkennung von Satzschwierigkeiten und zeigt, dass explizite Rauscherkennung insbesondere bei kleineren Datensätzen die Vorhersagequalität erheblich steigern kann, während vortrainierte Sprachmodelle bei größeren Datensätzen bereits eine robuste Basisleistung bieten.
Die Arbeit stellt RILEC vor, einen umfangreichen Datensatz und ein Framework zur Erkennung und Generierung von englischen Lernertexten, die durch russische L1-Interferenzfehler geprägt sind, um Lehrern und Lernenden bei der Identifizierung und Korrektur solcher Fehler zu helfen.
Diese Positionspapier plädiert für einen kombinierten Ansatz zur Bekämpfung von Verzerrungen in großen Sprachmodellen, der kategorientheoretische Funktoren zur strukturellen Entschärfung von Vorurteilen mit retrievalgestützter Generierung (RAG) zur dynamischen Kontextualisierung durch externe Wissensquellen verbindet, um faire und gerechte Ausgaben zu gewährleisten.
Diese Studie untersucht die domänenspezifische Qualitätsschätzung für die maschinelle Übersetzung in ressourcenarmen Szenarien zwischen Englisch und indischen Sprachen und zeigt, dass die Anpassung von Transformer-Zwischenschichten mittels Low-Rank-Methoden die Robustheit und Genauigkeit von Open-Weight-Modellen signifikant verbessert.
Diese Systematisierung des Wissens (SoK) stellt das erste einheitliche Rahmenwerk für autonome Retrieval-Augmented-Generation-Systeme vor, indem sie diese als sequenzielle Entscheidungsprozesse formalisiert, eine umfassende Taxonomie und Architekturdekomposition entwickelt, kritische Evaluierungslücken und systemische Risiken analysiert sowie einen Fahrplan für zukünftige Forschungsrichtungen zur Steigerung von Zuverlässigkeit und Skalierbarkeit aufzeigt.
Die Studie stellt mit OAKS einen neuen Benchmark vor, um die Fähigkeit von Large Language Models zur Online-Anpassung an kontinuierlich strömende Wissensdaten zu bewerten, und zeigt dabei erhebliche Defizite aktueller Modelle und Gedächtnissysteme bei der Verfolgung dynamischer Faktenänderungen auf.
Die Studie stellt AQuA vor, einen feinabgestuften Datensatz zur Klassifizierung von Ambiguitätsstufen in visuellen Fragen, der es Vision-Language-Modellen ermöglicht, durch Feinabstimmung adaptive und kontextangemessene Antwortstrategien zu entwickeln, anstatt bei Mehrdeutigkeiten übermäßig selbstbewusste Antworten zu geben.
Diese Arbeit stellt mit AndroidWorld-Generalization einen neuen Benchmark und ein skalierbares Reinforcement-Learning-System vor, das zeigt, dass RL-basierte VLM-Agenten auf mobilen Geräten zwar signifikant besser auf unbekannte Aufgabeninstanzen generalisieren als überwachte Feinabstimmung, jedoch weiterhin vor erheblichen Herausforderungen bei der Generalisierung auf unbekannte Vorlagen und Anwendungen stehen.
Die Arbeit stellt PACT vor, einen Feinabstimmungsansatz, der die Sicherheitsausrichtung von großen Sprachmodellen bewahrt, indem er gezielt nur die Konfidenz auf sicherheitsrelevanten Tokens während des Trainings an ein Referenzmodell angepasst wird, um so einen Abgleichsverlust zu verhindern, ohne die Leistung bei downstream-Aufgaben zu beeinträchtigen.
Die Arbeit stellt Dial vor, ein wissensbasiertes Framework für dialektspezifische NL2SQL-Übersetzungen, das durch eine dialektsensible logische Abfrageplanung, eine hierarchische Wissensdatenbank und einen ausführungsbasierten Debugging-Prozess die Genauigkeit und Abdeckung von Datenbankdialekten im Vergleich zu bestehenden Methoden signifikant verbessert.
Dieser Artikel bietet eine umfassende technische Übersicht über die Entwicklung von Bildgenerierungsmodellen – von VAEs und GANs bis hin zu Diffusionsverfahren – und behandelt dabei deren Architekturen, Trainingsmethoden, Grenzen sowie aktuelle Fortschritte in der Videogenerierung und die Notwendigkeit einer verantwortungsvollen Nutzung.
Die vorgestellte Dual-Stream-Transformer-Architektur entkoppelt den Residual-Stream in einen durch Attention aktualisierten Token-Stream und einen durch Feed-Forward-Netzwerke aktualisierten Kontext-Stream, um durch skalierbare Mischstrategien eine nachweisbare Balance zwischen Interpretierbarkeit und Leistungsfähigkeit zu ermöglichen.
Die Studie zeigt, dass Sprachmodelle in Vision-Language-Modellen taxonomisches Wissen (Hyperonyme) auch ohne explizite visuelle Hinweise aus rein sprachlichen Mustern rekonstruieren und verallgemeinern können, wobei diese Fähigkeit jedoch von der visuellen Kohärenz der Kategorien abhängt.
Die Studie zeigt, dass Diffusions-Sprachmodelle im Vergleich zu autoregressiven Modellen redundantere, hierarchischere Repräsentationen aufweisen, die eine effiziente Inferenz durch statisches Layer-Skipping ohne Architekturänderungen ermöglichen, während autoregressive Modelle unter ähnlichen Bedingungen stark an Leistung verlieren.
Diese Arbeit stellt ein neuartiges, end-to-end-System vor, das die Aufgaben der Konzepterkennung, Assertionsklassifizierung und Relationsextraktion in klinischen Texten gemeinsam optimiert und dabei die Leistung herkömmlicher Pipeline-Ansätze signifikant übertrifft.
Die Arbeit stellt Bolbosh vor, das erste Open-Source-Neural-TTS-System für die Kaschmiri-Sprache, das durch eine script-bewusste, überwachte Anpassung mittels Optimal Transport Conditional Flow Matching und einer dreistufigen akustischen Verbesserungspipeline deutlich bessere Ergebnisse als mehrsprachige Baseline-Modelle erzielt.
Der Artikel stellt TableMind++ vor, einen unsicherheitsbewussten, programmatischen Agenten, der durch speicherbasierte Planbereinigung, vertrauensbasierte Aktionsverfeinerung und eine dual-gewichtete Trajektorienaggregation Halluzinationen reduziert und die Tabellenreasoning-Fähigkeiten von Sprachmodellen im Vergleich zu vorherigen Ansätzen signifikant verbessert.
Die Arbeit stellt „Accent Vector" vor, eine Methode zur kontrollierten Manipulation von Akzenten in mehrsprachigen Text-zu-Sprache-Systemen, die es ermöglicht, feingranulare Akzentstärken und Mischakzente ohne spezielle akzentuierte Trainingsdaten zu erzeugen.