1071 Arbeiten
Diese Studie zeigt, dass spektrale Metriken, die aus strukturellen Netzwerken von Anforderungstexten abgeleitet werden, den Integrationsaufwand mit einer Korrelation von über 0,95 präziser vorhersagen können als herkömmliche strukturelle Kennzahlen.
Die Arbeit stellt CoCoA vor, einen trainingfreien Decodierungsalgorithmus, der durch die Analyse von Inkonsistenzen zwischen den inneren Schichten von Large Language Models Halluzinationen reduziert und so die faktische Korrektheit ohne Nachtraining verbessert.
Die Arbeit stellt NeSyS vor, ein Neuro-Symbolisches Framework, das die semantische Ausdruckskraft von Large Language Models mit der logischen Konsistenz symbolischer Weltmodelle kombiniert, um durch wechselseitiges Training und direkte Wahrscheinlichkeitsbeschränkungen Halluzinationen zu reduzieren und gleichzeitig die Trainingsdatenmenge um 50 % zu verringern.
Die Studie untersucht Methoden zur Wiederherstellung der Seitenreihenfolge in 5.461 verschütteten niederländischen WOO-Dokumenten und zeigt, dass spezialisierte Modelle bei langen Dokumenten deutlich besser abschneiden als Seq2Seq-Transformer, die aufgrund unterschiedlicher Ordnungsstrategien bei kurzen und langen Texten sowie fehlender Generalisierungsfähigkeit versagen.
Diese Studie stellt einen reaktionsfreien Framework vor, der mithilfe von Topic Modeling und semantischen Embeddings psychologische Skalen effizient vereinfacht, indem sie die inhärente semantische Struktur der Items nutzt, um die Skalenlänge im Durchschnitt um 60,5 % zu reduzieren, ohne dabei die psychometrische Güte oder die zugrundeliegenden Konstrukte zu beeinträchtigen.
Diese Studie entwickelt interpretierbare maschinelle Lernmodelle zur Vorhersage der CEFR-Sprachniveau-Stufen (A2–C1) bei estnischen Lernertexten durch gezielte linguistische Merkmalsauswahl, erreicht eine hohe Klassifizierungsgenauigkeit und hat die Ergebnisse in eine Open-Source-Sprachlernumgebung integriert.
Die Arbeit schlägt eine geometrische Taxonomie von Halluzinationen in LLMs vor, die Unwahrhaftigkeit, Konfabulation und faktische Fehler unterscheidet, und stellt darauf aufbauend neue Detektionsmethoden vor, die insbesondere bei Konfabulationen hohe Genauigkeit erreichen, während sie gleichzeitig methodische Grenzen bei der Erkennung faktischer Fehler aufzeigen.
Das Papier argumentiert, dass der Erfolg von Code-Generierung im Vergleich zu Reinforcement Learning auf einer hierarchischen Lernbarkeit beruht, die durch die Informationsstruktur und die Verfügbarkeit von Feedback bestimmt wird, und zeigt auf, dass die Grenzen des maschinellen Lernens weniger von der Modellgröße als vielmehr von der grundlegenden Lernbarkeit der Aufgaben abhängen.
Die vorgestellte Arbeit führt XTF ein, ein erklärbares Framework zur Filterung von Token-level-Rauschen in Fine-Tuning-Datensätzen durch die Zerlegung von Token-Beiträgen in drei Attribute, was die Leistung von Large Language Models in verschiedenen Downstream-Aufgaben signifikant verbessert.
Das Paper stellt CogitoRAG vor, ein RAG-Framework, das menschliche kognitive Gedächtnisprozesse nachahmt, indem es semantische Gist-Extraktion, einen multidimensionalen Wissensgraphen und einen Diffusionsmechanismus nutzt, um bei komplexen Fragen die semantische Integrität zu bewahren und die Leistung gegenüber bestehenden Methoden signifikant zu steigern.
Die Arbeit stellt EC-Net vor, ein hyperbolisches Hypergraph-Framework, das durch die Modellierung von Modalitätshierarchien in Poincaré-Kugel-Einbettungen und bidirektionale Hypergraph-Nachrichtenübertragung robuste und genaue multimodale Emotionserkennung auch bei verrauschten oder unvollständigen Daten ermöglicht.
Die Arbeit stellt ModalImmune vor, ein Trainingsframework, das durch gezieltes, kontrolliertes Zusammenbrechen ausgewählter Modalitäten während des Trainings robuste multimodale Repräsentationen erzeugt, um die Zuverlässigkeit von Systemen bei Ausfall oder Korruption von Eingabekanälen zu gewährleisten.
Die Autoren stellen mit CondMedQA den ersten Benchmark für kontextabhängige biomedizinische Fragen vor und entwickeln das Condition-Gated Reasoning (CGR)-Framework, das durch bedingungsbasierte Pfadsteuerung in Wissensgraphen zuverlässigere medizinische Schlussfolgerungen ermöglicht.
Die Autoren stellen MrBERT vor, eine Familie effizienter multilingualer Encoder auf ModernBERT-Basis, die durch gezielte Anpassung an 35 Sprachen sowie spezialisierte Domänen und die Integration von Matryoshka-Repräsentationslernen sowohl state-of-the-art-Leistung als auch kosteneffiziente Inferenz ermöglicht.
Die Arbeit stellt CeRA vor, eine neue Methode zur parametereffizienten Feinabstimmung, die durch Manifold-Expansion die linearen Grenzen von LoRA bei komplexen Aufgaben wie mathematischem Schlussfolgern überwindet und dabei bei deutlich niedrigerem Rang eine überlegene Leistung erzielt.
Das Paper stellt KVSlimmer vor, einen theoretisch fundierten und gradientenfreien Algorithmus zur effizienten Komprimierung von KV-Caches in großen Sprachmodellen, der durch eine geschlossene Formel die Hessian-Informationen exakt erfasst und dabei sowohl die Speicher- als auch die Latenzkosten signifikant senkt, ohne die Leistung einzubüßen.
Die Studie zeigt, dass eine konforme Vorhersage durch domänenspezifische Kalibrierung trotz unterschiedlicher Fehlkalibrierungstendenzen in strukturierten FDA-Texten und freien Radiologieberichten zuverlässige Abdeckungsgarantien für die Extraktion medizinischer Entitäten mittels großer Sprachmodelle ermöglicht.
Die Arbeit stellt CyclicJudge vor, eine effiziente Round-Robin-Strategie zur Eliminierung systematischer Urteilsverzerrungen bei LLM-Evaluierungen, die ohne zusätzliche Kosten zuverlässigere Rankings ermöglicht.
Das Paper stellt PrivMedChat vor, ein End-to-End-Framework für differenziell privates RLHF, das medizinische Dialogsysteme durch den Einsatz von DP-SGD und einer annotierungsfreien Präferenzkonstruktionsstrategie sicher und datenschutzkonform anpasst.
Die Studie zeigt, dass die Methode CDD zur Erkennung von Datenkontamination in kleinen Sprachmodellen (70M–410M Parameter) in den meisten getesteten Szenarien nur zufällige Ergebnisse liefert und dabei von etablierten Wahrscheinlichkeitsmethoden wie Perplexity und Min-k% Prob übertroffen wird, da ihre Wirksamkeit kritisch von der Entstehung wortwörtlicher Memorierung abhängt.