2315 Arbeiten
Die Arbeit stellt Fine-grained Group Policy Optimization (FGO) vor, einen Reinforcement-Learning-Algorithmus, der als effiziente Weiterentwicklung von GRPO übermäßige Chain-of-Thought-Verläufe in großen Sprachmodellen komprimiert und dabei gleichzeitig die Probleme der ineffizienten Datennutzung sowie des Entropie-Kollapses löst, ohne die Leistungsfähigkeit zu beeinträchtigen.
Die Arbeit stellt GOT-JEPA vor, ein Framework zur Vorhersage von Tracking-Modellen mittels Joint-Embedding Predictive Architecture, das in Kombination mit dem OccuSolver-Modul die Generalisierungsfähigkeit und die Verarbeitungsleistung bei Verdeckungen in der generischen Objektverfolgung signifikant verbessert.
Das Paper stellt LexiSafe vor, ein theoretisch fundiertes Offline-Safe-Reinforcement-Learning-Framework, das durch eine lexikographische Hierarchie von Sicherheits- und Belohnungszielen sowie strukturelle Verzerrungen Sicherheitsverletzungen in cyber-physischen Systemen effektiv verhindert und gleichzeitig die Leistung verbessert.
Die Arbeit stellt ZACH-ViT vor, einen kompakten Vision Transformer ohne Positionscodierung und [CLS]-Token, der durch permutationsinvariante Verarbeitung und globale Durchschnittspooling in datenarmen medizinischen Bildgebungsszenarien regimeabhängige Vorteile zeigt, insbesondere bei Datensätzen mit schwachen räumlichen Priors.
Diese Studie stellt neue Benchmarks für harte Zufallsprobleme aus der Sicht der statistischen Physik vor und zeigt durch einen fairen Vergleich, dass klassische Algorithmen Graph Neural Networks bei der Lösung komplexer Constraint Satisfaction Problems weiterhin überlegen sind.
Die Studie zeigt, dass autonome KI-Analysten große Datenmengen kostengünstig analysieren können, wobei sie jedoch aufgrund unterschiedlicher analytischer Entscheidungen zu stark variierenden Ergebnissen führen, was die Notwendigkeit einer neuen Transparenznorm mit Multiversen-Berichterstattung unterstreicht.
Diese Arbeit untersucht aktive Abfragestrategien, um den additiven Fehler bei der Approximation unbekannter subadditiver Mengenfunktionen zu minimieren, indem sie Methoden zur Verringerung der Unsicherheit zwischen minimalen und maximalen Ergänzungen entwickelt und empirisch validiert.
Die Studie zeigt, dass Large Language Models bei bestimmten syntaktischen Aufgaben oft frühzeitig falsche Wahrscheinlichkeitsmuster verfestigen, die sich durch das Training hinweg nicht korrigieren lassen, und führt dies auf eine fehlerhafte Bigramm-Statistik zurück, die zu verfestigten Verzerrungen führt.
Die Arbeit stellt CARE vor, ein evidenzbasiertes, agentisches Framework für die multimodale medizinische Reasoning, das durch die Dekomposition in spezialisierte Module und die Integration von pixelgenauen Bildsegmentierungen die klinische Verantwortlichkeit und Genauigkeit im Vergleich zu bestehenden Black-Box-Modellen signifikant verbessert.
Die Arbeit stellt CFG-Ctrl vor, ein Framework, das Classifier-Free Guidance als Kontrollmechanismus neu interpretiert, und führt mit SMC-CFG eine auf dem Sliding-Mode-Control-Prinzip basierende Methode ein, die durch nichtlineare Rückkopplung die Stabilität und semantische Ausrichtung von Diffusionsmodellen über einen weiten Bereich von Führungsparametern verbessert.
Diese Studie zeigt, dass parameter-effizientes Feintuning (PEFT) für Code-Analyse-Aufgaben nicht nur die Speicherkosten und Rechenleistung im Vergleich zum vollständigen Feintuning drastisch reduziert, sondern auch durch geschicktes Multi-Task-Learning die Leistung von einzelnen spezialisierten Modellen und sogar von großen generischen LLMs übertreffen kann.
Die Arbeit stellt TRU (Targeted Reasoning Unlearning) vor, eine neue Methode zum gezielten Entfernen unerwünschten Wissens aus großen Sprachmodellen, die durch einen begründungsbasierten Lernzielansatz die Sicherheit und Erklärbarkeit verbessert, ohne dabei die allgemeinen Fähigkeiten des Modells zu beeinträchtigen.
Die Arbeit stellt MoE-SpAc vor, ein Inferenzframework für Mixture-of-Experts-Modelle in heterogenen Edge-Umgebungen, das durch die Nutzung von spekulativer Dekodierung als Informationsquelle für das Speichermanagement und dynamische Lastverteilung eine signifikante Steigerung der Verarbeitungsgeschwindigkeit und Effizienz erreicht.
Die vorgestellte Arbeit entwickelt einen Rahmen zur Optimierung von Kontextdaten für LLM-gesteuerte Feature-Transformationen, der durch einen geschlossenen Regelkreis mit evolutionären, auf Reinforcement Learning basierenden Erfahrungsbibliotheken und einer diversitätsbewussten Auswahl die Effizienz und Leistungsfähigkeit gegenüber bestehenden Methoden signifikant steigert.
Der Artikel stellt TAMUSA-Chat vor, ein Forschungsrahmenwerk für die Entwicklung von domänenspezifischen, verantwortungsvoll eingesetzten konversationellen KI-Systemen an Hochschulen durch Feinabstimmung und retrievalgestützte Generierung.
Diese Studie bewertet die Robustheit und pädagogische Sicherheit von offline einsetzbaren Large Language Models im Kontext des Türkisch-Unterrichts und stellt fest, dass Modelle mit 8 bis 14 Milliarden Parametern den besten Kompromiss zwischen Kosten und Sicherheit bieten, wobei Anomaliewiderstand nicht allein von der Modellgröße abhängt.
Diese Studie liefert theoretische Erklärungen für die Leistungsfähigkeit von Large Language Models, indem sie zeigt, dass In-Context Learning die Aufgabenambiguität reduziert und Chain-of-Thought das Zerlegen komplexer Probleme in bereits gelernte Teilsequenzen ermöglicht, was durch die Analyse der Token-Übergangswahrscheinlichkeiten und statistischer Fehlergrenzen untermauert wird.
Die Studie nutzt Wikidata und Wikipedia, um einen mehrsprachigen Datensatz mit über 26.000 Fragen zu lateinamerikanischen soziokulturellen Themen zu erstellen, mit dem sich nachweisen lässt, dass große Sprachmodelle bei der Behandlung lateinamerikanischer Kulturen im Vergleich zur iberischen spanischen Kultur sowie in den jeweiligen Originalsprachen signifikante Wissenslücken und Verzerrungen aufweisen.
Die Studie stellt SpreadsheetArena vor, eine Plattform zur blinden Paarvergleichsbewertung von LLM-generierten Tabellenkalkulationsworkbooks, die zeigt, dass Präferenzen für Stil, Struktur und Funktionalität stark variieren und aktuelle Spitzenmodelle oft noch nicht mit domänenspezifischen Best Practices übereinstimmen.
Diese Studie widerlegt die Annahme, dass LLM-Täuschung ausschließlich mit Lügen gleichzusetzen ist, indem sie experimentell nachweist, dass Modelle auch durch irreführende, aber faktisch wahre Aussagen täuschen können, was bestehende „Lügendetektor"-Ansätze aufgrund ihrer Unfähigkeit, solche nicht-lügenden Täuschungen zu erkennen, als unzureichend entlarvt.