9889 Arbeiten
Die vorgestellte Arbeit schlägt ein tensorfaktorisierungsbasiertes statistisches Modell vor, das kostengünstige automatische Bewertungen mit einer kleinen Menge menschlicher Referenzdaten kombiniert, um effiziente, promptgenaue Evaluierungen von Generativmodellen durchzuführen, die menschliche Präferenzen präziser vorhersagen als herkömmliche Methoden.
Dieser Artikel etabliert Federated Inference als eigenständiges, datenschutzfreundliches Paradigma für die kollaborative Modellinferenz, das durch eine systemische Analyse der zugrundeliegenden Anforderungen, Designkompromisse und praktischen Herausforderungen einen einheitlichen Rahmen für skalierbare, incentivisierte und private Inferenzsysteme bietet.
Diese Arbeit zeigt, dass beim Approximieren eines einzelnen ReLU-Neurons durch neuronales Pruning eine exponentiell größere Überparametrisierung erforderlich ist als beim unstrukturierten Gewichtspruning, was eine fundamentale theoretische Lücke zwischen den beiden Paradigmen aufdeckt.
Diese Arbeit bietet eine einheitliche Untersuchung der Wechselwirkungen zwischen dem Temperaturparameter und anderen Trainingselementen bei der wissensbasierten Destillation, um praktische Leitlinien für die optimale Temperaturwahl zu entwickeln.
Dieses Papier plädiert für ein neues Paradigma der kausalen Lernforschung, das durch die Integration von Crowdsourcing, Expertenwissen und KI-Simulationen eine verteilte Entscheidungsfindung ermöglicht, um globale kausale Strukturen zu rekonstruieren, die für einzelne Akteure unzugänglich sind.
Die Arbeit stellt Probe-Select vor, eine effiziente Plug-in-Methode, die die Bildqualität von Text-zu-Bild-Generierungsmodellen bereits anhand früher Denoiser-Aktivierungen vorhersagt, um vielversprechende Samen frühzeitig auszuwählen und so die Sampling-Kosten um über 60 % zu senken, ohne das zugrunde liegende Modell zu verändern.
Diese Arbeit stellt einen Lernalgorithmus für Markov-Entscheidungsprozesse mit exogenen Dynamiken vor, der durch Ausnutzung der strukturellen Unabhängigkeit der Zustandskomponenten von den Aktionen des Agenten signifikant verbesserte Regret-Schranken und eine höhere Stichprobeneffizienz im Vergleich zu herkömmlichen Reinforcement-Learning-Methoden erreicht.
AriadneMem ist ein strukturiertes Speichersystem für LLM-Agenten, das durch eine zweiphasige Pipeline mit Entropie-basiertem Filtern, konfliktbewusster Vergröberung und algorithmischer Brückenfindung die Genauigkeit bei mehrstufigen Schlussfolgerungen signifikant steigert und gleichzeitig die Laufzeit drastisch reduziert.
Die Studie stellt einen hybriden Ansatz vor, der durch Feinabstimmung auf kuratierte landwirtschaftliche Fakten und eine separate Antwort-Schicht die Genauigkeit und Sicherheit von KI-Beratungssystemen für Kleinbauern in Indien verbessert und dabei kosteneffizientere Modelle einsetzt.
Die Arbeit stellt TTSR vor, einen Testzeit-Trainingsrahmen, der durch einen sich selbst reflektierenden Wechsel zwischen Schüler- und Lehrer-Rollen in einem einzigen vortrainierten Modell gezielt Schwächen in der Schlussfolgerung identifiziert und durch synthetisierte Variantenfragen die reasoning-Fähigkeiten von Large Language Models kontinuierlich verbessert.
Diese Arbeit untersucht semantisches Caching für LLM-Einbettungen, beweist die NP-Schwere optimaler Offline-Richtlinien, stellt polynomielle Heuristiken und Online-Strategien vor, die in Experimenten die Genauigkeit verbessern, und stellt den gesamten Code als Open Source bereit.
Dieser Beitrag stellt eine kompakte Dual-Stream-Architektur vor, die durch eine repository-basierte Aufmerksamkeitsmechanik mit reisebasierter Rollentransportierung Sprach- und Wissensrepräsentationen getrennt, aber durch cross-attention eng abstimmt, um gleichzeitig auf Texten und strukturierten Daten wie Wissensgraphen und Hypergraphen zu trainieren.
Die Arbeit stellt Draft-Conditioned Constrained Decoding (DCCD) vor, ein trainingfreies Zwei-Schritt-Verfahren, das durch die Entkopplung von semantischer Planung und struktureller Erzwingung die Genauigkeit strukturierter Ausgaben bei großen Sprachmodellen signifikant verbessert und dabei auch kleinere Modelle effizienter macht.
Die Arbeit stellt ein neues Paradigma namens „entropic-time inference" vor, das die LLM-Inferenz durch eine selbstorganisierende Architektur steuert, welche Scheduling, Aufmerksamkeitsverdünnung und Temperatursteuerung über ein einheitliches Entropie-Ziel vereint, um die Berechnung dort zu priorisieren, wo die Unsicherheitsreduktion maximal ist.
Die Autoren stellen CoIPO, eine kontrastive Lernmethode zur Inverse Direct Preference Optimization, vor, die die inhärente Robustheit von Large Language Models gegenüber Prompt-Rauschen erhöht und dabei externe Vorverarbeitung vermeidet.
Die Arbeit stellt M-QUEST vor, ein semantisches Framework und Benchmark mit 609 Frage-Antwort-Paaren, das die automatische Extraktion von Wissen aus Memes zur Bewertung von Toxizität und Semantik ermöglicht und die Leistung von Large Language Models in diesem multimodalen Kontext evaluiert.
Das Paper stellt IntPro vor, einen Proxy-Agenten, der durch retrieval-basierte Inferenz und gezieltes Training den Kontext sowie individuelle Intentionsmuster nutzt, um das Intentionsverständnis von Large Language Models in Mensch-KI-Interaktionen zu verbessern.
Diese Studie untersucht die Robustheit von 13 Large Language Models gegenüber fünf Arten von Störungen im Chain-of-Thought-Reasoning und zeigt, dass die Anfälligkeit je nach Störungstyp und Modellgröße variiert, wobei insbesondere Umrechnungsaufgaben auch bei großen Modellen eine signifikante Leistungsminderung verursachen.
Diese Arbeit stellt einen Rahmen für prompt-abhängige Rankings von Large Language Models mit statistisch validen Unsicherheitsgarantien vor, der durch die Konstruktion von Konfidenzmengen auf Basis eines kontextuellen Bradley-Terry-Luce-Modells vermeintliche Rangunterschiede als statistisch nicht signifikant entlarvt und so fundierte, robuste Entscheidungsgrundlagen bietet.
Das Paper stellt NEURONA vor, ein neuro-symbolisches Framework zur Dekodierung von fMRI-Aktivitäten, das durch die Integration struktureller Prioritäten wie kompositioneller Prädikat-Argument-Abhängigkeiten sowohl die Genauigkeit bei präzisen Abfragen als auch die Generalisierungsfähigkeit auf ungesehene Fragen verbessert.