11285 Arbeiten
Das Paper stellt AMiD vor, ein einheitliches Framework für das Wissenstransfer von großen auf kleine Sprachmodelle, das durch eine neuartige, parametrisierbare -Mischungs-Assistentenverteilung und eine generalisierte Divergenzfamilie die Stabilität und Leistung gegenüber bisherigen Ansätzen verbessert.
Die Arbeit stellt MAYA vor, ein auf Multi-Armed-Bandits basierendes sequenzielles Imitationslernmodell, das die Entscheidungen einzelner Bienen bei der Nahrungssuche unter Berücksichtigung ihres begrenzten Gedächtnisses erfolgreich nachbildet und dabei sowohl reale als auch simulierte Daten besser erklärt als herkömmliche Modelle.
Die Studie zeigt theoretisch und empirisch, dass in Transformer-Modellen einer der drei Gewichtsvektoren (Query, Key oder Value) durch die Identitätsmatrix ersetzt werden kann, was die Parameteranzahl um 25 % reduziert, die Optimierung vereinfacht und dennoch eine vergleichbare Leistung erzielt.
Diese Arbeit zeigt, dass sich die implizite Verzerrung von Adam bei inkrementellem Lernen auf separierbaren Daten vom Vollbatch-Verhalten unterscheiden und zu einem -Max-Margin-Classifier führen kann, während Signum unabhängig von der Batch-Größe stets zum -Max-Margin-Classifier konvergiert.
Die Studie stellt CNFP vor, einen neuartigen Ansatz zur Platzierung von Cloud-Nativen Netzwerkfunktionen im Cloud-Continuum, der Diffusionsmodelle mit Graph Neural Networks kombiniert, um unter Einhaltung strenger Ressourcen- und Latenzbedingungen skalierbare und robuste Lösungen zu generieren, die herkömmliche Methoden in Bezug auf Geschwindigkeit und Generalisierungsfähigkeit übertreffen.
NeuCLIP ist ein neuartiges Optimierungsframework, das durch die Umformulierung des CLIP-Verlusts mittels konvexer Analyse und die Approximation der Normalisierungsterme über ein kompaktes neuronales Netz mittels Variationsanalyse eine effiziente und präzise Training von CLIP-Modellen auf großen Datensätzen ermöglicht.
Die Arbeit charakterisiert den impliziten Bias des JKO-Schemas auf einer Riemannschen Mannigfaltigkeit bis zur zweiten Ordnung in der Schrittweite , indem sie zeigt, dass das Schema einem modifizierten Energiefunctional entspricht, das durch eine Korrekturterme basierend auf der quadrierten metrischen Krümmung des ursprünglichen Funktionals entsteht.
Die Studie zeigt, dass Audio-Modelle mit höherer Leistung in nachgelagerten Aufgaben auch eine stärkere Ähnlichkeit mit menschlichen Gehirnaktivitäten aufweisen, was darauf hindeutet, dass brain-ähnliche Repräsentationen ein emergentes Nebenprodukt des Lernens aus natürlichen Audiodaten sind.
EnECG ist ein effizientes Ensemble-Lern-Framework für EKG-Multi-Task-Aufgaben, das spezialisierte Foundation-Modelle durch eine leichte Anpassung mit Low-Rank Adaptation (LoRA) und einen Mixture-of-Experts-Mechanismus kombiniert, um die Rechenkosten zu senken und gleichzeitig die Vorhersageleistung für klinische Anwendungen zu verbessern.
Die Arbeit stellt „Soft QD" als eine diskretisierungsfreie Alternative zur herkömmlichen Qualitäts-Diversitäts-Optimierung vor, die durch die Herleitung des differenzierbaren Algorithmus SQUAD skalierbare Lösungen für hochdimensionale Probleme bietet und dabei mit dem aktuellen Stand der Technik konkurrieren kann.
Diese Arbeit untersucht, wie die Einschränkung des Optimierungsrums durch ein vortrainiertes Basismodell und Low-Rank Adaptation (LoRA) strukturierte und semantisch aussagekräftige Repräsentationen im Gewichtsraum induziert, die sich insbesondere für Rekonstruktions-, Generierungs- und Analyseaufgaben sowie zur Verbesserung der Qualität latenter Diffusionsmodelle eignen.
Die Arbeit stellt ceLLMate vor, ein browserbasiertes Sandboxing-Framework, das durch die Überwachung des HTTP-Verkehrs anstelle von unsicheren UI-Eingriffen die Auswirkungen von Prompt-Injection-Angriffen auf Browser-Agenten effektiv eindämmt.
Der Artikel stellt NRR-Core vor, ein Rechenrahmenwerk, das die vorzeitige Auflösung von Mehrdeutigkeiten in KI-Systemen durch Prinzipien wie Nicht-Identität und parallele Interpretation aufhebt, um die semantische Flexibilität bis zum Eintreffen des Kontexts zu bewahren.
Diese Arbeit führt ein intrinsisches Drift-Budget ein, das die kumulative Fisher-Rao-Bewegung der Datenverteilung in geschlossenen Lernsystemen quantifiziert und zeigt, dass die Reproduzierbarkeit der Vorhersagen durch eine untere Schranke von bestimmt wird, welche die unvermeidbare Genauigkeitsgrenze bei nicht vernachlässigbarer Drift festlegt.
Die Arbeit stellt BumpNet vor, ein spärliches MLP-Framework auf Basis trainierbarer Sigmoid-Funktionen zur effizienten und universellen Approximation von PDE-Lösungen und Operatoren, das durch Kombination mit PINNs, EDNNs und DeepONets erweitert wird.
Dieses Paper stellt einen vollständig online arbeitenden, robusten Reinforcement-Learning-Algorithmus mit allgemeiner Funktionsapproximation vor, der ohne Vorwissen oder vorgefertigte Daten robuste Strategien lernt und durch die Einführung der robusten Bellman-Eluder-Dimension sublineare Regret-Garantien für eine breite Klasse von Unsicherheitsmengen nachweist.
Die Arbeit stellt OASI vor, eine Methode zur initialisierungsbasierten multi-objectiven bayesschen Optimierung, die durch pareto-biasierte Simulated Annealing-Lösungen effizientere und speicherkonforme Keyword-Spotting-Modelle für TinyML auf Mikrocontrollern ermöglicht.
Diese Studie zeigt, dass Reinforcement Learning mit verifizierbaren Belohnungen (RLVR) die Generalisierungsfähigkeit von Sprachmodellen in der kausalen Schlussfolgerung im Vergleich zur überwachten Feinabstimmung verbessert, jedoch nur dann wirksam ist, wenn die Modelle über eine ausreichende initiale Schlussfolgerungskompetenz verfügen, um ihre Marginalisierungsstrategien und Zwischenschritte zu optimieren.
Diese Arbeit stellt den ersten deterministischen iterativen Algorithmus vor, der für beliebige und eine -Kernmenge mit optimaler Größe ohne logarithmische Faktoren konstruiert, um eine deterministische -Unterraumeinbettung zu gewährleisten und damit das -Regressionsproblem deterministisch zu lösen.
Die Arbeit stellt DevRev-Search vor, einen automatisiert erstellten Benchmark für die technische Kundenunterstützung, der durch eine indexerhaltende Anpassungsstrategie, bei der nur der Query-Encoder feinabgestimmt wird, eine skalierbare und effiziente Lösung für die Domain-Adaption in Multi-Tenant-Suchsystemen bietet.