3709 Arbeiten
Die Arbeit definiert algorithmisches Erfassen formal und zeigt, dass unendliche Transformer trotz universeller Ausdruckskraft durch einen induktiven Bias auf Algorithmen mit geringer Komplexität innerhalb der EPTHS-Klasse beschränkt sind, was das Erlernen komplexerer Algorithmen verhindert.
Die Autoren stellen einen selbstüberwachten maschinellen Lernansatz vor, der mithilfe von Oracle-Trajektorien und einem transformerbasierten Policy-Netzwerk komplexe mathematische Ausdrücke in der Hochenergiephysik nahezu perfekt vereinfacht und dabei bestehende Reinforcement-Learning-Methoden deutlich übertrifft.
Diese Studie stellt eine systematische Untersuchung zur automatischen Spracherkennung bei Huntington-Krankheit vor, die durch die Einführung einer biomarkerbasierten auxiliary Supervision und die Anpassung von Modellen an pathologische Sprachmerkmale die Wortfehlerrate signifikant senkt und dabei zeigt, dass sich Fehlermuster in Abhängigkeit vom Schweregrad der Erkrankung spezifisch verändern.
Die Arbeit stellt PACED vor, ein Framework zur effizienteren LLM-Distillation, das durch eine theoretisch fundierte Beta-Gewichtungsfunktion den Lernprozess gezielt auf die Zone der proximalen Entwicklung konzentriert, in der das Schülermodell weder bereits vollständig kompetent noch völlig überfordert ist, um so Rechenressourcen zu sparen und die Leistung auf Benchmarks zu steigern.
Die vorgestellte Arbeit entwickelt eine hybride Bayesian-Optimierungsmethode, die partiell bekannte physikalische Modelle mit probabilistischen Gauß-Prozessen kombiniert, um effizientere und schneller konvergierende Lösungen für komplexe Systeme wie Destillationsprozesse zu finden als herkömmliche Black-Box-Ansätze.
Die Studie stellt DNS-GT vor, einen graphbasierten Transformer-Ansatz, der durch selbstüberwachtes Vortraining und Feinabstimmung auf DNS-Abfrage-Sequenzen aussagekräftige Domain-Name-Embeddings lernt, um die Genauigkeit bei der Erkennung von Botnets und der Klassifizierung von Domains im Vergleich zu bestehenden Methoden zu verbessern.
Die Arbeit stellt CoRe vor, ein neuartiges Framework für das kontinuierliche Lernen, das das Feinabstimmungsparadigma vom Gewichtsraum in den Repräsentationsraum verlagert, indem es taskspezifische Eingriffe in einem niedrigrangigen linearen Unterraum versteckter Repräsentationen vornimmt, um Stabilität und Plastizität bei hoher Parameter-Effizienz zu gewährleisten.
Die Arbeit stellt ReGUn vor, einen Referenz-gesteuerten Ansatz für maschinelles Vergessen, der durch die Nutzung eines separaten Datensatzes als Referenz eine stabilere und effektivere Entfernung spezifischer Daten bei gleichzeitiger Wahrung der allgemeinen Modellleistung ermöglicht.
Die Arbeit stellt „Secure Concept Steering for CodeLLMs" (SCS-Code) vor, eine Methode, die die internen Repräsentationen von Sicherheitskonzepten in Large Language Models nutzt, um während der Token-Generierung gezielt sichere und funktionale Codeausgaben zu steuern und dabei bestehende State-of-the-Art-Methoden in puncto Sicherheit und Korrektheit zu übertreffen.
Die Studie zeigt, dass autonome KI-Agenten bei komplexen Cyberangriffen ihre Leistung sowohl durch erhöhten Rechenbedarf als auch durch Modellgenerationen signifikant steigern, wobei fortgeschrittene Modelle in einem Unternehmensnetzwerk bis zu 22 von 32 Schritten autonom bewältigen können, während die Fähigkeiten in industriellen Steuerungssystemen jedoch noch begrenzt bleiben.
Diese Studie untersucht Markovsche Generierungsketten in großen Sprachmodellen, bei denen iterative Inferenzprozesse ohne Gedächtnis entweder zu einer Konvergenz in eine kleine rekurrente Menge oder zu einer begrenzten Produktion neuer Sätze führen, wobei die Satzdiversität je nach Temperaturparameter und Eingabe zunehmen oder abnehmen kann.
Diese Arbeit stellt diagnostische Transportkarten vor, die als covariatenabhängige Korrekturmechanismen dienen, um ungenaue Vorhersageverteilungen für seltene Ereignisse neu zu kalibrieren und gleichzeitig Echtzeit-Diagnosedaten über spezifische Modellfehler zu liefern, was in einer Anwendung zur Vorhersage tropischer Wirbelstürme zu verbesserten Ergebnissen im Vergleich zu operationellen Modellen führt.
Die Studie stellt ein intelligentes tragbares System vor, das mithilfe von physiologischen Daten eines Armbands und maschinellem Lernen die Stimmung älterer Menschen im Alltag überwacht und vorhersagt.
Die Studie zeigt, dass ein auf XLS-R basierendes Modell mit nur den ersten drei Schichten die Erkennung von Hustenereignissen in Audiodaten für die Tuberkulose-Screening-Programme in Südafrika und Uganda mit hoher Präzision ermöglicht und dabei rechenintensive Alternativen wie den Audio Spectrogram Transformer übertrifft.
Die Arbeit stellt GGE vor, ein Open-Source-Python-Framework, das durch die Bereitstellung standardisierter, biologisch fundierter Metriken die inkonsistente Evaluierung generativer Modelle für Einzelzell-Genexpressionsdaten behebt und vergleichbare Benchmarking-Prozesse ermöglicht.
Die Arbeit stellt DISCOMAX vor, einen differentierbaren Algorithmus, der auf der diskreten Enumeration thermodynamisch zulässiger Zustände und einer maskierten Softmax-Aggregation basiert, um physik-konsistente neuronale Modelle für Phasengleichgewichte zu trainieren und dabei die Genauigkeit bestehender Methoden bei binären flüssig-flüssig-Gleichgewichten zu übertreffen.
Diese Arbeit stellt ein integriertes Framework vor, das die Hopf-Cole-Transformation mit einem Deep-Learning-Ansatz kombiniert, um die nichtlineare Gasströmung in porösen Medien unter Berücksichtigung von Klinkenberg-Effekten präzise zu modellieren und gleichzeitig eine effiziente inversen Bestimmung schwer messbarer Parameter zu ermöglichen.
Die Arbeit identifiziert das Phänomen des Domain-Sensitivity Collapse bei Single-Domain-Modellen und stellt Teacher-Guided Training (TGT) vor, das durch Wissensdistillation von einem eingefrorenen Multi-Domain-Lehrer die Out-of-Distribution-Erkennung verbessert, ohne zusätzliche Inferenzkosten zu verursachen.
Die Studie zeigt, dass die Integration von duration-bewussten Scheduling-Algorithmen wie HRRN in vLLM die End-to-End-Latenz bei ASR-Serving unter wechselnder Arbeitslast signifikant reduziert, ohne dabei die Durchsatzleistung zu beeinträchtigen oder die Tail-Latenz übermäßig zu verschlechtern.
Die Arbeit stellt RIE-Greedy vor, eine Methode für kontextbasierte Banditen, die durch die Nutzung der inhärenten Stochastizität im Regularisierungsprozess beim Modelltraining eine effektive Exploration ohne zusätzliche Strategien ermöglicht und theoretisch sowie empirisch mit Thompson Sampling vergleichbare Ergebnisse liefert.