6611 Arbeiten
Die Studie stellt X-MethaneWet vor, den ersten globalen Benchmark-Datensatz für Feuchtgebiet-Methanemissionen, der physikalische Simulationen mit Felddaten kombiniert, um durch den Einsatz von Deep-Learning-Modellen und Transfer-Learning-Techniken die Genauigkeit und Skalierbarkeit von KI-gestützten Klimamodellen zu verbessern.
Diese Arbeit entwickelt ein theoretisches Rahmenwerk für die optimale Steuerung von Wahrscheinlichkeitsdichten auf Maßräumen, das ein Maximum-Prinzip und die Hamilton-Jacobi-Bellman-Gleichung für unendlichdimensionale Verteilungsräume bereitstellt und durch einen skalierbaren Algorithmus mit tiefen neuronalen Netzen zur Lösung von Großraum-Multi-Agenten-Problemen ergänzt wird.
Die Arbeit stellt VISTA vor, ein trainingsfreies Framework, das multimodale Vision-Language-Modelle nutzt, um durch die Kombination von Text und Diagrammen historische Aktienkurse zu analysieren und zukünftige Werte präziser vorherzusagen als herkömmliche unimodale Ansätze.
Diese Arbeit stellt eine neue Methode vor, die durch das Einfügen von instruction-hierarchie-Signalen in die Zwischendarstellungen von Sprachmodellen die Anfälligkeit für Prompt-Injection-Angriffe im Vergleich zu bestehenden Ansätzen um das 1,6- bis 9,2-fache reduziert, ohne die Nützlichkeit des Modells signifikant zu beeinträchtigen.
Die vorgestellte Arbeit führt OCN (Orthogonal Common Neighbor) ein, eine neue Methode zur Link-Vorhersage, die durch Orthogonalisierung und Normalisierung Redundanz und Over-Smoothing bei höherordentlichen gemeinsamen Nachbarn adressiert und dadurch die Leistung bestehender Ansätze signifikant verbessert.
Die Arbeit stellt ViTaPEs vor, einen Transformer-basierten Ansatz, der durch eine neuartige zweistufige Positionscodierung visuell-taktile Repräsentationen lernt, um die multimodale Ausrichtung zu verbessern und sowohl in verschiedenen Erkennungsaufgaben als auch bei der Generalisierung auf unbekannte Szenarien und Robotergriffaufgaben den aktuellen Stand der Technik zu übertreffen.
Das Paper stellt LoFT vor, eine neue Low-Rank-Adaptionsmethode, die durch die Projektion der Optimierer-Momente in den gleichen Unterraum wie die Gewichtsaktualisierung die Leistung von Full Fine-Tuning erreicht, ohne die Inferenzkosten zu erhöhen oder zusätzliche Hyperparameter zu benötigen.
Die Arbeit stellt Progressive Neural Collapse (ProNC) vor, ein neuartiges Framework für das kontinuierliche Lernen, das durch die schrittweise Erweiterung eines ETF-Ziels ohne starre globale Vorgaben das katastrophale Vergessen effektiv mindert und dabei die Leistung bestehender Basismethoden deutlich übertrifft.
Diese Arbeit stellt eine neuartige, adaptive Korrekturmethode vor, die durch einen leichtgewichtigen lernbaren Operator sicherstellt, dass neuronale Operatoren physikalische Erhaltungssätze strikt einhalten, wodurch sowohl die Genauigkeit als auch die Stabilität bei der Lösung von partiellen Differentialgleichungen im Vergleich zu bestehenden Ansätzen signifikant verbessert werden.
Der Artikel stellt ActivePusher vor, ein Framework, das durch die Kombination von Residual-Physics-Modellierung und unsicherheitsbasiertem Active Learning die Dateneffizienz und Planungserfolgsrate bei nichtgreifenden Manipulationsaufgaben wie Schieben verbessert.
Die Arbeit stellt MMTU vor, ein umfassendes Benchmark mit über 28.000 Fragen zu 25 realen Tabellenaufgaben, das die aktuellen Grenzen von KI-Modellen bei der Experten-Nutzung strukturierter Daten aufzeigt und als Impuls für zukünftige Fortschritte dient.
Die Studie zeigt, dass künstliche neuronale Netze durch das Ausnutzen von chaotischen Transienten bei ungewöhnlich hohen Lernraten in einen Zustand des Gleichgewichts zwischen Exploration und Exploitation übergehen, was zu einer signifikanten Beschleunigung des Trainings führt.
Das Paper stellt EROICA vor, ein Online-Troubleshooting-System, das durch feinkörnige Profilierung und differenzielle Beobachtbarkeit Leistungsprobleme in großen GPU-Clustern für das Training großer Modelle effizient diagnostiziert und sich bereits erfolgreich in einer Produktionsumgebung mit rund 100.000 GPUs bewährt hat.
Die Arbeit stellt BemaGANv2 vor, einen fortschrittlichen GAN-basierten Vocoder für die hochauflösende Langzeit-Audiogenerierung, der durch den Einsatz von AMP-Modulen im Generator und einer systematischen Evaluierung verschiedener Diskriminator-Kombinationen (insbesondere MED und MRD) zeitliche Kohärenz und harmonische Struktur über längere Zeiträume verbessert.
Die Arbeit stellt Co-LoRA vor, eine Methode zur personalisierten Federated Learning, die durch eine aufgabenrelevante Aggregationsstrategie und ein dimensionsinvariantes Modul sowohl Daten- als auch Modellheterogenität in realistischen, multimodalen Szenarien effektiv adressiert und dabei den aktuellen Stand der Technik übertrifft.
Die Autoren stellen zwei effiziente Algorithmen, Slate-GLM-OFU und Slate-GLM-TS, für das Problem der logistischen kontextuellen Slate-Banditen mit Bandit-Feedback vor, die durch lokale Planung und globales Lernen ein sublineares Regret von bei niedriger Rechenkomplexität erreichen und sich erfolgreich für die Auswahl von In-Context-Beispielen in Sprachmodellen einsetzen lassen.
Die Arbeit zeigt, dass Sharpness-Aware Minimization (SAM) das Maschinelle Vergessen verbessert, indem sie die Signalstärke optimiert, und schlägt mit „Sharp MinMax" eine neue Methode vor, die durch die Aufteilung des Modells in einen SAM-basierten Lern- und einen Sharpness-Maximierungs-basierten Vergessensprozess die Entanglement zwischen behaltenen und vergessenen Daten reduziert und die Sicherheit gegen Angriffe erhöht.
Die Arbeit stellt das Kolmogorov-Arnold Energy Model (KAEM) vor, ein generatives Modell, das durch eine univariate latente Struktur und die Kolmogorov-Arnold-Darstellungstheorie eine schnelle, exakte Inferenz sowie verbesserte Interpretierbarkeit ermöglicht und dabei die Effizienz von VAEs mit der Ausdruckskraft von Energie-basierten Modellen verbindet.
Die Autoren stellen einen halb-selbstüberwachten Lernansatz namens GLMask vor, der mit minimaler manueller Annotation eine hochleistungsfähige Instanzsegmentierung ermöglicht und sowohl bei der Erkennung von Weizenähren als auch auf dem COCO-Datensatz neue State-of-the-Art-Ergebnisse erzielt.
Die Arbeit stellt SamS vor, einen effizienten Algorithmus, der durch adaptive, batch-basierte Stichprobenplanung den Direct Preference Optimization (DPO) für Large Language Models verbessert, indem er die sich entwickelnden Modellzustände während des Trainings berücksichtigt, ohne den Kernalgorithmus zu verändern.