10313 articoli
Il paper introduce FAME, un framework di embedding multimodale consapevole dell'equità che ottimizza simultaneamente le prestazioni predittive e la giustizia nei dati delle cartelle cliniche elettroniche pesando dinamicamente i diversi modali in base al loro contributo all'equità.
Questo articolo presenta LA-CDM, un agente linguistico basato sull'apprendimento per rinforzo e supervisionato che supporta il processo decisionale clinico dinamico e iterativo attraverso una generazione di ipotesi guidata dall'incertezza, dimostrando miglioramenti nelle prestazioni diagnostiche e nell'efficienza sul dataset reale MIMIC-CDM.
Il paper propone SecP-Tuning, il primo framework basato su calcolo multi-partito sicuro (MPC) che abilita un efficiente prompt tuning per i Large Language Models eliminando la necessità di calcoli crittografici nella retropropagazione e ottimizzando l'attenzione, garantendo così privacy e prestazioni elevate con riduzioni significative nei tempi di esecuzione e nell'overhead di comunicazione.
Questo articolo introduce POLCA, un metodo che scompiega le variazioni di perdita nello spazio di addestramento a basso rango per rivelare transizioni di fase nascoste e cluster di dati interpretabili, superando i limiti delle metriche di perdita scalari tradizionali nell'identificare i veri punti di svolta nell'apprendimento dei modelli linguistici.
Questo lavoro propone un quadro teorico basato sulla decomposizione del rumore per analizzare quando e perché la strategia "dividi e conquista" con chunking multi-agente è efficace per gestire contesti lunghi negli LLM, dimostrando sperimentalmente che tale approccio può superare modelli più avanzati applicati in un'unica passata.
RocketStack è un'architettura di ensemble learning ricorsiva e consapevole dei livelli che, attraverso la fusione delle previsioni, la potatura regolarizzata dei modelli più deboli e la compressione periodica delle caratteristiche, raggiunge prestazioni competitive e una crescita computazionale sublineare su dieci livelli di stacking.
Il paper presenta Memba, un metodo di fine-tuning efficiente nei parametri specificamente progettato per i modelli Mamba che, integrando neuroni bio-ispirati a membrana leaky integrate con tecniche come LoRA, migliora significativamente le capacità di modellazione temporale rispetto ai metodi esistenti.
Il paper introduce LongWriter-Zero, un approccio basato sul reinforcement learning che, partendo da zero senza dati sintetici, permette ai modelli linguistici di generare testi ultra-lunghi di alta qualità, superando le prestazioni dei metodi tradizionali e di modelli molto più grandi.
Il paper propone ConCM, un framework per l'apprendimento incrementale di classe con pochi esempi che risolve i conflitti di conoscenza attraverso una calibrazione dei prototipi ispirata alla memoria associativa e un adattamento dinamico della struttura delle caratteristiche, ottenendo risultati all'avanguardia su diversi benchmark.
Il paper propone la "Dynamic Weight Grafting", una tecnica di analisi che grafta selettivamente pesi da un modello finetunato su uno pre-addestrato per dimostrare che le conoscenze fattoriali apprese vengono recuperate attraverso due percorsi distinti: un arricchimento del flusso residuo durante l'elaborazione dell'entità e un richiamo finale prima della generazione, localizzando questi meccanismi in specifiche componenti del modello come l'attenzione e le reti feedforward.
Il paper presenta TRIDENT, un innovativo framework di apprendimento multimodale che integra SMILES, descrizioni testuali e annotazioni tassonomiche funzionali per migliorare la previsione delle proprietà molecolari attraverso un obiettivo di allineamento globale e locale basato su volumi.
Il paper presenta xLSTMAD, il primo metodo di rilevamento delle anomalie basato su un'architettura xLSTM encoder-decoder che, testato su 17 dataset reali, supera le prestazioni di 23 baselines esistenti grazie alla sua capacità di modellare efficacemente serie temporali multivariate.
Questo lavoro propone un framework di affinamento iterativo basato sulla distillazione che permette ai modelli di diffusione di ottimizzare funzioni di ricompensa non differenziabili nel design biomolecolare, superando le limitazioni di stabilità ed efficienza dei metodi RL tradizionali attraverso una formulazione off-policy e la minimizzazione della divergenza KL.
Il paper propone il "Partial Model Collapse" (PMC), un nuovo metodo di machine unlearning che sfrutta deliberatamente il collasso della distribuzione generato dall'addestramento su dati sintetici per rimuovere informazioni sensibili dai LLM senza richiedere l'uso dei dati stessi durante l'addestramento, superando così i limiti delle tecniche esistenti.
Il paper propone SlimCaching, un metodo di caching agli edge che ottimizza la distribuzione degli esperti nei modelli Mixture-of-Experts per ridurre la latenza di inferenza, utilizzando un approccio di decomposizione greedy e programmazione dinamica per gestire i vincoli di archiviazione e le complessità di attivazione multipla.
Il paper presenta RawMed, un nuovo framework che genera dati sintetici di cartelle cliniche elettroniche multi-tabella e temporali con pre-elaborazione minima, superando i metodi precedenti nella fedeltà e nell'utilità grazie a rappresentazioni testuali e a un innovativo sistema di valutazione.
Questo articolo introduce il framework Galerkin-ARIMA, un'estensione proiettiva dei modelli ARIMA classici che utilizza espansioni di basi di Galerkin per catturare dinamiche non lineari, offrendo una stima a forma chiusa, risultati asintotici rigorosi e prestazioni di previsione superiori per applicazioni macroeconomiche e finanziarie.
Questo lavoro presenta un framework di apprendimento automatico vincolato dalla fisica che, integrando modelli di trasporto basati su deep learning e un modello di parete fondato su distribuzioni di velocità di particelle skew-Gaussiane, migliora significativamente l'accuratezza delle previsioni degli strati limite ipersonici nel regime di transizione-continuo, dove i modelli convenzionali falliscono.
Questo lavoro propone un approccio che separa la scoperta di un'architettura modulare per circuiti quantistici su piccoli sistemi, utilizzando l'apprendimento per rinforzo, dalla sua successiva applicazione a problemi più complessi, dimostrando che i blocchi circuitali appresi su istanze ridotte possono essere efficacemente riutilizzati per scalare a sistemi con un maggior numero di qubit senza richiedere un addestramento diretto su scale computazionalmente proibitive.
Questo articolo propone un approccio basato sull'Apprendimento per Rinforzo, utilizzando l'ottimizzazione della politica prossimale, per risolvere il problema computazionalmente oneroso dell'embedding minore nell'annealing quantistico, dimostrando la capacità del metodo di generare embedding validi ed efficienti su diverse topologie hardware e di scalare bene con la dimensione del problema.