2316 articoli
Il paper introduce CDGLT, un framework efficiente e all'avanguardia per l'identificazione di metafore multimodali che combina l'adattamento del LayerNorm con una strategia di "Concept Drift" basata su SLERP per colmare il divario tra significati letterali e figurativi riducendo drasticamente i costi computazionali.
Il paper introduce SGPO, un framework che risolve il limite di GRPO di non aggiornare la politica quando tutti i campioni di un gruppo sono errati, migliorando l'apprendimento per rinforzo nei modelli linguistici attraverso una diversificazione guidata da un modello giudice passo-passo che permette di apprendere anche dagli errori senza richiedere soluzioni corrette.
Il documento introduce la GM-RBM, un modello generativo che estende l'RBG a unità nascoste categoriche q-ali (Potts) per migliorare la rappresentazione di concetti multivalore e le prestazioni di inferenza discreta rispetto alle controparti binarie a capacità equivalente.
Il paper propone JULI, un nuovo metodo che sfrutta l'introspezione delle probabilità dei token tramite un piccolo blocco BiasNet per aggirare le misure di sicurezza dei modelli linguistici di grandi dimensioni in un contesto black-box, superando le tecniche esistenti senza richiedere l'accesso ai pesi del modello.
Questo lavoro introduce un metodo innovativo per la scoperta di equazioni differenziali simboliche che utilizza invarianti di simmetria come entità atomiche, garantendo che le leggi dinamiche identificate rispettino i principi fisici e migliorando l'efficienza e l'accuratezza delle tecniche esistenti.
Il paper presenta UltraEdit, un metodo innovativo per l'editing continuo dei modelli linguistici che, eliminando la necessità di addestramento, soggetti specifici o memoria esterna, raggiunge velocità e efficienza superiori rispetto agli stati dell'arte, permettendo di eseguire fino a 2 milioni di modifiche su modelli da 7B con risorse hardware limitate.
Questo studio presenta una metodologia sistematica per valutare i modelli linguistici su dispositivi edge, dimostrando che i modelli grandi fortemente quantizzati superano quelli più piccoli ad alta precisione al di sotto di una soglia di circa 3,5 bit per peso, fornendo linee guida per ottimizzare capacità ed efficienza in ambienti con risorse limitate.
Il paper presenta SATURN, un framework di apprendimento per rinforzo basato su problemi di soddisfacibilità booleana (SAT) che supera le limitazioni di scalabilità, verificabilità e controllo della difficoltà delle attività esistenti, permettendo di potenziare significativamente le capacità di ragionamento dei modelli linguistici su compiti matematici e di programmazione attraverso un curriculum learning progressivo.
Il paper presenta FrontierCO, un benchmark su larga scala che valuta le prestazioni dei solver di ottimizzazione combinatoria basati su machine learning su dati reali e di dimensioni estreme, rivelando un divario significativo rispetto ai solver classici ma anche casi di superiorità in scenari specifici.
Questo articolo presenta la prima revisione sistematica sull'integrazione dei modelli fondazionali nell'intelligenza artificiale incarnata per i robot di servizio mobili, analizzando come tali tecnologie affrontino le sfide tecniche e abilitino applicazioni pratiche in ambiti domestici e sanitari, pur sollevando questioni etiche e prospettando direzioni future per un deployment sicuro e affidabile.
Il paper propone SemiCP, un nuovo paradigma di previsione conformale semi-supervisionato che utilizza un punteggio di non-conformità basato sull'abbinamento dei vicini più prossimi (NNM) per sfruttare dati non etichettati durante la calibrazione, riducendo significativamente il divario di copertura rispetto ai metodi tradizionali quando i dati etichettati sono scarsi.
Questo articolo affronta i problemi di esplorazione pura con risposte infinite, derivando un limite inferiore dipendente dall'istanza, spiegando il fallimento dei metodi esistenti per l'ottimalità asintotica e proponendo un nuovo quadro generale, "Sticky-Sequence Track-and-Stop", che garantisce tale ottimalità.
Il paper propone TSRating, un framework unificato che sfrutta il giudizio dei modelli linguistici su larga scala (LLM) e l'apprendimento meta per valutare in modo efficiente e adattabile la qualità di serie temporali provenienti da domini diversi, superando i limiti delle metodologie esistenti.
Il lavoro propone CORA, un metodo di assegnazione del credito per l'apprendimento per rinforzo multi-agente cooperativo che utilizza il nucleo della teoria dei giochi cooperativi e il campionamento casuale delle coalizioni per allocare in modo più efficace i vantaggi globali e promuovere comportamenti coordinati ottimali.
Questo lavoro propone due nuovi algoritmi di apprendimento per rinforzo privi di modello, Q-EarlySettled-LowCost e FedQ-EarlySettled-LowCost, che per la prima volta raggiungono simultaneamente un rimpianto quasi ottimale, costi di avvio lineari rispetto agli stati e alle azioni e costi di commutazione o comunicazione logaritmici, sia per agenti singoli che in contesti federati.
Il paper presenta ChannelTokenFormer, un framework basato su Transformer che affronta simultaneamente le sfide della dipendenza tra canali, del campionamento asincrono e dei valori mancanti per migliorare l'accuratezza e la robustezza delle previsioni di serie temporali multivariate in scenari reali.
Il paper presenta WAFFLE, un algoritmo di rilevamento pre-addestramento per l'Apprendimento Federato che identifica i client dannosi utilizzando rappresentazioni compresse basate sulla Trasformata Scattering Wavelet o sulla Trasformata di Fourier, garantendo privacy e riducendo l'overhead computazionale.
Questo articolo presenta il modello MIC (Mixture of Interacting Cascades), basato su processi di Hawkes multidimensionali, che supera i metodi esistenti nel modellare congiuntamente le interazioni tra utenti e cascata informative, offrendo al contempo visualizzazioni approfondite dell'attività delle reti sociali.
Il paper presenta ConLID, un approccio di apprendimento contrastivo supervisionato che migliora l'identificazione delle lingue a risorse limitate su dati fuori dominio ottenendo un incremento di 3,2 punti percentuali senza compromettere le prestazioni delle lingue ad alta risorsa.
Questo articolo stabilisce le prime garanzie di convergenza globale per un variante dell'algoritmo IRLS con regolarizzazione dinamica, dimostrando che esso converge linearmente al sottospazio sottostante da qualsiasi inizializzazione nel contesto del recupero robusto dei sottospazi e dell'estimazione affine, estendendo inoltre i risultati teorici all'addestramento di reti neurali a bassa dimensionalità.