2388 articoli
Il paper introduce MMTU, un nuovo benchmark su larga scala con oltre 28.000 domande su 25 compiti reali, progettato per valutare in modo completo le capacità di comprensione, ragionamento e manipolazione delle tabelle da parte dei modelli linguistici, rivelando che anche i modelli più avanzati attuali hanno ancora margini significativi di miglioramento in questo dominio.
Questo studio dimostra che impostare i tassi di apprendimento in una regione di caos transitorio, dove l'ottimizzazione bilancia esplorazione e sfruttamento, accelera il training delle reti neurali riducendo il tempo necessario per raggiungere un'accuratezza accettabile su diversi compiti e architetture.
Il paper presenta EROICA, il primo sistema di risoluzione dei problemi di prestazioni online per l'addestramento di modelli su larga scala, che combina profilazione dettagliata e osservabilità differenziale per diagnosticare con successo sia problemi hardware che software su cluster di GPU di produzione.
Il documento presenta BemaGANv2, un vocoder basato su GAN avanzato per la generazione audio a lungo termine che integra innovazioni architetturali come il modulo AMP e una valutazione sistematica di diverse strategie di combinazione dei discriminatori, tra cui il nuovo Multi-Envelope Discriminator, per migliorare coerenza temporale e fedeltà del suono.
Il paper propone Co-LoRA, un metodo di apprendimento federato personalizzato che affronta l'eterogeneità sia dei dati che delle architetture dei modelli attraverso una strategia di aggregazione consapevole della rilevanza del compito e un modulo dimensionale-invariante, validato su un nuovo benchmark multi-modale che dimostra prestazioni superiori rispetto agli stati dell'arte.
Il paper propone due algoritmi efficienti, Slate-GLU-OFU e Slate-GLM-TS, per il problema dei banditi contestuali a slate logistici che, combinando una pianificazione locale con un apprendimento globale, raggiungono un basso rimpianto e una complessità computazionale ridotta, dimostrando efficacia sia in ambienti sintetici che nell'ottimizzazione di esempi in contesto per modelli linguistici.
Questo lavoro dimostra che l'ottimizzazione Sharpness-Aware (SAM) migliora l'oblio delle macchine riducendo l'interferenza tra segnali di mantenimento e di rimozione, e propone il metodo "Sharp MinMax" che combina SAM e massimizzazione della sharpness per ottenere un disaccoppiamento superiore tra i dati da mantenere e quelli da dimenticare, garantendo una maggiore robustezza agli attacchi di inferenza di appartenenza.
Il documento introduce il Kolmogorov-Arnold Energy Model (KAEM), un nuovo approccio generativo che combina velocità, interpretabilità ed efficienza inferenziale grazie a una struttura latente univariata basata sul teorema di rappresentazione di Kolmogorov-Arnold, superando i compromessi tra modelli latenti semplici e campionatori iterativi complessi.
Il paper propone un approccio di apprendimento semi-auto-supervisionato basato su GLMask, che trasforma la segmentazione semantica in quella istanziale con annotazioni minime, ottenendo risultati all'avanguardia nella segmentazione delle spighe di grano e miglioramenti significativi sul dataset COCO.
Questo lavoro presenta SamS, un algoritmo efficiente che ottimizza l'adeguamento dei modelli linguistici alle preferenze umane attraverso una selezione dinamica e adattiva dei campioni di addestramento a livello di batch durante l'Ottimizzazione Diretta delle Preferenze (DPO), migliorando significativamente le prestazioni senza modificare l'algoritmo di base.
Il paper presenta DemoDiffusion, un metodo che permette ai robot di imitare un'unica dimostrazione umana per eseguire compiti di manipolazione, combinando la retargeting cinematica con una politica di diffusione pre-addestrata per ottenere un tasso di successo significativamente superiore rispetto alle tecniche esistenti senza necessità di dati umani-robot accoppiati o addestramento specifico.
Il paper dimostra che adottare una dieta visiva ispirata allo sviluppo umano, che guida l'apprendimento dei modelli AI attraverso un curriculum progressivo di acuità, sensibilità al contrasto e colore, permette di ottenere sistemi di visione artificiale più robusti, resilienti e basati sulla forma, colmando il divario tra intelligenza artificiale e percezione umana.
Lo studio dimostra che l'addestramento efficace delle PINN in presenza di dati rumorosi richiede una dimensione della rete superiore a una soglia critica, poiché l'errore empirico non può scendere sotto la varianza del rumore senza un numero sufficiente di parametri, indipendentemente dall'aumento del volume dei dati.
Il paper introduce TableEG, un framework basato su modelli linguistici di grandi dimensioni e strategie di fine-tuning che genera errori sintetici autentici nei dati tabellari, colmando il divario tra dati reali e artificiali per fornire un benchmark robusto e affidabile per la valutazione delle tecniche di rilevamento e correzione degli errori.
Il paper propone MCULoRA, un nuovo framework basato su un adattamento a basso rango decoupled e dinamico che risolve i conflitti di gradiente nell'addestramento di modelli per il riconoscimento delle emozioni con modalità incomplete, ottenendo prestazioni superiori rispetto agli approcci esistenti.
Questo paper introduce SGV, un metodo di verifica auto-fondato che mitiga il bias di accordo nei modelli linguistici multimodali, migliorando significativamente l'individuazione degli errori e le prestazioni dei agenti in compiti di navigazione web, uso del computer e robotica.
Questo articolo presenta la prima survey completa sullo sviluppo recente del flow matching e sulle sue applicazioni nei domini biologici, coprendo la modellazione delle sequenze, la generazione di molecole e la sintesi di peptidi e proteine.
Questo articolo propone un approccio basato su "alberi di traiettoria" e ricerca ad albero Monte Carlo per estendere la generalizzazione da modello debole a forte (W2SG) ai complessi ambienti decisionali, permettendo ai modelli avanzati di apprendere sia dai successi che dai fallimenti dei modelli più semplici per migliorare le proprie capacità di ragionamento e decisione.
Questo lavoro dimostra come un'entità malintenzionata possa ingannare le verifiche di conformità al regolamento UE sull'IA manipolando i dati per apparire equi, analizzando le vulnerabilità di tali attacchi e proponendo metodi statistici per rilevare queste distorsioni distribuzionali.
Questo studio introduce un framework di "red-teaming" dinamico, automatico e sistematico (DAS) che, stressando i modelli linguistici medici su assi di sicurezza critici, rivela un profondo divario tra le alte prestazioni sui benchmark statici e la bassa affidabilità in scenari reali, evidenziando come i punteggi elevati possano riflettere una memorizzazione superficiale piuttosto che una vera competenza clinica.