6899 articoli
Questo articolo propone un quadro teorico per la generalizzazione fuori distribuzione basato sulla sparsità delle ipotesi e sull'uso di caratteristiche distinte, dimostrando che le ipotesi sparse generalizzano correttamente quando le distribuzioni di addestramento e di test si sovrappongono sufficientemente sulle caratteristiche rilevanti.
Il paper presenta MARIGOLD, un nuovo framework algoritmico che risolve in modo efficiente il bilanciamento dei gradienti nell'apprendimento multi-task formulandolo come un problema di ottimizzazione bi-livello risolvibile tramite metodi di ordine zero, superando così le limitazioni computazionali dei metodi esistenti come MGDA.
Il paper propone un sistema di triage fuzzy deterministico basato su un encoder duale RoBERTa e bande di calibrazione trasparenti per classificare la conformità legale e recuperare prove, offrendo un approccio riproducibile e spiegabile che bilancia l'automazione con vincoli di errore rigorosi per soddisfare i requisiti normativi.
Questo lavoro generalizza gli autoencoder lineari per sistemi di raccomandazione introducendo una Decoupled Expected Quadratic Loss (DEQL) che, estendendo la ricerca delle soluzioni ottimali al caso e proponendo un algoritmo efficiente, supera le prestazioni del modello EDLAE originale con .
Questo lavoro introduce il concetto di "Capacità del Canale Contestuale" () come principio informativo unificante che spiega il dimenticamento catastrofico, dimostrando che l'architettura, piuttosto che l'algoritmo, è determinante per il successo nell'apprendimento continuo e proponendo nuove direzioni di ricerca basate su questa teoria.
Il paper presenta DualSpec, un framework di speculazione eterogenea che accelera gli agenti di ricerca profonda sfruttando le differenze tra le azioni di ricerca e visita per ottenere un'accelerazione fino a 3,28 volte mantenendo l'accuratezza.
Il paper presenta OrthoFormer, un'architettura Transformer basata su variabili strumentali e funzioni di controllo neurale che integra l'identificazione causale direttamente nei blocchi del modello per superare i limiti dell'apprendimento correlazionale e garantire robustezza nei confronti di cambiamenti nella distribuzione dei dati.
Questo lavoro presenta AndroidWorld-Generalization, un benchmark e un sistema di apprendimento per rinforzo basato su GRPO, per valutare e migliorare la capacità di generalizzazione zero-shot degli agenti mobili VLM su istanze, template e applicazioni non visti, dimostrando significativi guadagni sulle istanze ma sfide persistenti su template e app, con il rilascio completo del codice per la riproducibilità.
Il paper presenta "Data Agent", un framework end-to-end che formula la selezione dinamica dei dati come un problema di decisione sequenziale guidato da un agente che impara una politica di selezione adattiva, accelerando significativamente l'addestramento dei modelli su diverse architetture e dataset senza comprometterne le prestazioni.
Questo lavoro stabilisce garanzie finite-campiono per l'apprendimento di rappresentazioni dello stato guidate dai costi e per il controllo ottimale in problemi LQG a orizzonte infinito, analizzando sia modelli latenti espliciti che impliciti (simili a MuZero) e provando la persistenza dell'eccitazione per un nuovo processo stocastico.
Il paper propone PACT, un framework di fine-tuning che preserva l'allineamento alla sicurezza dei grandi modelli linguistici regolando la confidenza su un piccolo sottoinsieme di token critici, evitando così il drift di sicurezza senza compromettere le prestazioni nei compiti downstream.
Il paper dimostra che una tokenizzazione discreta semplice, combinata con un'adeguata regolarizzazione gaussiana, consente ai Transformer di superare le prestazioni e la calibrazione dei modelli di gradient boosting su grandi dataset tabulari.
Il paper presenta Dial, un sistema NL2SQL basato sulla conoscenza che supera le limitazioni dei metodi esistenti nel gestire diversi dialetti SQL attraverso una pianificazione logica consapevole del dialetto, una base di conoscenza gerarchica e un ciclo di verifica semantica, dimostrando miglioramenti significativi nell'accuratezza e nella copertura delle funzionalità su un nuovo benchmark multi-database.
Il paper presenta SLNet, una rete di riconoscimento per nuvole di punti 3D estremamente leggera e adattiva geometricamente che, grazie a componenti innovativi come NAPE e GMU, raggiunge prestazioni competitive su diversi benchmark con un numero di parametri e un costo computazionale drasticamente inferiori rispetto agli stati dell'arte.
Questo lavoro introduce il Dual-Stream Transformer, un'architettura che scompone il flusso residuo in due componenti funzionalmente distinte per bilanciare interpretabilità e prestazioni, dimostrando che strategie di mixing controllate permettono di mantenere una generazione robusta pur esponendo la struttura interna del modello.
Il paper presenta AFTUNE, un framework che garantisce l'integrità computazionale e l'auditabilità del fine-tuning e dell'inferenza di modelli proprietari nel cloud attraverso un meccanismo leggero di registrazione e controllo a campione, colmando il divario di fiducia senza imporre un sovraccarico computazionale proibitivo.
Questo monografia offre una panoramica rigorosa degli aspetti teorici e metodologici dell'inferenza probabilistica e dell'apprendimento con il metodo di Stein, fornendo ricette per costruire discrepanze di Stein, discutendone le proprietà e dettagliando la connessione con la discesa del gradiente variazionale di Stein.
Questo lavoro propone un framework di adattamento leggero per modelli di potenziamento vocale che, aggiornando meno dell'1% dei parametri tramite adattatori a basso rango e apprendimento auto-supervisionato, migliora significativamente la robustezza in scenari acustici reali dinamici con costi computazionali ridotti.
Questo studio presenta un framework condizionale basato su trasformatori di diffusione che genera ensemble eterogenei di strutture genomiche tridimensionali di *E. coli*, guidati da mappe di contatto Hi-C, superando i limiti dei modelli deterministici per ricostruire la diversità conformazionale del genoma.
Il paper propone e valida l'architettura LFA, che garantisce l'interpretabilità per progettazione mantenendo separati i flussi di struttura simbolica e semantica contestuale fino all'output, dimostrando così una maggiore stabilità e modularità funzionale rispetto ai transformer standard.