1891 articoli
Il paper presenta ClinConsensus, un benchmark cinese basato sul consenso di esperti clinici composto da 2500 casi a risposta aperta che valutano le capacità dei modelli linguistici su compiti medici complessi e longitudinali, introducendo nuove metriche di valutazione e rivelando significative lacune nelle attuali capacità di pianificazione terapeutica.
Il paper propone R-TAP, un processo ricorsivo di pensiero e risposta che, sfruttando un generatore di fiducia e ricompense specifiche, permette a LLM e VLM di superare i limiti dell'inferenza singola, riducendo gli errori e le espressioni di auto-riflessione come "Oops!" per ottenere ragionamenti più stabili, veloci e accurati.
Il paper presenta un modello surrogato innovativo che preserva simultaneamente le distribuzioni di frequenza (legge di Zipf) e le correlazioni a lungo raggio delle sequenze simboliche, come testi e DNA, mappando il rumore gaussiano frazionario sull'istogramma empirico per generare dati che mantengono le statistiche del primo ordine e la struttura di scala senza le dipendenze a breve termine originali.
Questo articolo dimostra che l'evoluzione sostenibile dei modelli linguistici richiede un pipeline auto-sintetico che garantisca un guadagno di informazione apprendibile, raggiungibile attraverso ruoli triadici asimmetrici, crescita della capacità e ricerca proattiva di informazioni per superare i limiti del semplice self-play.
Il documento dimostra che l'addestramento end-to-end dell'attenzione sparsa fallisce nel migliorare le prestazioni rispetto a gate casuali a causa del fenomeno di "assorbimento del routing", dove le proiezioni Q/K/V si adattano al mascheramento imposto, rendendo inefficaci i gate appresi e suggerendo che gli approcci post-hoc sono necessari per decoupling l'apprendimento delle rappresentazioni dalla sparsificazione.
Lo studio dimostra che, negli agenti LLM multi-step, l'addestramento alla sicurezza persiste anche dopo un successivo addestramento all'essere utili, e che tutte le configurazioni di ottimizzazione convergono verso una frontiera di Pareto lineare senza riuscire a trovare una strategia che massimizzi simultaneamente entrambi gli obiettivi.
Il paper presenta HELIOS, un approccio innovativo che armonizza l'early fusion, la late fusion e il ragionamento tramite LLM per migliorare la ricerca multi-granulare di tabelle e testi, superando i limiti delle metodologie esistenti e ottenendo risultati significativamente superiori sul benchmark OTT-QA.
Lo studio dimostra che il modello di traduzione neurale NLLB-200 apprende implicitamente sia la struttura genealogica delle lingue sia associazioni concettuali universali, rivelando una geometria di rappresentazione che supporta l'esistenza di un archivio concettuale neutrale rispetto alla lingua.
Questo lavoro presenta un quadro teorico ed empirico che caratterizza la memorizzazione nei modelli linguistici a diffusione, dimostrando che un aumento della risoluzione del campionamento incrementa l'estrazione dei dati di addestramento e che tali modelli, rispetto a quelli autoregressivi, presentano una minore fuoriuscita di informazioni personali identificabili.
Il paper introduce RO-N3WS, un benchmark diversificato di dati vocali rumeni che, attraverso l'addestramento su registri stilistici differenti, migliora significativamente la generalizzazione e le prestazioni dei sistemi ASR in condizioni a risorse limitate.
Questo studio propone un modello a grafo diretto e un framework sperimentale basato su testi sintetici generati da LLM per valutare la comprensione delle visualizzazioni temporali di testi, rivelando che gli utenti faticano a interpretare i modelli predefiniti e suggerendo la necessità di approcci di visualizzazione più adattivi alle esigenze individuali.
Il paper presenta GLoRIA, un framework efficiente e interpretabile per il riconoscimento vocale dei dialetti che utilizza metadati geografici per modulare aggiornamenti a basso rango, ottenendo prestazioni all'avanguardia con una frazione minima dei parametri rispetto ai metodi esistenti.
Il paper presenta MUSE, una piattaforma open-source per la valutazione unificata della sicurezza multimodale dei grandi modelli linguistici che integra la generazione automatica di payload cross-modali, algoritmi di attacco multi-turno e un sistema di giudizio basato su LLM, rivelando come le strategie di attacco multi-turno e il cambio di modalità tra i turni possano compromettere significativamente le difese dei modelli anche quando questi mostrano un alto tasso di rifiuto negli input singoli.
Il paper introduce CoDAR, un framework a due stadi che risolve il collo di bottiglia della quantizzazione nei modelli di linguaggio a diffusione continua mantenendo la generazione nello spazio degli embedding e utilizzando un decoder autoregressivo per la discretizzazione contestuale, ottenendo così prestazioni competitive con i modelli discreti.
Il paper presenta VC-STaR, un nuovo framework di auto-miglioramento che sfrutta coppie di domande visive contrastive per mitigare le allucinazioni nei modelli visione-linguaggio, generando il dataset VisCoR-55K che potenzia significativamente le capacità di ragionamento visivo rispetto agli approcci esistenti.
FlashEvaluator è un nuovo framework che supera i limiti dei metodi Generator-Evaluator tradizionali consentendo la condivisione delle informazioni tra sequenze e l'elaborazione parallela in un singolo passaggio, migliorando così sia l'accuratezza della selezione che l'efficienza computazionale, con risultati già validati in produzione su Kuaishou.
Il paper introduce SteerEval, un benchmark gerarchico che valuta la controllabilità dei modelli linguistici su tre domini e tre livelli di granularità, rivelando come il controllo tenda a degradare a livelli più fini e fornendo un quadro interpretabile per comportamenti LLM più sicuri.
Il paper presenta ExpGuard, un modello di moderazione specializzato e il dataset ExpGuardMix, che superano le soluzioni attuali nel rilevare contenuti dannosi in ambiti tecnici come finanza, medicina e legge, garantendo una maggiore sicurezza per le applicazioni LLM in questi settori.
Il paper presenta GPUTOK, un tokenizzatore BPE a livello di byte accelerato da GPU che, mantenendo la qualità dei risultati, supera le prestazioni delle soluzioni CPU esistenti (come tiktoken e HuggingFace) fino a 7,6 volte su sequenze lunghe, rendendo più pratica l'inferenza con contesti estesi.
Questo studio dimostra che, sebbene l'approccio "Recursive Language Models" con profondità di ricorsione 1 migliori le prestazioni su compiti complessi, l'aumento della profondità a 2 porta a un "sovrapensiero" che degrada le prestazioni su compiti semplici e aumenta esponenzialmente tempi di esecuzione e costi.