1077 articoli
Il paper introduce MuRating, un framework scalabile che trasferisce segnali di qualità dai dati inglesi per addestrare un valutatore multilingue, permettendo la selezione di subset di dati equilibrati che migliorano significativamente le prestazioni dei modelli linguistici su compiti sia in inglese che multilingue.
Il paper presenta Eka-Eval, un framework open-source modulare e unificato che offre una valutazione end-to-end di modelli linguistici multilingue a risorse limitate, integrando oltre 55 benchmark e garantendo un'accessibilità superiore rispetto alle soluzioni esistenti.
Questo lavoro introduce TreeBench, un benchmark diagnostico per valutare il ragionamento visivo fondato su prove tracciabili, e TreeVGR, un paradigma di addestramento basato sul reinforcement learning che migliora significativamente le capacità di localizzazione e ragionamento dei modelli visivi.
Il documento presenta Vevo2, un framework unificato e controllabile per la generazione di voce parlata e cantata che supera le limitazioni dei dati annotati e garantisce un controllo flessibile su prosodia, stile e timbro grazie a nuovi tokenizzatori audio e strategie di addestramento congiunto.
Questo studio dimostra che la quantizzazione dei modelli linguistici di grandi dimensioni ha un impatto complesso sui pregiudizi, riducendo la tossicità ma tendendo ad aumentare leggermente gli stereotipi e l'ingiustizia nelle attività generative, sottolineando la necessità di bilanciare efficienza ed etica.
Questo lavoro propone un modello di allineamento basato sul trasporto ottimale sbilanciato, che tratta l'associazione tra rappresentazioni acustiche e linguistiche come un problema di rilevamento per gestire asimmetrie strutturali e rumore, migliorando così il trasferimento di conoscenza nei sistemi ASR.
Il paper propone TSPC, un'architettura a due stadi incentrata sui fonemi che utilizza un set fonemico vietnamita esteso come rappresentazione intermedia per migliorare il riconoscimento del parlato code-switching vietnamita-inglese, ottenendo risultati superiori rispetto alle basi esistenti con una riduzione delle risorse computazionali necessarie.
Lo studio dimostra che l'analisi longitudinale dei dati linguistici sui social media permette di rilevare cambiamenti comportamentali e sintomatologici associati al disturbo bipolare, inclusi fluttuazioni stagionali, offrendo un prezioso complemento alla ricerca psichiatrica tradizionale.
Il paper presenta Llama-Mimi, un modello di linguaggio per il parlato che semplifica l'architettura trasformando i token RVQ multilivello in una singola sequenza elaborata da un decoder Transformer, ottenendo prestazioni superiori rispetto ai modelli gerarchici esistenti, in particolare nella coerenza acustica.
Lo studio rivela che i modelli linguistici alla base dei sistemi SpeechLLM mostrano fragilità strutturali nell'elaborazione del discorso conversazionale, tendendo a sovracancellare contenuti fluenti a favore dell'astrazione semantica e dimostrando che la robustezza è plasmata da specifici obiettivi di addestramento piuttosto che dalla semplice scalabilità o dal fine-tuning.
Il paper introduce BeyondBench, un framework di valutazione resistente alla contaminazione che utilizza la generazione algoritmica dinamica di problemi matematici per testare in modo affidabile le capacità di ragionamento di oltre 100 modelli linguistici, rivelando significative carenze nelle prestazioni su compiti complessi.
Questo studio introduce un metodo innovativo per l'addestramento stabile ed efficiente di grandi modelli linguistici in formato NVFP4, combinando trasformate di Hadamard casuali, quantizzazione bidimensionale e arrotondamento stocastico, che permette di addestrare un modello da 12 miliardi di parametri su 10 trilioni di token con prestazioni comparabili alla base FP8.
Il paper introduce PrefDisco, un nuovo metodo di valutazione e metrica (PrefAlign) che trasforma i benchmark statici in compiti interattivi per dimostrare come i modelli linguistici debbano sviluppare un ragionamento personalizzato proattivo, basato su domande strategiche per allinearsi alle preferenze individuali degli utenti in scenari senza dati storici, superando i limiti degli approcci attuali che trattano separatamente la risoluzione dei compiti e l'allineamento alle preferenze.
Il paper introduce Graph2Eval, un framework basato su grafi della conoscenza che genera automaticamente e in modo scalabile compiti multimodali affidabili per agenti AI, superando i limiti dei dataset statici e delle allucinazioni dei LLM attraverso un processo di campionamento e filtraggio strutturato.
Il paper propone GMT, un nuovo paradigma che supera i limiti delle tecniche basate sui prefissi integrando la struttura dei grafi di conoscenza direttamente nella memoria degli LLM tramite un meccanismo di cross-attention profondo e token-specifico, ottenendo così prestazioni superiori nel completamento dei grafi di conoscenza.
Questo lavoro presenta AuthenHallu, il primo benchmark per il rilevamento delle allucinazioni nei modelli linguistici di grandi dimensioni (LLM) costruito interamente su interazioni umane autentiche, rivelando un tasso di allucinazioni significativo (31,4% in generale e fino al 60% in domini complessi) e dimostrando che l'uso di LLM standard come rilevatori è attualmente insufficiente per scenari reali.
Il paper dimostra che il fine-tuning su domini ristretti lascia tracce leggibili nelle differenze di attivazione dei modelli linguistici, permettendo di ricostruire il dominio di addestramento e rivelando che tale pratica, spesso usata come proxy per studi di sicurezza, può non riflettere realisticamente i modelli addestrati su dati più ampi.
Il paper introduce Grasp Any Region (GAR), un modello che supera i limiti delle precedenti MLLM regionali integrando il contesto globale e il replay delle caratteristiche per ottenere una comprensione visiva precisa, interattiva e capace di ragionamento compositivo su qualsiasi regione, come dimostrato dalle sue prestazioni superiori su benchmark specifici e sulla capacità di generalizzazione ai video.
Il paper presenta EchoMind, il primo benchmark multi-livello interconnesso che valuta la capacità dei modelli linguistici vocali di integrare contenuti linguistici e cue vocali per generare risposte empatiche, rivelando che gli attuali modelli avanzati faticano ancora a percepire e rispondere adeguatamente alle sfumature emotive della voce.
Il paper presenta l'Open Korean Historical Corpus, un vasto dataset di testi di dominio pubblico che copre 1.300 anni e 6 lingue, permettendo per la prima volta un'analisi quantitativa dell'evoluzione linguistica coreana e offrendo una risorsa fondamentale per il pre-addestramento di modelli linguistici.