1072 articoli
Questo studio dimostra che, nonostante l'eccellenza nella generazione, i modelli linguistici di grandi dimensioni (LLM) mostrano prestazioni inferiori e inaffidabili nei compiti di valutazione, rivelando un "paradosso" che richiede una maggiore attenzione alla loro affidabilità come giudici.
Questo studio presenta l'uso innovativo di ChatGPT per analizzare il sentiment delle citazioni negli articoli scientifici, al fine di identificare potenziali bias e conflitti di interesse e migliorare l'integrità della valutazione della letteratura accademica.
Il paper sostiene che i Large Language Models, pur non possedendo un'agenzia autonoma secondo le teorie della mente incarnata a causa della mancanza di individualità, normatività e asimmetria interazionale, agiscono come interlocutori linguistici che, attraverso un'incarnazione testuale e computazionale, trasformano radicalmente l'agenzia umana generando forme ibride di "agenzia di mezzo".
Lo studio dimostra che le metriche di bias attualmente utilizzate non riescono a catturare in modo affidabile i danni allocativi derivanti dalle previsioni dei grandi modelli linguistici, evidenziando la necessità di considerare come tali previsioni influenzino le decisioni reali nell'assegnazione di risorse limitate.
Il paper introduce Goldfish, una suite di oltre 1.000 piccoli modelli linguistici monolingue addestrati su 350 lingue che, nonostante le dimensioni ridotte, superano i grandi modelli multilingue nella generazione grammaticale e nella perplessoità, offrendo per la prima volta risorse monolingue pubbliche per 215 di queste lingue.
Questo articolo propone un metodo efficiente e interpretabile per mitigare i pregiudizi nei grandi modelli linguistici, utilizzando piccoli modelli esperti per generare un segnale di debiasing aggiunto durante la decodifica, riducendo così i bias legati a genere, razza e religione senza compromettere le prestazioni del modello.
Il paper presenta SpecEM, un framework di ensemble per modelli linguistici di grandi dimensioni (LLM) senza addestramento che combina la previsione di segmenti successivi ispirata allo speculative decoding con un meccanismo di feedback online per adattare dinamicamente i pesi dei modelli, ottenendo così prestazioni superiori rispetto ai metodi esistenti su diverse famiglie di LLM e benchmark.
Il paper presenta LEO, un'architettura semplice ed efficace che ottimizza la fusione di diversi encoder visivi tramite un approccio leggero basato su proiezioni indipendenti e intercalamento di sequenze, ottenendo prestazioni superiori su numerosi benchmark e una forte capacità di generalizzazione nel dominio della guida autonoma.
Questo sondaggio offre una panoramica strutturata delle tecniche, dei dataset e delle sfide etiche legate all'uso dei modelli linguistici su larga scala per assistere i ricercatori in tutte le fasi del ciclo di vita scientifico, dalla scoperta alla valutazione.
Questo lavoro propone un metodo per addestrare modelli linguistici a generare testi in codice-switching inglese-spagnolo tramite back-translation e fine-tuning, dimostrando che tale approccio produce output fluenti e che le valutazioni basate su LLM si allineano meglio al giudizio umano rispetto alle metriche tradizionali.
Il paper introduce CAReDiO, un innovativo framework di ottimizzazione dei dati che, massimizzando la rappresentatività e la distintività culturale attraverso obiettivi teorico-informativi, permette di allineare efficientemente modelli linguistici a 15 diverse culture utilizzando un numero ridotto di campioni di addestramento.
Il paper introduce i Reasoning Reward Models (ReasRMs), in particolare la famiglia RM-R1, che trasformano la modellazione delle ricompense in un compito di ragionamento tramite un meccanismo di "catena di rubriche" e un addestramento su due fasi, ottenendo prestazioni superiori rispetto a modelli proprietari e open-weight più grandi su diversi benchmark.
Il paper presenta EVA, un nuovo framework di apprendimento asincrono che, ispirandosi alla modellazione linguistica, genera caratteristiche evento-per-evento altamente espressive superando i metodi precedenti sia in compiti di riconoscimento che di rilevamento.
Questo articolo propone K-CAST, un metodo di steering delle attivazioni basato su kNN che mitiga dinamicamente i bias di contenuto nei modelli linguistici, migliorando significativamente la loro accuratezza nel ragionamento formale senza compromettere le capacità linguistiche multilingue.
Il paper introduce AdAEM, un algoritmo di valutazione auto-estensibile che genera dinamicamente domande di test per rivelare in modo più informativo e distinguibile le differenze di valori tra i modelli linguistici su larga scala, superando i limiti delle metriche statiche attuali.
Questo lavoro presenta una pipeline automatizzata e deterministica che trasforma corpora grezzi in benchmark di completamento per valutare in modo scalabile, economico e privo di contaminazione l'expertise di dominio dei modelli linguistici, evitando la dipendenza da altri LLM o da annotazioni umane costose.
Il paper presenta Sysformer, un approccio innovativo che protegge i grandi modelli linguistici (LLM) congelati adattando dinamicamente i prompt di sistema tramite un modello trasformatore, migliorando significativamente la robustezza contro gli attacchi dannosi e la conformità alle richieste sicure senza richiedere un costoso riaddestramento dei parametri del modello.
Il paper presenta VLMQ, un framework di quantizzazione post-allenamento specifico per i modelli visione-linguaggio che, identificando e mitigando la sovrarappresentazione visiva e il divario tra modalità, utilizza un fattore di importanza guidato dal gradiente per selezionare i token salienti e ottenere prestazioni all'avanguardia, specialmente nelle configurazioni a basso numero di bit.
Questo studio presenta un caso di valutazione che dimostra come, per la risposta a domande tecniche cross-lingue su un manuale agricolo, le strategie di Retrieval-Augmented Generation (RAG) ibrido superino costantemente il prompting diretto con modelli LLM a contesto esteso, raggiungendo un'accuratezza superiore all'85% con modelli come Gemini 2.5 Flash e Qwen 2.5 7B.
Il paper presenta CMRAG, un framework di Retrieval-Augmented Generation che supera i limiti dei metodi esistenti integrando simultaneamente testo e immagini tramite un modello di codifica unificato e una strategia di recupero co-modale, dimostrando prestazioni superiori in compiti di domande e risposte su documenti visivi complessi.