1072 articoli
Il paper presenta MERLIN, un framework di allineamento curricolare in due fasi che integra efficientemente encoder e LLM multilingue tramite pesi DoRA, ottenendo risultati significativamente superiori rispetto agli stati dell'arte nel ragionamento cross-linguale, specialmente per le lingue a risorse limitate.
Questo lavoro presenta la prima meta-valutazione completa delle metriche di latenza per la traduzione simultanea voce-testo, introducendo le nuove metriche YAAL e LongYAAL e lo strumento SoftSegmenter per superare i bias esistenti e fornire valutazioni più accurate sia per contenuti brevi che lunghi.
Questo articolo dimostra che, sebbene i modelli linguistici decoder-only siano inizialmente inferiori agli encoder-only nell'adattamento cross-modale per le equazioni differenziali parziali, l'introduzione di due nuove tecniche che mimano la bidirezionalità (Parallel Flipping e Sequence Doubling) permette di colmare il divario di prestazioni.
Lo studio dimostra che il micro-benchmarking dei modelli linguistici è spesso inaffidabile per il ranking di modelli con prestazioni simili, rivelando che sono necessari fino a 250 esempi per ottenere risultati consistenti e che, a quel punto, il campionamento casuale risulta competitivo rispetto ai metodi esistenti.
Questo studio dimostra che gli stati interni dei grandi modelli linguistici riflettono principalmente il richiamo di conoscenze parametriche piuttosto che la veridicità dell'output, rendendo inefficaci i metodi di rilevamento standard per le allucinazioni basate su associazioni spurie, che condividono geometrie nascoste simili alle risposte fattualmente corrette.
Questo paper introduce un approccio chiamato "obiettivi just-in-time" che infere e ottimizza in tempo reale le intenzioni dell'utente per trasformare i modelli linguistici generici in strumenti specializzati di alta qualità, superando significativamente le prestazioni dei chatbot LLM standard.
Lo studio dimostra che l'uso del ragionamento a catena di pensiero (Chain-of-Thought) migliora significativamente la capacità dei modelli linguistici di grandi dimensioni di gestire le dipendenze inter-sentenziali nella traduzione, con i modelli più performanti che raggiungono circa il 90% di accuratezza e un punteggio COMET di 92%, evidenziando inoltre un effetto "i saggi diventano più saggi" in cui i modelli già capaci traggono i maggiori benefici dal ragionamento.
Lo studio dimostra che l'uso di ChatGPT per codificare dati comunicativi su larga scala garantisce una coerenza nelle prestazioni tra diversi sottogruppi demografici (genere ed etnia) paragonabile a quella dei valutatori umani, rendendo la tecnologia affidabile per valutazioni su vasta scala.
Questo articolo presenta il compito di dialogo "Collaborative Battleship" e strategie di inferenza Monte Carlo ispirate alla progettazione sperimentale bayesiana per migliorare le capacità di agenti linguistici nell'esplorazione strategica e nel processo decisionale sotto incertezza, permettendo loro di superare sia i giocatori umani che i modelli all'avanguardia in compiti come Battleship e Guess Who?.
Il paper introduce DETECT, il primo metrico specifico per il tedesco che valuta la semplificazione automatica del testo in termini di semplicità, preservazione del significato e fluidità, addestrato su dati sintetici generati da LLM e validato su un nuovo dataset umano, dimostrando una correlazione superiore rispetto alle metriche esistenti.
Questo articolo presenta AfriMTEB, un nuovo benchmark che espande la valutazione dei modelli di embedding testuale a 59 lingue africane con 38 dataset, e AfriE5, un modello adattato che supera le prestazioni degli stati dell'arte in queste lingue.
Il paper propone un nuovo metodo per controllare in modo stabile e preciso i tratti di personalità (Big Five) nelle risposte dei Large Language Models, identificando e sfruttando sottospazi a basso rango specifici per ciascun tratto all'interno di livelli ottimali della rete neurale per guidare il comportamento del modello senza comprometterne la fluidità o le capacità generali.
Il paper propone la "confabulazione critica", un approccio che utilizza le allucinazioni controllate dei LLM per colmare le lacune storiche causate da disuguaglianze sociali e ricostruire narrazioni inclusive per le figure dimenticate, dimostrando come sia possibile generare speculazioni utili senza compromettere la fedeltà storica.
Il paper presenta Co-Layout, un nuovo framework che combina modelli linguistici su larga scala e programmazione intera su griglia per ottimizzare congiuntamente la disposizione degli spazi interni e il posizionamento dei mobili, superando le pipeline esistenti in qualità della soluzione ed efficienza computazionale grazie a una strategia di ottimizzazione da grezzo a fine.
Il paper propone SPINE, un framework di apprendimento per rinforzo a test-time che seleziona e aggiorna solo i token critici ad alta entropia nelle catene di pensiero, risolvendo il collasso delle risposte tipico dei metodi precedenti e migliorando le prestazioni senza bisogno di etichette o modelli di reward.
Questo studio introduce il rischio di privacy nell'orchestrazione degli strumenti (TOP-R), un nuovo pericolo in cui gli agenti autonomi sintetizzano informazioni sensibili da frammenti non sensibili, presentando un framework formale, un benchmark (TOP-Bench) e strategie di mitigazione che migliorano significativamente il compromesso tra utilità e sicurezza.
Il paper introduce WBC, un nuovo metodo di attacco per l'inferenza di appartenenza che supera i limiti delle tecniche globali analizzando segnali localizzati tramite finestre scorrevoli, dimostrando così una maggiore efficacia nel rilevare i dati di addestramento memorizzati nei modelli linguistici su larga scala.
Il paper presenta un framework che adatta i Large Language Models per generare contenuti educativi specifici per sei diversi livelli scolastici, migliorando significativamente l'allineamento al grado di istruzione rispetto ai metodi basati su prompt senza compromettere la correttezza fattuale.
Questo studio presenta il framework PyMUSAS, che combina regole e reti neurali per l'annotazione semantica multilingue basata sul sistema USAS, superando la carenza di dati di addestramento tramite un dataset "silver standard" e rilasciando risorse open source per cinque lingue, incluso il cinese.
Il paper propone la Latent Exploration Decoding (LED), una strategia di decodifica senza costi di addestramento che ripristina l'esplorazione nei Large Reasoning Models post-allenati aggregando le distribuzioni posteriori degli strati intermedi per migliorare l'accuratezza nei compiti di ragionamento.