1714 articoli
Questo studio empirico analizza l'efficacia e i limiti del prompting many-shot come strategia di adattamento a tempo di test per i modelli linguistici, rivelando che mentre funziona bene per compiti strutturati ad alto guadagno informativo, è spesso sensibile alla selezione degli esempi e poco vantaggioso per la generazione aperta.
Il paper introduce ReflexiCoder, un nuovo framework di apprendimento per rinforzo che addestra i modelli linguistici a internalizzare capacità autonome di auto-riflessione e auto-correzione del codice, ottenendo risultati all'avanguardia su diversi benchmark senza dipendere da oracoli esterni o feedback di esecuzione durante l'inferenza.
Il paper ROSE propone un metodo di pruning one-shot per grandi modelli linguistici che riordina le pesi in base alla perdita stimata, migliorando significativamente l'accuratezza rispetto a SparseGPT e ad altri metodi esistenti su modelli come LLaMA e Mistral.
Il paper propone CoCA, un framework di apprendimento per rinforzo che adotta un paradigma "confidence-first" per ottimizzare congiuntamente la calibrazione dell'incertezza e l'accuratezza delle risposte nei modelli linguistici, superando i limiti dei metodi tradizionali che generano la confidenza solo dopo la risposta.
Il paper "VerChol" propone un approccio di tokenizzazione basato sulla grammatica per le lingue agglutinanti, superando i limiti degli attuali metodi statistici come BPE che frammentano erroneamente le unità morfologiche.
Il paper presenta ConStory-Bench, un nuovo benchmark e un sistema di verifica automatizzata (ConStory-Checker) progettati per valutare e analizzare le inconsistenze narrative nella generazione di storie lunghe da parte dei modelli linguistici, rivelando che tali errori sono più frequenti nei fatti e nella temporalità e tendono a manifestarsi nella parte centrale delle narrazioni.
Questo articolo presenta un metodo basato su ensemble di modelli LLM, valutati tramite le nuove metriche CPR e TWF, per eseguire in modo affidabile ed economico la pulizia e l'etichettatura semantica delle risoluzioni del Consiglio di Sicurezza delle Nazioni Unite.
Il paper presenta InfoGatherer, un framework che migliora la ricerca di informazioni in domini ad alto rischio come quello medico e legale, integrando documenti recuperati e domande strategiche all'utente attraverso una modellazione dell'incertezza basata sulla teoria di Dempster-Shafer per fornire decisioni più affidabili e interpretabili rispetto ai metodi esistenti.
Il paper presenta LongNAP, un modello che utilizza l'apprendimento in contesto e il reinforcement learning su un vasto dataset annotato di interazioni utente-computer per prevedere con successo le azioni successive degli utenti, superando significativamente le tecniche di supervisione tradizionali.
Questo studio dimostra che modellare il contesto linguistico dell'autore, affrontando la fallacia ecologica tramite tecniche come HuLM e HuFT, migliora significativamente le prestazioni di un modello Llama da 8 miliardi di parametri rispetto ai metodi di addestramento standard.
Questo lavoro propone un framework di riscrittura stilistica strutturata che, disaccoppiando il lessico, la sintassi e la pragmatica e utilizzando una distillazione del ragionamento esplicito per il condizionamento implicito, permette a piccoli modelli linguistici di generare personaggi altamente stilizzati con una coerenza superiore rispetto a modelli più grandi, pur operando in scenari con risorse limitate.
Il paper presenta modelli interpretabili che integrano tratti psicologici individuali e contesti situazionali, derivati da dati social media e teorie psicologiche, per prevedere il benessere mentale e identificare stati di sé adattivi o maladattivi, dimostrando che gli approcci basati sulla teoria offrono prestazioni competitive e maggiore trasparenza rispetto alle sole rappresentazioni vettoriali dei modelli linguistici.
Il paper presenta ProCap, un nuovo framework che rivoluziona la descrizione dei cambiamenti (change captioning) passando dal confronto statico di coppie di immagini alla modellazione dinamica delle procedure di trasformazione, utilizzando un encoder addestrato su fotogrammi chiave intermedi e query apprendibili per generare descrizioni testuali che spiegano non solo cosa è cambiato, ma anche come è avvenuto.
Il paper presenta Track-SQL, un framework che potenzia i modelli linguistici generativi per il Text-to-SQL multi-turno integrando moduli estrattivi duali per il tracciamento dinamico dello schema e del contesto, ottenendo risultati state-of-the-art sui dataset SparC e CoSQL.
Il paper presenta MASFactory, un framework centrato sui grafi per orchestrare sistemi multi-agente basati su LLM che introduce il "Vibe Graphing", un approccio interattivo che traduce intenti in linguaggio naturale in flussi di lavoro eseguibili, facilitando la riutilizzabilità, l'integrazione di contesti eterogenei e la visualizzazione del processo.
Il paper presenta ViewFusion, un framework a due stadi che migliora il ragionamento spaziale multi-vista separando l'allineamento spaziale pre-attento dalla risposta alla domanda, ottenendo risultati significativamente superiori rispetto ai modelli esistenti su benchmark specifici.
Questo studio valuta l'efficacia di quattro modelli linguistici di grandi dimensioni open-weight nel correggere automaticamente saggi in tedesco di livello A austriaci basandosi su rubriche, rivelando che, sebbene i modelli siano in grado di applicare i criteri di valutazione, la loro bassa concordanza con i valutatori umani (massimo 40,6% per le dimensioni e 32,8% per i voti finali) li rende attualmente inadatti all'uso in contesti di valutazione reali.
Questo studio dimostra che l'esposizione a testi specifici tramite pre-addestramento continuo modella la personalità dei modelli linguistici, rivelando un vantaggio nella risoluzione di problemi complessi per i modelli con tratti sociali ridotti e fornendo una roadmap per l'ingegneria delle personalità.
Il paper introduce DeepSight, il primo modello linguistico multimodale dedicato che migliora la comprensione tridimensionale delle scene sfruttando le mappe di profondità come input principale, supportato da un nuovo dataset e benchmark specifici per superare i limiti dei modelli esistenti nella percezione spaziale.
Questo paper propone una pipeline che integra modelli linguistici di grandi dimensioni e un ragionatore neuro-simbolico per trasformare gli entimemi in argomenti logici espliciti, generando le premesse implicite necessarie per verificarne la validità tramite risoluzione SAT.