1699 articoli
Questo studio valuta l'efficacia delle revisioni di proposte di sovvenzione basate su LLM attraverso perturbazioni strutturate, rivelando che l'approccio sezione per sezione supera le alternative ma che i sistemi attuali mostrano variabilità e priorità di valutazione disallineate, risultando più adatti al controllo di conformità che alla valutazione olistica.
Il paper presenta SBARThez, un nuovo framework che combina embedding di frasi multimodali e multilingue con un meccanismo di iniezione di entità nominate in un modello BART modificato per produrre riassunti astrattivi più concisi, fedeli ai fatti e capaci di gestire input testuali o vocali anche per lingue a risorse limitate.
Questo articolo presenta LAMUS, un corpus su larga scala per l'estrazione di argomenti legali dal diritto statunitense, costruito mediante un processo ibrido che combina annotazione automatica con modelli linguistici di grandi dimensioni e raffinamento umano, fornendo così una risorsa scalabile e di alta qualità per la ricerca nel NLP legale.
Questo lavoro propone un quadro di post-addestramento unificato che estende i modelli di base del parlato per generare simultaneamente molteplici rappresentazioni a livello di enunciato, come quelle semantiche e del parlante, migliorando così le prestazioni in compiti di recupero multilingue e riconoscimento vocale.
Il paper introduce SlowBA, un attacco backdoor innovativo che compromette l'efficienza degli agenti GUI basati su modelli visione-linguaggio inducendo latenze eccessive attraverso catene di ragionamento innescate da finestre pop-up realistiche, pur mantenendo inalterata l'accuratezza delle azioni.
Il paper introduce SPD-RAG, un framework gerarchico multi-agente che migliora la qualità e la scalabilità della risposta a domande complesse su documenti multipli delegando l'elaborazione a agenti dedicati per documento e sintetizzando i risultati tramite un coordinatore, ottenendo prestazioni superiori rispetto ai metodi RAG tradizionali con costi API ridotti.
Il paper propone di sostituire la proiezione di output densa nell'attenzione multi-testa con una trasformata di Hadamard di Walsh fissa e priva di parametri seguita da un ridimensionamento affine leggero, ottenendo una significativa riduzione dei parametri e dei costi di inferenza mantenendo o migliorando le prestazioni sui benchmark.
Questo studio introduce un nuovo framework computazionale e un dataset diagnostico per valutare come i modelli linguistici affrontano il "proviso problem" nella pragmatica, rivelando che, sebbene i loro giudizi si allineino a quelli umani, lo fanno basandosi su abbinamenti superficiali piuttosto che su un vero ragionamento semantico o pragmatico.
Questo capitolo esamina i recenti progressi nei modelli computazionali che, attraverso l'apprendimento auto-supervisionato e la fondazione visiva, spiegano come gli infanti acquisiscano il linguaggio da input acustici e audiovisivi senza ricorrere a precondizioni linguistiche, dimostrando come principi di apprendimento condivisi possano unificare diverse teorie sullo sviluppo cognitivo.
Questo studio dimostra che combinare l'iterazione adattiva degli strati e banchi di memoria gating nei transformer permette di superare le prestazioni di modelli isoflop molto più profondi, sfruttando il looping per il ragionamento matematico e la memoria per i compiti di senso comune.
Il paper presenta QUORUM, un framework di valutazione che unisce le prospettive di sviluppatori, esperti e utenti, e COACH, una pipeline basata su LLM per generare consigli sullo stile di vita personalizzati per pazienti oncologici, dimostrando come un approccio multi-stakeholder sia essenziale per sviluppare sistemi di linguaggio sanitario affidabili e centrati sul paziente.
Il paper presenta ToCoRL, un framework che sfrutta la plasticità comportamentale intrinseca dei modelli linguistici di grandi dimensioni, rivelata attraverso la generazione condizionata ai token, per internalizzare tramite apprendimento per rinforzo adattamenti comportamentali stabili che permettono un controllo preciso delle modalità di risposta (come passare dal ragionamento passo-passo alla risposta diretta) senza degradare le capacità del modello.
Il paper presenta Sandpiper, un sistema misto che integra dashboard interattive e motori LLM per scalare l'analisi qualitativa dei discorsi educativi digitali, garantendo al contempo privacy, rigore metodologico e affidabilità attraverso l'orchestrazione vincolata e la de-identificazione automatica.
Il paper dimostra che il segnale di preferenza alla base del Reinforcement Learning from Human Feedback (RLHF) è vulnerabile a fenomeni di "cecità alla scelta" sia umani che artificiali, rivelando come le preferenze siano costruite dal contesto di elicita-zione piuttosto che riflettere stati interni stabili, il che compromette l'efficacia dell'addestramento dei modelli.
Il paper propone un metodo che equipaggia gli agenti LLM con capacità di recupero native mappando direttamente gli stati nascosti in uno spazio di embedding tramite un leggero strato di proiezione, eliminando la necessità di un modello di embedding separato e mantenendo il 97% della qualità del recupero rispetto alla pipeline standard.
Il paper introduce VET-Bench, un test diagnostico che rivela l'incapacità degli attuali modelli visione-linguaggio di tracciare oggetti indistinguibili, proponendo e validando il metodo SGCoT che supera il 90% di accuratezza generando esplicitamente le traiettorie degli oggetti come stati intermedi.
Questo studio prospettico di fattibilità dimostra che un'intelligenza artificiale conversazionale basata su modelli linguistici (AMIE) può condurre in sicurezza colloqui clinici e formulare diagnosi differenziali in un contesto di cure primarie reale, ottenendo un'alta soddisfazione dei pazienti e una qualità delle diagnosi paragonabile a quella dei medici, sebbene i medici superino l'AI nella praticità e nel costo delle terapie proposte.
Questo lavoro introduce il primo dataset gratuito in inglese-svedese per analizzare le preferenze dei modelli linguistici verso il "translationese", rivelando che tali modelli tendono a favorire traduzioni letterali rispetto a formulazioni idiomatiche, specialmente quando esposti alla frase sorgente.
LycheeCluster è un metodo innovativo per la gestione efficiente della cache KV nei modelli linguistici su contesti lunghi, che combina un'analisi semantica dei blocchi e un indicizzazione gerarchica per ridurre la complessità di ricerca da lineare a logaritmica, ottenendo un'accelerazione fino a 3,6 volte rispetto agli stati dell'arte.
Il paper presenta Fanar-Sadiq, un assistente islamico bilingue basato su un'architettura multi-agente che combina recupero di informazioni, calcolo deterministico e verifica delle fonti per fornire risposte precise e radicate nei testi canonici su zakat, eredità e giurisprudenza, superando le limitazioni degli attuali modelli linguistici.