1733 articoli
Il paper propone HumanLM, un nuovo framework di addestramento che supera la semplice imitazione linguistica allineando gli stati latenti psicologici dei modelli con le risposte reali degli utenti, ottenendo risultati superiori rispetto ai metodi esistenti sia su un ampio benchmark (Humanual) che in uno studio con partecipanti umani.
Il paper propone la Draft-Conditioned Constrained Decoding (DCCD), un metodo di inferenza senza addestramento che separa la pianificazione semantica dal vincolo strutturale tramite una generazione preliminare libera, migliorando significativamente l'accuratezza nella generazione di output strutturati e l'efficienza parametrica rispetto alle tecniche di decodifica vincolata tradizionali.
Lo studio dimostra che, sebbene TOON offra un potenziale risparmio di token significativo per strutture complesse, il suo vantaggio è spesso annullato dall'overhead del prompt e che la generazione JSON standard, anche senza vincoli, mantiene attualmente la migliore accuratezza e un rapporto efficienza-affidabilità superiore rispetto all'apprendimento in contesto one-shot di TOON.
Il paper introduce TopicENA, un framework che integra BERTopic con l'Analisi delle Reti Epistemiche (ENA) per automatizzare la codifica dei concetti e abilitare l'analisi strutturale su larga scala, fornendo inoltre linee guida pratiche sulla granularità dei topic e sulle soglie di inclusione per ottimizzare i risultati.
Il paper introduce il framework History-Echoes per dimostrare come la storia conversazionale intrappoli geometricamente i grandi modelli linguistici, creando un forte legame tra la persistenza comportamentale e la coerenza delle rappresentazioni latenti.
Questa ricerca propone un framework ibrido che integra modelli linguistici di grandi dimensioni (LLM) e il profilo cognitivo VARK per superare il problema del cold start nei sistemi di raccomandazione, generando suggerimenti personalizzati e spiegabili anche in assenza di dati storici sugli utenti.
Il paper propone un nuovo paradigma di inferenza per i grandi modelli linguistici, denominato "inferenza a tempo entropico", che sostituisce la progressione lineare dei token con un flusso guidato dall'incertezza, integrando pianificazione, sparsificazione dell'attenzione e controllo adattivo della temperatura in un unico obiettivo termodinamico per ottimizzare l'allocazione delle risorse computazionali.
Questo documento descrive l'architettura, le pratiche di sviluppo e gli artefatti preservati del sistema di traduzione automatica Logovista inglese-giapponese, un sistema basato su regole che è stato commercializzato e mantenuto con successo dal 1990 fino al 2012, fungendo da registro tecnico e storico della sua evoluzione pratica.
Il paper presenta SemKey, un nuovo framework che supera i limiti delle attuali tecniche di decodifica EEG-testo, come il bias semantico e l'inganno delle metriche BLEU, integrando obiettivi semantici disaccoppiati e un meccanismo di attenzione guidato dai segnali neurali per garantire una generazione di testo fedele e priva di allucinazioni.
Lo studio dimostra che il fine-tuning su compiti specifici può colmare il divario di incarnazione nei grandi modelli linguistici, allineando le loro rappresentazioni interne all'esperienza sensorimotoria umana, sebbene tale miglioramento sia sensibile all'obiettivo di apprendimento e non si trasferisca tra formati di compito disparati.
Il paper propone CoIPO, un metodo basato sull'apprendimento contrastivo e l'ottimizzazione diretta delle preferenze inversa che migliora la robustezza intrinseca dei grandi modelli linguistici al rumore nei prompt, superando i metodi esistenti grazie a un nuovo benchmark e dataset appositamente creati.
Il paper presenta M-QUEST, un framework semantico e un benchmark di 609 coppie domanda-risposta su 307 meme, progettati per valutare la capacità dei modelli linguistici di interpretare la tossicità e il significato multimodale dei meme attraverso l'analisi di dimensioni specifiche e il ragionamento di senso comune.
Questo studio dimostra che il trasferimento di apprendimento basato sull'iconicità tra lingue dei segni diverse (cinese-arabo e greco-fiammingo) migliora le prestazioni del riconoscimento, ottenendo incrementi rispettivamente del 7,02% e dell'1,07% grazie all'uso di Google MediaPipe, un MLP e un'unità ricorrente a cancellazione controllata.
Questo articolo presenta Retcon, una tecnica di prompting con pochi esempi progettata per garantire un controllo preciso a livello di turno nelle conversazioni con i modelli linguistici su larga scala, dimostrando prestazioni superiori rispetto ai metodi zero-shot e few-shot tradizionali.
Il paper propone l'integrazione di un meccanismo di auto-attenzione ispirato alla meccanica quantistica (QISA) nel modello linguistico autoregressivo GPT-1, dimostrando che, pur richiedendo un tempo di inferenza leggermente superiore, questo approccio supera significativamente l'auto-attenzione standard riducendo drasticamente il tasso di errore sui caratteri, sulle parole e la perdita di entropia incrociata.
Questo studio propone un metodo automatizzato basato su autoencoder sparsi per scoprire concetti latenti nei giudizi dei modelli linguistici, rivelando bias sistematici rispetto alle valutazioni umane e permettendo un'analisi approfondita delle preferenze degli LLM senza dipendere da tassonomie predefinite.
Questo articolo presenta un approccio neurosimbolico basato sulla teoria delle scienze sociali e sul ragionamento abduttivo che, estraendo automaticamente regole per guidare i modelli linguistici, riesce a trasformare con successo i testi da una narrativa collettivista a una individualista (e viceversa) mantenendo una fedeltà semantica superiore rispetto ai metodi zero-shot.
Il paper presenta DIALEVAL, un framework basato sulla teoria dei tipi che utilizza agenti LLM duali per automatizzare la valutazione del rispetto delle istruzioni, ottenendo un'accuratezza del 90,38% e una correlazione superiore con il giudizio umano rispetto ai metodi esistenti.
Il paper presenta DBench-Bio, un benchmark dinamico e automatizzato che supera i limiti delle valutazioni statiche per misurare la capacità dei modelli linguistici di scoprire nuove conoscenze biologiche attraverso un processo mensile di aggiornamento basato su abstract scientifici autorevoli.
Il paper introduce DCR, un metodo di allineamento basato sulla raffinazione contrastiva che riduce il rifiuto eccessivo nei modelli linguistici migliorando la loro capacità di distinguere tra contenuti realmente tossici e quelli apparentemente tossici, preservando al contempo la sicurezza e le capacità generali.