💬 NLP

Graded Entity-Familiarity Readouts in Language Models: Polish Adaptation, Cross-Language Robustness, and Refusal Steering

Questo articolo dimostra che i modelli linguistici, in particolare quelli adattati per il polacco, possiedono letture interne graduate della familiarità delle entità che sono robuste rispetto alla lingua del prompt e possono essere efficacemente guidate per controllare i comportamenti di rifiuto, sebbene questi segnali pre-generativi rimangano distinti dalle politiche che governano le decisioni finali di astensione.

Autori originali: Grzegorz Brzezinka

Pubblicato 2026-07-16

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Grzegorz Brzezinka

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Il monologo interiore di un robot: quando sa di non sapere?

Immaginate di porre una domanda a un robot molto intelligente. A volte, il robot conosce la risposta e parla con sicurezza. Altre volte, potrebbe inventare una storia perché in realtà non conosce la verità, un errore che chiamiamo "allucinazione". Gli scienziati si sono spesso chiesti: il robot è in grado di distinguere tra "lo so questo" e "sto tirando a indovinare" prima ancora di iniziare a scrivere?

Per capire questo, dobbiamo guardare dentro il cervello del robot, che è composto da strati di connessioni matematiche chiamate "attivazioni". Pensate a queste attivazioni come ai segnali elettrici nel cervello umano quando vedete un volto. Se vedete un amico, il segnale è forte e specifico; se vedete uno sconosciuto, è più debole o sfocato. I ricercatori hanno scoperto che questi segnali elettrici contengono spesso un "misuratore di fiducia" nascosto. Se al robot viene chiesto qualcosa che ha visto molte volte nei suoi dati di addestramento, il segnale appare diverso rispetto a quando gli viene chiesto qualcosa di totalmente inventato. La grande domanda è: possiamo leggere questo misuratore per impedire al robot di mentire prima ancora che pronunci una singola parola?

Il detective polacco e il misuratore di "familiarità"

Questo articolo è come una storia di investigazione, ma invece di risolvere crimini, l'autore, Grzegorz Brzezinka, sta indagando su come dodici diversi modelli di IA "percepiscono" i nomi e i luoghi polacchi. L'obiettivo era vedere se questi modelli possiedono un "misuratore di familiarità" integrato che dice loro quanto conoscono un'entità, e se quel misuratore funziona anche quando la domanda viene posta in una lingua diversa.

L'allestimento: Una biblioteca di nomi polacchi
Per testare questo, l'autore ha costruito un set di test speciale di 1.440 entità polacche. Immaginate una biblioteca con quattro sezioni: atleti, città, scrittori e musicisti. In ogni sezione, ci sono persone e luoghi reali, che vanno dalle super-star famosissime (tra il top 10% delle pagine più visualizzate su Wikipedia) agli oscuri abitanti locali (il bottom 10%). Fondamentalmente, l'autore ha anche inventato 240 nomi falsi che sembravano e suonavano esattamente come veri nomi polacchi, ma che non esistevano. Questo era il gruppo di controllo: se il robot si confonde con un nome falso, è un bugiardo; se conosce la differenza, è onesto.

Risultato 1: Il misuratore è una manopola, non un interruttore
La prima grande scoperta è che la familiarità non è solo un interruttore (On/Off). È un dimmer (un regolatore di intensità). Lo studio ha scoperto che per i modelli specificamente adattati al polacco (come le famiglie Bielik e PLLuM), il "punteggio di familiarità" sale gradualmente man mano che l'entità diventa più popolare.

L'analogia: Immaginate una manopola del volume. Per un cantante super famoso, la manopola è girata al massimo. Per una band locale, è a metà. Per un nome inventato, è a zero.
La sorpresa: Questo effetto "dimmer" era molto più forte nei modelli adattati al polacco rispetto ai giganti a scopo generale (come Gemma-4 o Qwen3). Anche se i modelli generalisti erano più grandi (avevano più "parametri"), non avevano un misuratore di familiarità migliore. Si scopre che imparare specificamente il polacco era più importante per questa abilità rispetto al semplice rendere il modello più grande. I modelli adattati al polacco mostravano una chiara correlazione (tra 0,28 e 0,57) tra popolarità e la loro fiducia interna, mentre gli altri erano appena sopra lo zero.

Risultato 2: Il misuratore funziona attraverso le lingue
L'autore ha poi posto una domanda complicata: questo misuratore sta leggendo le parole polacche o l'entità reale? Per testare questo, ha preso una domanda su un famoso atleta polacco e l'ha posta in inglese ("Who is...?") invece che in polacco ("Kim jest...?").

Il risultato: Il misuratore è quasi rimasto immobile. I modelli hanno mantenuto dal 96% al 101% della loro accuratezza passando da una lingua all'altra. Ciò suggerisce che il robot non sta solo riconoscendo la grammatica polacca; sta effettivamente riconoscendo la persona all'interno della domanda, indipendentemente dalla lingua usata per chiedere informazioni su di essa.

Risultato 3: Possiamo hackerare il pulsante di "rifiuto"
Questa è la parte più drammatica della storia. Uno dei modelli, Gemma-4-12B, aveva l'abitudine di dire "non lo so" (rifiutare) quando non era sicuro. L'autore ha deciso di vedere se poteva controllare questo comportamento "guidando" il cervello del robot.

L'esperimento: Hanno scoperto una specifica direzione matematica nel cervello del modello che rappresentava la "familiarità". Aggiungendo una piccola spinta in quella direzione, potevano forzare il robot a cambiare idea.
La magia:
- Se hanno spinto il robot a sentirsi meno familiare con una persona famosa, il tasso di rifiuto è balzato dal 24% al 100%. Il robot ha improvvisamente deciso di non conoscere la risposta, anche se la conosceva.
- Se hanno spinto il robot a sentirsi più familiare con un nome falso, il tasso di rifiuto è sceso dal 73% allo 0%. Il robot ha iniziato con fiducia a inventare biografie per persone che non esistono.
La lezione: Questo prova che il segnale di familiarità non è solo un'osservazione passiva; è una leva causale. Se premete il pulsante della "familiarità", la decisione del robot di parlare o tacere cambia immediatamente.

Risultato 4: Il controllo "pre-volo"
Infine, l'articolo si è chiesto: possiamo usare questo misuratore per fermare il robot dal mentire prima che generi una risposta?

Il confronto: L'autore ha confrontato il loro misuratore "one-pass" (che controlla la domanda prima che la risposta venga scritta) con altri metodi che aspettano che la risposta sia finita per controllare gli errori.
Il verdetto: Il misuratore pre-volo è stato eccellente nel individuare i nomi falsi, superando quasi tutti gli altri metodi. Tuttavia, prevedere se una risposta sarebbe stata fattualmente errata è stato più difficile. Il misuratore funzionava bene per i modelli polacchi, ma per il modello che rifiutava di rispondere (Gemma-4), i risultati sono stati complicati perché l'abitudine del modello di dire "non lo so" ha sballato il conteggio degli errori.
Il quadro generale: Lo studio conclude che, sebbene il cervello del robot contenga un segnale di familiarità graduato, non tutti i robot lo usano per decidere se parlare. I modelli polacchi avevano il segnale ma non rifiutavano mai di rispondere. Il modello Gemma rifiutava, ma il suo segnale era meno preciso. L'articolo suggerisce che potremmo aver bisogno di costruire un "guardiano" esterno che legga questo segnale e decida per il robot se rispondere o cercare l'informazione, specialmente per domande oscure o di nicchia.

Perché questo è importante

Questa ricerca suggerisce che i modelli di IA hanno un "sentimento viscerale" nascosto su ciò che sanno, e noi possiamo leggerlo. Non si tratta solo di rendere i modelli più grandi; si tratta di come vengono addestrati. Se possiamo insegnare ai modelli a fidarsi di questo misuratore interno, o costruire strumenti che lo ascoltino, potremmo essere in grado di impedire loro di inventare con sicurezza cose su cui non hanno mai visto nulla. È un passo verso il rendere l'IA non solo più intelligente, ma più onesta riguardo ai propri limiti.

Sintesi Tecnica: Letture Graduate della Familiarità delle Entità nei Modelli Linguistici

Definizione del Problema

I modelli linguistici (LM) affrontano una sfida fondamentale quando interrogati su entità che non hanno incontrato: devono scegliere tra l'astensione o la confabulazione (allucinazione). Sebbene studi precedenti abbiano stabilito che gli stati interni contengono informazioni rilevanti per questa scelta, la maggior parte dei metodi di rilevamento opera post-generazione (valutando la risposta) o si basa su distinzioni binarie (conosciuto vs. fabbricato). Ciò lascia aperte questioni critiche sulla natura del segnale interno: è un bit binario o una quantità graduata? È robusto rispetto alla lingua del prompt? Il legame tra familiarità e rifiuto è causale o meramente correlazionale? Infine, può un segnale pre-generazione fungere da gate competitivo per regolare la generazione ed evitare le allucinazioni?

Metodologia

Gli autori propongono un protocollo di misurazione unificato applicato al "punto del prompt" — l'ultimo token della domanda di input, prima di qualsiasi generazione di risposta. Lo studio utilizza un nuovo dataset di 1.440 entità polacche spaziando su quattro domini (atleti, città, scrittori, musicisti) e dieci decili di popolarità (basati sulle visualizzazioni di pagina di Wikipedia), oltre a 240 entità di controllo fabbricate.

Design Sperimentale:

Modelli: Dodici modelli istruiti per l'istruzione appartenenti a quattro famiglie: Bielik (nativo polacco), PLLuM (pre-addestramento continuo su basi Llama-3.1 e Mistral-Nemo), Gemma-4 e Qwen3. Queste famiglie coprono un "asse di adattamento al polacco".
Segnali di Lettura (Readout): Tre classi di segnale misurate in un singolo passaggio in avanti (forward pass):
1. Dispersione: Metriche non supervisionate (rapporto di partecipazione inversa, entropia di Shannon) sui vettori di attivazione MLP.
2. Sonda (Probe): Un classificatore di regressione logistica supervisionata sugli stati latenti del residuo (residual-stream).
3. Entropia del primo token: Entropia basale del primo token generato.
Domande di Ricerca (RQ):
- RQ1 (Lingua): Il segnale si trasferisce dai prompt in polacco a quelli in inglese?
- RQ2 (Gradazione): Il punteggio segue la popolarità continua?
- RQ3 (Causalità): È possibile guidare (steering) causalmente il comportamento di rifiuto attraverso la direzione della familiarità?
- RQ4 (Applicazione): Il segnale può fungere da gate per la generazione (astenersi/recuperare) in modo competitivo rispetto ai detector post-generazione?

Contributi Chiave e Risultati

1. Familiarità Graduata e Adattamento al Polacco (RQ2)

Lo studio dimostizza che la familiarità è una quantità graduata, non un bit binario.

Gradazione: Nelle famiglie adattate al polacco (Bielik e PLLuM), i punteggi di familiarità correlano fortemente con la popolarità dell'entità (Spearman $\rho$ compreso tra 0,28 e 0,57). Al contrario, i modelli multilingue e non centrati sul polacco (Gemma-4 e Qwen3) mostrano una correlazione debole o trascurabile ( $\rho \le 0,11$ ), nonostante abbiano conteggi di parametri comparabili o superiori.
Adattamento vs. Scala: La capacità di tracciare la popolarità è più fortemente associata all'adattamento al polacco che alla scala del modello. Confronti controllati tra i modelli PLLuM e le loro architetture base non polacche (Llama-3.1 e Mistral-Nemo) mostrano che il pre-addestramento continuo su testo polacco aumenta significamente la gradazione del segnale di familiarità.
Specchio Comportamentale: Il gradiente interno rispecchia la correttezza comportamentale nei modelli nativi polacchi (la correttezza di Bielik-11B sale dal 6% al 68% attraverso i decili di popolarità), mentre i modelli non adattati (Qwen3-14B) confabulano in modo trasversale.

2. Robustezza Cross-Lingua (RQ1)

Il segnale di familiarità è robusto rispetto alla forma superficiale dello stem della domanda.

Trasferimento: Le sonde addestrate su domande in polacco mantengono il 96–101% dell'AUROC intra-lingua quando applicate zero-shot a domande in inglese riguardanti le stesse entità (e viceversa) per i modelli Bielik e Gemma-4.
Trasferimento di Entità Disgiunte: Quando testati su entità non incluse nel training (held-out), la famiglia adattata al polacco (Bielik) mantiene una performance di trasferimento del 98–100%, mentre il modello multilingue Gemma-4 degrada al 74–93%. Ciò suggerisce che il segnale sia legato alle caratteristiche di riconoscimento delle entità piuttosto che a peculiarità linguistiche specifiche del template.

3. Steering Causale del Rifiuto (RQ3)

Utilizzando Gemma-4-12B (l'unico modello nel set che rifiuta nativamente), gli autori dimostrano un legame causale tra il segnale di familiarità e il comportamento di rifiuto.

Intervento: Aggiungendo una direzione di familiarità di rango uno (derivata dalla differenza tra le attivazioni di entità note e ignote/fabbricate) allo stream residuo in uno specifico strato (Layer 30), gli autori possono guidare monotonicamente i tassi di rifiuto.
Risposta alla Dose:
- Spingere le entità note verso l' "infamiliarità" ( $\alpha < 0$ ) aumenta il rifiuto dallo 0,24 a 1,00.
- Spingere le entità ignote/fabbricate verso la "familiarità" ( $\alpha > 0$ ) sopprime il rifiuto dallo 0,73 allo 0,00, causando una confabulazione fluida.
Separazione: Una direzione di "rifiuto" separata esiste in uno strato successivo (Layer 44) che può sopprimere il rifiuto senza alterare il segnale di familiarità, indicando una dissociazione tra la rappresentazione della familiarità e la policy che la converte in astensione.

4. Gating Pre-Generazione (RQ4)

La sonda di familiarità calibrata funge da efficace gate pre-generazione.

Discriminazione: La sonda supera tutti i baseline adattati post-generazione (D2HScore, EigenTrack, MIND) e l'entropia semantica nel distinguere entità reali da quelle fabbricate (AUROC 0,859–0,934 contro baseline $\le 0,717$ ).
Efficienza dei Costi: Essendo un segnale a singolo passaggio in avanti, permette decisioni di routing (rispondi vs. recupera vs. astieniti) prima che venga incorso qualsiasi costo di generazione.
Limitazioni nella Predizione Comportamentale: Sebbene la sonda predica bene l'esistenza dell'entità, la sua capacità di predire l'errore comportamentale (allucinazione) dipende dal modello. Funziona bene sui modelli in cui il comportamento segue la conoscenza (Bielik, Qwen3), ma sembra invertirsi su Gemma-4 perché la sua policy di rifiuto (che la sonda non controlla) è confusa con la correttezza nella metrica di valutazione.

Significato e Rivendicazioni

Il documento sostiene di aver stabilito una lettura della familiarità delle entità graduata e pre-generazione che è robusta rispetto alla lingua del prompt e causalmente potente per guidare il rifiuto.

Rappresentazione vs. Policy: Una scoperta chiave è la dissociazione tra la familiarità rappresentazionale (presente in tutte le famiglie, ma graduata solo in quelle adattate al polacco) e la policy di astensione (presente solo in Gemma-4). I modelli adattati al polacco possiedono il segnale interno per sapere cosa non sanno, ma mancano della policy per agire; Gemma-4 possiede la policy ma un segnale meno graduato.
Implicazione di Deployment: Una sonda calibrata a singolo passaggio può fornire il "gate" mancante per i modelli che possiedono il segnale ma mancano della policy, indirizzando le query a coda lunga verso il recupero (retrieval) prima che inizi la generazione.
Ambito: Gli autori rimangono modesti, osservando che il legame causale tra il calcolo naturale al tempo del prompt e la decisione di rifiuto richiede ulteriori prove di tipo "mediazione", e che i risultati attuali dello steering sono specifici per un singolo modello e dominio. Lo studio non pretende di risolvere universalmente le allucinazioni, ma fornisce un meccanismo per rilevare e gestire la familiarità delle entità in contesti specifici.