💬 NLP

Graded Entity-Familiarity Readouts in Language Models: Polish Adaptation, Cross-Language Robustness, and Refusal Steering

Este artigo demonstra que os modelos de linguagem, particularmente aqueles adaptados para o polonês, possuem leituras internas graduadas de familiaridade de entidades que são robustas ao idioma do prompt e podem ser efetivamente direcionadas para controlar comportamentos de recusa, embora esses sinais de pré-geração permaneçam distintos das políticas que regem as decisões finais de abstenção.

Autores originais: Grzegorz Brzezinka

Publicado 2026-07-16

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Grzegorz Brzezinka

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Monólogo Interior de um Robô: Quando é que ele sabe que não sabe?

Imagine que está a fazer uma pergunta a um robô muito inteligente. Às vezes, o robô sabe a resposta e fala com confiança. Outras vezes, pode inventar uma história porque, na verdade, não sabe a verdade, um erro que chamamos de "alucinação". Os cientistas há muito que se perguntam: Será que o robô consegue distinguir entre "eu sei isto" e "estou a adivinhar" antes mesmo de começar a escrever?

Para entender isto, precisamos de olhar para dentro do cérebro do robô, que é feito de camadas de conexões matemáticas chamadas "ativações". Pense nestas ativações como os sinais elétricos no cérebro humano quando vê um rosto. Se vê um amigo, o sinal é forte e específico; se vê um estranho, é mais fraco ou difuso. Os investigadores descobriram que estes sinais elétricos contêm frequentemente um "medidor de confiança" oculto. Se o robô for questionado sobre algo que viu muitas vezes nos seus dados de treino, o sinal parece diferente do que se for questionado sobre algo totalmente inventado. A grande questão é: podemos ler este medidor para impedir o robô de mentir antes de ele dizer uma única palavra?

O Detetive Polaco e o Medidor de "Familiaridade"

Este artigo é como uma história de detetive, mas em vez de resolver crimes, o autor, Grzegorz Brzezinka, está a investigar como doze modelos de IA diferentes "sentem" em relação a nomes e lugares polacos. O objetivo era ver se estes modelos têm um "medidor de familiaridade" integrado que lhes diz o quão bem conhecem uma entidade, e se esse medidor funciona mesmo quando a pergunta é feita num idioma diferente.

A Configuração: Uma Biblioteca de Nomes Polacos
Para testar isto, o autor construiu um conjunto de testes especial com 1.440 entidades polacas. Imagine uma biblioteca com quatro secções: atletas, cidades, escritores e músicos. Em cada secção, existem pessoas e lugares reais, que vão desde estrelas super-famosas (o top 10% das páginas mais visualizadas na Wikipédia) até locais obscuros (os 10% inferiores). Crucialmente, o autor também inventou 240 nomes falsos que pareciam e soavam exatamente como nomes polacos reais, mas que não existiam. Este era o grupo de controlo: se o robô se confundir com um nome falso, é um mentiroso; se souber a diferença, é honesto.

Descoberta 1: O Medidor é um Dimmer, não um Interruptor
A primeira grande descoberta é que a familiaridade não é apenas um interruptor (Ligar/Desligar). É um interruptor de intensidade (dimmer). O estudo descobriu que, para modelos especificamente adaptados ao polaco (como as famílias Bielik e PLLuM), a "pontuação de familiaridade" aumenta suavemente à medida que a entidade se torna mais popular.

A Analogia: Imagine um botão de volume. Para um cantor super-famoso, o botão está rodado ao máximo. Para uma banda local, está no meio. Para um nome inventado, está no zero.
A Surpresa: Este efeito de "dimmer" era muito mais forte nos modelos adaptados ao polaco do que nos modelos gigantes de uso geral (como o Gemma-4 ou Qwen3). Embora os modelos gerais fossem maiores (tinham mais "parâmetros"), não tinham um medidor de familiaridade melhor. Acontece que aprender especificamente o polaco foi mais importante para esta competência do que simplesmente tornar o modelo maior. Os modelos adaptados ao polaco mostraram uma correlação clara (entre 0,28 e 0,57) entre a popularidade e a sua confiança interna, enquanto os outros estavam quase em zero.

Descoberta 2: O Medidor Funciona Através de Idiomas
O autor fez então uma pergunta capciosa: este medidor está a ler as palavras polacas ou a entidade real? Para testar isto, pegou numa pergunta sobre um atleta polaco famoso e fez-na em inglês ("Who is...?") em vez de polaco ("Kim jest...?").

O Resultado: O medidor mal se mexeu. Os modelos mantiveram de 96% a 101% da sua precisão ao mudar de idioma. Isto sugere que o robô não está apenas a reconhecer a gramática polaca; está realmente a reconhecer a pessoa dentro da pergunta, independentemente do idioma usado para perguntar sobre ela.

Descoberta 3: Podemos Hackear o Botão de "Recusa"
Esta é a parte mais dramática da história. Um dos modelos, o Gemma-4-12B, tinha o hábito de dizer "não sei" (recusar) quando não tinha a certeza. O autor decidiu ver se conseguia controlar este comportamento através do "direcionamento" do céreão do robô.

O Experimento: Descobriram uma direção matemática específica no cérebro do modelo que representava a "familiaridade". Ao adicionar um pequeno empurrão nesta direção, podiam forçar o robô a mudar de ideia.
A Magia:
- Se dessem um empurrão para o robô se sentir menos familiar com uma pessoa famosa, a taxa de recusa saltou de 24% para 100%. O robô decidiu subitamente que não sabia a resposta, embora a soubesse.
- Se dessem um empurrão para o robô se sentir mais familiar com um nome falso, a taxa de recusa caiu de 73% para 0%. O robô começou a criar biografias de forma confiante para pessoas que nem existiam.
A Lição: Isto prova que o sinal de familiaridade não é apenas uma observação passiva; é uma alavanca causal. Se empurrar o botão da "familiaridade", a decisão do robô de falar ou ficar calado muda imediatamente.

Descoberta 4: O Check-up "Pré-Voo"
Finalmente, o artigo perguntou: podemos usar este medidor para impedir o robô de mentir antes de ele gerar uma resposta?

A Comparação: O autor comparou o seu medidor de "passagem única" (que verifica a pergunta antes de a resposta ser escrita) contra outros métodos que esperam até que a resposta termine para verificar erros.
O Veredito: O medidor de pré-voo foi excelente a detetar nomes falsos, superando quase todos os outros métodos. No entanto, prever se uma resposta seria factualmente errada foi mais difícil. O medidor funcionou bem para os modelos polacos, mas para o modelo que recusava responder (Gemma-4), os resultados foram complicados porque o próprio hábito do modelo de dizer "não sei" atrapalhou a contagem de erros.
O Quadro Geral: O estudo conclui que, embora o cérebro do robô contenha um sinal de familiaridade graduado, nem todos os robôs o utilizam para decidir se devem falar. Os modelos polacos tinham o sinal, mas nunca recusavam responder. O modelo Gemma recusava, mas o seu sinal era menos preciso. O artigo sugere que poderemos precisar de construir um "porteiro" externo que leia este sinal e decida pelo robô se deve responder ou procurar a informação, especialmente para questões obscuras de "cauda longa".

Por Que é Que Isto Importa

Esta investigação sugere que os modelos de IA têm um "sentimento intuitivo" sobre o que sabem, e nós podemos lê-lo. Não se trata apenas de tornar os modelos maiores; trata-se de como são treinados. Se conseguirmos ensinar os modelos a confiar neste medidor interno, ou construir ferramentas que o escutem, poderemos ser capazes de impedir que eles inventem coisas com confiança sobre coisas que nunca viram. É um passo para tornar a IA não apenas mais inteligente, mas mais honesta sobre os seus próprios limites.

Resumo Técnico: Leituras de Familiaridade de Entidades Graduadas em Modelos de Linguagem

Declaração do Problema

Modelos de linguagem (LMs) enfrentam um desafio fundamental quando questionados sobre entidades que não encontraram: eles devem escolher entre abster-se ou confabular (alucinar). Embora trabalhos anteriores tenham estabelecido que os estados internos contêm informações relevantes para essa escolha, a maioria dos métodos de detecção opera pós-geração (pontuando a resposta) ou depende de distinções binárias (conhecido vs. fabricado). Isso deixa questões críticas abertas sobre a natureza do sinal interno: É um bit binário ou uma quantidade graduada? É robusto à linguagem do prompt? O vínculo entre familiaridade e recusa é causal ou meramente correlacional? Finalmente, um sinal pré-geração pode controlar competitivamente a geração para evitar alucinações?

Metodologia

Os autores propõem um protocolo de medição unificado aplicado no "ponto do prompt" — o último token da pergunta de entrada, antes de qualquer geração de resposta ocorrer. O estudo utiliza um novo conjunto de dados de 1.440 entidades polonesas abrangendo quatro domínios (atletas, cidades, escritores, músicos) e dez decis de popularidade (baseados em visualizações de páginas da Wikipedia), além de 240 entidades de controle fabricadas.

Design Experimental:

Modelos: Doze modelos ajustados por instrução de quatro famílias: Bielik (nativo polonês), PLLuM (pré-treinamento contínuo polonês baseado em Llama-3.1 e Mistral-Nemo), Gemma-4 e Qwen3. Estas famílias abrangem um "eixo de adaptação polonesa".
Sinais de Leitura (Readout): Três classes de sinais são medidas em uma única passagem direta (forward pass):
1. Dispersão: Métricas não supervisionadas (razão de participação inversa, entropia de Shannon) nos vetores de ativação MLP.
2. Sonda (Probe): Um classificador de regressão logística supervisionado nos estados ocultos do fluxo residual.
3. Entropia do Primeiro Token: Entropia basal do primeiro token gerado.
Questões de Pesquisa (RQs):
- RQ1 (Linguagem): O sinal se transfere de prompts em polonês para inglês?
- RQ2 (Graduação): O escore rastreia a popularidade contínua?
- RQ3 (Causalidade): É possível direcionar (steer) causalmente o comportamento de recusa através da direção de familiaridade?
- RQ4 (Aplicação): O sinal pode controlar a geração (abster/recuperar) competitivamente com detectores pós-geração?

Principais Contribuições e Resultados

1. Familiaridade Graduada e Adaptação Polonesa (RQ2)

O estudo demonstra que a familiaridade é uma quantidade graduada, não um bit binário.

Graduação: Em famílias adaptadas ao polonês (Bielik e PLLuM), os escores de familiaridade correlacionam-se fortemente com a popularidade da entidade (Spearman $\rho$ variando de 0,28 a 0,57). Em contraste, modelos multilingues e não centrados no polonês (Gemma-4 e Qwen3) mostram correlação fraca ou negligenciável ( $\rho \le 0,11$ ), apesar de possuírem contagens de parâmetros comparáveis ou maiores.
Adaptação vs. Escala: A capacidade de rastrear a popularidade está mais fortemente associada à adaptação polonesa do que à escala do modelo. Comparações controladas dos modelos PLLuM contra suas arquiteturas base não polonesas (Llama-3.1 e Mistral-Nemo) mostram que o pré-treinamento contínuo em texto polonês aumenta significativamente a graduação do sinal de familiaridade.
Espelho Comportamental: O gradiente interno reflete a correção comportamental nos modelos nativos poloneses (a correção do Bielik-11B sobe de 6% para 68% através dos decis de popularidade), enquanto modelos não adaptados (Qwen3-14B) confabulam de forma generalizada.

2. Robustez Translinguística (RQ1)

O sinal de familiaridade é robusto à forma de superfície do enunciado da questão.

Transferência: Sondas treinadas em perguntas em polonês retêm 96–101% de seu AUROC dentro da própria língua quando aplicadas zero-shot a perguntas em inglês sobre as mesmas entidades (e vice-versa) para os modelos Bielik e Gemma-4.
Transferência de Entidade Disjunta: Quando testado em entidades não utilizadas no treinamento (held-out), a família adaptada ao polonês (Bielik) mantém 98–100% de desempenho de transferência, enquanto o Gemma-4 multilingue degrada para 74–93%. Isso sugere que o sinal está ligado a características de reconhecimento de entidades e não a peculiaridades linguísticas específicas de templates.

3. Direcionamento Causal da Recusa (RQ3)

Usando o Gemma-4-12B (o único modelo no conjunto que recusa nativamente), os autores demonstram um elo causal entre o sinal de familiaridade e o comportamento de recusa.

Intervenção: Ao adicionar uma direção de familiaridade de rank-um (derivada da diferença entre as ativações de entidades conhecidas e desconhecidas/fabricadas) ao fluxo residual em uma camada específica (Camada 30), os autores conseguem direcionar monotonicamente as taxas de recusa.
Resposta à Dose:
- Empurrar entidades conhecidas para o estado "desconhecido" ( $\alpha < 0$ ) aumenta a recusa de 0,24 para 1,00.
- Empurrar entidades desconhecidas/fabricadas para o estado "familiar" ( $\alpha > 0$ ) suprime a recusa de 0,73 para 0,00, fazendo o modelo confabular fluentemente.
Separação: Uma "direção de recusa" separada existe em uma camada posterior (Camada 44) que pode suprimir a recusa sem alterar o sinal de familiaridade, indicando uma dissociação entre a representação da familiaridade e a política que a converte em abstenção.

4. Controle de Pré-Geração (RQ4)

A sonda de familiaridade calibrada serve como um controle (gate) eficaz de pré-geração.

Discriminação: A sonda supera todas as bases de comparação pós-geração adaptadas (D2HScore, EigenTrack, MIND) e a entropia semântica na distinção entre entidades reais e fabricadas (AUROC 0,859–0,934 vs. bases $\le 0,717$ ).
Eficiência de Custo: Como um sinal de uma única passagem direta (one-forward-pass), ela permite decisões de roteamento (responder vs. recuperar vs. abster-se) antes que qualquer custo de geração seja incorrido.
Limitações na Predição Comportamental: Embora a sonda preveja bem a existência da entidade, sua capacidade de prever o erro comportamental (alucinação) depende do modelo. Ela performa bem em modelos onde o comportamento acompanha o conhecimento (Bielik, Qwen3), mas parece inverter no Gemma-4, pois a política de recusa desse modelo (que a sonda não controla) é confundida com a correção na métrica de avaliação.

Significância e Alegações

O artigo afirma estabelecer uma leitura de familiaridade de entidade graduada e pré-geração que é robusta à linguagem do prompt e causalmente potente para direcionar a recusa.

Representação vs. Política: Uma descoberta fundamental é a dissociação entre a familiaridade representacional (que existe em todas as famílias, mas é graduada apenas nas adaptadas ao polonês) e a política de abstenção (que está presente apenas no Gemma-4). Os modelos adaptados ao polonês possuem o sinal interno para saber o que não sabem, mas carecem da política para agir sobre isso; o Gemma-4 possui a política, mas um sinal menos graduado.
Implicação de Implementação: Uma sonda calibrada de passagem única pode fornecer o "controle" (gate) que falta para modelos que possuem o sinal, mas carecem da política, roteando consultas de cauda longa para recuperação antes que a geração comece.
Escopo: Os autores mantêm a modéstia, observando que o elo causal entre o cálculo natural no tempo do prompt e a decisão de recusa requer evidências adicionais de mediação, e que os resultados atuais de direcionamento são específicos para um modelo e domínio. O estudo não afirma resolver a alucinação universalmente, mas fornece um mecanismo para detectar e controlar a familiaridade de entidades em contextos específicos.