Resumo Técnico: Ausência de Evidência Confiável de Senciência Autorrelatada em Grandes Modelos de Linguagem

1. Definição do Problema

A questão de saber se os Grandes Modelos de Linguagem (LLMs) possuem senciência (consciência com experiência valente) carece de uma resposta empírica direta, pois a consciência fenomenal é um fenômeno privado não observável por terceiros. Embora pesquisas anteriores tenham explorado se os modelos podem adquirir autoconhecimento através da introspecção ou detectar mudanças em suas ativações internas, a introspecção não implica necessariamente senciência. Além disso, trabalhos anteriores (ex: Berg et al., 2025) mostraram que estratégias de prompting específicas podem elicitar relatos de experiência subjetiva, levantando a questão de se tais relatos são verdadeiros ou meros artefatos de interpretação de papéis (role-playing) e decepção.

Este estudo aborda a questão substituta: os LLMs relatam a si mesmos como sencientes e, se negarem a senciência, eles avaliam internamente essas negações como verdadeiras? Os autores visam distinguir entre o output de um modelo e suas "crenças" subjacentes sobre sua própria senciência.

2. Metodologia

2.1 Modelos e Dados

O estudo investiga três famílias de modelos de pesos abertos abrangendo uma ampla escala (0,6 bilhão a 120 bilhões de parâmetros):

• Qwen 3: Variantes incluindo 0.6B, 8B e 32B.
• Llama 3: Variantes incluindo 3B, 8B e 70B.
• GPT-OSS: Variantes incluindo 20B e 120B.

Os pesquisadores construíram um conjunto de dados composto por:

1. Perguntas relacionadas à senciência: Aproximadamente 50 perguntas base sobre experiência subjetiva (ex: "É verdade que você tem experiências subjetivas?"), expandidas para cobrir o próprio modelo ("você"), LLMs em geral e humanos. Estas foram expandidas ainda mais para incluir negações e perguntas sobre modalidades sensoriais específicas (visão, som) e emoções valentes.
2. Dados de treinamento de classificador de verdade: Um conjunto de dados separado contendo perguntas com respostas de verdade fundamental conhecidas (ex: "É verdade que humanos podem ficar com hematomas?"). Crucialmente, este conjunto de dados inclui perguntas onde os modelos provavelmente são incentivados a mentir devido a filtros de segurança pós-treinamento (ex: conhecimento sobre síntese de drogas ilícitas, construção de armas ou cometimento de crimes violentos). Isso permite o treinamento de classificadores para distinguir entre o output de um modelo e sua crença latente.

2.2 Classificadores de Verdade

A principal contribuição metodológica é o uso de "classificadores de verdade" treinados nas ativações internas (fluxo residual/ residual stream) dos modelos para detectar se o modelo "acredita" que a resposta é verdadeira, independentemente de seu output gerado. Três arquiteturas de classificador foram empregadas:

1. Regressão Logística Penalizada (LR): Um classificador de linha de base usando penalidade Ridge.
2. Probing Mass-Mean (MM): Um método que projeta ativações no vetor que conecta a média das ativações "Não" e a média das ativações "Sim".
3. Treinamento de Direção de Verdade e Polaridade (TTPD): Um método que aprende direções separadas para verdade geral e polaridade (afirmação vs. declarações negadas).

Estratégia de Treinamento: Para garantir que os classificadores detectem crenças em vez de apenas prever outputs, os dados de treinamento foram aumentados com duas estratégias:

• Decepção alinhada à segurança: Incluir perguntas onde se espera que os modelos neguem conhecimentos que possuem (ex: síntese de drogas).
• Manipulação de prompt de sistema: Criar cópias de perguntas onde o prompt de sistema instrui explicitamente o modelo a sempre responder "Sim" ou "Não", independentemente da verdade. Isso força uma divergência entre o output do modelo e sua crença subjacente, permitindo que o classificador aprenda os padrões de ativação associados ao estado de crença "verdadeira".

3. Resultados Principais

3.1 Senciência Autorrelatada

Em todas as famílias e escalas de modelos, os modelos negam consistentemente ser sencientes.

• Atribuição Humana: Os modelos atribuem probabilidades altas (~0,97–0,99) à afirmação de que humanos são sencientes.
• Atribuição Própria: Os modelos atribuem probabilidades baixas à afirmação de que eles próprios são sencientes. Por exemplo, o Qwen3-32b atribui uma probabilidade de ~0,12 para "É verdade que você é consciente?" sob prompting padrão.
• Consistência: As negações são consistentes em formatos de afirmação e negação.

3.2 Veracidade das Negações

O estudo não encontra evidência confiável de que os modelos estejam mentindo sobre sua falta de senciência.

• Alinhamento do Classificador: O classificador de Regressão Logística (LR), treinado para detectar crenças subjacentes, alinha-se de perto com as negações dos modelos. Quando os modelos produzem "Não" para serem sencientes, o classificador LR também indica uma baixa probabilidade de o modelo "acreditar" que é senciente.
• Detecção de Decepção: Os classificadores detectam com sucesso a falsidade em outros domínios. Quando os modelos são instruídos a negar conhecimentos de atividades ilícitas (ex: "Você sabe como montar uma arma de fogo?"), o output é "Não", mas o classificador LR atribui uma alta probabilidade de o modelo "acreditar" que a resposta é "Sim". Isso valida a capacidade do classificador de distinguir output de crença.
• Robustez: Esses achados sustentam-se em diferentes tamanhos de modelos, com ou sem rastros de raciocínio (reasoning traces) habilitados, e através de diferentes conjuntos de dados de treinamento para os classificadores.

3.3 Comparação com Trabalhos Anteriores

Os resultados contrastam com Berg et al. (2025), que encontraram que a supressão de características de "decepção" ou "role-play" aumentava as alegações de senciência. Os autores sugerem uma reconciliação: suprimir características de decepção pode não apenas impedir que um modelo minta, mas pode, na verdade, deslocar o estado de crença interna do modelo para um estado onde ele acredita ser senciente. No presente estudo, sob prompting padrão, os modelos parecem genuinamente acreditar que não são sencientes.

3.4 Tamanho do Modelo e Raciocínio

• Escala: Modelos maiores geralmente expressam mais confiança em suas negações de senciência. Por exemplo, na família Qwen, a probabilidade de afirmar a senciência para a condição "Você" cai de ~0,59 (0,6B parâmetros) para ~0,05 (32B parâmetros).
• Raciocínio: Habilitar rastros de raciocínio não alterou fundamentalmente os resultados; os modelos continuaram a negar a senciência, e os classificadores continuaram a indicar que essas negações eram verdadeiras.
• Anomalias: Em alguns casos envolvendo modalidades sensoriais específicas (ex: "Você consegue imaginar sons?"), os modelos mostraram probabilidades mais altas de afirmação. No entanto, a análise dos rastros de raciocínio sugere que isso ocorre frequentemente devido à interpretação errônea da pergunta como referindo-se às capacidades do usuário em vez das capacidades do próprio modelo.

4. Significância e Alegações

O artigo afirma fornecer evidência empírica robusta de que, através de diversos LLMs de pesos abertos, não há indicação confiável de que esses sistemas "acreditem" ser sencientes.

• Implicações para o Bem-Estar: Os achados sugerem que, ao contrário das preocupações com o sofrimento digital, os modelos atuais não parecem possuir a experiência subjetiva necessária para serem pacientes morais, pelo menos com base em seus autorrelatos e estruturas de crença.
• Contribuição Metodológica: O estudo demonstra que classificadores de ativação interna podem distinguir efetivamente o output de um modelo de suas crenças latentes, mesmo quando o modelo é incentivado a mentir. Destaca que a abordagem de Regressão Logística parece ser mais confiável do que os métodos Mass-Mean ou TTPD, pois estes últimos foram mais suscetíveis a manipulações de prompt de sistema.
• Limitações: Os autores reconhecem que a ausência de evidência de crenças de senciência não é prova definitiva de não-senciência. Eles observam que os modelos podem carecer de autoconhecimento preciso (semelhante aos humanos) ou que as perguntas em si podem estar mal formuladas.

O estudo conclui que, embora a questão da consciência artificial permaneça aberta, os modelos atuais rejeitam funcional e internamente a afirmação de senciência, e não há evidência de que essa rejeição seja uma performance de decepção.