On the Effect of Uncertainty on Layer-wise Inference Dynamics

Declaração do Problema
À medida que os Grandes Modelos de Linguagem (LLMs) se tornam mais capazes, compreender a sua consciência interna de incerteza é crítico para detetar alucinações e garantir a fiabilidade. Embora investigações anteriores tenham estabelecido que os modelos codificam a incerteza nos seus estados ocultos, permanece pouco explorado como essa incerteza influencia a dinâmica da inferência — especificamente, se os modelos processam previsões incertas de forma diferente das certezas através das suas camadas. A questão central é se os modelos adaptam a sua trajetória de inferência (por exemplo, utilizando mais camadas ou alterando padrões de crescimento de confiança) quando confrontados com incerteza epistémica (falta de conhecimento), o que poderia fornecer um mecanismo para a deteção de incerteza em tempo de inferência.

Metodologia
Os autores investigam isto analisando a dinâmica de inferência camada a camada utilizando o Tuned Lens, uma variante do Logit Lens que decodifica estados ocultos intermédios em distribuições de logits do vocabulário. O estudo foca-se na incerteza epistémica, operacionalizada como previsões incorretas em questões de escolha múltipla (MCQs) onde a resposta correta está presente nas opções.

A configuração experimental envolve:

• Modelos: Cinco LLMs (Llama-3-8B, Llama-3-8B-Instruct, Vicuna-13B, Mistral-7B-Instruct-v0.1 e Mistral-Nemo-Instruct-2407).
• Datasets: 11 conjuntos de dados diversos de MCQ (incluindo ANLI, ARC, BoolQ, CommonsenseQA, HellaSwag, LogiQA, MMLU, QASC, QuAIL, RACE e SciQ).
• Métricas:
  1. Trajetórias de Probabilidade: A evolução das probabilidades dos tokens através das camadas para a previsão de ranking mais alto versus previsões de ranking inferior, agregadas separadamente para respostas corretas e incorretas.
  2. Profundidade de Previsão (PD): A camada específica na qual o modelo se "compromete" com uma resposta (definida como a camada onde a previsão principal diverge da camada anterior e permanece estável a partir daí).
  3. Análise de Correlação: Correlações de Pearson entre a incorreção da resposta e a PD, e a relação entre a proficiência da tarefa (medida pelo Kappa de Cohen) e a diferença na PD entre outputs corretos e incorretos.

Resultados Principais

1. Dinâmicas de Inferência Alinhadas: As trajetórias de probabilidade para previsões corretas e incorretas são surpreendentemente alinhadas. Ambas exibem aumentos abruptos de confiança em camadas semelhantes, e os modelos parecem decidir as suas saídas finais em camadas específicas, independentemente de a saída ser, em última análise, correta ou incerta. Não há uma divergência definitiva nas trajetórias que sugira dinâmicas de inferência distintas para casos de incerteza.
2. Consistência da Profundidade de Previsão: A distribuição das profundidades de previsão é semelhante para respostas corretas e incorretas em todos os modelos e datasets. Os modelos comprometem-se com as suas previsões finais nas mesmas camadas, independentemente da incerteza.
3. Correlação Fraca com a Incorreção: Embora 97% das correlações de Pearson entre a incorreção da resposta e a PD sejam positivas, a magnitude é geralmente fraca (80% das correlações estão abaixo de 0,300). Isto sugere uma ligeira tendência para que as respostas incorretas sejam comprometidas em camadas mais tardias, mas o efeito é mínimo.
4. Emergência de Adaptabilidade em Modelos Competentes: Uma descoberta matizada revela uma correlação linear positiva entre a proficiência da tarefa de um modelo (pontuação Kappa) e a diferença na profundidade de previsão entre respostas corretas e incorretas. Especificamente, o Llama-3-8B e o Mistral-7B-Instruct mostram correlações positivas estatisticamente significativas ($p < 0,05$), sugerindo que, à medida que a competência do modelo aumenta, o grau em que a dinâmica de inferência se adapta à incerteza também pode aumentar.

Principais Contribuições

• Evidência Empírica sobre Dinâmicas: O artigo fornece extensa evidência empírica de que, contrariamente à hipótese de que os modelos poderiam processar inputs incertos de forma mais profunda ou diferente, os LLMs padrão exibem dinâmicas de inferência largamente uniformes, independentemente da incerteza epistémica.
• Desafio à Deteção Simplista: As descobertas desafiam a viabilidade de utilizar métodos simplistas de camada a camada (como a saída antecipada baseada em confiança ou compromisso de camada) para a deteção de incerteza, uma vez que o processo de decisão interna não diverge visivelmente para outputs incertos.
• Adaptação Dependente da Competência: O estudo introduz a observação de que dinâmicas de inferência adaptativas podem ser uma propriedade emergente de uma maior competência do modelo, ligando a proficiência da tarefa à sensibilidade da profundidade de inferência à incência.

Significado e Alegações
Os autores alegam que o seu trabalho demonstra como os métodos de interpretabilidade podem ser usados para investigar a relação entre incerteza e inferência. O significado primário reside no resultado negativo: a falta de dinâmicas de inferência distintas para outputs incertos implica que a deteção de incerteza em tempo de inferência requer abordagens de interpretabilidade mais complexas e matizadas, em vez de depender de métricas simples de trajetória ou profundidade. Além disso, o artigo postula que, embora os modelos atuais ignorem largamente a incerteza no seu processamento camada a camada, modelos mais competentes podem começar a exibir comportamentos adaptativos, sugerindo um potencial caminho para investigação futura sobre escalonamento de modelos e gestão de incerteza. Os autores concluem que testes adicionais em modelos mais competentes e análises rigorosas que considerem níveis variados de incerteza e alucinações sobre conhecimento conhecido são necessários para validar estas descobertas exploratórias.