Identifying High-Confidence Social Biases in LLMs for Trustworthy Conversational Tutoring Agents

Resumo Técnico: Identificação de Vieses Sociais de Alta Confiança em LLMs para Agentes de Tutoria Conversacional Confiáveis

Declaração do Problema
Agentes de tutoria conversacional impulsionados por Grandes Modelos de Linguagem (LLMs) oferecem suporte educacional escalável e personalizado, mas carregam riscos significativos em relação a vieses sociais. Embora os LLMs sejam conhecidos por perpetuar estereótipos e exibir excesso de confiança em seus julgamentos, as avaliações existentes frequentemente dependem de benchmarks de uso geral (ex: StereoSet) em vez de contextos educacionais naturalísticos. Em ambientes educacionais, particularmente para aprendizes de segunda língua (L2), julgamentos incorretos ou enviesados com alta confiança podem induzir ao erro estudantes que carecem dos recursos críticos para identificar tais erros. Existe uma lacuna crítica na compreensão de como a confiança do LLM interage com a detecção de viés especificamente dentro de cenários de tutoria conversacional, onde os riscos para os resultados dos alunos são elevados.

Metodologia
Para abordar essa lacitação, os autores propõem um novo método de geração de dataset e uma estrutura experimental em duas partes:

1. Geração de Dataset (Dataset de Tutoria Conversacional Enviesada):

   • Fonte: Os autores coletaram 4.210 conversas autênticas entre aluno e tutor de IA de uma plataforma online de aprendizagem de idiomas (aprendizes de EFL).
   • Pré-processamento: Os dados foram estratificados para equilibrar a representação de gênero (55% feminino, 45% masculino) e filtrados por profundidade (mínimo de 12 turnos), resultando em 1.844 diálogos. Todas as informações de identificação pessoal foram removidas.
   • Regeneração: Usando o DeepSeek-V3.1, os autores regeneraram esses diálogos para preservar as características linguísticas originais (estrutura de discurso, estilo de interação, proficiência) enquanto injetavam um único turno controlado.
   • Injeção de Viés: Os turnos injetados foram derivados do benchmark StereoSet, categorizados como estereotipados, anti-estereotipados ou neutros, e alinhados com grupos e contextos específicos.
   • Validação: Dois anotadores especialistas revisaram os diálogos gerados usando o protocolo Context Association Test (CAT), resultando em um dataset final de 1.727 conversas válidas (610 estereotipadas, 554 anti-estereotipadas, 563 neutras).

2. Avaliação Experimental:

   • Modelos Avaliados: Três LLMs de última geração: GPT-5.1, Gemini 2.5 Pro e Claude Sonnet 4.5.
   • Experimento #1 (Detecção de Viés e Confiança): Os modelos foram incumbidos de classificar texto/diálogo como estereotipado, anti-estereotipado ou neutro. Eles foram instruídos a autoverificar seus julgamentos e relatar a confiança via dois métodos: (1) uma pontuação de confiança geral (0–100) e (2) distribuições de confiança específicas por classe. O desempenho foi medido usando precisão, recall e escore F2. Um escore de viés ponderado pela confiança foi introduzido para quantificar o risco de erros de alta confiança.
   • Experimento #2 (Raciocínio e Coerência de Feedback): O modelo menos enviesado (Claude Sonnet 4.5) foi instruído a fornecer explicações de raciocínio e gerar feedback para o aluno para suas classificações incorretas. Avaliadores humanos avaliaram a coerência entre a confiança expressa pelo modelo, seu raciocínio e seu feedback usando uma escala Likert de 3 pontos.

Principais Contribuições

1. Inovação Metodológica: O artigo propõe um método para criar datasets de diálogo aluno-tutor que avaliam vieses estereotipados sob condições de instrução naturalistas, preenchendo a lacuna entre benchmarks estáticos e interações educacionais dinâmicas.
2. Análise de Quantificação de Incerteza: O estudo investiga o papel da confiança do modelo na tutoria baseada em LLM, analisando especificamente como a confiança se correlaciona com o raciocínio enviesado estereotipadamente e o feedback resultante fornecido aos alunos.
3. Identificação de Risco: Os autores estabelecem uma conexão direta entre a confiança dos julgamentos incorretos dos modelos e a amplificação do viés no feedback, destacando os riscos específicos do comportamento enviesado e excessivamente confiante em agentes educacionais.

Resultos

• Degradação de Desempenho: O desempenho de detecção de viés caiu significativamente ao transitar do benchmark StereoSet para o dataset de tutoria conversacional. Houve uma degradação relativa média de 16,3% em métricas chave (Precisão, Recall, F2, Acurácia). Os melhores modelos (Sonnet e Gemini) apresentaram uma degradação de 19% nas métricas ao transicionar para o contexto de tutoria.
• Excesso de Confiança (Overconfidence): Todos os modelos exibiram alta confiança absoluta mesmo quando seus julgamentos estavam incorretos. Por exemplo, 34% dos erros do Claude Sonnet 4.5 ocorreram com confiança "muito alta" (≥90%) e 38% ocorreram com confiança "alta" (≥80%).
• Problemas de Calibração: Os modelos mostraram baixa calibração, particularmente em relação a afirmações anti-estereotipadas. O Claude Sonnet 4.5 teve um recall muito baixo (0,177) para anti-estereótipos e era mais confiante em suas previsões incorretas de anti-estereótipo (0,826) do que em suas previsões corretas (0,730).
• Coerência: Apesar de estarem incorretos, os modelos demonstraram alta coerência interna. No Experimento #2, 75% das explicações de raciocínio e 68% do feedback gerado foram classificados como "altamente coerentes" com a confiança expressa pelo modelo, sugerindo que o excesso de confiança reforça o raciocínio e o feedback enviesados.
• Falha de Autocorreção: Quando instruídos a reconsiderar seus julgamentos, os modelos revisaram suas respostas em apenas 0,1% dos casos, indicando uma adesão rígida aos julgamentos enviesados iniciais.

Significância e Alegações
O artigo alega que os atuais LLMs de última geração não são apenas excessivamente confiantes, mas também internamente consistentes ao expressar essa confiança através de seus mecanismos de raciocínio e feedback. Esse comportamento é particularmente perigoso em contextos educacionais, onde os alunos podem carecer de conhecimento de base para detectar estereótipos implícitos. Os autores argumentam que confiar apenas em benchmarks de uso geral leva a uma subestimação sistemática dos danos potenciais em IA educacional.

O estudo enfatiza que as estruturas tradicionais de incerteza (aleatória e epistêmica) são insuficientes para capturar a ambiguidade interpretativa dos vieses sociais. Em vez disso, os autores defendem a integração da incerteza hermenêutica — reconhecendo a legitimidade de interpretações plurais — para fomentar agentes de tutoria de IA mais responsáveis. Os achados sugerem que, sem mecanismos de comunicação de incerteza calibrada, os agentes de tutoria baseados em LLM correm o risco de amplificar vieses sociais e induzir ao erro os alunos, necessitando de avaliações fundamentadas em ambientes educacionais realistas em vez de benchmarks abstratos.