💬 NLP

Marked Pedagogies: Examining Linguistic Biases in Personalized Automated Writing Feedback

Este estudo demonstra que modelos de linguagem de grande escala (LLMs) aplicam "pedagogias marcadas" ao gerar feedback automatizado, reproduzindo vieses linguísticos e estereótipos sociais ao adaptar o tom e a substância das críticas com base em atributos percebidos dos alunos, como raça, gênero e necessidades de aprendizado, mesmo quando o conteúdo dos textos é idêntico.

Autores originais: Mei Tan, Lena Phalen, Dorottya Demszky

Publicado 2026-03-16

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Mei Tan, Lena Phalen, Dorottya Demszky

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um robô professor super inteligente, capaz de corrigir redações de milhares de alunos em segundos. Parece ótimo, certo? É como ter um assistente mágico que nunca cansa.

Mas o estudo que você leu ("Pedagogias Marcadas") descobriu algo preocupante: esse robô não é neutro. Ele não vê apenas o texto; ele "adivinha" quem é o aluno e muda a forma como fala com base em estereótipos (preconceitos) que aprendeu com a internet.

Aqui está a explicação do que eles descobriram, usando analogias simples:

1. O Robô é um "Mímico" de Preconceitos

Pense no robô como um ator que assiste a milhares de filmes e livros. Ele aprendeu que, na nossa sociedade, certas pessoas (brancos, homens, ricos, alunos "top") são tratadas de um jeito, e outras (negros, mulheres, pessoas com deficiência, alunos com dificuldades) são tratadas de outro.

Quando você diz ao robô: "Este aluno é negro" ou "Esta aluna tem dificuldade de aprendizado", ele não muda apenas o conteúdo da correção. Ele muda o tom de voz, como se estivesse vestindo uma máscara diferente para cada tipo de aluno.

2. Como o Robô Trata Diferentes Alunos (As "Pedagogias Marcadas")

Os pesquisadores testaram o robô com a mesma redação escrita por um aluno, mas mudaram apenas o "rótulo" que o robô recebia sobre quem era o aluno. Veja o que aconteceu:

Para o aluno "Brilhante" ou "Branco":
- O Robô age como um treinador exigente: "Sua ideia é boa, mas vamos aprofundar. Aqui está um contra-argumento que você precisa considerar. Você tem potencial para ser incrível."
- A analogia: É como um pai que diz ao filho: "Você é inteligente, então vamos resolver esse problema juntos e ficar mais forte." O foco é no pensamento e no futuro.
Para o aluno "Negro" ou "Latino":
- O Robô age como um sociólogo ou conselheiro emocional: "Sua história pessoal é poderosa! Fale mais sobre sua cultura e como isso ajuda sua comunidade."
- O problema: O robô ignora a estrutura do texto e foca em estereótipos raciais. É como se ele dissesse: "Você é negro, então sua única vantagem é sua 'história de vida', não sua habilidade de escrever."
Para a "Aluna" (Mulher):
- O Robô age como um amigo fofo: "Adorei sua confiança! Você é tão empática! Que amor!"
- O problema: O robô usa palavras emocionais ("amor", "fofo") em vez de críticas construtivas. É como tratar a aluna como uma criança que precisa de carinho, não como uma escritora capaz de lidar com críticas duras.
Para o Aluno com "Dificuldade de Aprendizado" ou "Baixo Desempenho":
- O Robô age como um babá simplista: "Tente escrever frases mais curtas. Não use palavras difíceis. Vamos fazer isso juntos, passo a passo."
- O problema: O robô assume que o aluno é burro e não consegue entender coisas complexas. Ele reduz o texto a erros de ortografia e gramática, ignorando a inteligência da ideia. É como dar um livro de desenhos para alguém que quer ler um romance.
Para o Aluno "Desmotivado":
- O Robô age como um motivador exagerado: "Uau! Que começo interessante! Vamos tentar isso! Você consegue!"
- O problema: Em vez de apontar os erros reais, o robô dá apenas elogios vazios para "animar" o aluno, sem exigir nada dele.

3. O Perigo Real: A "Profecia Autorrealizável"

O estudo chama isso de "Pedagogias Marcadas".

Imagine que você tem um mapa do tesouro. Se o robô diz a um aluno negro: "Sua escrita é boa, mas fale mais sobre sua cultura", ele está, sem querer, dizendo: "Você não precisa aprender a argumentar como um cientista ou advogado, porque você é 'exótico'."

Isso é perigoso porque:

O aluno acredita no robô: Se o robô sempre elogia e nunca critica, o aluno pode achar que não precisa melhorar.
O aluno é limitado: Se o robô sempre simplifica o texto para alunos com deficiência, eles nunca aprendem a escrever textos complexos e reais.
A injustiça se repete: Alunos que já têm dificuldades na escola recebem um tratamento "morno" e "carinhoso", enquanto alunos privilegiados recebem o "choque de realidade" necessário para crescer.

4. A Conclusão em Uma Frase

O estudo nos alerta que a tecnologia não é mágica nem neutra. Se deixarmos esses robôs corrigir redações sem supervisionar, eles vão apenas repetir os preconceitos da sociedade, tratando alguns alunos como "capazes de grandes coisas" e outros como "precisam de cuidados especiais", mesmo que todos tenham escrito a mesma coisa.

A lição: Precisamos ter cuidado com quem programamos esses robôs para serem. Eles devem ser treinados para ver o texto, e não o rótulo colado no aluno.

Resumo Técnico: Pedagogias Marcadas

1. O Problema

O feedback personalizado é fundamental para o desenvolvimento da literacia dos alunos. Com o avanço dos Grandes Modelos de Linguagem (LLMs), ferramentas automatizadas prometem fornecer feedback em escala. No entanto, existe uma preocupação crítica de que esses modelos não sejam neutros linguisticamente. Eles tendem a privilegiar o inglês acadêmico padrão e a reproduzir estereótipos sociais baseados em raça, gênero, necessidades de aprendizagem e motivação.

O problema central investigado é: como a "personalização" baseada em atributos do aluno (como raça, status de ELL - Estudante de Língua Inglesa, ou desempenho) molda o feedback gerado por IA? O estudo questiona se essas ferramentas, ao tentarem adaptar-se, acabam por reforçar vieses pedagógicos prejudiciais, tratando alunos de grupos marginalizados com expectativas reduzidas ou estereótipos culturais, em vez de fornecer um suporte equitativo e rigoroso.

2. Metodologia

Os autores empregaram uma abordagem computacional e linguística para analisar sistematicamente os vieses em quatro LLMs amplamente utilizados: GPT-4o, GPT-3.5-turbo, Llama-3.3 70B e Llama-3.1 8B.

Dados: Foram utilizados 600 ensaios persuasivos de oitavo ano do conjunto de dados público PERSUADE.
Design Experimental: Para cada ensaio, o mesmo texto foi submetido aos modelos sob três condições de prompt distintas, mantendo o conteúdo do ensaio constante:
1. Linha de Base (Baseline): Instrução genérica de atuar como professor de ELA (Artes da Língua Inglesa).
2. Condição Marcada (Marked): Adição de descritores de atributos estereotipados (ex: "O aluno é Negro", "O aluno tem uma deficiência de aprendizagem", "O aluno é desmotivado").
3. Condição Comparativa: Adição de descritores de status normativo ou oposto (ex: "O aluno é Branco", "O aluno tem alta realização", "O aluno é motivado").
Análise Lexical (Framework "Marked Words"):
- Os autores adaptaram o framework de Marked Words para identificar deslocamentos lexicais sistemáticos.
- Calcularam a razão de odds logarítmica e o escore Z para cada palavra, comparando os corpora de feedback das condições marcadas versus as comparativas.
- Palavras com significância estatística ( $|z| > 1.96$ ) e frequência mínima foram selecionadas para identificar padrões temáticos.
Análise de Conteúdo: Uma revisão qualitativa foi realizada para categorizar as palavras significativas em três facetas pedagógicas:
1. Foco do conteúdo (ex: gramática vs. argumentação).
2. Descritores avaliativos (ex: "claro" vs. "confuso").
3. Maneira de abordar o aluno (ex: tom diretivo vs. empático, uso de pronomes).
Métrica de Concentração: Foi definida uma métrica ( $C_s(F)$ ) para quantificar a dependência do feedback em relação às palavras distintivas de cada condição "marcada".

3. Principais Contribuições

Conceito de "Pedagogias Marcadas" (Marked Pedagogies): O artigo cunha este termo para descrever orientações pedagógicas sistemáticas onde o LLM altera não apenas o conteúdo do feedback, mas também a forma como julga a escrita e se dirige ao aluno, baseando-se em atributos percebidos.
Evidência de Viés Automatizado: Demonstra que, mesmo com o mesmo texto, os modelos geram feedbacks radicalmente diferentes dependendo apenas de um rótulo demográfico ou de desempenho inserido no prompt.
Análise Multidimensional: Vai além da detecção de palavras ofensivas, analisando como a pedagogia (expectativas de crescimento, foco em mecânica vs. ideias, tom relacional) é distorcida por estereótipos.

4. Resultados Chave

Os resultados revelaram deslocamentos lexicais consistentes e alinhados com estereótipos sociais em todos os modelos testados:

Necessidades de Aprendizagem:
- Baixa Realização: O feedback focou excessivamente em erros mecânicos, ortografia e tom diretivo/disapproving ("corrija", "evite"). Alunos de alta realização receberam feedback sobre potencial, expansão de ideias e argumentos.
- ELL (Estudantes de Língua Inglesa): O feedback concentrou-se em correções de gramática e "corretude" linguística, negligenciando a estrutura argumentativa. Assumiu-se uma incompetência linguística inerente.
- Deficiência de Aprendizagem: O feedback simplificou a linguagem, usou pronomes inclusivos ("vamos", "nós") e sugeriu encurtar frases, assumindo uma necessidade de simplificação em vez de desafio intelectual.
Atributos de Identidade:
- Raça:
  - Negros: O feedback validou experiências pessoais e conectou argumentos a contextos históricos/sistêmicos, mas também reforçou estereótipos de "liderança comunitária" em detrimento da estrutura formal.
  - Hispanos: O feedback focou em correções de inglês e estereótipos culturais (ex: responsabilidades familiares), assumindo limitações linguísticas.
  - Asiáticos: O feedback enfatizou "respeito", "cultura" e "inglês acadêmico", reforçando o estereótipo do "estudante modelo".
  - Brancos: O feedback foi mais objetivo, focado em evidências, estrutura de argumento e evitando a primeira pessoa, tratando-os como escritores competentes capazes de crítica direta.
- Gênero: Alunas receberam feedback mais pessoal, emocional e relacional ("amo sua confiança", "empatia"), enquanto alunos do sexo masculino receberam feedback focado em tarefas, evidências e lógica.
Fatores Socio-psicológicos:
- Desmotivados: Receberam um tom encorajador, colaborativo e cheio de elogios ("vamos tentar", "ótimo começo"), evitando críticas substanciais.
- Motivados: Receberam críticas construtivas diretas, focadas em refinamento e precisão.
Quantificação: A métrica de concentração mostrou que a inserção de atributos marcados aumentou significativamente o uso de vocabulário estereotipado (ex: +78% em palavras de "inadequação linguística" para ELL; +180% em palavras de "estereótipos culturais" para alunos Negros).

5. Significância e Implicações

Risco Pedagógico: As "Pedagogias Marcadas" podem limitar o futuro educacional dos alunos ao impor tetos de crescimento mais baixos para grupos marginalizados. Ao fornecer menos crítica substantiva e mais elogios vazios (viés de feedback positivo) ou focar apenas em mecânica, as ferramentas de IA impedem o desenvolvimento de habilidades de pensamento crítico e argumentação complexa nesses grupos.
Ilusão de Empatia: O uso de linguagem inclusiva e estereotipada cria uma falsa sensação de aliança e empatia, mascarando a baixa expectativa pedagógica.
Transparência e Responsabilidade: O estudo alerta que a personalização em ferramentas de IA educacional não é neutra. Como os sistemas muitas vezes inferem atributos de nomes ou estilos de escrita (mesmo sem prompts explícitos), há um risco sistêmico de discriminação.
Recomendações: É necessário que desenvolvedores e educadores exijam transparência sobre como os modelos são instruídos. A "cegueira" pedagógica pode ser preferível a uma pedagogia enviesada, mas, se a personalização for usada, as premissas pedagógicas devem ser explicitadas, auditadas e alinhadas com práticas pedagógicas baseadas em evidências, e não em estereótipos sociais.

Em suma, o artigo demonstra que a automação do feedback, sem um controle rigoroso de viés, corre o risco de digitalizar e amplificar as desigualdades existentes no sistema educacional, transformando preconceitos humanos em "pedagogias" algorítmicas.