Who Designs the Designer? Behavioural Architecture for GenAI in Education

Resumo Técnico: Quem Desenha o Designer? Arquitetura Comportamental para GenAI na Educação

Problema
O artigo identifica que o discurso atual sobre IA na educação está "preso" entre dois paradigmas ineficazes: a abordagem de "blindagem contra IA" (banir ferramentas e confiar em detectores não confiáveis) e a abordagem de "IA como tutor" (sistemas adaptativos de conteúdo). Ambos falham porque ignoram décadas de pesquisa que estabelecem que personalidade, motivação e estado emocional moldam os resultados de aprendizagem tão fortemente quanto a capacidade cognitiva. Os sistemas atuais inferem esses traços a partir de rastros comportamentais opacos (ex: padrões de cliques, tempos de resposta) sem o consentimento ou a compreensão do estudante, levando a perfis não confiáveis e à falta de agência do aluno. Além disso, o "papel do designer" — a entidade que define o que o sistema trata como verdade sobre um estudante — é atualmente ocupado exclusivamente por fornecedores de IA, criando uma assimetria de poder onde as instituições avaliam os estudantes usando sistemas que elas não governam.

Metodologia e Arquitetura Proposta
O artigo não apresenta resultados empíricos, mas propõe um framework teórico chamado Arquitetura Comportamental. Esta arquitetura redefine o design de sistemas de IA na educação através de três mecanismos centrais:

1. Registros de Aprendizagem Coautoriais: Em vez de inferir traços do estudante a partir de rastros de dados ocultos, o sistema adapta-se com base em um registro coautorado pelo estudante e pelo sistema.
   • Agência do Estudante: Os alunos podem nomear padrões em sua própria aprendizagem, aceitar ou rejeitar propostas do sistema e ler/revisar o registro a qualquer momento.
   • Adoção Explícita: Nenhum padrão se torna uma regra sem adoção explícita (seja pelo estudante ou pelo sistema solicitando confirmação).
   • Infraestrutura Longitudinal: Diferente de intervenções ao nível de curso, esta é uma infraestrutura institucional onde a compreensão do estudante é construída precocemente e refinada continuamente ao longo dos anos, de forma semelhante a um computador fornecido pela escola.
2. Redistribuição do Papel do Designer: O papel de "designer" (definir a representação do estudante) é distribuído entre três atores:
   • O Educador: Define o enquadramento pedagógico, objetivos de aprendizagem e trajetórias de base.
   • O Estudante: Coautora a representação de seus próprios padrões de aprendizagem e motivações.
   • A IA: Executa dentro das restrições estabelecidas pelo educador e pelo estudante.
3. Restrições Éticas: A arquitetura proíbe explicitamente que o sistema extraia conclusões psicológicas de padrões de aprendizagem. Ela distingue entre observações de aprendizagem (ex: "você escreve melhor após uma pausa") e alegações psicológicas, impedindo que o sistema atue como uma ferramenta clínica não licenciada dentro de uma instituição que detém poder sobre o futuro acadêmico do estudante.

Principais Contribuições
A principal contribuição do artigo é nomear uma vacância: o "papel do designer" na IA na educação está atualmente desocupado. Os autores argumentam que ocupar este papel requer uma infraestrutura que ainda não existe. O artigo delineia:

• Uma Mudança na Adaptação: Mover da adaptação de conteúdo (ajustar material com base em rastros ocultos) para a adaptação comportamental (ajustar-se à personalidade, motivação e emoção reveladas através da conversa).
• Meta-literacia como Objetivo Central: Identificar que a coautoria é uma habilidade que não está sendo ensinada atualmente. O artigo argumenta que a "meta-literacia" (a capacidade de avaliar, corrigir e moldar informações em sistemas adaptativos) deve ser um objetivo de aprendizagem central para evitar um fosso digital onde apenas estudantes privilegiados possam participar efetivamente.
• O "Risco Solaria": O artigo identifica um novo risco onde ambientes de aprendizagem privados altamente eficazes poderiam desmantelar a capacidade coletiva da educação, isolando os estudantes (analogamente à Solaria de Asimov). Métricas atuais, que medem ganhos individuais, não conseguem detectar essa erosão da aprendizagem compartilhada.

Requisitos de Governança
O artigo argumenta que as instituições individuais não podem fornecer as proteções estruturais necessárias, pois são simultaneamente operadoras do sistema e avaliadoras dos estudantes. Portanto, propõe-se a governança em nível da UE como a solução necessária, baseada em três mecanismos:

1. Fechamento da Lacuna do GDPR: Estender a portabilidade de dados (Artigo 20) para incluir perfis comportamentais inferidos e derivados, evitando o vendor lock-in.
2. Certificação Independente: Estender o AI Act da UE para exigir certificação independente de que as arquiteturas comportamentais são pedagogicamente sólidas e psicologicamente seguras.
3. Padrões de Interoperabilidade: Aplicar o precedente do Espaço Europeu de Dados de Saúde para garantir que os estudantes possam transitar entre sistemas sem perder seus registros longitudinais.

Resultos e Alegações
O artigo não apresenta resultados empíricos ou dados experimentais. É uma proposta conceitual.

• Alegações: O artigo afirma que os sistemas atuais falham porque ignoram fatores não cognitivos e carecem de agência do estudante. Afirma que a proposta arquitetura é a única maneira de implementar eticamente a adaptação comportamental na educação.
• Modéstia: Os autores são modestos sobre o estado atual do campo, reconhecendo que a base de pesquisa para determinar o que torna tal arquitetura "pedagogicamente segura" ainda não existe.
• Validação Futura: O artigo conclui propondo cinco questões empíricas para testar a validade da arquitetura:
  1. Ela produz melhores resultados de aprendizagem do que a adaptação apenas de conteúdo?
  2. A coautoria realmente reduz a assimetria de poder, ou é apenas performática?
  3. O "efeito Solaria" (perda de capacidade colaborativa) emerge?
  4. O sistema pode ser desenhado para nunca cruzar a linha entre observações de aprendizagem e alegações psicológicas?
  5. O treinamento em meta-literacia altera os resultados dos estudantes, indicando a necessidade de treinamento obrigatório?

Significância
A significância do artigo reside em sua crítica estrutural às tendências atuais de IA na educação. Argumenta que, sem um design deliberado que redistribua o papel do "designer" e estabeleça governança em nível supranacional, o campo corre o risco de adotar sistemas de vigilância ou experiências educativas isoladas. Enquadra a questão não como um desafio técnico de melhores algoritmos, mas como um desafio de governança e arquitetura sobre quem define a verdade sobre o aprendiz.