Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

Imagine um mundo onde as regras para como tratamos uns aos outros são escritas por um único grupo de pessoas, usando apenas sua própria história e linguagem, e depois aplicadas a todos os outros. Esta é a realidade atual da inteligência artificial nas escolas. À medida que os computadores se tornam mais inteligentes, eles são cada vez mais usados para corrigir testes, recomendar lições e até decidir quem entra em uma universidade. Mas as diretrizes éticas destinadas a manter esses sistemas justos são criadas, em sua maioria, em nações ricas e ocidentais. Essas diretrizes assumem que todos pensam, falam e aprendem da mesma maneira. Quando essas regras são aplicadas a estudantes na África, Ásia ou América Latina, elas frequentemente falham. Elas podem não entender o sotaque de um aluno, ignorar valores culturais locais ou simplesmente não funcionar porque a conexão de internet é muito lenta. O resultado é um sistema que afirma ser justo, mas que, na verdade, empurra certos grupos ainda mais para a margem.

Este desequilíbrio desencadeou uma nova questão entre pesquisadores: quem decide o que é certo? Uma equipe de estudiosos da Indonésia partiu para responder a isso, analisando como a ética da IA é realmente usada em salas de aula ao redor do mundo. Eles não apenas leram as regras; eles examinaram os 84 estudos publicados que discutem as pessoas que escreveram as diretrizes, os alunos que elas afetam e os lugares onde são usadas. O objetivo deles era encontrar uma maneira de fazer a ética da IA funcionar para todos, não apenas para os poucos que detêm o poder de escrever as diretrizes. Eles chamam essa abordagem de "glocal", uma mistura de global e local, sugerindo que boas regras devem ser feitas com o mundo inteiro em mente, mas construídas para se adequar às necessidades específicas de cada comunidade.

Os pesquisadores começaram reunindo 84 estudos diferentes publicados entre 2015 e 2025. Eles procuraram por qualquer pesquisa que discutisse como a IA é usada na educação e se ela era justa. Eles filtraram milhares de artigos, mantendo apenas aqueles que ofereciam evidências reais ou análise profunda de como esses sistemas funcionam na prática. Eles deram atenção especial a estudos do "Sul Global", um termo usado para descrever regiões que têm sido frequentemente deixadas de fora das conversas principais sobre tecnologia, incluindo países da África, América Latina e partes da Ásia. Ao focar nessas vozes dentro da literatura existente, a equipe esperava ver um quadro diferente do que a ética da IA deveria parecer.

O que encontraram foi uma divisão clara. A vasta maioria das regras e diretrizes vem de instituições da Europa e América do Norte. Essas regras são frequentemente escritas como um checklist simples de valores, como "ser justo" ou "ser transparente". No entanto, o estudo mostra que esses checklists raramente mudam como as coisas realmente funcionam em escolas em outras partes do mundo. Em muitos casos, escolas no Sul Global são instruídas a adotar essas regras ocidentais sem serem consultadas. Os pesquisadores descobriram que, quando os sistemas de IA são construídos usando apenas dados em inglês e ideias ocidentais, eles cometem erros com mais frequência para estudantes que falam outras línguas ou vêm de diferentes contextos culturais. Por exemplo, ferramentas de correção automatizada muitas vezes têm dificuldade com falantes não nativos de inglês, atribuindo-lhes notas mais baixas não porque seu trabalho seja pior, mas porque o computador não entende sua forma de falar.

O estudo também revelou que as pessoas que deveriam ser protegidas por essas regras — professores, alunos e líderes locais — raramente fazem parte do processo de tomada de decisão. Nos poucos casos em que as comunidades locais foram envolvidas, o envolvimento foi muitas vezes apenas uma formalidade, uma caixa para ser marcada, em vez de uma parceria real. Os pesquisadores observaram que, quando as vozes locais são ignoradas, a tecnologia frequentemente falha em resolver os problemas que deveria corrigir. Em vez de ajudar todos a aprender, ela pode aprofundar as desigualdades existentes, tornando mais difícil para aqueles que já estão lutando para acompanhar.

No entanto, a história não termina com o fracasso. Os pesquisadores também descobriram um movimento crescente de soluções locais que funcionam muito melhor. Em Gana, por exemplo, as escolas estão usando um conceito chamado "Ubuntu", que enfatiza que uma pessoa é uma pessoa através de outras pessoas. Essa ideia é usada para projetar sistemas de IA que focam na confiança comunitária e na responsabilidade compartilhada, em vez de apenas pontuações individuais. No Sudeste Asiático, outra abordagem chamada "gotong royong", que significa trabalhar juntos pelo bem comum, está sendo usada para garantir que todos tenham voz sobre como a tecnologia é utilizada. Esses métodos locais não são apenas pequenos ajustes às grandes regras globais; são formas completamente diferentes de pensar sobre o que é certo e errado. Eles tratam o conhecimento local como tão importante quanto a ciência ocidental.

A equipe concluiu que a forma atual de fazer as coisas está quebrada porque trata a ética como um produto de tamanho único. Eles argumentam que precisamos parar de tentar impor um único conjunto de regras para o mundo inteiro. Em vez disso, propõem um novo framework chamado Framework para Ética de IA Glocal na Educação. Essa abordagem sugere que as regras éticas devem ser construídas de baixo para cima. Significa que, quando uma escola em um país diferente quiser usar IA, ela deve ser capaz de moldar as regras para se adequar à sua própria cultura, língua e necessidades. Também significa que as empresas que vendem essas ferramentas devem ser obrigadas a provar que seus sistemas funcionam de forma justa para estudantes locais antes de poderem vendê-los.

Os pesquisadores sugerem três etapas principais para tornar isso realidade. Primeiro, o conhecimento que guia esses sistemas deve vir de muitos lugares diferentes, não apenas de um. Segundo, as pessoas que usam a tecnologia devem ter uma voz real em como ela é projetada e verificada. Terceiro, deve haver consequências reais se a tecnologia falhar em ser justa, como recusar a compra de ferramentas que não funcionam para todos. Isso não é apenas sobre ser gentil; é sobre garantir que a tecnologia realmente funcione. O estudo mostra que, quando as comunidades locais estão envolvidas no design, a confiança no sistema aumenta e a tecnologia torna-se mais útil para todos.

Esta nova forma de pensar não significa jogar fora todas as regras antigas. Em vez disso, significa mudar a forma como as criamos. Trata-se de reconhecer que existem muitas maneiras de ser ético, assim como existem muitas maneiras de falar uma língua ou ensinar uma lição. Os pesquisadores acreditam que, se pudermos construir um sistema que respeite essas diferenças, podemos criar uma IA que realmente ajude todos os alunos a aprender. Eles não estão dizendo que isso é fácil ou que acontecerá da noite para o dia. Mas eles são claros ao afirmar que o caminho atual, onde poucos grupos poderosos decidem por todos, não está funcionando. O futuro da IA na educação depende de ouvir as pessoas que realmente a utilizam e garantir que suas vozes sejam ouvidas no design das ferramentas que moldarão seus futuros.