Towards an AI-Enabled Inclusive Educational Leadership (AIIEL) Framework: Integrating Responsible AI Governance, Disability Inclusion, and Gender Equality in Higher Education

As universidades encontram-se atualmente no meio de uma revolução silenciosa. Durante décadas, estas instituições confiaram no julgamento humano para decidir quem é admitido, como os professores são promovidos e como os estudantes são apoiados. Agora, a inteligência artificial está a assumir esses papéis, oferecendo-se para triar candidaturas, corrigir trabalhos e gerir horários com rapidez e eficiência. Mas, à medida que estas ferramentas digitais se tornam parte do tecido quotidiano do ensino superior, surgiu uma questão preocupante: estão elas a tornar o sistema mais justo ou estão a reforçar silenciosamente as velhas desigualdades? A questão central é que, enquanto a tecnologia avança rapidamente, as pessoas responsáveis muitas vezes sentem-se despreparadas para a guiar. Elas temem que, sem uma supervisão cuidadosa, estes sistemas inteligentes possam acidentalmente tratar mulheres, pessoas com deficiência ou outros grupos marginalizados de forma injusta, simplesmente porque os dados de que aprendem refletem preconceitos do passado. O desafio não é apenas usar a tecnologia, mas garantir que ela sirva a todos de forma igual.

Dois investigadores, Wafa Muhammed Alajaji e Obby Phiri, deram um passo em frente para abordar esta lacuna. Eles argumentam que as universidades não podem simplesmente comprar um novo software e esperar pelo melhor; precisam de uma nova forma de pensar sobre a liderança. No seu trabalho recente, propõem um plano abrangente chamado estrutura de Liderança Educativa Inclusiva Potencializada por IA (AI-Enabled Inclusive Educational Leadership). Esta não é uma peça de software ou um conjunto de regras de programação. Em vez disso, é um guia para as pessoas que gerem as universidades, desenhado para ajudá-las a tomar decisões que protejam a justiça enquanto abraçam a inovação. Os autores sugerem que a abordagem atual à gestão da inteligência artificial nas escolas é demasiado fragmentada. Os guias existentes tratam frequentemente a diversidade e a inclusão como apenas um pequeno item numa longa lista de verificação, separada do trabalho principal de governação. Alajaji e Phiri acreditam que isto é um erro. Eles argumentam que a inclusão deve ser tecida em cada decisão, desde o momento em que uma nova ferramenta é imaginada até ao dia em que é usada numa sala de aula.

Para construir esta nova abordagem, os investigadores analisaram seis áreas de estudo diferentes que tinham sido anteriormente mantidas separadas. Eles examinaram como os líderes constroem culturas inclusivas, como a inteligência artificial é utilizada nas escolas, como funciona a inclusão da deficiência, como a igualdade de género é mantida, como governar a tecnologia de forma responsável e como as universidades se transformam digitalmente. Ao reunir estes fios separados, criaram um modelo de quatro camadas que atua como um ciclo de tomada de decisão. A primeira camada foca-se nas pessoas e na visão. Ela pede aos líderes que considerem quem está à mesa quando um novo sistema é escolhido. Estão os estudantes com deficiência e as docentes mulheres a ser consultados antes de uma ferramenta ser comprada, ou só são consultados depois de o dano ser feito? Esta camada enfatiza que a liderança consiste em construir confiança e garantir que todos sentem que têm uma voz.

A segunda camada lida com o design das próprias ferramentas. Aqui, a estrutura faz uma pergunta simples, mas profunda: este sistema ajuda realmente um estudante com deficiência a ter sucesso, ou apenas finge permitir a sua entrada? Os investigadores baseiam-se na ideia de "capacidade", o que significa olhar para além do acesso formal para ver se uma pessoa tem a liberdade real de usar um recurso para alcançar os seus objetivos. Por exemplo, um sistema de correção automatizado pode tecnicamente aceitar um ensaio de um estudante com deficiência visual, mas se o sistema não conseguir ler o formato especializado que o estudante utiliza, a ferramenta falhou. Esta camada insiste que os líderes devem avaliar a tecnologia com base no facto de ela expandir oportunidades reais para todos, e não apenas se cumpre um requisito legal mínimo.

A terceira camada foca-se em como a tecnologia é governada e controlada. Ela questiona se os humanos ainda estão no comando. A estrutura sugere que, para decisões de alto risco, como contratar um professor ou negar um diploma, deve haver uma linha clara onde um humano possa intervir e anular a máquina. Também analisa como a tecnologia foi construída, instando os líderes a garantir que as pessoas que serão afetadas pelo sistema ajudaram a criá-lo. Isto evita a situação em que uma ferramenta é construída num laboratório por um pequeno grupo de engenheiros e depois lançada sobre uma população universitária diversa sem qualquer teste de equidade. A camada final observa os resultados. Ela pede aos líderes que acompanhem os dados, mas não apenas números gerais. Eles devem observar de perto como o sistema afeta diferentes grupos de pessoas simultaneamente, como mulheres com deficiência, para ver se a ferramenta está a criar novas barreiras ou a resolver as antigas.

Ao lado desta estrutura principal, os autores propõem duas ferramentas práticas para ajudar as universidades a colocar as ideias em prática. A primeira é uma lista de competências que os líderes universitários precisam de aprender. Estas não são apenas competências técnicas sobre como os computadores funcionam, mas sim competências humanas sobre como detetar o preconceito, como ouvir vozes marginalizadas e como interpretar dados de uma forma que revele desigualdades ocultas. A segunda ferramenta é um modelo de maturidade, que atua como um mapa para a jornada de uma instituição. Ele descreve cinco estágios, começando de um lugar onde a universidade desconhece os riscos e não tem um plano, passando por estágios onde reagem aos problemas à medida que eles acontecem, e finalmente atingindo um estágio de "excelência inclusiva". Neste nível mais elevado, a universidade não está apenas a evitar danos; está a usar ativamente a inteligência artificial para tornar a instituição melhor para todos, e consegue provar isso com dados.

Os investigadores são cuidadosos ao afirmar que o seu trabalho é uma proposta, não um produto acabado que tenha sido testado no mundo real. Eles reconhecem que as suas ideias são construídas sobre teorias existentes e que ainda não viram se estes modelos específicos funcionam na prática em diferentes tipos de universidades. Eles observam que grande parte da investigação atual provém de países ricos, e não sabem ainda se a sua estrutura funcionará em locais com menos recursos ou normas culturais diferentes. No entanto, argumentam que a situação atual é demasiado arriscada para esperar por uma prova perfeita. A velocidade com que as universidades estão a adotar a inteligência artificial ultrapassa o desenvolvimento das competências de liderança e, sem um guia claro, o setor corre o risco de alargar o fosso entre os privilegiados e os vulneráveis.

Em última análise, este artigo é um apelo à ação para as pessoas que gerem as universidades. Sugere que o futuro do ensino superior depende menos da sofisticação dos algoritmos e mais da sabedoria dos líderes que os escolhem. Ao tratar a inclusão como uma parte central da liderança, e não como uma reflexão posterior, as universidades podem garantir que a ascensão da inteligência artificial eleva todos, em vez de deixar alguns para trás. Os autores oferecem um roteiro para esta jornada, um que prioriza a dignidade humana e a justiça num mundo cada vez mais automatizado. Embora o caminho a seguir exija mais investigação e testes, a direção é clara: a liderança inclusiva é a única forma de garantir que a promessa da inteligência artificial seja cumprida para todos.