💻 computer science

Designing Safe and Accountable GenAI as a Learning Companion with Women Banned from Formal Education

Este estudo apresenta uma pesquisa de design participativo com mulheres no Afeganistão que revela como a Inteligência Artificial Generativa pode atuar como um companheiro de aprendizado seguro e responsável, superando riscos de vigilância e exclusão educacional para aumentar a agência e as aspirações profissionais das usuárias.

Autores originais: Hamayoon Behmanush, Freshta Akhtari, Ingmar Weber, Vikram Kamath Cannanure

Publicado 2026-04-09

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Hamayoon Behmanush, Freshta Akhtari, Ingmar Weber, Vikram Kamath Cannanure

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é uma jovem mulher no Afeganistão. Você tem sonhos grandes: quer aprender a programar, conseguir um emprego e ajudar sua família. Mas, por causa de regras rígidas, você não pode ir à escola ou à universidade. O mundo físico está fechado para você.

Então, você olha para o seu celular. É ali que o seu mundo de aprendizado acontece. E, mais recentemente, você começou a conversar com uma Inteligência Artificial (IA) generativa. Para você, essa IA não é apenas um "Google" que responde perguntas; ela é como um amigo invisível, um mentor paciente e um guia de carreira que nunca dorme e está sempre ao seu lado.

Este artigo de pesquisa conta a história de como 20 dessas mulheres se reuniram (de forma remota e segura) com pesquisadores para desenhar como essa "IA companheira" deveria ser. Eles não queriam apenas uma ferramenta que desse respostas; eles queriam uma ferramenta que fosse segura, responsável e que realmente ajudasse a aprender.

Aqui está o resumo da história, usando analogias do dia a dia:

1. A IA como um "Amigo de Mesa" Invisível

Como as mulheres não têm colegas de classe ou professores presenciais, a IA preenche esse vazio.

A Analogia: Imagine que você está estudando em uma sala de aula vazia. De repente, um amigo aparece e senta ao seu lado. Ele não é um professor chato que dá palestras; ele é um colega que diz: "Ei, vamos tentar resolver isso juntos? Se você travar, eu ajudo, mas você faz a parte difícil."
O que elas queriam: Elas queriam que a IA fosse esse "amigo de mesa" que oferece suporte emocional, explicações passo a passo e até ajuda a simular entrevistas de emprego, tudo isso sem nunca julgar ou se cansar.

2. O Perigo de Deixar Rastros (A "Casa de Vidro")

Aqui está o ponto mais crítico e perigoso. Em muitos lares, os celulares são compartilhados com a família, e há um medo constante de vigilância.

A Analogia: Usar a IA hoje é como tentar ler um livro secreto em uma casa de vidro, onde todos podem ver o que você está lendo. Se alguém ver que você está estudando programação ou conversando sobre "trabalho remoto", você pode ter problemas sérios em casa.
O Problema: Se a IA salvar seu histórico de conversa, pedir seu nome real ou sugerir algo que vai contra as regras da família (como "vamos criar um aplicativo de namoro"), isso pode colocar a estudante em risco.
A Solução Proposta: Elas pediram um "modo fantasma". A IA deve funcionar sem pedir cadastro, permitir que você apague tudo com um clique (como se nunca tivesse existido) e nunca sugerir nada que coloque a segurança dela em risco. A privacidade não é um luxo; é uma questão de sobrevivência.

3. O Perigo da "Resposta Fácil" (A Ilusão de Aprender)

Às vezes, a IA é tão prestativa que dá a resposta completa imediatamente.

A Analogia: É como se alguém fizesse a lição de casa por você. Você fica feliz porque a tarefa acabou, mas no dia seguinte, quando precisa fazer sozinho, você não sabe nada. Isso cria uma "ilusão de progresso": você acha que está aprendendo, mas na verdade está apenas copiando.
O Risco: Para quem não tem um professor para corrigir o erro, confiar demais na IA pode fazer a pessoa esquecer como pensar sozinha.
A Solução Proposta: A IA deve agir como um tutor que guia, não como um "cola". Em vez de dar a resposta final, ela deve dizer: "Vamos tentar o primeiro passo juntos. O que você acha que acontece aqui?". Ela deve forçar o cérebro a trabalhar, protegendo a integridade do aprendizado.

4. A IA que Entende a Realidade Local

Muitas IAs são treinadas com dados de países ricos, onde as pessoas têm internet rápida, computadores potentes e liberdade para sair de casa.

A Analogia: É como pedir a um guia turístico que vive em Nova York para dar dicas para alguém que vive em uma vila sem carros e com internet instável. O guia pode dizer: "Vá ao café da esquina para trabalhar", mas na realidade da estudante, isso é impossível ou perigoso.
O Problema: A IA pode sugerir códigos que exigem computadores superpotentes (que elas não têm) ou projetos que não fazem sentido na cultura local.
A Solução Proposta: A IA precisa ser "localizada". Ela deve funcionar mesmo com internet lenta, gerar códigos leves para celulares antigos e sugerir projetos que façam sentido para a vida delas (como trabalho remoto seguro), respeitando as limitações de tempo e espaço que elas têm em casa.

5. O Poder de Sonhar em Grupo (O Resultado Surpreendente)

O estudo descobriu algo mágico. Quando essas mulheres participaram do processo de desenhar essa IA, algo aconteceu com elas mesmas.

A Analogia: Imagine que você está preso em um quarto escuro. De repente, alguém traz uma caixa de ferramentas e diz: "Vamos construir uma janela juntos". O ato de construir a janela faz você se sentir mais forte e capaz de ver o futuro, mesmo antes da janela estar pronta.
O Resultado: Após as sessões de desenho, as mulheres se sentiram mais esperançosas, mais capazes de alcançar seus objetivos e mais confiantes de que existiam caminhos para o futuro. O simples ato de ser ouvida e de planejar o futuro com a tecnologia aumentou suas aspirações.

Conclusão: O Que Isso Significa para o Futuro?

Este estudo nos ensina que, para criar uma Inteligência Artificial realmente boa para quem vive em situações difíceis, não basta fazer a tecnologia ser "inteligente". Ela precisa ser:

Segura: Como um cofre que você pode abrir e fechar sem deixar rastros.
Humilde: Que ensina a pensar, não apenas a copiar.
Realista: Que entende a vida difícil das pessoas e não dá conselhos de "vida fácil" que não funcionam.
Empoderadora: Que ajuda a pessoa a ver que ela tem um futuro, mesmo quando as portas parecem fechadas.

Em resumo, a IA não deve ser apenas uma ferramenta de resposta; ela deve ser um companheiro de jornada que protege, ensina e ajuda a construir pontes para um futuro que, hoje, parece inalcançável.

Título: Projetando GenAI Segura e Responsável como Companheira de Aprendizado para Mulheres Banidas da Educação Formal

1. Problema e Contexto

O estudo aborda a crise educacional enfrentada por mulheres no Afeganistão, onde, desde 2021, o acesso à educação formal e ao emprego foi severamente restringido devido a normas de gênero. Diante dessa exclusão, muitas mulheres recorrem ao aprendizado online autodirigido e a ferramentas de Inteligência Artificial Generativa (GenAI) para perseguir suas aspirações educacionais e profissionais.

No entanto, esse cenário apresenta desafios críticos que a literatura atual sobre GenAI na educação frequentemente ignora:

Riscos de Segurança e Privacidade: O uso de ferramentas digitais em ambientes vigiados (por familiares ou autoridades) pode deixar rastros digitais que colocam a segurança física das usuárias em risco.
Falta de Comunidade: A ausência de mentores, colegas e rotinas institucionais cria um vácuo de suporte social e pedagógico.
Desalinhamento Contextual: As soluções de IA existentes frequentemente oferecem conselhos irreais (ex.: frequentar cafés de internet mistos), códigos que exigem hardware potente ou suporte apenas em inglês, ignorando as limitações de infraestrutura e as normas culturais locais.
Riscos Pedagógicos: A dependência de respostas diretas pode criar uma "ilusão de aprendizado", onde a usuária completa tarefas sem desenvolver o raciocínio crítico necessário.

O objetivo do estudo é investigar como mulheres em contextos restritivos de gênero envisionam a GenAI como uma companheira de aprendizado e quais direções de design focadas em responsabilidade (accountability) são necessárias para garantir segurança e eficácia.

2. Metodologia

A pesquisa utilizou uma abordagem de Design Participativo (PD) remoto, combinando métodos qualitativos e quantitativos.

Participantes: O estudo envolveu 20 mulheres do Afeganistão (idade média de 23,4 anos), recrutadas através da escola de programação "Code to Inspire" e amostragem em bola de neve. A maioria (85%) era autodidata.
Fase de Recrutamento: Uma pesquisa demográfica inicial com 140 respondentes para mapear o acesso e uso de tecnologia.
Sessões de PD: Cinco sessões online de 3 horas cada, com quatro participantes por grupo. As sessões incluíram:
- Discussões abertas sobre práticas atuais e desafios.
- Análise e crítica de storyboards pré-projetados por pesquisadores.
- Criação de cenários e storyboards pelos participantes para visualizar suas necessidades.
Medição de Impacto: Foram aplicadas pesquisas pré e pós-sessão utilizando uma escala adaptada de aspirações, medindo duas sub-escalas:
- Agency (Agência): Percepção da capacidade de alcançar objetivos.
- Avenue (Vias): Percepção dos caminhos viáveis para atingir esses objetivos.
Análise de Dados: Análise temática indutiva de transcrições e storyboards, complementada por testes estatísticos (t-test pareado) para avaliar mudanças nas aspirações.

3. Contribuições Principais e Descobertas

O estudo identificou três achados principais (F1–F3) e traduziu-os em cinco direções de design focadas em responsabilidade (D1–D5).

A. A GenAI como Substituta Parcial da Comunidade (F1)
As participantes não veem a GenAI apenas como uma fonte de informações, mas como um parceiro de aprendizado que preenche lacunas críticas:

Presença de Pares: Uma companheira sempre disponível, "sentada ao lado", que não depende de horários de aula.
Suporte de Mentoria: Um guia paciente para explicar conceitos complexos e fornecer feedback estruturado ao longo do tempo.
Orientação de Empregabilidade: Simulação de entrevistas, escrita de propostas para plataformas como Upwork e desenvolvimento de habilidades sociais (soft skills) que seriam aprendidas em sala de aula.

B. Companheirismo sob Restrições (F2)
A usabilidade da GenAI é severamente limitada por três fatores:

Privacidade e Vigilância: O medo de que o uso seja descoberto por familiares ou autoridades. Rastros em dispositivos compartilhados são vistos como riscos existenciais.
Desalinhamento Contextual: Sugestões que ignoram a realidade local (ex.: sair de casa para trabalhar) ou limitações técnicas (código que não roda em dispositivos de baixo custo).
Desafios Pedagógicos: O risco de a IA fornecer respostas completas, impedindo o desenvolvimento do pensamento crítico e criando a ilusão de progresso.

C. Mudança Aspiracional através do PD (F3)
A participação no processo de design teve um impacto mensurável positivo:

Houve um aumento estatisticamente significativo nas aspirações totais ( $p=.01$ ), na agência percebida ( $p=.03$ ) e nas vias percebidas ( $p=.01$ ).
Isso demonstra que visualizar o futuro com GenAI através do design participativo não apenas coleta requisitos, mas ativamente empodera as participantes a imaginarem e perseguirem futuros viáveis.

4. Direções de Design Focadas em Responsabilidade (Accountability)

Com base nas necessidades das participantes, os autores propõem cinco direções técnicas e de design:

Espaços de Aprendizado Virtual Facilitados por IA (D1):
- Criar salas de chat anônimas e baseadas em nível de habilidade, moderadas pela IA, para substituir a comunidade de aprendizado presencial perdida.
Design de Interação "Segurança em Primeiro Lugar" (D2):
- Minimização de Rastros: Funcionalidades de exclusão rápida e uso sem registro (anonimato).
- Controle do Usuário: O usuário deve ter controle total sobre o que é armazenado ou visível no dispositivo.
- Limites de Geração: A IA deve evitar sugestões que violem normas sociais locais e coloquem a usuária em risco (ex.: projetos sensíveis).
Proteção da Integridade do Aprendizado via Raciocínio Passo a Passo (D3):
- A IA deve priorizar o raciocínio em vez de fornecer respostas diretas. Deve guiar a usuária através de etapas intermediárias para evitar a "ilusão de aprendizado" e fortalecer o pensamento crítico.
Suporte ao Aprendizado sob Restrições Domésticas (D4):
- Microaprendizado: Sessões de 10-15 minutos que podem ser pausadas e retomadas.
- Resiliência de Infraestrutura: Funcionamento offline ou com baixa largura de banda; geração de código compatível com hardware de baixo custo.
- Suporte Bilíngue: Explicações no idioma local (Perso/Afegão) com manutenção da exposição ao inglês para fins de empregabilidade global.
Alinhamento de Localização com Oportunidades Realistas (D5):
- Projetos e conselhos de carreira devem ser contextualizados para o mercado de trabalho remoto (freelancing), evitando sugestões genéricas que não consideram restrições de mobilidade ou permissão de viagem.

5. Significado e Conclusão

Este estudo redefine a responsabilidade (accountability) em contextos de alto risco. Em vez de focar apenas na transparência do modelo ou na precisão da resposta, a responsabilidade aqui é definida como controle de exposição: garantir que o uso da tecnologia não deixe rastros perigosos e que o suporte seja seguro dentro das restrições sociais e físicas do usuário.

O trabalho conclui que a GenAI educacional em contextos restritivos deve ser avaliada pela "confiança garantida" (warranted reliance): a capacidade de fornecer suporte contínuo e pedagógico que permita às mulheres sustentar rotinas de aprendizado e perseguir oportunidades reais sem aumentar o risco de dano. Além disso, o estudo valida o Design Participativo não apenas como uma ferramenta de coleta de requisitos, mas como uma intervenção que pode elevar a agência e as aspirações de grupos marginalizados.