Human-in-the-loop GenAI advising for community college pathway decision-making: a design-based case study of requirement-group modeling and privacy-preserving student-support design

Resumo Técnico: Consultoria de IA Generativa com Humano no Ciclo para Tomada de Decisão de Trajetórias em Faculdades Comunitárias

Problema
A pesquisa sobre Inteligência Artificial Generativa (GenAI) no ensino superior tem se concentrado predominantemente em tutoria, apoio à escrita, geração de feedback e avaliação. Existe uma lacuna significativa quanto à aplicação da GenAI na orientação acadêmica e no planejamento de trajetórias, particularmente nos contextos de faculdades comunitárias (community colleges). Nesses ambientes, os alunos navegam por estruturas curriculares complexas e flexíveis que envolvem requisitos fixos, conjuntos de eletivas, escolhas de concentração e articulações de transferência. As ferramentas de orientação atuais frequentemente reduzem essas estruturas a "listas de verificação planas", o que corre o risco de deturpar a lógica do programa, restringir as opções percebidas pelo estudante e falhar em apoiar a agência do aprendiz. Além disso, a integração da GenAI nas operações de sucesso do estudante levanta preocupações críticas relativas à privacidade, governança de dados e ao nível apropriado de automação em decisões de alto impacto. Há uma carência de princípios de design estabelecidos sobre como a GenAI pode interpretar requisitos flexíveis, apoiar o planejamento de cenários hipotéticos ("what-if") e manter limites de privacidade sem automatizar excessivamente decisões consequentes.

Metodologia
Este estudo emprega uma abordagem de estudo de caso baseado em design para investigar o desenvolvimento de um protótipo de planejamento de trajetória e um modelo de interação de orientação associado na Ivy Tech Community College de Indiana. A pesquisa não mede resultados dos estudantes, taxas de retenção ou redução de carga de trabalho; em vez disso, analisa o próprio processo de design para derivar princípios transferíveis.

• Fontes de Dados: A análise baseia-se em um corpus de materiais não relacionados a estudantes coletados durante um período de design de oito meses, categorizados em três classes de fontes:
  1. Documentos Curriculares Públicos: Requisitos de programas publicados, descrições de cursos e materiais de catálogo usados para identificar flexibilidade estrutural e ambiguidade.
  2. Artefatos do Protótipo: Esquemas de requisitos, documentos de lógica de trajetória, modelos de interface, diagramas de arquitetura e modelos de prompt usados para operacionalizar a flexibilidade curricular e os papéis da GenAI.
  3. Memorandos de Design de Profissionais: Documentação reflexiva, justificativas de arquitetura e notas de redesenho de fluxo de trabalho que rastreiam a fundamentação para decisões específicas de design e governança.
• Processo de Análise: O autor utilizou uma lógica de codificação dedutivo-indutiva. Construtos dedutivos (representação curricular, agência do aprendiz, supervisão humana, privacidade/governança) foram aplicados juntamente com a codificação indutiva para capturar padrões específicos do caso (ex: tratamento de curingas/wildcards, classes de ambiguidade). Os princípios foram retidos apenas quando suportados por múltiplas classes de fontes ou quando um único artefato documentava uma decisão com consequências claras de governança.
• Restrições: O estudo exclui explicitamente registros individuais de estudantes e informações de identificação pessoal (PII). Ferramentas de GenAI foram utilizadas apenas para a preparação do manuscrito (organização de literatura, estruturação, redação), sendo todas as afirmações e citações verificadas pelo autor.

Contribuições Principais e Princípios de Design
O estudo propõe um Framework de Orientação de GenAI com Humano no Ciclo organizado em sete camadas interativas: dados de catálogo público, modelagem de grupos de requisitos, camada de interação de GenAI, julgamento do orientador humano, agência do aprendiz, governança de preservação de privacidade e alinhamento com a força de trabalho. A partir deste framework, o estudo deriva oito princípios de design específicos:

1. Modelar Requisitos como Grupos Flexíveis: Os requisitos acadêmicos devem ser modelados como "grupos de requisitos" (ex: conjuntos de opções, baldes de eletivas, alternativas condicionais) em vez de listas de verificação de cursos obrigatórios e planos. Isso preserva a realidade educacional de que múltiplas trajetórias válidas existem dentro de uma única credencial.
2. GenAI como Explicação, Não como Registro: A GenAI deve funcionar como uma "camada de explicação e enquadramento de opções" que traduz a lógica estruturada em linguagem clara e compara cenários. Ela não deve servir como o "sistema de registro" institucional ou um tomador de decisão autônomo.
3. Separação Arquitetural de Dados: Dados curriculares públicos (catálogos, requisitos) devem ser estritamente separados dos registros protegidos do estudante. Um protótipo funcional de orientação pode operar usando apenas dados públicos, minimizando o risco de privacidade e estabelecendo limites claros de governança antes de qualquer extensão para dados específicos do estudante.
4. Revisão Humana para Recomendações Consequentes: Os orientadores humanos devem reter a responsabilidade pela orientação final, particularmente para recomendações que afetam o tempo para obtenção do diploma, custo, elegibilidade ou direção do programa. O sistema é projetado para "revisibilidade" em vez de fechamento automatizado.
5. Apoio à Agência do Aprendiz: As interações devem facilitar o planejamento autorregulado, ajudando os estudantes a entender compensações (trade-offs), restrições de sequenciamento e trajetórias de recuperação, em vez de meramente emitir instruções.
6. Linguagem Não Deficitária: A linguagem de orientação deve evitar o enquadramento centrado no déficit ou de vigilância excessiva (ex: "pontuações de risco") em favor de conceitos construtivos como "preservação de ímpeto" e "recuperação de trajetória".
7. Incerteza Visível: O sistema deve expor explicitamente a ambiguidade na interpretação curricular (ex: declarações de catálogo subespecificadas) em vez de suprimi-la com uma falsa certeza. As interfaces devem distinguir entre correspondências claras, correspondências prováveis que exigem revisão e casos ambíguos.
8. Alinhamento com a Força de Trabalho sem Reducionismo: A relevância para a força de trabalho deve informar as explicações das trajetórias, mas não deve reduzir a orientação a um mecanismo estreito de classificação para o mercado de trabalho que ignore os objetivos e a exploração do estudante.

Resultos e Significância
O estudo conclui que a integração eficaz da GenAI na orientação requer uma mudança de tratar a interpretação de requisitos como um problema de processamento de dados para tratar como um problema de design pedagógico. O resultado primário é um framework conceitual e operacional que permite às instituições implantar a inteligibilidade de trajetórias via GenAI, preservando a agência do aprendiz e a privacidade.

O artigo reivindica quatro contribuições específicas:

1. Extensão da Pesquisa: Move a pesquisa de interação humano–GenAI das tarefas centradas na sala de aula (escrita, feedback) para o domínio da orientação e planejamento de trajetórias.
2. Inovação Conceitual: Introduz a "modelagem de grupo de requisitos" como uma representação mais fiel do ponto de vista educacional das trajetórias de faculdades comunitárias do que a lógica plana.
3. Proposta Arquitetônica: Demonstra um modelo de governança de preservação de privacidade baseado na separação explícita das informações curriculares públicas dos dados protegidos do estudante.
4. Vocabulário de Design Prático: Oferece um conjunto de princípios para instituições que buscam utilizar GenAI em ambientes de alta governança sem substituir o julgamento humano ou fazer afirmações não sustentadas sobre eficácia.

Modéstia das Alegações
Os autores declaram explicitamente que este estudo não demonstra melhoria na retenção, taxas de conclusão ou eficiência de orientação. A contribuição é fundamental, e não empírica, em relação aos resultados dos estudantes. Os princípios de design são derivados da análise de artefatos e modelagem de fluxo de trabalho, não de um teste formal de co-design ou implementação com dados de uso de aprendizes. O artigo argumenta que este framework de human-in-the-loop e consciente de privacidade é uma precondição necessária para que quaisquer estudos futuros de eficácia sejam confiáveis, em vez de ser uma solução comprovada em si mesma.