Human-in-the-loop GenAI advising for community college pathway decision-making: a design-based case study of requirement-group modeling and privacy-preserving student-support design

Resumen Técnico: Asesoría de GenAI con Intervención Humana para la Toma de Decisiones de Trayectorias en Colegios Comunitarios

Planteamiento del Problema
La investigación sobre Inteligencia Artificial Generativa (GenAI) en la educación superior se ha centrado predominantemente en la tutoría, el apoyo a la escritura, la generación de retroalimentación y la evaluación. Existe una brecha significativa respecto a la aplicación de la GenAI en la asesoría académica y la planificación de trayectorias, particularmente dentro de los contextos de los colegios comunitarios. En estos entornos, los estudiantes navegan por estructuras curriculares complejas y flexibles que involucran requisitos fijos, opciones de electivas, grupos de concentración y articulaciones de transferencia. Las herramientas de asesoría actuales suelen reducir estas estructuras a "listas de verificación planas", lo que conlleva el riesgo de representar erróneamente la lógica del programa, limitar las opciones percibidas del estudiante y no apoyar la agencia del aprendiz. Además, la integración de la GenAI en las operaciones de éxito estudiantil plantea preocupaciones críticas sobre la privacidad, la gobernanza de datos y el nivel apropiado de automatización en la toma de decisiones de alto impacto. Existe una falta de principios de diseño establecidos sobre cómo la GenAI puede interpretar requisitos flexibles, apoyar la planificación de escenarios hipotéticos ("what-if") y mantener los límites de privacidad sin sobreautomatizar decisiones trascendentales.

Metodología
Este estudio emplea un enfoque de estudio de caso basado en el diseño para investigar el desarrollo de un prototipo de planificación de trayectorias y un modelo de interacción de asesoría asociado en Ivy Tech Community College de Indiana. La investigación no mide los resultados de los estudiantes, las tasas de retención o las reducciones de carga de trabajo; en su lugar, analiza el proceso de diseño mismo para derivar principios transferibles.

• Fuentes de Datos: El análisis se basa en un corpus de materiales no pertenecientes a estudiantes recolectados durante un período de diseño de ocho meses, categorizados en tres clases de fuentes:
  1. Documentos Curriculares Públicos: Requisitos de programas publicados, descripciones de cursos y materiales de catálogo utilizados para identificar la flexibilidad estructural y la ambigüedad.
  2. Artefactos del Prototipo: Esquemas de requisitos, documentos de lógica de trayectorias, maquetas de interfaz, diagramas de arquitectura y plantillas de prompts utilizados para operacionalizar la flexibilidad curricular y los roles de la GenAI.
  3. Memorandos de Diseño de Profesionales: Documentación reflexiva, racionales de arquitectura y notas de rediseño de flujo de trabajo que trazan la justificación de decisiones específicas de diseño y gobernanza.
• Proceso de Análisis: El autor utilizó una lógica de codificación deductiva-inductiva. Se aplicaron constructos deductivos (representación curricular, agencia del aprendiz, supervisión humana, privacidad/gobernanza) junto con una codificación inductiva para capturar patrones específicos del caso (por ejemplo, manejo de comodines, clases de ambigüedad). Los principios se retuvieron solo cuando fueron respaldados por múltiples clases de fuentes o cuando un solo artefacto documentaba una decisión con claras consecuencias de gobernanza.
• Restricciones: El estudio excluye explícitamente los registros individuales de los estudiantes y la información de identificación personal (PII). Las herramientas de GenAI se utilizaron únicamente para la preparación del manuscrito (organización de literatura, esquematización, redacción), y todas las afirmaciones y citas fueron verificadas por el autor.

Contribuciones Clave y Principios de Diseño
El estudio propone un Marco de Asesoría de GenAI con Intervención Humana organizado en torno a siete capas interactivas: datos del catálogo público, modelado de grupos de requisitos, la capa de interacción de GenAI, el juicio del asesor humano, la agencia del aprendiz, la gobernanza de preservación de la privacidad y la alineación con la fuerza laboral. A partir de este marco, el estudio deriva ocho principios de diseño específicos:

1. Modelar los Requisitos como Grupos Flexibles: Los requisitos académicos deben modelarse como "grupos de requisitos" (por ejemplo, conjuntos de opciones, grupos de electivas, alternativas condicionales) en lugar de listas de verificación de cursos obligatorios y planos. Esto preserva la realidad educativa de que existen múltiples trayectorias válidas dentro de una misma credencial.
2. GenAI como Explicación, No como Registro: La GenAI debe funcionar como una "capa de explicación y encuadre de opciones" que traduzca la lógica estructurada a un lenguaje sencillo y compare escenarios. No debe servir como el "sistema de registro" institucional ni como un decisor autónomo.
3. Separación Arquitectónica de Datos: Los datos curriculares públicos (catálogos, requisitos) deben estar estrictamente separados de los registros protegidos a nivel de estudiante. Un prototipo funcional de asesoría puede operar utilizando únicamente datos públicos, minimizando el riesgo de privacidad y estableciendo límites de gobernanza claros antes de cualquier extensión a datos específicos del estudiante.
4. Revisión Humana para Recomendaciones Consecuentes: Los asesores humanos deben retener la responsabilidad de la orientación final, particularmente para las recomendaciones que afecten el tiempo para la obtención del título, el costo, la elegibilidad o la dirección del programa. El sistema está diseñado para la "revisabilidad" en lugar de la clausura por automatización.
5. Apoyo a la Agencia del Aprendiz: Las interacciones deben facilitar la planificación autorregulada, ayudando a los estudiantes a comprender las compensaciones, las restricciones de secuencia y las vías de recuperación, en lugar de simplemente emitir instrucciones.
6. Lenguaje No Deficitario: El lenguaje de asesoría debe evitar el encuadre centrado en el déficit o de vigilancia excesiva (por ejemplo, "puntuaciones de riesgo") en favor de conceptos constructivos como "preservación del impulso" y "recuperación de la trayectoria".
7. Incertidumbre Visible: El sistema debe exponer explícitamente la ambigüedad en la interpretación curricular (por ejemplo, declaraciones de catálogo no especificadas) en lugar de suprimirla con una falsa certeza. Las interfaces deben distinguir entre coincidencias claras, coincidencias probables que requieren revisión y casos ambiguos.
8. Alineación con la Fuerza Laboral sin Reduccionismo: La relevancia para la fuerza laboral debe informar las explicaciones de las trayectorias, pero no debe reducir la asesoría a un mecanismo estrecho de clasificación para el mercado laboral que anule las metas y la exploración del estudiante.

Resultos y Significancia
El estudio concluye que una integración efectiva de la GenAI en la asesoría requiere un cambio de tratar la interpretación de requisitos como un problema de procesamiento de datos a tratarlo como un problema de diseño pedagógico. El resultado principal es un marco conceptual y operativo que permite a las instituciones desplegar la GenAI para la inteligibilidad de las trayectorias preservando la agencia del aprendiz y la privacidad.

El documento reclama cuatro contribuciones específicas:

1. Extensión de la Investigación: Traslada la investigación de la interacción humano-GenAI de las tareas centradas en el aula (escritura, retroalimentación) al dominio de la asesoría y la planificación de trayectorias.
2. Innovación Conceptual: Introduce el "modelado de grupos de requisitos" como una representación más fiel desde el punto de vista educativo de las trayectorias de los colegios comunitarios que la lógica plana.
3. Propuesta Arquitectónica: Demuestra un modelo de gobernanza de preservación de la privacidad basado en la separación explícita de la información curricular pública de los datos protegidos del estudiante.
4. Vocabulario de Diseño Práctico: Ofrece un conjunto de principios para las instituciones que buscan utilizar la GenAI en entornos de alta gobernanza sin reemplazar el juicio humano ni realizar afirmaciones sin fundamento sobre la eficacia.

Modestia de las Afirmaciones
Los autores declaran explícitamente que este estudio no demuestra mejoras en la retención, las tasas de finalización o la eficiencia de la asesoría. La contribución es fundacional en lugar de empírica respecto a los resultados de los estudiantes. Los principios de diseño se derivan del análisis de artefactos y del modelado de flujos de trabajo, no de un ensayo formal de co-diseño o una implementación con datos de uso de los estudiantes. El documento argumenta que este marco de intervención humana y conciencia de la privacidad es una condición previa necesaria para que cualquier estudio de eficacia futuro sea confiable, en lugar de ser una solución probada en sí misma.