💻 computer science

The Third-Party Access Effect: An Overlooked Challenge in Secondary Use of Educational Real-World Data

Este artículo introduce el "efecto de acceso de terceros" (3PAE, por sus siglas en inglés), demostrando que las prácticas de privacidad destinadas a facilitar el acceso de terceros a datos educativos del mundo real pueden inducir inadvertidamente la exclusión voluntaria y la no divulgación por parte de los interesados, alterando así el conjunto de datos y comprometiendo la validez de los hallazgos de investigaciones posteriores.

Autores originales: Hibiki Ito, Chia-Yu Hsu, Hiroaki Ogata

Publicado 2026-02-02

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Hibiki Ito, Chia-Yu Hsu, Hiroaki Ogata

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina una biblioteca digital masiva donde los estudiantes dejan un rastro de migas de pan cada vez que leen un libro, resaltan una frase o toman una nota. Estas "migas de pan" se llaman Datos del Mundo Real (RWD, por sus siglas en inglés). A los investigadores les encanta este dato porque les ayuda a entender cómo aprenden mejor las personas.

Sin embargo, hay un inconveniente: para proteger la privacidad de los estudiantes, la biblioteca elimina sus nombres y los reemplaza con IDs anónimos antes de permitir que investigadores externos echen un vistazo al interior. El artículo argumenta que este proceso tiene un fallo oculto que crea un nuevo tipo de problema, el cual los autores llaman el "Efecto de Acceso de Terceros" (3PAE).

Aquí está la historia de cómo funciona este efecto, desglosada en tres sencillos pasos:

1. El "Fantasma en la Máquina" (El riesgo de reidentificación)

Los investigadores primero preguntaron: ¿Es el dato realmente anónimo?

Probaron métodos comunes utilizados para ocultar las identidades de los estudiantes (como eliminar nombres o agrupar marcas de tiempo en bloques amplios como "mañana" o "tarde"). Descubrieron que, incluso con estas protecciones, el dato es como un rompecabezas con muy pocas piezas faltantes.

Si un hacker (o un investigador curioso) conoce solo unos pocos hechos sobre un estudiante —como "abrió un libro a las 2:00 PM" o "resaltó una página el martes"—, a menudo puede armar el rompecabezas y descubrir exactamente quién es ese estudiante. Es como intentar identificar a una persona en una multitud con solo saber que llevaba un sombrero rojo y pasó por delante de una panadería a las 3 PM; si tienes una lista de todos los que hicieron eso, puedes localizarlos fácilmente.

La afirmación: Los trucos de privacidad estándar a menudo fallan al hacer que los datos de aprendizaje detallados sean verdaderamente anónimos.

2. El Efecto de la "Casa de Cristal" (El cambio de comportamiento)

A continuación, los investigadores preguntaron: ¿Qué pasa si les decimos a los estudiantes: "Oye, tus datos podrían no ser tan anónimos como crees"?

Realizaron una encuesta con estudiantes universitarios.

Escenario A: Preguntaron si los estudiantes compartirían sus datos brutos. La mayoría dijo que sí.
Escenario B: Explicaron que los nombres habían sido eliminados (seudonimización). La mayoría todavía decía que sí.
Escenario C: Mostraron a los estudiantes las matemáticas que demostraban que alguien aún podría averiguar quiénes eran usando solo algunas marcas de tiempo.

El Resultado: Una vez que los estudiantes comprendieron el riesgo, muchos cambiaron de opinión. Algunos dijeron que dejarían de compartir datos por completo (optar por la exclusión). Otros dijeron que seguirían usando el sistema pero cambiarían cómo lo usan. Por ejemplo, un estudiante podría dejar de resaltar partes difíciles de un texto porque no quiere "presumir" su falta de conocimiento ante el mundo exterior, o podría dejar de publicar sobre sus hábitos de estudio en redes sociales para evitar ser rastreado.

La afirmación: Decirle a la gente sobre los riesgos de privacidad no solo detiene el compartir datos; cambia su comportamiento mientras están aprendiendo, haciendo que los datos que sí comparten sean menos honestos.

3. El "Efecto Dominó" (El impacto en la ciencia)

Finalmente, los investigadores preguntaron: ¿Realmente importa este cambio de comportamiento para la investigación?

Simularon qué sucede cuando los investigadores analizan estos datos. Descubrieron que si incluso un pequeño grupo de estudiantes (menos de 10%) decide optar por la exclusión o cambiar su comportamiento debido a los temores de privacidad, la conclusión de todo el estudio puede dar un giro total.

Imagina un estudio que intenta averiguar si "estudiar por la mañana te ayuda a obtener mejores calificaciones". Si los estudiantes que más temen a la privacidad (quizás aquellos que más tienen dificultades y estudian tarde por la noche) deciden ocultar sus datos, los datos restantes podrían sugerir falsamente que "estudiar por la mañana es la única forma de tener éxito". La conclusión científica sería errónea, no porque las matemáticas fueran malas, sino porque los datos mismos fueron "envenenados" por el miedo a ser observados.

La afirmación: Los temores de privacidad pueden distorsionar los datos tanto que los resultados de la investigación se vuelven poco fiables.

El panorama general: El "Efecto de Acceso de Terceros" (3PAE)

Los autores acuñan el término 3PAE para describir esta reacción en cadena:

Los investigadores quieren compartir datos con terceros.
Intentan ocultar las identidades, pero el ocultamiento no es perfecto.
Cuando la gente se entera (o sospecha), cambian su comportamiento o dejan de participar.
Esto cambia los datos, lo que hace que los resultados finales de la investigación sean inexactos.

La Analogía:
Piensa en un acuario.

Los Peces: Los estudiantes.
El Agua: Los datos de aprendizaje.
El Observador: El investigador externo.

Normalmente, quieres observar a los peces nadar de forma natural. Pero si les dices a los peces: "Vamos a poner una cámara en el cristal que podría identificarte", los peces podrían:

Nadar lejos (optar por la exclusión).
Nadar en un patrón extraño y antinatural para esconderse (no auto-revelación).

Si los peces cambian su forma de nadar porque tienen miedo de la cámara, el científico que los estudia sacará conclusiones erróneas sobre cómo nadan los peces realmente en la naturaleza.

La Conclusión

El artículo concluye que no podemos mirar el lado técnico (¿están los datos encriptados?) o el lado social (¿confían en nosotros?) de forma aislada. Tenemos que ver cómo interactúan. Si queremos una investigación confiable sobre cómo aprenden las personas, necesitamos mejores formas de proteger la privacidad que no asusten a la gente para que cambien su comportamiento, o debemos ser muy cuidadosos sobre cómo comunicamos esos riesgos. De lo contrario, el "Efecto de Acceso de Terceros" seguirá arruinando nuestros hallazgos científicos.

Resumen Técnico: El Efecto del Acceso de Terceros en los Datos del Mundo Real en Educación

Declaración del Problema
El uso secundario de Datos del Mundo Real (RWD, por sus siglas en inglés) de grano fino en educación ofrece oportunidades significativas para la investigación y la personalización de sistemas. Sin embargo, las prácticas actuales suelen evaluar la protección de la privacidad y la comunicación con las partes interesadas de forma aislada. Específicamente, los investigadores evalúan si los datos son "seguros" (dimensión técnica) o si las partes interesadas "aceptan" compartir la información (dimensión socio-técnica) sin considerar cómo estos factores influyen conjuntamente en la validez de los hallazgos analíticos derivados. El artículo postula que las prácticas estándar de privacidad, al ser comunicadas a las partes interesadas, pueden inducir cambios de comportamiento —como el desistimiento (opt-out) o la participación en la no auto-divulgación (por ejemplo, alterar los comportamientos de aprendizaje para evitar la detección)— que introducen un sesgo de selección y comprometen la validez científica de los análisis de uso secundario.

Metodología
Para investigar esta brecha, los autores realizaron tres análisis distintos utilizando cuatro conjuntos de datos educativos: dos conjuntos de datos institucionales del sistema de libro electrónico BookRoll (contextos universitarios y de educación secundaria), los registros de lecciones de vocabulario de Duolingo y el conjunto de datos de ejercicios EdNet-KT4.

Evaluación de Riesgo (RQ1): Los autores aplicaron el marco de trabajo unicity (de Montjoye et al., 2013) para evaluar los riesgos de reidentificación. Trataron las marcas de tiempo como identificadores cuasi (QIs), probando tanto la precisión de nivel de minuto bruto como ventanas de tiempo generalizadas (trimestres, horas, fechas). La métrica estima la proporción de estudiantes que pueden ser identificados de forma única dado un número específico de observaciones auxiliares ( $\varepsilon$ ).
Encuesta de Vignette (RQ2): Se administró una encuesta a 19 estudiantes de pregrado que utilizaban activamente el sistema BookRoll. La encuesta empleó un diseño de vignette de tres pasos para medir la disposición a compartir datos bajo diferentes condiciones: (a) compartir datos brutos, (b) compartir datos seudonimizados, y (c) compartir datos seudonimizados tras haber sido informados del riesgo de reidentificación cuantificado (derivado del Análisis 1). También se consultó a los participantes sobre posibles comportamientos de no auto-divulgación.
Análisis de Sensibilidad (RQ3): Los autores evaluaron la robustez de los hallazgos de uso secundario frente a aumentos plausibles en los desistimientos (opt-outs). Modelaron los "hábitos de aprendizaje" mediante una regresión lineal de Mínimos Cuadrados Ordinarios (OLS), donde la variable dependiente fue la entropía del tiempo dedicado al sistema a través de cuatro ventanas diarias. La ingeniería de características y la selección de modelos fueron automatizadas mediante modelos de lenguaje extensos (LLMs) a través de un enfoque de Ciencia de Datos Automatizada (AutoDS). La sensibilidad de los coeficientes de regresión se midió utilizando la métrica de Perturbación de Influencia Máxima Aproximada (AMIP) para determinar la proporción de puntos de datos (estudiantes) que, de ser eliminados, cambiarían la significancia estadística o el signo de los coeficientes.

Resultos Clave

Alto Riesgo de Reidentificación (RQ1): Los RWD educativos de grano fino exhiben un alto riesgo de reidentificación incluso cuando están meramente seudonimizados. En los conjuntos de datos de BookRoll, un atacante podría identificar aproximadamente al 91.3% de los estudiantes con tan solo cuatro observaciones de marcas de tiempo. Aunque la generalización de las marcas de tiempo al nivel de "fecha" redujo el riesgo en los conjuntos de datos más grandes (Duolingo, EdNet), no logró proteger a todos los estudiantes en los conjuntos de datos más pequeños y específicos de contexto (BookRoll Universidad), donde persistieron patrones de actividad únicos.
Impacto Conductual de la Comunicación del Riesgo (RQ2): Aunque la mayoría de los estudiantes estaban dispuestos a compartir datos brutos o seudonimizados inicialmente, la comunicación del riesgo de reidentificación cuantificado alteró significativamente sus decisiones. Cinco de los 19 participantes reconsideraron su consentimiento para compartir datos tras conocer el riesgo. Además, los participantes reportaron intenciones de participar en comportamientos de no auto-divulgación, tales como reducir la toma de notas, el resaltado de texto o alterar publicaciones en redes sociales para evitar vincular sus actividades de aprendizaje con su identidad.
Sensibilidad de los Hallazgos Derivados (RQ3): Las conclusiones analíticas sobre los hábitos de aprendizaje fueron altamente sensibles a la pérdida de datos. En varios conjuntos de datos, eliminar a menos del 10% de los estudiantes (una tasa plausible dado los desestimientos observados en RQ2) fue suficiente para cambiar la significancia estadística o la dirección (signo) de los coeficientes de regresión. Esto indica que los hallazgos derivados de los datos compartidos pueden no generalizarse a la población completa si la preocupación por la privacidad impulera una atrición no aleatoria.

Contribuciones Clave
El artículo introduce y define el Efecto del Acceso de Terceros (3PAE). Este fenómeno describe una situación en la que el conocimiento obtenido por los investigadores terceros a partir de los datos difiere de lo que se habría aprendido en ausencia del acceso de terceros, debido a las respuestas conductuales de las partes interesadas ante los riesgos de privacidad.

Los autores conceptualizan el 3PAE utilizando los criterios de Gerring para la formulación de conceptos, posicionándolo como distinto de los tradicionales "efectos de inhibición" (chilling effects) o "efectos del observador", ya que surge específicamente de la incertidumbre de la identificabilidad en contextos de intercambio de datos anonimizados. El artículo une las dimensiones técnica y socio-técnica de la privacidad al demostrar que las técnicas de protección de la privacidad y su comunicación no son meramente obstáculos éticos o legales, sino determinantes directos de la validez de los datos.

Significancia y Reivindicaciones
El artículo sostiene que las prácticas comunes de privacidad en educación, cuando se evalúan únicamente en términos de compensaciones entre privacidad y utilidad, pueden introducir inadvertidamente riesgos de validez para la investigación de uso secundario. La importancia del trabajo radica en:

Reencuadre de la Evaluación de la Privacidad: Argumentar que las prácticas de privacidad deben evaluarse no solo por su capacidad para proteger los datos, sino por su impacto derivado en la validez científica de los análisis realizados a partir de ellos.
Unificación Conceptual: Proporcionar un marco unificado (3PAE) para conectar el riesgo técnico (reidentificación) con los resultados socio-técnicos (comportamiento de las partes interesadas y sesgo de selección).
Implicaciones para la Privacidad Diferencial (DP): Sugerir que la Privacidad Diferencial, que limita la influencia de cualquier individuo único en los resultados del análisis, ofrece una vía teórica y práctica para mitigar el 3PAE. Sin embargo, los autores señalan que los desafíos socio-técnicos de comunicar la DP a las partes interesadas en educación siguen siendo un área abierta de investigación.

Los autores mantienen una postura modesta, reconociendo que sus hallazgos demuestran el riesgo de 3PAE bajo prácticas comunes en lugar de probar su realización en todos los entornos. Hacen un llamado a trabajos futuros para validar empíricamente el 3PAE y desarrollar estrategias de comunicación que equilibren la transparencia con la preservación de la utilidad de los datos.