💻 computer science

Explainable artificial intelligence in interface design influences user outcomes and cybersecurity literacy

Este estudio demuestra que la integración de la inteligencia artificial explicable (XAI) en las herramientas de diseño de interfaces mejora significamente los resultados del usuario, incluyendo la confianza creativa, el aprendizaje percibido, la confianza, la autonomía y la usabilidad, durante las tareas de diseño de interfaz de usuario, lo que sugiere que la XAI fomenta el compromiso crítico con las recomendaciones de la IA al tiempo que destaca la necesidad de investigaciones futuras para medir directamente su impacto en los comportamientos de alfabetización en ciberseguridad y privacidad.

Autores originales: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Publicado 2026-09-25

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo digital, las pantallas que tocamos y los botones en los que hacemos clic no son neutrales. Están diseñados con una intención específica, a veces para guiarnos suavemente y otras veces para dirigirnos hacia elecciones que quizás no tomaríamos si pensáramos con más cuidado. Estos diseños manipuladores, a menudo llamados patrones oscuros (dark patterns), explotan la forma en que funciona nuestro cerebro. Utilizan trucos visuales, diseños confusos y valores predeterminados automáticos para que compartamos datos personales, aceptemos permisos intrusivos o nos suscribamos a pagos recurrentes sin darnos cuenta completamente del costo. El problema no es solo que estos diseños existan, sino que dependen de nuestra velocidad y falta de atención. Cuando una decisión parece fácil y requiere poco esfuerzo, solemos hacer clic sin cuestionar. Para protegernos, necesitamos más que solo conocimiento; necesitamos interfaces que nos animen a detenernos, mirar más de cerca y comprender qué se nos está pidiendo.

Aquí es donde entra la idea de la inteligencia artificial explicable. Imagine un programa informático que le ayuda a diseñar un sitio web o una aplicación. Una versión estándar de tal herramienta simplemente podría ofrecer una sugerencia: "Coloque este botón aquí". Da la respuesta, pero no el razonamiento. Una versión explicable, sin embargo, hace más. Ofrece la misma sugerencia, pero también proporciona una explicación clara de por qué se hizo, qué compensaciones se consideraron y qué tan segura está el sistema de su elección. El objetivo es convertir al usuario pasivo en un socio activo que pueda evaluar el consejo en lugar de simplemente aceptarlo. Los investigadores se han preguntado durante mucho tiempo si esta capa adicional de transparencia realmente ayuda a las personas a aprender, a confiar más en el sistema y a sentirse con más control sobre sus propias decisiones.

Un equipo de investigadores se propuso probar esta idea en un experimento controlado con 128 participantes. Pidieron a estas personas que realizaran una tarea específica: diseñar un tablero (dashboard) para un equipo de investigación de salud. El tablero debía ayudar a los investigadores a realizar un seguimiento de los números de reclutamiento, los plazos y los informes de varios estudios en curso. Los participantes disponían de treinta minutos para crear componentes de interfaz para este escenario utilizando una herramienta asistida por IA. Los investigadores dividieron al grupo en dos equipos. Un equipo utilizó una herramienta de IA estándar que ofrecía sugerencias de diseño sin ningún contexto adicional. El otro equipo utilizó una herramienta de IA explicable que presentaba las mismas sugerencias, pero incluía un panel que explicaba los principios de diseño, el contexto y las posibles compensaciones para cada recomendación.

Los resultados mostraron una diferencia clara en cómo los dos grupos experimentaron la tarea. Quienes utilizaron la herramienta explicable reportaron un aumento significativo en su confianza creativa. Antes de la tarea, su creencia en su capacidad para crear ideas era menor, pero después, aumentó mucho más que la del grupo que utilizó la herramienta estándar. El grupo explicable también sintió que había aprendido más de la experiencia, confió más en las sugerencias de la IA y sintió una mayor autonomía sobre sus decisiones finales. Calificaron el sistema como mucho más utilizable y atractivo. De hecho, el grupo con las explicaciones interactuó con la interfaz con mucha más frecuencia, abriendo los paneles de explicación para leer los detalles, mientras que el otro grupo hizo clic en menos elementos informativos.

Sin embargo, los investigadores fueron cuidadosos con lo que estos resultados significaban realmente. Si bien los participantes se sintieron más seguros y aprendieron más durante la tarea de diseño, el estudio no probó si esta experiencia los hacía mejores para detectar diseños engañosos en el mundo real. El experimento no incluyó ninguna prueba de alfabetización sobre privacidad, ni midió si los participantes podían resistir los patrones oscuros cuando se enfrentaban a ellos más tarde. El estudio descartó explícitamente la idea de que hubieran demostrado que la IA explicable crea un escudo contra la manipulación. En cambio, los hallazgos sugieren que proporcionar razones junto con las sugerencias de la IA mejora la experiencia inmediata de uso de la herramienta y ayuda a los usuarios a sentirse más capaces e informados durante el proceso de diseño.

El estudio también destacó que los beneficios no se limitaron a aquellos que ya eran expertos en tecnología. Incluso los participantes con menos familiaridad con la inteligencia artificial mostraron mejoras en la confianza y el aprendizaje cuando tuvieron acceso a las explicaciones. Esto sugiere que el valor de la transparencia no es solo para los expertos en tecnología, sino que puede apoyar a una gama más amplia de usuarios. No obstante, los autores señalaron que el experimento fue una sesión única de unos cuarenta y cinco minutos. No pudieron determinar si estos sentimientos de confianza y confianza perdurarían en el tiempo o si se transferirían a situaciones diferentes, como la toma de decisiones sobre datos personales o seguridad.

En última instancia, la investigación apunta hacia una dirección prometedora para la forma en que interactuamos con los sistemas inteligentes. Al añadir explicaciones a las sugerencias de la IA, los diseñadores pueden crear herramientas que hagan que los usuarios se sientan más en control y más dispuestos a interactuar críticamente con la tecnología. Este enfoque se alinea con los crecientes esfuerzos regulatorios, como los de la Unión Europea, que exigen que los sistemas de IA de alto riesgo sean lo suficientemente transparentes para que los usuarios puedan entenderlos y utilizarlos adecuadamente. Si bien este estudio no resolvió el problema más amplio de la ciberseguridad o la manipulación de la privacidad, demostró que cuando una herramienta de IA se toma el tiempo para explicar su pensamiento, las personas se sienten más seguras, aprenden más y confían más en el proceso. El siguiente paso para la ciencia es ver si este mayor compromiso puede traducirse en una protección real contra los diseños engañosos que amenazan nuestras vidas digitales.

Resumen Técnico: La Inteligencia Artificial Explicable en el Diseño de Interfaces Influye en los Resultados del Usuario y la Alfabetización en Ciberseguridad

1. Planteamiento del Problema

El artículo aborda la intersección entre el diseño de interfaces, la inteligencia artificial (IA) y la alfabetización de seguridad del usuario. Postula que los "patrones oscuros" (dark patterns) —diseños de interfaz que manipulan a los usuarios para que tomen decisiones que entran en conflicto con sus intereses (por ejemplo, divulgación de datos, permisos intrusivos)— explotan las limitaciones de atención y la toma de decisiones rápida. Si bien regulaciones como la Ley de Servicios Digitales de la UE y la Ley de IA de la UE exigen transparencia, la mera transparencia no garantiza la alfabetización del usuario ni un comportamiento protector.

El problema central investigado es si la Inteligencia Artificial Explicable (XAI), cuando se integra en las herramientas de diseño de interfaces, puede fomentar competencias relevantes para la privacidad y la ciberseguridad. Específicamente, los autores cuestionan si proporcionar justificaciones y compensaciones (trade-offs) junto con las recomendaciones generadas por la IA fomenta que los usuarios se detengan, evalúen críticamente y se involucren más profundamente con los resultados del sistema, promoviendo así la "participación crítica" necesaria para resistir las interfaces engañosas. El estudio señala una falta de evidencia sobre si la interacción apoyada por explicaciones desarrolla realmente estas competencias o si simplemente aumenta la confianza sin mejorar la calibración de la toma de decisiones.

2. Metodología

El estudio empleó un experimento controlado entre grupos con 128 participantes reclutados a través de Prolific. Los participantes fueron asignados aleatoriamente a una de dos condiciones:

Condición XAI ( $n=64$ ): Los participantes utilizaron una herramienta de diseño de UI asistida por IA donde cada sugerencia de diseño estaba acompañada de un panel de explicación. Este panel incluía la justificación del diseño, consideraciones contextuales, posibles compensaciones y un indicador de confianza.
Condición de IA Estándar ( $n=64$ ): Los participantes utilizaron la misma herramienta y recibieron las mismas sugerencias de diseño, pero sin el panel de explicación dedicado.

Tarea:
Los participantes completaron una tarea de diseño de UI de 30 minutos centrada en la mejora de un tablero (dashboard) para la administración de investigación en salud (monitoreo de reclutamiento y plazos). La tarea fue explícitamente no clínica para evitar requerir conocimientos médicos.

Medidas:

Confianza Creativa: Medida mediante una escala Likeli de 3 ítems pre y post tarea para calcular la "ganancia".
Percepciones Post-Tarea: Reporte de confianza, autonomía percibida y aprendizaje percibido (escalas Likert de 3 ítems para cada uno).
Usabilidad: Medida utilizando la Escala de Usabilidad del Sistema (SUS).
Calidad de la Tarea: Calificada por dos evaluadores ciegos en una escala de 0 a 100.
Interacciones Registradas: Recuento automático de las interacciones del usuario (apertura de paneles de explicación en XAI frente a clics en tooltips o metadatos en la Estándar).
Covariables: La familiaridad previa con la IA y la experiencia en diseño de UI fueron estratificadas durante el reclutamiento.

Análisis:
Los datos se analizaron mediante pruebas t para muestras independientes para las diferencias entre grupos, pruebas t pareadas para los cambios dentro de los grupos y correlaciones de Pearson. Se utilizaron modelos de regresión jerárquica para evaluar los predictores de la ganancia de confianza creativa. Los tamaños del efecto se reportaron usando la $d$ de Cohen.

3. Resultados Clave

El estudio encontró diferencias estadísticamente significativas a favor de la condición XAI en múltiples métricas conductuales y de autoinforme:

Confianza Creativa: El grupo XAI mostró una ganancia significativamente mayor en la confianza creativa ( $d=0.68$ ) en comparación con el grupo Estándar. Ambos grupos mejoraron, pero el grupo XAI lo hizo más.
Aprendizaje Percibido: La condición XAI produjo un gran tamaño del efecto para el aprendizaje percibido ( $d=1.17$ ), indicando que los participantes sintieron que aprendieron más de la tarea.
Confianza Reportada: La confianza en la herramienta de IA fue significativamente mayor en la condición XAI ( $d=0.97$ ).
Autonomía Percibida: Los participantes en la condición XAI reportaron una mayor autonomía percibida ( $d=0.42$ ).
Usabilidad: La puntuación SUS fue significativamente mayor para la condición XAI ( $M=71.52$ ) en comparación con la condición Estándar ( $M=58.36$ ), con un tamaño de efecto de $d=1.78$ . La puntuación media del grupo XAI superó el umbral de "superior al promedio" (68), mientras que el grupo Estándar no lo hizo.
Calidad de la Tarea: El grupo XAI produjo diseños de mayor calidad ( $M=82.80$ ) que el grupo Estándar ( $M=75.54$ ), con un tamaño de efecto grande ( $d=0.97$ ).
Interacciones Registradas: Los recuentos de interacción fueron significativamente mayores en la condición XAI ( $d=2.66$ ). Sin embargo, los autores señalan que estos recuentos representan acciones diferentes (abrir paneles frente a hacer clic en tooltips) y no deben tratarse como medidas equivalentes de compromiso.
Correlaciones: En la muestra completa, los recuentos de interacción registrados se correlacionaron positivamente con el aprendizaje percibido, la usabilidad, la confianza reportada y la calidad de la tarea. No obstante, en el grupo Estándar, los recuentos de interacción no se correlacionaron con ningún resultado.

4. Contribuciones Clave

El artículo aporta evidencia empírica de que el diseño de interfaces mejorado con XAI influye positivamente en los resultados del usuario durante las tareas asistidas por IA. Específicamente, demuestra que proporcionar justificaciones y compensaciones junto con las sugerencias de la IA:

Aumenta la confianza creativa y el aprendizaje percibido.
Mejora la confianza reportada y la autonomía percibida.
Mejora la usabilidad del sistema y la calidad de la tarea.
Fomenta mayores niveles de interacción con la interfaz.

El estudio respalda la hipótesis de que las explicaciones pueden servir como una característica de la interfaz que promueve el compromiso crítico con las recomendaciones de la IA, yendo más allá de la simple transparencia hacia una participación activa del usuario.

5. Significado y Reivindicaciones

Los autores mantienen un alcance modesto y preciso respecto al significado de sus hallazgos:

Relevancia para la Alfabetización, No Prueba de Resiliencia: El artículo establece explícitamente que los resultados no demuestran que la XAI mejore la alfabetización en privacidad, la alfabetización en ciberseguridad o la resistencia a los patrones oscuros. El estudio no midió el reconocimiento de patrones oscuros, el comportamiento de evitación o la calibración de la confianza (la alineación de la confianza con la precisión del sistema).
Potencial vs. Demostración de Transferencia: Los hallazgos sugieren una relevancia potencial para la alfabetización en privacidad y ciberseguridad. Los autores argumentan que, al fomentar el compromiso crítico y la autonomía percibida durante una tarea de diseño, la XAI podría informar futuras intervenciones para decisiones de privacidad. Sin embargo, la transferencia directa a contextos de seguridad (por ejemplo, resistir el phishing o flujos de consentimiento engañosos) sigue siendo una cuestión abierta que requiere pruebas separadas.
Calibración de la Confianza: El estudio encontró una mayor confianza reportada en el grupo XAI, pero aclara que esto no equivale a una confianza calibrada. Una mayor confianza sin medidas de precisión podría conducir a una dependencia excesiva si la IA se equivoca.
Limitaciones: Los autores reconocen limitaciones, incluyendo la falta de datos longitudinales (persistencia de los efectos), la naturaleza específica de la tarea (no clínica, no de seguridad) y la fuente de reclutamiento (usuarios de Prolific), lo que puede limitar la generalización a poblaciones con menor alfabetización digital.

En conclusión, el artículo establece que las interfaces apoyadas por explicaciones mejoran la experiencia del usuario y la autoeficacia en las tareas de diseño asistidas por IA. Encuadra estos resultados como una base necesaria para futuras investigaciones sobre si tales interfaces pueden construir efectivamente la resiliencia conductual contra los patrones de diseño engañosos, en lugar de afirmar haber resuelto directamente el problema de la alfabetización en ciberseguridad.