Reporting of AI and ML Studies in Elderly Care Settings: A Rapid Systematic Scoping Review

Imagina un mundo donde la tecnología vigila silenciosamente a los ancianos, no para reemplazar el cuidado humano, sino para apoyarlo. En residencias de ancianos, centros de vida asistida y hogares particulares, cada vez más se le pide a las computadoras que hagan cosas como detectar una caída antes de que llegue un cuidador, predecir cuándo un residente podría necesitar más ayuda o monitorear las rutinas diarias en busca de señales de problemas. Estos sistemas se basan en la inteligencia artificial y el aprendizaje automático, dos términos que a menudo suenan a ciencia ficción pero que, en la práctica, son simplemente formas en que las computadoras aprenden de los datos para hacer predicciones o detectar patrones. La esperanza es que estas herramientas puedan hacer que el cuidado sea más seguro y eficiente. Sin embargo, para que estas herramientas sean confiables y se utilicen de manera efectiva, las personas que las construyen deben explicar exactamente cómo funcionan, de qué datos aprendieron y dónde podrían fallar. Sin explicaciones claras, un sistema que parece perfecto en el papel podría ser inútil o incluso peligroso en el mundo real.

Un equipo de investigadores de la Universidad de Ciencias Aplicadas de Kempten decidió observar de cerca cómo los científicos informan actualmente sobre estos proyectos de inteligencia artificial para los ancianos. No construyeron un nuevo sistema ni probaron un dispositivo específico. En su lugar, actuaron como auditores de la literatura, recopilando y examinando 69 estudios recientes publicados desde 2020. Su objetivo era ver si los autores de estos estudios estaban proporcionando suficiente información para que otros pudieran comprender los sistemas que crearon. Querían saber si los informes incluían detalles sobre quién usaría la tecnología, qué tipo de datos entrenaron a la computadora y si el sistema había sido probado fuera de un entorno de laboratorio controlado.

Lo que encontraron fue un panorama de reporte desigual. Si bien los investigadores fueron generalmente buenos describiendo el propósito básico de sus sistemas y de dónde obtuvieron sus datos, a menudo omitieron los detalles cruciales que determinan si un sistema puede realmente funcionar en un bullicioso hogar de ancianos o en una sala de estar tranquila. Por ejemplo, casi todos los estudios describieron lo que la computadora debía hacer, pero menos de la mitad explicó claramente quién sería el tomador de decisiones humano. En muchos casos, no estaba claro si el sistema estaba destinado a alertar a un enfermero, a un familiar o al propio residente, o cómo se suponía que esa persona debía reaccionar ante la alerta. Esta falta de claridad dificulta saber cómo encaja la tecnología en el complejo flujo humano del cuidado diario.

La brecha se amplió cuando los investigadores analizaron cómo se probaron estos sistemas. La mayoría de los estudios dependieron de la validación interna, lo que significa que la computadora fue probada con los mismos datos que ya había visto o con datos muy similares a los que aprendió. Esto es como un estudiante que toma un examen de práctica utilizando exactamente las mismas preguntas que estudió. Si bien esto muestra que la computadora puede reconocer patrones, no demuestra que pueda manejar la realidad desordenada e impredecible de un nuevo entorno. Solo una pequeña fracción de los estudios, el 16 por ciento, informó haber probado sus sistemas con datos nuevos e independientes. Incluso menos, aproximadamente el 20 por ciento, describió la prueba del sistema en un entorno de cuidado del mundo real donde interactuaba con pacientes y personal reales. Sin estas pruebas en el mundo real, sigue siendo incierto si los sistemas funcionarán tan bien cuando se enfrenten al ruido, el movimiento y la variedad de un hogar o instalación real.

Quizás la omisión más preocupante fue la falta de discusión sobre la incertidumbre y el sesgo. Cuando una computadora hace una predicción, rara vez tiene un 100 por ciento de certeza, y a veces puede equivocarse de maneras que afectan a grupos específicos de personas más que a otros. Los investigadores encontraron que solo el 9 por ciento de los estudios explicaron cómo el sistema manejaba la incertidumbre o qué tan seguro estaba de sus respuestas. Del mismo modo, solo el 23 por ciento de los estudios verificó si el sistema funcionaba de manera diferente para distintos subgrupos, como hombres frente a mujeres o personas con diferentes tipos de problemas de movilidad. Sin esta información, no hay forma de saber si un sistema es justo o confiable para todas las personas que podrían usarlo. Los estudios también rara vez discutieron qué sucede cuando faltan datos, algo que ocurre con frecuencia en la vida real, dejando un punto ciego significativo en cómo se comportarían estos sistemas cuando los sensores fallan o los registros están incompletos.

Los autores de la revisión sugieren que la forma actual en que se escriben estos estudios se centra demasiado en la construcción técnica del modelo de la computadora y no lo suficiente en cómo el sistema encaja en el entorno humano más amplio. Las directrices existentes para informar la investigación médica, diseñadas para herramientas de diagnóstico como radiografías o análisis de sangre, no parecen cubrir plenamente los desafíos únicos del cuidado de ancianos, donde el "paciente" es a menudo una comunidad entera de personas con diversas necesidades, y el "diagnóstico" es a menudo un flujo continuo de datos conductuales. La revisión indica que, si bien la tecnología avanza rápidamente, la forma en que los investigadores comunican su preparación y limitaciones no ha seguido el mismo ritmo. Hasta que los informes incluyan detalles claros sobre quién usa el sistema, cómo fue probado en el mundo real y dónde podría fallar, será difícil para los cuidadores e instituciones saber si estas herramientas están realmente listas para ser confiadas con la seguridad y el bienestar de los ancianos.