The Embodiment Gap: What Mandatory, Regulatory and Media-Based Incident Regimes Reveal About Robotic AI Failures, 2021–2026
Este artículo analiza datos de incidentes desde 2021 hasta 2026 a través de regímenes regulatorios obligatorios y basados en medios para demostrar que cada sistema captura un subconjunto distinto e incompleto de fallos de la IA robótica, revelando brechas significativas de visibilidad para errores operativos que no implican colisiones y para las tecnologías humanoides emergentes.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Cuando una máquina con inteligencia artificial comete un error en el mundo real, la historia de ese error depende enteramente de quién esté escuchando. Si un coche autónomo choca, una agencia gubernamental con un mandato legal para recopilar datos lo registrará. Si un robot quirúrgico falla dentro de un paciente, un regulador sanitario presentará un informe. Pero si un robot tropieza en un museo o una máquina humanoide se comporta de manera extraña en una feria comercial, el único registro podría ser un vídeo publicado por un testigo o un artículo de noticias. Estas diferentes formas de recopilar información se denominan regímenes de incidentes. Actúan como los ojos y los oídos de la sociedad, decidiendo qué fallos pasan a formar parte de nuestra memoria colectiva y cuáles se desvanecen en el silencio. El problema es que cada régimen ve una porción distinta de la realidad. Uno solo ve choques, otro solo ve errores médicos y un tercero solo ve las historias que llegan a las noticias. Debido a que estos sistemas no se comunican entre sí, a menudo pensamos que entendemos qué tan seguros son los robots, cuando en realidad estamos mirando una imagen fragmentada donde los fallos más peligrosos podrían estar ocultos y los más comunes podrían ser invisibles.
Un investigador llamado Alfredo Merlet se propuso mapear estos puntos ciegos comparando tres formas distintas de rastrear los fallos robóticos entre 2021 y 2026. Analizó los informes de accidentes obligatorios presentados ante la Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU. (NHTSA), los informes de dispositivos médicos presentados ante la Administración de Alimentos y Medicamentos de EE. UU. (FDA) y una base de datos voluntaria que recopila historias de los medios de comunicación. Al vincular estas fuentes, descubrió que la forma en que aprendemos sobre los fallos de los robots es profundamente defectuosa. El sistema obligatorio para los coches autónomos registró más de 8.000 incidentes, pero la base de datos de los medios, que a menudo se trata como una lista exhaustiva de problemas de IA, contenía solo una fracción minúscula de esos choques. De hecho, menos del uno por ciento de los accidentes reportados al gobierno llegaron a la base de datos de los medios. Esto sugiere que el público tiene una visión altamente distorsionada de la seguridad robótica, perdiendo la gran mayoría de los fallos rutinarios mientras se enfoca en unos pocos seleccionados.
El estudio también reveló que los medios no simplemente ignoran los accidentes graves. Contrario a la idea de que los medios de comunicación prefieren historias de robots inofensivas y curiosas sobre las trágicas, los datos mostraron que los choques severos eran en realidad mucho más propensos a ser reportados. Cuando el choque de un coche autónomo resultaba en una fatalidad o una lesión grave, era casi nueve veces más probable que apareciera en la base de datos de los medios que un pequeño roce de carrocería. Sin embargo, la base de datos de los medios capturó un tipo de fallo diferente que el sistema gubernamental pasó por alto por completo: fallos operativos sin choque. Estos son incidentes donde un robot se comporta de manera peligrosa pero no golpea nada, como un robotaxi bloqueando una ambulancia, una flota de vehículos congelándose en el tráfico debido a un corte de energía, o un robot quedando atrapado en una inundación. Debido a que la regla de reporte del gobierno se activa solo por un choque físico, estas situaciones peligrosas permanecen invisibles para los reguladores, a pesar de que representan un riesgo real para la seguridad pública.
La investigación se extendió a los robots quirúrgicos, donde se encontró un tipo diferente de distorsión. La base de datos de informes de dispositivos médicos mostró un salto masivo, de cuatro veces, en los informes de mal funcionamiento en 2025. A primera vista, esto parecía un aumento repentino de fallos peligrosos. Sin embargo, un análisis más detallado de los datos reveló que el aumento no fue causado por más lesiones o muertes. En su lugar, el fabricante comenzó a presentar informes para un tipo específico de desgaste en sus instrumentos, un problema de mantenimiento rutinario que antes no se registraba. El número de lesiones reales a pacientes apenas cambió. Este hallazgo destaca cómo el comportamiento de la persona que presenta el informe puede crear la ilusión de una crisis, incluso cuando la realidad física del daño permanece estable.
Quizás el hallazgo más sorprendente concierne a la nueva generación de robots: los humanoides. Estos son las máquinas que caminan sobre dos piernas y están comenzando a aparecer en espacios públicos, desde parques de atracciones hasta calles de la ciudad. El estudio encontró que estos robots caen por las grietas de cada sistema de reporte. No hay una regla obligatoria para que reporten choques, no hay una categoría de dispositivo médico para sus fallos, y no hay una forma consistente para que los medios rastreen sus incidentes. El investigador recopiló una lista de cinco incidentes específicos que involucraron a humanoides en 2026, incluyendo un robot que se incendió en una competencia y otro que fue detenido por la policía tras un supuesto contacto inapropiado. Solo uno de estos eventos apareció en la base de datos de los medios, y ninguno fue capturado por ningún regulador gubernamental o de salud oficial. Esto crea un vacío peligroso donde la forma de inteligencia artificial más visible y de rápido despliegue está operando sin un registro sistemático de sus fallos.
La conclusión es que ninguna fuente de información por sí sola puede decirnos la verdad sobre la seguridad robótica. El gobierno ve los choques pero pierde los cuasi-accidentes. Los medios ven los fallos dramáticos pero pierden los rutinarios. Los reguladores médicos ven los informes presentados por los fabricantes pero pueden no ver el daño real. Hasta que estos sistemas se conecten y se amplíen para cubrir los nuevos tipos de robots que entran en nuestro mundo, nuestra comprensión del riesgo seguirá siendo incompleta. El estudio sugiere que los reguladores necesitan actualizar sus reglas para capturar los fallos operativos, no solo los choques, y para crear nuevos canales de reporte para los robots humanoides que ya caminan entre nosotros. Sin estos cambios, continuaremos aprendiendo sobre los peligros de la inteligencia artificial solo después del hecho, y solo cuando la historia sea lo suficientemente dramática para ser contada.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.