Studying People to Study AI: Expert Perspectives on the Epistemic Fit and Barriers of Human Research in AI Safety & Ethics

Imagina que estás intentando construir un robot que pueda hablar, pensar y ayudar a las personas. Quieres asegurarte de que este robot sea seguro y no lastime accidentalmente a nadie o diga algo grosero. Para lograrlo, los científicos han estado realizando pruebas. Pero aquí está la parte complicada: la mayoría de estas pruebas son como jugar un videojuego donde el robot habla con otro robot. Simulan cómo podría reaccionar un humano, o usan las matemáticas para verificar si el robot está siguiendo las reglas. Es rápido, barato y fácil de ejecutar un millón de estos juegos de "robot contra robot" en un día.

Sin embargo, hay un gran problema con solo jugar videojuegos. El hecho de que un robot pase una prueba contra otro robot no significa que sea seguro cuando se encuentre con un ser humano real, desordenado y emocional. Los humanos reales son complicados. Se confunden, sienten emociones y pueden engañar al robot de formas que una simulación nunca podría prever. Este artículo plantea una pregunta simple pero enorme: ¿Por qué tantos científicos siguen jugando videojuegos con robots en lugar de hablar realmente con personas reales para ver qué sucede?

---

La Gran Prueba del Robot: Por Qué Necesitamos Personas Reales, No Solo Simulaciones

Este artículo es como una historia de detectives que investiga un extraño vacío en el mundo de la seguridad de la IA. Los investigadores, un equipo de expertos de universidades como la Universidad de Toronto y McGill, querían entender por qué el campo de la Seguridad y Ética de la IA (llamémoslo AISE para abreviar) es tan reticente a utilizar seres humanos reales en sus experimentos.

Imagina la AISE como un gran taller donde la gente intenta construir los robots más seguros y éticos posibles. Dentro de este taller, hay diferentes grupos de expertos. Algunos son magos Técnicos que aman el código, las matemáticas y la ejecución de simulaciones. Otros son detectives Sociotécnicos a los que les importa cómo se sienten y cómo interactúan realmente las personas con la tecnología. También hay gente de Gobernanza que piensa en reglas y leyes, y pensadores Normativos que se preocupan por lo que es "correcto" o "bueno".

El descubrimiento principal del artículo es que, si bien todos en el taller están de acuerdo en que hablar con humanos reales es súper importante, el grupo Técnico es el que más lo ignora. Prefieren sus simulaciones computacionales rápidas y limpias. Los autores descubrieron que esto no es solo porque el grupo Técnico priorice la eficiencia; es porque tienen una forma diferente de pensar sobre lo que cuenta como "prueba".

El "Videojuego" vs. El "Mundo Real"

Los autores describen una división importante. Los investigadores Técnicos a menudo tratan a los humanos como variables en una ecuación matemática. Quieren medir cosas con una regla y un cronómetro. Si no pueden medir algo perfectamente, a menudo no confían en ello. Les preocupa que hablar con personas reales sea "desordenado".

Imagina que estás tratando de probar un nuevo puente.

• El Enfoque de Simulación: Construyes un modelo digital perfecto del puente en una computadora. Ejecutas un millón de tormentas de viento a través de él. La computadora dice: "¡Es 100% seguro!". Esto es rápido y barato.
• El Enfoque de Investigación Humana: Realmente construyes el puente y pides a personas reales que lo crucen. Tal vez algunos se asustan, tal vez el viento se siente diferente de lo que la computadora predijo, y tal vez el puente se balancea de una manera que el modelo no predijo.

El artículo sugiere que la AISE está actualmente obsesionada con el modelo computacional. Están ejecutando miles de millones de simulaciones (como los "videojuegos" mencionados anteriormente) para ver si la IA es segura. Pero los autores argumentan que esto es arriesgado. Si solo pruebas tu puente en una computadora, podrías pasar por alto el hecho de que la gente real entra en pánico cuando el viento sopla, o que el puente hace un ruido extraño que los asusta.

La Trampa del "Human-Washing" (Lavado de Imagen Humano)

Una de las cosas más interesantes sobre las que advierte el artículo es algo que los autores llaman "human-washing". Esto es como el "green-washing", donde una empresa pone una hoja en una botella para que parezca ecológica sin ser realmente verde.

El "human-washing" ocurre cuando los investigadores dicen: "¡Oigan, hablamos con algunas personas!", solo para marcar una casilla. Pero no los escucharon realmente, o no hicieron las preguntas correctas. Solo añadieron a unos pocos humanos a su estudio para que pareciera que estaban haciendo investigación real, pero no cambiaron realmente sus métodos. Los autores dicen que esto es peligroso porque da una falsa sensación de seguridad. Es como poner un extintor de incendios falso en la pared; parece que estás preparado, pero si comienza un incendio, no funcionará.

Las Barreras: ¿Por qué no lo hacen simplemente?

Podrías preguntarte: "Si todos están de acuerdo en que la investigación humana es buena, ¿por qué no hacen más de ella?". El artículo encontró tres grandes muros que los detienen:

1. El Muro del Dinero y el Tiempo: Hablar con humanos reales es caro y lento. Los autores señalan que una simulación por computadora puede costar menos de $1,000. ¿Pero un estudio serio con personas reales? Eso puede costar $300,000 o más. Además, toma meses encontrar a las personas adecuadas, obtener permisos de los comités de ética y realizar las pruebas. Es como la diferencia entre dibujar un cuadro de un pastel y realmente hornear uno gigante para una fiesta.
2. El Muro del Mentor: Muchos investigadores jóvenes quieren estudiar a personas reales, pero sus jefes (mentores) les dicen que no lo hagan. El artículo comparte historias de estudiantes cuyos asesores les dijeron: "No hagas eso, no es ciencia 'real'", o "Limítate al código". Esto hace que los jóvenes científicos tengan miedo de intentar la investigación humana porque piensan que afectará sus carreras.
3. El Muro de los "Datos Desordenados": Los investigadores técnicos suelen encontrar los datos humanos frustrantes. Los humanos no siempre responden a las preguntas de la misma manera. Mienten, se cansan o dicen algo extraño. Para un científico de la computación que ama los números perfectos, esto se siente como un error en el sistema. Pero los autores argumentan que este "desorden" es en realidad la parte más importante de los datos porque es la vida real.

La Brecha entre "Querer" y "Hacer"

Los investigadores encuestaron a 93 expertos y entrevistaron a 17 de ellos en profundidad. Encontraron una brecha enorme. Casi todos decían que querían hacer más investigación humana. Estaban de acuerdo en que era valiosa. Pero cuando observaron lo que la gente estaba haciendo realmente, los números eran mucho menores.

Es como un gimnasio donde todos dicen: "Realmente quiero ponerme en forma y levantar pesas", pero cuando miras el equipo, nadie está levantando nada. Solo están leyendo libros sobre pesas. El grupo Técnico era el menos propenso a levantar las pesas; preferían los libros (las simulaciones).

¿Qué Deberíamos Hacer?

El artículo no solo señala el problema; ofrece algunas ideas para solucionarlo:

• Detener el "Human-Washing": Necesitamos asegurarnos de que cuando incluyamos humanos, lo hagamos adecuadamente. Necesitamos respetar su tiempo y escuchar lo que dicen, no solo usarlos como un accesorio.
• Cambiar el Dinero: Los grupos de financiamiento (las personas que otorgan las subvenciones) deben darse cuenta de que la investigación humana cuesta más. Deben dar más dinero a estos proyectos para que no sean aplastados por el alto precio.
• Mezclar los Equipos: Necesitamos más equipos donde los magos del código y los expertos en personas trabajen juntos desde el principio. Actualmente, a menudo trabajan en habitaciones separadas. Los autores sugieren que si un investigador Técnico quiere construir una IA segura, necesita hablar con un investigador Sociotécnico que entienda cómo se comportan realmente los humanos.

La Conclusión

Este artículo sugiere que el campo de la Seguridad de la IA está actualmente demasiado enfocado en modelos computacionales perfectos y no lo suficiente en el mundo desordenado y real de los seres humanos. Si bien las simulaciones son útiles, no pueden reemplazar la verdad que solo proviene de hablar con personas reales. Si queremos construir una IA que sea verdaderamente segura, debemos dejar de tratar a los humanos como variables en un problema matemático y empezar a tratarlos como los expertos en sus propias vidas.

Los autores no están diciendo que las simulaciones sean malas; están diciendo que depender solo de las simulaciones es como intentar aprender a nadar leyendo un libro sobre el agua. Necesitas mojarte. Y en este momento, la comunidad de seguridad de la IA se mantiene mayormente seca, leyendo los libros y esperando que el agua sea segura.