Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

Imagina que estás aprendiendo a construir un robot gigante y mágico en un taller escolar. Tus maestros te dicen que, para hacer que el robot sea inteligente, primero debes aprender el arte de la "abstracción". En el mundo de las computadoras, la abstracción es como poner una caja alrededor de un montón desordenado de piezas y simplemente etiquetarla como "motor". No necesitas saber cómo funciona cada uno de los tornillos para que el robot se mueva; solo necesitas saber qué entra y qué sale. Este es un truco superútil que ayuda a los ingenieros a construir cosas complejas sin sentirse abrumados. Pero aquí está el truco: a veces, cuando ponemos cosas en una caja, accidentalmente tiramos a la basura las partes más importantes de la historia. Podríamos ignorar el hecho de que el "motor" hace un ruido extraño solo cuando está lloviendo, o que se enoja si le hablas en cierto idioma. Si solo miramos la caja, perdemos de vista la realidad de lo que está sucediendo dentro.

Este artículo trata sobre lo que sucede cuando ese truco de "encajonar" las cosas se va demasiado lejos en el mundo de la investigación de la Inteligencia Artificial (IA). Los autores son tres jóvenes científicos que sintieron que no pertenecían a su propia escuela. Notaron que la forma en que los investigadores de IA hablan de su trabajo a menudo ignora los sentimientos, las historias y las luchas de las personas reales. Ellos llaman a este sentimiento "alienación", que es como ser la única persona en una fiesta que habla un idioma diferente, mientras todos los demás siguen hablando por encima de ti. El artículo explora por qué sucede esto y sugiere que la forma en que los investigadores "limpian" sus datos e ignoran sus propias emociones es, en realidad, perjudica a las personas a las que esos robots deberían ayudar.

La historia de tres investigadores que se sintieron extraños

El artículo fue escrito por tres investigadoras en el inicio de su carrera —Vyoma, Isabel y Neha— que estudian IA en universidades de élite en los EE. UU. Decidieron contar su historia no como una lista seca de hechos, sino como una colección de tres escenas cortas, o "viñetas", para mostrar cómo se sintieron desplazadas de sus propias comunidades de investigación.

Escena 1: El problema de los datos "limpios"
En su primera historia, las autoras describen una clase en la que estaban aprendiendo a predecir riesgos de seguros utilizando registros médicos. El profesor les dijo que "limpiaran" los datos. Esto significaba encontrar a cualquier persona cuyo historial médico pareciera extraño o no encajara con el patrón promedio y eliminarla. El profesor llamaba a estas personas "ruido". Pero las autoras se dieron cuenta de algo aterrador: las personas que estaban siendo eliminadas eran a menudo las que más estaban luchando: personas con enfermedades raras, discapacidades o diferentes trasfondos. Al tirar de ellas para que las matemáticas se vieran más "limpias", la clase les estaba enseñando a ignorar precisamente a las personas que más necesitaban ayuda. Las autoras sintieron que se les pedía borrar partes de sí mismas para que el robot funcionara mejor.

Escena 2: La espada de doble filo
En la segunda escena, las autoras hablan de su emoción al comenzar la escuela de posgrado. Querían usar la IA para hacer cosas buenas. Pero luego, vieron reportes de noticias que mostraban cómo las mismas herramientas de IA que estaban estudiando estaban siendo utilizadas por ejércitos para dañar a personas en zonas de guerra. Intentaron hablar con sus profesores y compañeros sobre esto, preguntando: "¿Deberíamos estar construyendo herramientas que puedan ser usadas para la violencia?". En lugar de tener una conversación profunda, se les dijo que simplemente se enfocaran en hacer la tecnología "más ética" o "más segura", como si el problema fuera solo un pequeño error que debía corregirse. Las autoras se sintieron silenciadas. Se les dijo que hacer preguntas importantes sobre si la tecnología debería existir en absoluto era "simplista". Sintieron que se les obligaba a fingir que las cosas malas no estaban sucediendo para poder mantener sus empleos y calificaciones.

Escena 3: Encontrando un espacio seguro
La tercera escena es la parte esperanzadora. Después de sentirse solas y confundidas, las autoras encontraron un grupo diferente de personas —una mezcla de científicos de la computación, maestros y sociólogos— que estaban dispuestos a hablar de las cosas difíciles. En este grupo, nadie tenía prisa. Se tomaban el tiempo para escuchar. No intentaban "limpiar" las partes desordenadas de la conversación; en cambio, usaban esas partes desordenadas para entender mejor el problema. Por primera vez, las autoras se sintieron seguras. Se dieron cuenta de que su sentimiento de ser extrañas no era porque ellas fueran el problema, sino porque la forma habitual de hacer investigación de IA estaba rota.

Lo que encontraron: La caja "desvinculada"

Las autoras se dieron cuenta de que la razón por la que se sentían tan alienadas era debido a algo que llaman "abstracción desvinculada" (ungrounded abstraction).

Piensen en la investigación "vinculada" (grounded) como un árbol con raíces profundas. Las raíces son el mundo real: las personas, la historia, el dolor y la alegría. La investigación "desvinculada" (ungrounded) es como un árbol que ha sido cortado de sus raíces y simplemente flota en el aire. Parece un árbol, pero no puede beber agua ni sentir el viento.

El artículo argumenta que la investigación de IA a menudo corta estas raíces de cuatro maneras específicas:

1. Abstracción del testimonio: Cuando un investigador dice: "Oye, esto lastima a la gente", y la comunidad responde: "No eres un experto real, solo eres emocional", e ignora al investigador.
2. Abstracción del propósito: Cuando el objetivo de un proyecto cambia. Empiezas con "ayudemos a la gente", pero la forma en que mides el éxito se convierte en "obtengamos la puntuación más alta en una prueba", y te olvidas de las personas por completo.
3. Abstracción de posición: Cuando los datos tratan a todos como si fueran iguales, ignorando que algunas personas tienen más poder y otras menos. Es como pretender que una persona rica y una persona pobre tienen exactamente los mismos problemas.
4. Abstracción del afecto: Esta es la más personal. Es cuando a los investigadores se les enseña a adormecer sus sentimientos. Si ves que algo malo está sucediendo, se supone que no debes sentir nada para que puedas seguir trabajando. Las autoras dicen que esto es peligroso porque tus sentimientos son en realidad un sistema de alerta que te dice que algo anda mal.

La solución: Escucha a tu instinto y mantente unida

El artículo no solo se queja; ofrece una forma de arreglarlo. Las autoras sugieren dos cosas principales:

Primero, la Acción Colectiva. No tienes que luchar contra el sistema sola. Si sientes que algo está mal, busca a otras personas que sientan lo mismo. Cuando se mantienen unidas, es más difícil que el sistema las ignore o las haga sentir locas. Las autoras encontraron su fuerza en un grupo de amigos que hablaban abiertamente de sus miedos.

Segundo, la Sintonía Afectiva (Affective Attunement). Esta es una forma elegante de decir: "Escucha tus sentimientos". Si te sientes incómoda, enojada o triste por un proyecto, no reprimas esos sentimientos. No los "abstraigas". En su lugar, trata esos sentimientos como datos importantes. Tu intuición podría ser la primera señal de que la investigación está dañando a alguien. Al prestar atención a tus emociones, puedes detener la investigación "desvinculada" antes de que cause un daño real.

Por qué esto importa

Las autoras son cuidadosas en decir que no están diciendo "dejen de hacer IA". Ellas aman la tecnología. Pero dicen que si seguimos construyendo IA sin mirar el mundo real, sin escuchar a las personas que sufren y sin prestar atención a nuestros propios sentimientos, vamos a construir cosas que están rotas y son peligrosas.

Sugieren que la forma en que enseñamos y realizamos la investigación debe cambiar. Necesitamos dejar de pretender que podemos simplemente "encajonar" las partes desordenadas de la vida. Necesitamos mantener nuestras raíces en el mundo real. Al hacer esto, podemos crear una IA que realmente ayude a todos, no solo a los que encajan perfectamente en una caja. El artículo termina ofreciendo sus ideas como una herramienta para cualquier otra persona que se sienta como una extraña en el mundo de la tecnología, con la esperanza de que, al compartir su historia, otros puedan encontrar su propio camino para sentirse seguros y marcar la diferencia.