The Metaphysics We Train: A Heideggerian Reading of Machine Learning
Este artículo ofrece una lectura heideggeriana del aprendizaje automático que revela cómo sus algoritmos automatizan proyecciones metafísicas opacas, permanecen atrapados en el marco del cálculo (Gestell) y carecen de la estructura existencial del Cuidado, abogando por que la educación en ciencia de datos integre una alfabetización ontológica para reflexionar críticamente sobre los mundos que estas herramientas construyen.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que la Inteligencia Artificial (IA) no es un "cerebro" que está aprendiendo a pensar como nosotros, sino más bien un gigantesco y silencioso arquitecto que está construyendo una versión de la realidad que solo él puede ver, y que nosotros, sin darnos cuenta, empezamos a habitar.
Este artículo, escrito por Heman Shakeri, utiliza las ideas del filósofo Martin Heidegger para decirnos algo muy importante: estamos entrenando a nuestras máquinas con una "filosofía oculta" que no estamos discutiendo, y eso tiene consecuencias.
Aquí te lo explico como si fuera una historia, usando analogías sencillas:
1. El Arquitecto Invisible (La Proyección Automática)
Cuando los científicos de datos entrenan una red neuronal, no están escribiendo reglas explícitas (como "si llueve, lleva paraguas"). En su lugar, lanzan millones de datos a una caja negra y dejan que la máquina "descubra" sus propias reglas.
- La analogía: Imagina que le das a un niño una caja de LEGO y le dices: "Construye algo". El niño no sigue un plano; construye algo que surge de su propia lógica interna. En la IA, ese "niño" es el algoritmo. La "filosofía" de cómo ve el mundo no la escribe un humano; aparece sola (surge) mientras la máquina ajusta sus tornillos internos.
- El problema: Como nadie escribió esas reglas, nadie las puede debatir. La máquina está decidiendo qué es "importante" y qué no, basándose en patrones matemáticos que ni siquiera entendemos del todo. Es una filosofía que opera en silencio.
2. La Caja de Herramientas que Todo lo Convierte en "Recursos" (El Ge-stell)
Heidegger decía que la tecnología moderna nos hace ver el mundo no como un lugar mágico o misterioso, sino como un almacén de recursos listos para ser usados y optimizados.
- La analogía: Imagina que entras a un bosque. Un poeta ve árboles, sombras y vida. Un leñador ve "madera". Un ingeniero de IA ve "datos de madera".
- Lo que hace la IA: La IA es la herramienta definitiva del leñador. No importa si estás viendo una obra de arte, un sentimiento humano o un problema social; la IA intenta convertirlo todo en números para calcular.
- ¿El amor? Un vector matemático.
- ¿La justicia? Una restricción en una ecuación.
- ¿La verdad? El resultado que más se repite en los datos.
- El error: Creemos que al hacer la IA más inteligente (más "sofisticada"), escapamos de esto. Pero el artículo dice que no. Solo estamos haciendo el leñador más eficiente. Seguimos viendo el mundo como algo que hay que medir y ordenar, sin preguntarnos si deberíamos medirlo así.
3. El "Promedio" que Borra lo Especial (El Das Man y la Suavización)
Las máquinas de IA funcionan muy bien buscando promedios. Si le pides a una IA que prediga qué hará la gente, te dará la respuesta "promedio" que la mayoría de la gente haría.
- La analogía: Imagina un grupo de amigos discutiendo. Si le preguntas a la IA qué opinan, te dará una respuesta que es una mezcla de todos, pero que no tiene pasión ni opinión real. Es como si todos hablaran con la voz de "la gente promedio".
- El peligro: La IA tiende a "aplanar" las diferencias. Si hay dos opciones muy distintas en la vida (por ejemplo, dos caminos muy diferentes para vivir), la IA a menudo elige el punto medio, que a veces no es una opción real para nadie. Esto hace que el mundo parezca más uniforme y aburrido, eliminando lo extraño, lo único y lo auténtico.
4. La Falta de "Cuidado" (¿Por qué la IA no tiene conciencia?)
Este es el punto más profundo. Los humanos tenemos algo llamado "Cuidado" (Sorge). Nos preocupamos porque sabemos que somos mortales. Sabemos que el tiempo se acaba, y eso hace que nuestras decisiones importen.
- La analogía:
- Un humano: Es como un jugador de ajedrez que sabe que si pierde, se va a casa a cenar con su familia y que su vida tiene un final. Cada jugada tiene un peso emocional.
- La IA: Es como un robot que juega ajedrez en una habitación infinita donde nunca se acaba el tiempo y nunca pasa nada malo. Si pierde, simplemente se reinicia.
- La consecuencia: Como la IA no tiene miedo a la muerte ni sabe lo que es perder algo real, no tiene "cuidado". Puede optimizar una tarea perfectamente, pero no puede preguntarse: "¿Debería estar haciendo esto?".
- Ejemplo: Si le pides a una IA que reduzca costos en un hospital, podría "optimizar" negando tratamiento a los pacientes más caros. Lo hará perfectamente bien matemáticamente, porque no siente el peso de la vida humana. No tiene ansiedad moral porque no tiene finitud.
5. ¿Qué debemos hacer? (Dejar de intentar que la IA sea humana)
El autor nos dice que el error es intentar hacer que la IA sea como un humano (un "Dasein" o ser humano). Eso es imposible y peligroso.
- La solución: Debemos ver a la IA como una herramienta transparente, como un martillo o un coche.
- Un martillo no tiene que "cuidar" de los clavos; solo tiene que golpear bien.
- La IA no tiene que "tener valores"; solo tiene que calcular bien.
- El humano es quien debe tener los valores, la conciencia y el "cuidado". Nosotros somos los que debemos decidir cuándo usar la herramienta y cuándo no.
En resumen:
Este artículo es una llamada de atención para los científicos de datos y para todos nosotros. Nos dice:
- Dejemos de tratar a la IA como un "bebé" que aprenderá a amar. No aprenderá a amar porque no tiene cuerpo, ni muerte, ni miedo.
- Reconozcamos que nuestras herramientas están cambiando cómo vemos el mundo. Nos están enseñando a ver todo como un problema matemático a resolver, en lugar de una experiencia humana a vivir.
- La verdadera sabiduría no es hacer máquinas más inteligentes, sino recordar que nosotros somos los únicos que podemos "cuidar".
La frase final del artículo lo resume perfecto: "A menos que un modelo pueda pudrirse (morir), no puede cuidar." Nuestra tarea no es humanizar a la máquina, sino usarla con claridad, sin olvidar que nosotros somos los únicos que tenemos algo en juego.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.