Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
Este artículo sostiene que, si bien las herramientas de IA como ChatGPT pueden democratizar el acceso al conocimiento histórico, corren el riesgo de distorsionar la memoria colectiva a través de sesgos algorítmicos e inconsistencias fácticas, lo que requiere una supervisión humana éticamente fundamentada para asegurar que las narrativas históricas sigan siendo productos de la reflexión crítica en lugar de representaciones automatizadas.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En la era digital, nuestra comprensión del pasado ya no se almacena únicamente en archivos polvorientos o en la memoria de los mayores. Vive en las vastas e interconectadas redes de internet, donde los sistemas de inteligencia artificial actúan como nuevos guardianes. Estos sistemas, conocidos como modelos de lenguaje de gran tamaño, son entrenados con enormes colecciones de la escritura humana. No simplemente recuperan hechos; sintetizan información para crear historias y respuestas. Esto plantea una pregunta profunda para historiadores y sociólogos: cuando le pedimos a una máquina que nos hable sobre una guerra o un conflicto, ¿qué versión de la historia obtenemos? El concepto de "memoria colectiva" se refiere a la historia compartida que un grupo se cuenta a sí mismo sobre su pasado, una historia que moldea quiénes son. Si un algoritmo decide qué detalles incluir, cuáles dejar fuera o cómo enmarcar una tragedia, está remodelando efectivamente esa memoria compartida. La preocupación no es solo que se equivoque en una fecha, sino si estas herramientas podrían suavizar los bordes ásperos y dolorosos de la historia, convirtiendo complejos conflictos humanos en resúmenes neutrales y saneados que sirvan a los intereses de los creadores de la tecnología en lugar de a la verdad.
Un equipo de investigadores se propuso probar exactamente cómo estas herramientas de inteligencia artificial manejan la realidad desordenada de la historia. Se centraron en una versión específica y poderosa de la tecnología llamada ChatGPT, pidiéndole que relatara las historias de cuatro de los principales conflictos multinacionales: las guerras tras la desintegración de Yugoslavia, el prolongado conflicto entre Israel y Palestina, las guerras coloniales libradas por Portugal en África y la guerra de Vietnam. Para ver si la máquina contaba la misma historia a todo el mundo, los investigadores no solo preguntaron en inglés. Plantearon las mismas preguntas en las lenguas nativas de las personas involucradas en cada conflicto, como el croata, el serbio, el árabe, el hebreo, el portugués y el vietnamita. Trataron al chatbot no solo como un motor de búsqueda, sino como un participante activo en una conversación, observando de cerca cómo construía sus respuestas, qué decidía recordar y qué parecía olvidar.
Los resultados revelaron que la máquina está lejos de ser un observador neutral. En lugar de proporcionar una versión única y consistente de la historia, la IA produjo narrativas diferentes dependiendo del idioma utilizado para hacer la pregunta. Cuando los investigadores preguntaron sobre el mismo evento en diferentes idiomas, las respuestas a menudo se contradecían de manera significativa. Por ejemplo, al pedirle que identificara el evento final más significativo de las guerras en la antigua Yugoslavia, la versión en inglés señaló un acuerdo de paz en Macedonia del Norte en 2001. La versión croata se detuvo en un acuerdo de paz de 1995, mientras que la versión serbia extendió la cronología hasta el juicio de 2022 a un líder militar. Estas no eran solo variaciones menores en la redacción; eran historias fundamentalmente distintas sobre cuándo terminó el conflicto y qué era lo más importante. El estudio encontró que la IA a menudo reflejaba las narrativas nacionales oficiales del idioma que hablaba, reforzando efectivamente las perspectivas políticas específicas de esa región en lugar de ofrecer una visión global equilibrada.
Más allá de estas inconsistencias, los investigadores identificaron un patrón de errores y omisiones que distorsionaba el registro histórico. La IA erraba con frecuencia en fechas y nombres, inventando a veces eventos que nunca sucedieron o confundiendo el orden de las batallas. Más preocupante era lo que la máquina dejaba fuera. En sus intentos por ser útil, a menudo omitía detalles crucialos, como las víctimas específicas de las atrocidades, el papel de ciertas fuerzas militares o las causas complejas de una guerra. En un caso, la IA describió las guerras en las colonias portuguesas como una historia única y simple, fusionando luchas distintas en diferentes países en una narrativa plana. Esta "simplificación" despojaba a cada conflicto de sus realidades políticas y sociales únicas. El estudio también notó una tendencia hacia la "neutralización", donde la IA utilizaba un lenguaje vago para evitar asignar culpas. Describía un genocidio como un "evento trágico" o un "crimen" sin nombrar a los perpetradores, lavando efectivamente la responsabilidad específica de los actores involucrados.
Los investigadores concluyeron que estos modelos de lenguaje de gran tamaño no están meramente reflejando el pasado; están remodelando activamente el presente. Debido a que la IA aprende de los datos con los que se la alimenta, hereda los sesgos y los puntos ciegos de esos datos. Cuando genera una historia sobre una guerra, no está extrayendo información de un registro perfecto y objetivo. En su lugar, está prediciendo la siguiente palabra probable basándose en patrones de su base de datos, priorizando a menudo las voces más comunes o dominantes. Esto significa que, para los usuarios que confían en estas herramientas para obtener conocimiento histórico, el pasado se convierte en un producto de la lógica algorítmica en lugar de la reflexión crítica. El estudio sugiere que, sin la supervisión humana y un marco ético sólido, corremos el riesgo de perder la complejidad de nuestra historia compartida ante una máquina que prefiere historias fluidas, simplificadas y, a veces, contradictorias. El poder de decidir qué historias se cuentan, y cómo se cuentan, ha pasado de los historiadores y las comunidades al código y los datos que impulsan estos sistemas digitales.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.