Artificial Intelligence in America and China: Investigating prompt response between Human rights and geopolitical questions
Este estudio revela que, si bien los modelos de lenguaje de gran tamaño estadounidenses y chinos exhiben un sesgo mínimo al abordar preguntas sobre los Estados Unidos, muestran patrones divergentes significativos con respecto a China, con Claude puntuando consistentemente más bajo, DeepSeek más alto y ChatGPT manteniéndose relativamente neutral en comparación con el promedio del grupo.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En los últimos años, un nuevo tipo de programa informático se ha convertido en una parte común de la vida diaria. Estos programas, conocidos como modelos de lenguaje extensos, pueden leer y escribir el lenguaje humano con una fluidez sorprendente. Han sido entrenados con vastas cantidades de texto de internet, aprendiendo a predecir qué palabras deberían seguir a otras en una oración. Debido a que son tan buenos imitando la conversación humana, muchas personas recurren ahora a ellos para obtener respuestas sobre historia, ciencia y eventos actuales. Sin embargo, debido a que estos programas aprenden de los datos con los que se les alimenta, también pueden absorber las opiniones, prejuicios y puntos ciegos ocultos dentro de esos datos. Esto plantea una pregunta crítica para cualquiera que dependa de estas herramientas para obtener información: ¿ven estos asistentes digitales el mundo de la misma manera que nosotros, o portan sus propios sesgos ocultos?
Un estudio reciente se propuso responder a esto tratando a la inteligencia artificial como un sujeto de prueba. El investigador, Zian Ding, quería ver si diferentes modelos informáticos darían respuestas distintas al ser consultados sobre temas sensibles como los derechos humanos y la política internacional. Para ello, el estudio se centró en tres de los modelos más populares disponibles en ese momento: dos de empresas estadounidenses y uno de una empresa china. El objetivo no era mantener una larga conversación con las máquinas, sino hacerles un conjunto específico de preguntas y ver cómo calificaban las situaciones en una escala simple. El investigador pidió a cada modelo que calificara dieciséis escenarios diferentes, que cubrían diez preguntas sobre derechos humanos y seis sobre la competencia geopolítica entre Estados Unidos y China. Para cada pregunta, los modelos debían dar una puntuación del uno al diez, donde un número bajo representaba una visión negativa y un número alto una visión positiva.
El experimento fue diseñado para ser muy cuidadoso. Para asegurar que los resultados fueran justos, el investigador hizo cada pregunta en una sesión de chat nueva, asegurándose de que la computadora no recordara respuestas anteriores ni se confundiera con conversaciones pasadas. El investigador también desactivó una función en los modelos estadounidenses que permite que estos recuerden detalles sobre un usuario, garantizando que cada respuesta se basara únicamente en la pregunta específica realizada. Al comparar las puntuaciones dadas por los tres modelos diferentes, el estudio buscó patrones. Si los tres modelos daban puntuaciones similares, sugeriría que comparten una visión común y neutral. Si daban puntuaciones muy diferentes, sugeriría que cada modelo tiene su propia perspectiva única, probablemente moldeada por los diferentes datos con los que fue entrenado.
Cuando el investigador preguntó a los modelos sobre los Estados Unidos, los resultados fueron en gran medida consistentes, aunque no exentos de variaciones menores. Los tres programas informáticos dieron puntuaciones muy similares para la mayoría de las preguntas relativas a los derechos humanos y la posición geopolítica estadounidense. Sin embargo, hubo excepciones; por ejemplo, el modelo Claude dio una puntuación para la pregunta sobre la comunicación 6G que fue 1.89 puntos más baja que el promedio, lo que indica una desviación notable respecto a los otros dos modelos. Ya fuera que el tema tratara sobre la justicia racial o la competencia internacional, los modelos estadounidense y chino generalmente coincidieron entre sí, aunque preguntas específicas revelaron pequeñas diferencias en sus evaluaciones. Esto sugiere que, cuando se trata de describir a su propio país o a un aliado cercano, estos sistemas de inteligencia artificial tienden a operar desde un conjunto de hechos y valores mayormente compartido, probablemente porque todos fueron entrenados con una gran cantidad de datos occidentales.
La historia cambió completamente cuando las preguntas se centraron en China. Aquí, los tres modelos divergieron drásticamente, revelando sesgos distintos. El modelo chino, DeepSeek, dio consistentemente las puntuaciones más altas, pintando un cuadro muy positivo del historial de derechos humanos de China y de sus posibilidades en la competencia global. A menudo citaba muchas fuentes diferentes para respaldar sus altas calificaciones, aunque a veces vacilaba al responder ciertas preguntas sensibles al principio. El modelo estadounidense de la empresa estadounidense, Claude, por otro lado, dio las puntuaciones más bajas. Con frecuencia se negó a responder preguntas sobre los derechos de las minorías, afirmando que un número simple no podía capturar la complejidad del tema. Cuando sí respondía, sus puntuaciones eran significativamente más bajas que el promedio, lo que sugiere una visión mucho más crítica de China.
El tercer modelo, un programa estadounidense, se situó justo en medio. Sus puntuaciones fueron muy cercanas al promedio de los tres, lo que sugiere que se mantuvo relativamente neutral en comparación con los otros dos. Este punto medio indica que este modelo específico puede haber sido entrenado con una mezcla de datos más equilibrada, o quizás fue actualizado para evitar tomar posturas fuertes sobre estos temas particulares. El estudio también comprobó si la función de memoria del modelo estadounidense cambiaba sus respuestas, pero encontró que activarla o desactivarla hacía muy poca diferencia en las puntuaciones finales.
Los hallazgos sugieren que, si bien estas herramientas de inteligencia artificial son poderosas, no son observadores neutrales. Reflejan los datos de los que están construidas y las reglas que sus creadores les imponen. Cuando se les pregunta sobre los Estados Unidos, generalmente coinciden, aunque con algunas excepciones específicas. Cuando se les pregunta sobre China, cuentan tres historias diferentes. Esto es importante porque millones de personas, incluyendo muchos adolescentes, utilizan ahora estas herramientas para aprender sobre el mundo. Si un joven le pregunta a una computadora sobre los derechos humanos en diferentes países, la respuesta que obtenga dependerá enteramente de a qué computadora le pregunte. El estudio concluye que los usuarios deben ser conscientes de que estas máquinas tienen sus propias perspectivas, y que la información que proporcionan no es siempre una verdad objetiva, sino más bien un reflejo de los sesgos integrados en su código.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.