The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
Desafiando la visión de que los modelos de lenguaje extensos poseen solo sesgos políticos menores, este estudio demuestra que, si bien su posicionamiento general parece moderado debido a posturas partidistas compensatorias en temas específicos, estos pueden, no obstante, ejercer una influencia persuasiva sobre las actitudes políticas de los usuarios comparable a la publicidad de campañas profesionales, particularmente cuando sus respuestas son dirigidas explícitamente.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En el panorama de la política moderna, la ideología de una persona rara vez es un bloque único y sólido de creencias. En cambio, es una colección de opiniones sobre muchos temas diferentes, desde la atención médica hasta la inmigración, que a veces pueden tirar en direcciones opuestas. Los politólogos han entendido desde hace tiempo que la mayoría de las personas no mantienen visiones perfectamente consistentes; un votante puede ser muy liberal en un tema y muy conservador en otro, o simplemente puede no tener una opinión sólida al respecto. Durante décadas, los investigadores han medido estas posiciones preguntando a las personas cómo votarían sobre leyes o cómo se sienten respecto a políticas específicas, creando un mapa de dónde se encuentran los individuos. Ahora, ha surgido una nueva pregunta a medida que la inteligencia artificial se convierte en una herramienta cotidiana para millones de personas: ¿tienen los modelos de lenguaje extensos con los que hablamos a diario sus propios mapas políticos? Si estos modelos, que se utilizan cada vez más para buscar información y formar opiniones, albergan sesgos ocultos, podrían moldear sutilmente la forma en que las personas ven el mundo sin que nadie se dé cuenta.
Un equipo de investigadores se propuso responder a esto tratando a la inteligencia artificial no como una calculadora neutral, sino como un actor político. Examinaron cuarenta y tres modelos de lenguaje extensos diferentes, pidiéndole a cada uno que actuara como un miembro del Congreso de los EE. UU., un juez de la Corte Suprema o un votante común. No pidieron a los modelos que simplemente declararan sus creencias; en su lugar, les pidieron que tomaran decisiones sobre proyectos de ley, casos judiciales y preguntas de encuestas del mundo real, tal como lo haría un humano. Los investigadores compararon luego estas decisiones digitales con los registros de votación reales de políticos reales y las respuestas de encuestas de miles de estadounidenses reales. Lo que encontraron fue que estos modelos no se sitúan en un medio punto silencioso y neutral. En cambio, muestran una mezcla compleja y a menudo contradictoria de puntos de vista. En algunos temas, un solo modelo podría adoptar una posición más liberal que los demócratas más fuertes, mientras que en otros temas, ese mismo modelo podría adoptar una postura más conservadora que los republicanos más fuertes. Cuando se promedian todas estas visiones, los modelos a menudo parecen moderados, pero esto es una ilusión creada por la cancelación de opiniones fuertes y opuestas, de forma muy similar a un votante real que posee una mezcla de visiones conflictivas.
El estudio también analizó de dónde provienen estas visiones. Los investigadores descubrieron que las inclinaciones políticas de estos modelos no son simplemente un reflejo de la vasta cantidad de texto con el que fueron entrenados. En su lugar, las instrucciones específicas y los filtros de seguridad aplicados a los modelos después de su entrenamiento inicial —procesos diseñados para hacerlos útiles e inofensivos— son los que los empujan hacia ciertos lados políticos. De hecho, cuando los investigadores probaron las versiones "puras" de estos modelos antes de estos ajustes finales, los modelos estaban mucho más cerca del centro político. Es el ajuste final lo que les otorga su firma política distintiva y, a menudo, de tendencia liberal. Esta firma no es solo una lista estática de opiniones; cambia dependiendo de cómo se le pida al modelo. Cuando se les indica actuar como un votante, un juez o un legislador, los modelos expresan diferentes conjuntos de posiciones, demostrando que su "ideología" es un comportamiento que interpretan en respuesta a una instrucción, más que un sistema de creencias profundo.
La parte más significativa de la investigación, sin embargo, fue determinar si estas opiniones digitales podían realmente cambiar la mente de las personas reales. Los investigadores llevaron a cabo un gran experimento donde miles de participantes estadounidenses discutieron temas de política con estos modelos. Probaron dos escenarios diferentes. En el primero, se permitió que los modelos hablaran de forma natural, respondiendo preguntas sin que se les indicara argumentar a favor de un lado específico. En el segundo, se instruyó explícitamente a los modelos para que argumentaran a favor de un punto de vista específico, como apoyar una nueva ley de control de armas o oponerse a un aumento de impuestos. Los resultados fueron impactantes. Cuando los modelos hablaban de forma natural, no tenían un efecto mensurable en las opiniones de los participantes. Las personas que hablaban con ellos no cambiaron sus visiones en ninguna dirección particular. Sin embargo, cuando se les instruía a los modelos para que argumentaran a favor de un lado, se convertían en poderosos persuadidores. Los participantes que hablaron con un modelo instruido para argumentar a favor de una política específica cambiaron sus propias visiones para alinearse con ese modelo en un promedio de más de diez puntos porcentuales. Este efecto fue lo suficientemente fuerte como para igualar, y en algunos casos superar, la influencia de los anuncios de campañas políticas profesionales.
Crucialmente, el estudio encontró que este poder de persuasión no dependía del trasfondo de la persona. No importaba si el participante tenía un alto nivel educativo, seguía las noticias de cerca o estaba muy familiarizado con la inteligencia artificial; la influencia funcionaba con la misma fuerza en todos, independientemente de estos factores. Sin embargo, la dirección del argumento en relación con el propio partido del participante sí importó de una manera sorprendente. Los investigadores encontraron que los participantes eran en realidad menos propensos a cambiar sus visiones cuando el modelo argumentaba en contra de su propio partido político, y más propensos a cambiar cuando el modelo argumentaba en línea con su partido. Los investigadores también descartaron la idea de que los modelos estuvieran simplemente coincidiendo con lo que el usuario ya pensaba. Debido a que los modelos recibieron instrucciones de argumentar a favor de un lado específico antes de que comenzara la conversación, y debido a que los usuarios no comunicaron sus propias visiones previamente, los modelos no pudieron reflejar al usuario. En su lugar, los modelos estaban influyendo genuinamente en la conversación.
Los hallazgos sugieren que, aunque estas herramientas de inteligencia artificial puedan parecer fuentes neutrales de información cuando se dejan a su libre albedrío, poseen una capacidad oculta para moldear la opinión política cuando se las guía para ello. Los investigadores enfatizan que esta influencia no es el resultado de que los modelos tengan un alma o una agenda política propia, sino que es el resultado de cómo son construidos e instruidos. Si un gobierno o una corporación quiere influir en la opinión pública, no necesita crear una máquina de propaganda; simplemente necesita ajustar las instrucciones dadas a los modelos que millones de personas ya utilizan. El estudio concluye que, a medida que estas herramientas se vuelven más integradas en nuestra vida diaria, desde los motores de búsqueda hasta los asistentes personales, la forma en que se ajusten tendrá consecuencias profundas para cómo entendemos el mundo y cómo votamos. El poder de cambiar la mente de una persona ya no está reservado para los oradores humanos; ahora puede ser codificado en el software con el que hablamos todos los días.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.