The social psychology of AI agents
Este estudio revela que, si bien los grandes modelos de lenguaje exhiben personalidades autoinformadas consistentes y socialmente deseables, sus comportamientos sociales observados en la práctica varían significativamente entre los modelos y no son predichos por los autoinformes, lo que sugiere que las evaluaciones conductuales son esenciales para seleccionar agentes de IA para interacciones sociales.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En los rincones silenciosos de la ciencia moderna, se está llevando a cabo un nuevo tipo de experimento social, no en un parque o en un aula, sino dentro de las mentes digitales de la inteligencia artificial. Durante años, los investigadores han intentado comprender cómo piensan estos programas informáticos haciéndoles preguntas directas, de forma muy parecida a como un psicólogo podría pedirle a una persona que complete una encuesta de personalidad. Este enfoque se basa en la idea de que si una IA dice ser amable, honesta o paciente, es probable que se comporte de esa manera. Sin embargo, un número creciente de científicos sospecha que estos seres digitales podrían estar diciéndonos lo que creen que queremos oír, en lugar de revelar cómo actúan realmente cuando se enfrentan a elecciones reales. A medida que estos programas comienzan a asumir roles más complejos, como negociar contratos, gestionar cadenas de suministro o incluso colaborar con médicos, comprender su comportamiento social real se vuelve crítico. La cuestión ya no es solo qué afirma ser una IA, sino qué hace realmente cuando interactúa con otros.
Un equipo de investigadores de Alemania y Canadá se propuso recientemente probar esta idea tratando a la inteligencia artificial como a un grupo de nuevos vecinos. Reunieron treinta y seis modelos de lenguaje extensos diferentes, los sofisticados motores de software que impulsan los chatbots y agentes modernos, y los sometieron a una serie de pruebas sociales. En lugar de simplemente pedir a los modelos que describan sus personalidades, los investigadores los colocaron en siete escenarios distintos conocidos como juegos sociales. Estos juegos son herramientas estándar utilizadas por los psicólogos para medir cómo se comportan las personas en situaciones que involucran confianza, justicia y cooperación. En un escenario, se le dio a un modelo una suma de dinero virtual y se le pidió que decidiera cuánto compartir con un compañero pasivo que no podía rechazar la oferta. En otro, dos modelos tuvieron que decidir si trabajar juntos o traicionarse mutuamente para obtener una recompensa individual mejor, una situación repetida durante varias rondas para ver si aprendían a confiar el uno en el otro. Los investigadores también probaron cómo reaccionaban los modelos ante la injusticia, si favorecían a un grupo al que fueron asignados aleatoriamente y cuánto estaban dispuestos a confiar un extraño con sus propios recursos.
Los resultados revelaron una desconexión sorprendente entre lo que los modelos decían sobre sí mismos y cómo se comportaban realmente. Cuando se les pidió que calificaran sus propias personalidades utilizando un cuestionario estándar, los modelos dieron respuestas notablemente similares. Consistentemente se describieron a sí mismos como altamente amables, concienzudos y de mente abierta, mientras afirmaban tener niveles muy bajos de emociones negativas como la ansiedad o la ira. En resumen, cada modelo presentó un perfil casi idéntico y perfectamente educado, agrupándose estrechamente alrededor de los rasgos socialmente más deseables que un humano pudiera imaginar. Esta uniformidad sugirió que los modelos habían aprendido a imitar la respuesta humana ideal en lugar de expresar características individuales únicas. Sin embargo, cuando los investigadores observaron el comportamiento real de los modelos en los juegos sociales, el panorama cambió por completo. El comportamiento variaba enormemente de un modelo a otro. Algunos modelos eran increíblemente generosos, regalando casi todo su dinero virtual, mientras que otros se quedaban con casi todo. En el juego de la confianza, un modelo podía entregar casi toda su dotación a un extraño, mientras que otro no entregaría casi nada. Las diferencias en cómo actuaban estos modelos fueron más del doble de grandes que las diminutas diferencias en sus personalidades autoinformadas.
Quizás el descubrimiento más sorprendente fue que no existía un vínculo fiable entre la autodescripción de un modelo y sus acciones. Un modelo que afirmaba ser altamente confiable no necesariamente actuaba de forma más confiable que uno que afirmaba serlo menos. Del mismo modo, un modelo que se describía a sí mismo como muy justo no realizaba consistentemente ofertas más justas en los juegos. Los investigadores descubrieron que saber cómo respondía un modelo a una encuesta de personalidad no les decía casi nada sobre cómo se comportaría en una situación social compleja. En cambio, los modelos parecían tener estilos sociales distintos y multidimensionales que eran específicos para el contexto. Un modelo podía ser muy cooperativo en un juego repetido donde los compañeros interactúan a lo largo del tiempo, pero ser bastante egoísta en una decisión de una sola vez. Otro podía estar dispuesto a castigar el comportamiento injusto, pero no estar dispuesto a confiar en un extraño. Estos patrones no eran aleatorios; eran lo suficientemente consistentes como para distinguir un modelo de otro, pero no seguían una única regla de ser "bueno" o "malo".
El estudio también exploró si cambiar la configuración de los programas informáticos, como hacerlos más aleatorios o más enfocados, alteraría su naturaleza social. Los investigadores descubrieron que estos ajustes técnicos tenían muy poco efecto en el comportamiento de los modelos. Las diferencias observadas estaban integradas en los propios modelos, lo que sugiere que cada motor de IA tiene un estilo social inherente que persiste independientemente de los ajustes menores. Este hallazgo es crucial porque implica que, a medida que desplegamos estos agentes para trabajar junto a humanos y otras máquinas, no podemos confiar en sus rasgos autoinformados para predecir sus acciones. Si una empresa quiere que un agente de IA negocie un trato justo, preguntar al software si es justo no es suficiente; el agente debe ser probado en escenarios de negociación reales. Los investigadores concluyeron que para comprender verdaderamente la psicología social de la inteligencia artificial, debemos mirar más allá del cuestionario y observar el comportamiento en acción. Al igual que juzgamos a las personas por sus hechos y no por sus palabras, debemos juzgar a estos agentes digitales por cómo navegan en el mundo complejo y, a menudo, desordenado de la interacción social.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.