Personalization, Personas, and Forecasting in Value Alignment
Este estudio demuestra que el encuadre de las instrucciones (prompt framing) —específicamente si se pide a los modelos que personalicen, realicen un juego de roles o realicen pronósticos desde perspectivas de tercera persona— altera significativamente su alineación de valores culturales con las poblaciones humanas, siendo los pronósticos en tercera persona los que generalmente producen los resultados más estables y precisos a través de diversos idiomas y dimensiones de valores.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que estás hablando con un robot superinteligente que ha leído casi todos los libros que existen. Podrías pensar que este robot tiene una personalidad única y fija, como un humano con un conjunto de creencias. Pero en el mundo de la Inteligencia Artificial, estos robots son más bien como camaleones. Pueden cambiar su "voz" y sus "opiniones" dependiendo de cómo les hagas una pregunta. Este campo de estudio se llama alineación de valores, que es solo una forma elegante de preguntar: "¿La respuesta de este robot coincide con lo que los humanos reales piensan de verdad?".
Para entender esto, necesitas conocer tres formas en las que podemos hablar con estos robots. Primero, la Personalización es como decirle al robot: "Oye, soy una persona de Brasil; ¿qué opinas tú?". El robot intenta ser un amigo útil para ti. Segundo, el Juego de roles (o Personas) es como ponerse un disfraz. Dices: "Imagina que eres una persona de Brasil", y el robot actúa el papel. Tercero, el Pronóstico (o Forecasting) es como ser un detective. Preguntas: "¿Qué respondería una persona de Brasil?", sin pedirle al robot que sea esa persona. Durante mucho tiempo, los científicos se preguntaron si estas tres formas de hablar eran básicamente lo mismo. Si le pides a un robot que sea un brasileño, o que hable con un brasileño, o que adivine qué piensa un brasileño, ¿debería dar exactamente la misma respuesta?
Un equipo de investigadores decidió poner a prueba esta idea utilizando una encuesta gigante del mundo real llamada World Values Survey, que pregunta a millones de personas en todo el mundo sobre sus creencias en religión, trabajo y sociedad. Le pidieron a cuatro de los robots de IA más inteligentes del mundo que respondieran a 101 de estas preguntas de la encuesta en 13 idiomas y países diferentes. Probaron los tres métodos —hablar con un usuario, jugar un rol y pronosticar— para ver cuál de ellos hacía que las respuestas del robot se alinearan mejor con los datos humanos reales.
Aquí está el giro que encontraron: Cómo haces la pregunta cambia la respuesta. Los investigadores descubrieron que estos tres métodos no son intercambiables. De hecho, la forma en que redactas la instrucción es un factor crucial para que el robot suene como un humano real de ese país o no.
El hallazgo más sorprendente fue que el pronóstico fue el claro ganador. Cuando los investigadores preguntaban a los robots: "¿Qué diría una persona de [País X]?", los robots se acercaban mucho más a las respuestas humanas reales que cuando se les pedía que "fueran" esa persona o que "hablaran con" esa persona. Es como si los robots fueran mejores siendo un observador inteligente que adivina lo que otra persona piensa, que siendo realmente esa persona. Para tres de los cuatro robots que probaron, este método de "adivinar" era la forma más eficaz de obtener respuestas culturalmente precisas.
Sin embargo, los robots no lo acertaron todo. Los investigadores descubrieron que los robots eran excelentes captando las diferencias culturales grandes y obvias, como la importancia de la religión o cómo se ven los roles de género. Pero cuando se trataba de temas más complicados y complejos, como la confianza en el gobierno, la democracia o qué tan bien funcionan las instituciones, los robots tenían dificultades. Incluso cuando intentaban adivinar, a menudo fallaban en estos temas sutiles.
El estudio también mostró que los robots no cambiaban sus respuestas de forma aleatoria; sus respuestas se desplazaban en direcciones específicas. Por ejemplo, al preguntar sobre religión, las respuestas de los robots se movían fuertemente hacia los datos humanos reales. Pero para preguntas sobre corrupción o confianza política, las respuestas a menudo se quedaban estancadas en el modo "global" por defecto del robot o incluso se alejaban de lo que piensan los humanos reales.
Entonces, ¿qué significa esto? Sugiere que si quieres que una IA entienda una cultura específica, no basta con decirle que "actúe como" un local. Podrías obtener mejores resultados pidiéndole que prediga lo que un local pensaría. Pero aun así, el robot no es un espejo perfecto de la humanidad; es mejor detectando las señales culturales grandes y ruidosas que las silenciosas y complicadas. Los investigadores concluyen que cómo hacemos estas preguntas no es solo una elección cosmética: cambia fundamentalmente lo que dice el robot y qué tan bien se alinea con el mundo real.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.