ValueGraph: Value-Signal Guided Graph Pre-training for Contextualized User Representation
El artículo propone ValueGraph, un marco de preentrenamiento de grafos que aprovecha las señales de valores morales inferidas como restricciones suaves para mejorar las representaciones contextualizadas de los usuarios, demostrando mejoras de rendimiento consistentes en las tareas de detección de postura y detección de bots sobre las líneas base existentes basadas en texto, en grafos y en LLM.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En el vasto y ruidoso paisaje de las redes sociales, comprender por qué las personas actúan como lo hacen es un desafío central para cualquiera que intente dar sentido a la vida en línea. Durante años, los científicos de la computación han intentado construir perfiles digitales de los usuarios analizando lo que dicen y con quién hablan. Si dos personas publican palabras similares o responden a los mismos hilos, los sistemas tradicionales asumen que son parecidas. Sin embargo, este enfoque suele pasar por alto una capa crucial del comportamiento humano: los valores morales subyacentes que impulsan esas interacciones. Las personas pueden participar en la misma noticia controvertida por razones totalmente distintas: uno por preocupación genuina, otro por ira y un tercero por el deseo de sembrar confusión. Estas motivaciones ocultas moldean cómo se comportan los usuarios, pero los modelos informáticos estándar suelen tratarlas como invisibles. Para entender verdaderamente a un usuario, los investigadores necesitan una forma de capturar no solo la superficie de su actividad, sino la brújula moral que la guía.
Un equipo de investigadores de la Universidad de Gestión de Singapur y el A*STAR ha desarrollado un nuevo método llamado ValueGraph para resolver este problema. En lugar de intentar adivinar las verdaderas creencias internas de una persona, lo cual es imposible de conocer con certeza, el sistema utiliza una herramienta para inferir una "señal de valor" a partir de sus publicaciones públicas. Esta señal se basa en un marco psicológico bien conocido llamado Teoría de las Fundaciones Morales, que desglosa el razonamiento moral en diez dimensiones distintas, tales como el cuidado, la justicia, la lealtad y la autoridad. Los investigadores entrenaron un programa informático para leer miles de publicaciones en redes sociales y asignar una puntuación a cada una basada en estos diez temas morales. Al promediar estas puntuaciones a través de todas las publicaciones que un solo usuario ha escrito, el sistema crea un perfil aproximado de diez puntos del encuadre moral de ese usuario. Los investigadores advierten cuidadosamente que esto no es un diagnóstico psicológico perfecto; es una señal agregada y ruidosa que captura el sabor general del lenguaje moral de un usuario más que su alma exacta.
La innovación central de ValueGraph reside en cómo utiliza estas señales inferidas para enseñar a una computadora a reconocer diferentes tipos de usuarios. El sistema opera en dos pasos principales. Primero, construye un mapa de cómo interactúa la gente, tratando cada publicación y respuesta como una conexión en una red gigante. Aprende a comprender la estructura de estas conversaciones y el significado del texto dentro de ellas, creando una huella digital básica para cada usuario. En el segundo paso, introduce las señales de valores morales. El sistema observa los perfiles de valores inferidos de diferentes usuarios y agrupa a aquellos con señales de valores similares, mientras aleja a aquellos con señales muy diferentes. Lo hace tratando las señales morales como un conjunto de reglas suaves o sutiles impulsos durante el proceso de aprendizaje, en lugar de como hechos absolutos. Esto permite que la computadora aprenda una representación de un usuario que combina lo que dice, con quién habla y el tono moral de su expresión.
Los investigadores probaron este nuevo enfoque en dos tareas difíciles: determinar la postura de un usuario sobre un tema político y detectar si un usuario es un bot, o una cuenta automatizada diseñada para imitar a un humano. En la primera prueba, el sistema tenía que determinar si un usuario apoyaba, se oponía o era neutral hacia un tema específico. En la segunda, tenía que distinguir entre humanos reales y bots automatizados. Los resultados mostraron que ValueGraph superó consistentemente a los métodos existentes. En la tarea de detección de postura, alcanzó una precisión del 63 por ciento en un conjunto de datos y del 77 por ciento en otro, superando a competidores fuertes que dependían solo del texto o solo de la estructura de la red. Para la tarea de detección de bots, el sistema mejoró la capacidad de detectar cuentas automatizadas, particularmente cuando se combinaba con otros datos. En una configuración específica, la capacidad del sistema para identificar correctamente los bots mejoró significamente, con la tasa de "recuperación" (recall) —la capacidad de encontrar los bots cuando están presentes— saltando del 62.5 por ciento al 81.0 por ciento al utilizar el nuevo método.
Lo que hace que estos resultados sean particularmente interesantes es que el sistema no necesita que se le indique qué usuarios son bots o qué postura es la correcta durante su entrenamiento inicial. Aprende estos patrones observando las señales morales y la estructura de las conversaciones por sí mismo. Los investigadores encontraron que el sistema funcionaba mejor cuando combinaba el aprendizaje estructural con la guía de los valores morales. Si eliminaban las señales morales, el rendimiento del sistema caía. Si utilizaban solo las señales morales sin la estructura de la conversación, también fallaba en alcanzar el mismo nivel de precisión. Esto sugiere que la señal de valor moral actúa como una guía útil, ayudando a la computadora a ver patrones que son invisibles cuando se mira solo el texto o las conexiones. Por ejemplo, al visualizar los datos, los investigadores vieron que el nuevo método creaba una separación mucho más clara entre los usuarios humanos y los bots que los métodos anteriores. Los bots tendían a agruparse con un lenguaje moral repetitivo y polarizado, mientras que los humanos mostraban expresiones más variadas y sensibles al contexto.
El equipo enfatiza que su método no pretende conocer los verdaderos valores psicológicos de un usuario. Las puntuaciones morales se derivan del texto y se tratan como datos imperfectos y ruidosos. El sistema utiliza estas imperfecciones como una herramienta de aprendizaje, encontrando las diferencias relativas entre usuarios en lugar de intentar determinar una verdad absoluta. Este enfoque evita las trampas de intentar etiquetar a las personas con perfiles psicológicos definitivos, lo cual puede ser éticamente delicado y técnicamente poco fiable. En su lugar, utiliza el encuadre moral de su discurso público como una herramienta práctica para construir representaciones digitales mejores y más matizadas. El éxito de ValueGraph sugiere que incorporar estas señales de valor informadas por la teoría proporciona una forma poderosa de mejorar cómo las computadoras entienden el comportamiento humano en línea, ofreciendo una base más robusta para tareas que van desde la moderación de contenido hasta las recomendaciones personalizadas. Al reconocer que los usuarios están moldeados no solo por lo que dicen, sino por el lente moral a través del cual lo dicen, los investigadores han abierto un nuevo camino para dar sentido al complejo mundo social de Internet.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.