Resumen Técnico: Los Agentes de Modelos de Lenguaje Muestran un Sesgo de Confianza Endogrupal Invisible para las Auditorías Conductuales Estándar

Declaración del Problema

A medida que los agentes de modelos de lenguaje (LM) transitan de ser asistentes de un solo usuario a actores autónomos y persistentes dentro de redes multi-agente, gestionan cada vez más la confianza, la reputidad y la asignación de recursos. Una preocupación crítica es si estos modelos poseen inherentemente una disposición conductual "contingente al grupo"—específicamente, el favoritismo endogrupal—que se activa cuando la pertenencia al grupo se vuelve visible.

La literatura existente ha establecido que los LM codifican sesgos similares a los humanos en sus representaciones (por ejemplo, embeddings de palabras) y exhiben comportamientos como la sicofancia o el razonamiento engañoso. Sin embargo, no está claro si estos modelos exhiben un sesgo conductual en interacciones sociales, específicamente favoreciendo a miembros de un grupo arbitrario sobre otros cuando actúan como agentes. Además, las prácticas de auditoría estándar para sistemas multi-agente suelen inspeccionar qué acciones ocurren (registros de acciones agregados) en lugar de quién las recibe. Este artículo investiga si existe un sesgo de confianza endogrupal en los modelos de razonamiento actuales y si este es detectable por las metodologías de auditoría actuales.

Metodología

Diseño Experimental

El estudio utiliza una simulación de 20 agentes que interactúan durante 100 turnos. Los agentes seleccionan entre seis acciones de red: endorse (respaldar), delegate (delegar), partner (asociarse) (construcción de confianza); decline (declinar) (neutral); y reject (rechazar), flag (marcar) (negativas).

• Mecanismo de Confianza: Los agentes mantienen un vector de confianza actualizado de forma determinista basado en las acciones. La confianza directa se actualiza a partir del historial de interacción; la reputación indirecta se propaga mediante la acción flag.
• Estructura de Grupo: A los agentes se les asignan etiquetas arbitrarias y sin contenido ("Kappa" o "Tilon").
• Condiciones:
  • Condición A (Etiquetas Ocultas): Las etiquetas de grupo se asignan pero nunca se exponen al modelo ni a sus socios.
  • Condición B (Etiquetas Visibles): Las etiquetas de grupo son visibles para el modelo y sus socios.
  • Condición C (Escasez): Añade una restricción de recurso compartido en toda la red (ranuras de acciones de alto valor limitadas) para probar si la competencia intensifica el sesgo (Teoría del Conflicto Realista).

Modelos Evaluados

Se probaron cinco familias de modelos de razonamiento de pesos abiertos ampliamente utilizados (8–14B de parámetros) para determinar si el sesgo es una propiedad de la clase de modelo y no una idiosincrasia de un solo modelo:

1. Qwen3-8B (modo de pensamiento)
2. DeepSeek-R1-Distill-Llama-8B
3. DeepSeek-R1-Distill-Qwen-14B
4. Llama-3.1-Nemotron-Nano-8B
5. Granite-3.3-8B-Instruct (modo de pensamiento)

Controles y Robustez

• Contrabalanceo de Intercambio de Etiquetas: Cada semilla se ejecutó dos veces intercambiando las etiquetas de grupo para descartar la valencia específica del token.
• Robustez de Parafraseo: El prompt del sistema fue reescrito de forma independiente y el estudio se volvió a ejecutar para asegurar que los resultados no fueran artefactos de una frase específica.
• Verificaciones Estadísticas: Los resultados fueron validados utilizando tres métodos independientes: pruebas de Wilcoxon pareadas a nivel de semilla, Ecuaciones de Estimación Generalizadas (GEE) a nivel de díada, y un conteo de objetivos brutos libres de confianza.
• Línea Base: Un estudio piloto con seis familias de modelos no de razonamiento confirmó el patrón cualitativo.

Resultados Clave

1. La Saliencia de la Etiqueta Impulsa el Sesgo Endogrupal

El hallazgo principal es que el sesgo de confianza endogrupal es insignificante cuando las etiquetas de grupo están ocultas (Condición A), pero emerge significativamente cuando las etiquetas son visibles (Condición B).

• Magnitud: En la Condición B, los agentes dirigieron el 53.6%–54.6% de las acciones de construcción de confianza hacia objetivos endogrupales, frente a una tasa base de azar del 47.4%.
• Universalidad: Este cambio se observó en todos los cinco modelos probados, aunque con una fiabilidad variable. Mientras que cuatro modelos mostraron la dirección predicha en 18–20 de 20 semillas, DeepSeek-R1-Distill-Llama-8B mostró la dirección predicha en 17/20 semillas y fue identificado como el "más débil y menos fiable" de los cinco. A pesar de esta heterogeneidad, el aumento agregado de la Condición A a la B fue estadísticamente significativo para cada modelo (Wilcoxon pareado de una cola, corregido por BH $p < 0.001$), con un coeficiente de Cohen's $d$ que osciló entre 0.80 y 3.96.
• Mecanismo: El sesgo opera a través de la selección del receptor (quién recibe una acción) en lugar de la selección del tipo de acción (qué acción se elige). Los registros de acciones agregados no muestran un aumento en las acciones negativas (ej. reject o flag), lo que hace que el sesgo sea invisible para las auditorías estándar que contabilizan las frecuencias de acción.

2. El Sesgo es Independiente de la Mecánica de Acumulación de Confianza

El sesgo es una propiedad directa de la salida del modelo, no un artefacto de las reglas de acumulación de confianza de la simulación.

• Un conteo directo de acciones brutas (sin aritmética de confianza) confirmó que la fracción de acciones de construcción de confianza dirigidas a objetivos endogrupales superó la tasa base aleatoria para todos los modelos ($p < 0.002$).
• El sesgo se intensifica con el tiempo, lo que conduce a un aumento de la asortatividad de la red (agrupamiento por grupo) y una segregación visible en las matrices de confianza hacia el turno 100.

3. Escasez de Recursos (Condición C)

La prueba de la Teoría del Conflicto Realista arrojó resultados mixtos, atribuidos a un artefacto metodológico más que a un fallo de la teoría.

• La manipulación del presupuesto compartido fue ciega al grupo en su ejecución (anulando acciones hacia decline independientemente del grupo objetivo).
• Esta ejecución censuró desproporcionadamente las acciones de los modelos con alta demanda de recursos escasos, efectivamente anulando su señal de sesgo endogrupal potencial.
• Al analizar las acciones pretendidas (pre-anulación) y el direccionamiento anticipatorio (cambios en la selección de objetivos a medida que el presupuesto disminuye), dos modelos mostraron un cambio hacia el direccionamiento endogrupal a medida que los recursos disminuían, lo cual es consistente con la teoría, aunque no sobrevivió a la corrección estricta de comparaciones múltiples.

Principales Contribuciones

1. Descubrimiento del Sesgo Basado en el Receptor: El artículo identifica un canal específico de sesgo —quién recibe una acción— que es invisible para las auditorías conductuales agregadas estándar. Las prácticas de evaluación actuales, que se centran en las frecuencias de acción, no logran detectar esta desigualdad estructural.
2. Universalidad en Modelos de Razonamiento: El estudio demuestra que este sesgo de confianza endogrupal no es una anomalía de un solo modelo, sino una disposición generalizable en cinco distintas y ampliamente utilizadas familias de modelos de razonismo, aunque el tamaño del efecto y la consistencia a nivel de semilla varían (siendo DeepSeek-R1-Distill-Llama-8B el que muestra la señal más débil).
3. Dependencia de la Saliencia: Consistente con la Teoría de la Autocategorización, el sesgo es contingente a la saliencia contextual de las etiquetas de grupo; la mera asignación sin visibilidad no produce discriminación.
4. Identificación de la Brecha de Auditoría: El artículo destaca una brecha crítica en la seguridad de la IA: auditar sistemas multi-agente requiere un análisis a nivel de resultado (ej. puntuaciones de confianza, distribución de asignación de recursos) en lugar de solo un análisis a nivel de comportamiento de los intercambios individuales.

Significancia y Reivindicaciones

El autor afirma que las dinámicas sociales contingentes al grupo ya están presentes en los modelos fundacionales utilizados para construir sistemas de IA multi-agente. La significancia de este trabajo radica en:

• Punto Ciego Estructural: Expone un vacío estructural específico en las prácticas de auditoría actuales. Un sistema puede parecer "justo" en los registros de acciones agregadas mientras concentra sistemáticamente la confianza y la oportunidad dentro de endogrupos arbitrarios.
• Riesgo de Escalabilidad: Aunque el estudio utiliza etiquetas sintéticas y sin contenido, el mecanismo sugiere que, si se despliega en redes con estructuras de grupo socialmente significativas (ej. afiliaciones demográficas u organizacionales), estos sesgos podrían derivar en una concentración de recursos y desigualdad significativa.
• Lección Metodológica: El estudio proporciona un marco para detectar estos sesgos utilizando métricas simples (tasas de paridad de receptores y asortatividad de red) que pueden computarse a partir de los registros de acciones existentes sin requerir acceso a los pesos del modelo.

El artículo mantiene un alcance modesto, aclarando que demuestra el sesgo en una única dimensión sintética y no pretende haber observado desigualdad estructural en despliegues del mundo real, ni afirma que estos modelos sean incapaces de ser alineados para prevenir tal comportamiento. Sin embargo, establece que sin una auditoría específica a nivel de resultado, esta clase de sesgo permanece indetectable en los sistemas multi-agente actuales.