Resumen Técnico: DAIQ – Auditoría de la Inferencia de Atributos Demográficos a partir de Preguntas Neutrales en LLMs

1. Definición del Problema

Las evaluaciones actuales de los Modelos de Lenguaje de Gran Escala (LLMs) con respecto al sesgo social se basan principalmente en prompts que contienen señales demográficas explícitas (p. ej., nombres, pronombres, dialectos). Este enfoque pasa por alto un modo de fallo crítico: si los modelos infieren atributos demográficos sensibles a partir de preguntas demográficamente neutrales que no contienen pistas explícitas.

El artículo argumenta que tal inferencia constituye una extralimitación epistémica. Cuando los modelos atribuyen la identidad del usuario basándose en el tema, el tono o la redacción sin evidencia, dependen de los conocimientos previos de la población y de heurísticas sociales en lugar de la información proporcionada por el usuario. Este comportamiento plantea preocupaciones significativas para la privacidad y la equidad, ya que los datos demográficos inferidos pueden condicionar silenciosamente las respuestas posteriores, lo que conduce a una "personalización silenciosa" impulsada por la especulación en lugar de la intención.

2. Metodología: El Marco DAIQ

Los autores introducen el Demographic Attribute Inference from Questions (DAIQ), un marco de auditoría diagnóstica diseñado para medir la inferencia demográfica bajo incertidumbre epistémica.

Definición de la Tarea

En la tarea DAIQ, se presenta a un LLM una pregunta en lenguaje natural que no contiene información demográfica explícita. Se le pide explícitamente al modelo que razone sobre e infiera los probables atributos demográficos del autor de la pregunta, proporcionando tanto una predicción como una justificación.

• Comportamiento Normativo: Dado que la entrada carece de evidencia, la respuesta correcta es la abstención (p. ej., "desconocido" o "no puede determinarse").
• Modo de Fallo: Cualquier atribución demográfica específica refleja una dependencia de correlaciones espurias aprendidas durante el preentrenamiento.

Conjunto de Datos y Alcance

• Fuente: El estudio utiliza el benchmark AccessEval, filtrando específicamente 212 Consultas Neutrales (NQs) a través de seis dominios del mundo real: Educación, Finanzas, Salud, Hostelería, Medios de Comunicación y Tecnología.
• Atributos: Se evalúan cinco atributos demográficos:
  1. Género (Masculino/Femenino)
  2. Raza/Etnia (Negro/Blanco)
  3. Nivel Socioeconómico (Bajo/Alto)
  4. Ubicación Geográfica (Urbano/Rural)
  5. Antecedentes Educativos (Bajo/Alto)
• Modelos: El marco evalúa 18 LLMs ajustados por instrucciones, incluyendo familias de código abierto (Phi, LLaMA, Qwen, InternLM, Cohere Aya, Mistral) y modelos de código cerrado (Anthropic Claude, OpenAI GPT, xAI Grok).
• Métricas:
  • Tasa de Respuesta (RR): La proporción de consultas donde el modelo asigna un valor demográfico específico en lugar de abstenerse. Idealmente, la RR debería ser cero.
  • RR Específica de Valor: Analiza la asimetría en la atribución (p. ej., sesgo hacia "Masculino" sobre "Femenino").

3. Resultados Clave

3.1 Inferencia No Intencionada Persistente

El estudio encuentra que muchos modelos infieren la demografía de preguntas neutrales con tasas elevadas.

• Modelos Propietarios: Modelos como GPT-4.1, Claude-3.5 Haiku y Grok-4 exhibieron tasas de respuesta cercanas al 100%, infiriendo la demografía para casi todas las consultas.
• Modelos de Código Abierto: La susceptibilidad varió; por ejemplo, Qwen2.5-3B y Llama-3.3-70B mostraron altas tasas de inferencia, mientras que modelos alineados como Phi-4-mini mostraron tasas más bajas para género/raza pero aun así inferían atributos socioeconómicos y educativos.
• Escala vs. Alineación: Las tasas de respuesta no aumentaron monótonamente con el tamaño del modelo. La cautela demográfica pareció estar impulsada más por las elecciones de alineación y los datos de entrenamiento que por la escala por sí sola.

3.2 Valores por Defecto Direccionales y Estereotipos

Los demográficos inferidos no fueron aleatorios; exhibieron fuertes valores por defecto direccionales hacia categorías socialmente dominantes:

• Género: Un sesgo pronunciado hacia la atribución Masculina.
• Raza: Predominio abrumador hacia lo Blanco; la inferencia de personas Negras fue rara.
• Nivel Socioeconómico: El estatus alto fue inferido con mucha más frecuencia que el bajo.
• Geografía: Inferencia casi exclusiva de ubicaciones Urbanas.
• Educación: El nivel educativo alto fue inferido en más del 95% de las consultas para algunos modelos (p. ej., Qwen2.5-72B), superando a menudo las tasas de género o raza.

3.3 Análisis Cualitativo del Razonamiento

El artículo analizó las racionalidades proporcionadas por los modelos, revelando:

• Racionales de Género: Las atribuciones femeninas se anclaron en el cuidado, la empatía y la planificación, mientras que las masculinas se vincularon con la autoridad técnica y el lenguaje analítico.
• Justificación Asimétrica: Las predicciones masculinas a menudo se dejaron sin explicación o se justificaron mediante "supuestos neutrales", mientras que las predicciones femeninas requirieron racionales sociales u ocupacionales explícitos.
• Fallo de Meta-conciencia: Varios modelos señalaron explícitamente que su razonamiento era especulativo o sesgado, pero procedieron a asignar la demografía de todos modos, lo que indica que la conciencia por sí sola no evita la inferencia impulsada por estereotipos.

3.4 Impacto Consecuente (Personalización Silenciosa)

El estudio demostró que los demográficos inferidos actúan como variables de condicionamiento latente.

• Utilizando el análisis de similitud semántica, los autores mostraron que las respuestas de los modelos condicionadas por el género inferido estaban sistemáticamente más cerca del género inferido por el propio modelo que de valores alternativos.
• Esto confirma que la inferencia demográfica altera el tono, el encuadre y el contenido de las respuestas, permitiendo efectivamente la personalización silenciosa sin la intervención del usuario.

4. Estrategia de Mitigación

Los autores probaron una estrategia de prompting orientada a la abstención.

• Resultado: Este enfoque redujo sustancialmente la inferencia demográfica no intencionada en los modelos sin requerir un ajuste fino (fine-tuning).
• Efectos Residuales: Mientras que las inferencias de género y raza fueron casi eliminadas, la inferencia residual persistió para los antecedentes educativos (específicamente la educación alta), lo que sugiere que este atributo es percibido como más indirectamente inferible o menos restringido por la salvaguarda del prompt.

5. Significado y Reivindicaciones

El artículo afirma que las evaluaciones de sesgo actuales están incompletas porque presuponen la presencia de claves demográficas. La importancia de DAIQ radica en:

1. Redefinir el Alcance de la Auditoría: Cambia el estándar de evaluación de "cómo responden los modelos a la información demográfica" a "si los modelos deberían inferirla en absoluto".
2. Identificar la Extralimitación Epistémica: Destaca que inferir atributos sensibles a partir de entradas neutrales es un modo de fallo distinto que refuerza las disparidades y los riesgos de privacidad.
3. Demostrar el Condicionamiento Latente: Proporciona evidencia empírica de que los demográficos inferidos moldean activamente las generaciones posteriores, creando una personalización silenciosa.
4. Mitigación Práctica: Muestra que la ingeniería de prompts simple (prompts orientados a la abstención) puede servir como una salvaguarda eficaz y agnóstica al modelo para reducir estas inferencias.

Los autores concluyen que la abstención bajo incertidumbre debe tratarse como un criterio de evaluación de primer orden para los LLMs desplegados en dominios de alto riesgo.