Resumen Técnico: Más allá de las auditorías en tercera persona: Auditoría de Interacción Situada para la investigación del sesgo en LLM centrada en el usuario

1. Planteamiento del problema

La investigación actual sobre el sesgo en los Modelos de Lenguaje de Gran Escala (LLM) está dominada por las auditorías en tercera persona. Estas evaluaciones tratan al LLM como un observador externo o un tomador de decisiones, evaluando cómo el modelo representa o evalúa a grupos demográficos (por ejemplo, generando un currículum para un género específico o resumiendo una historia sobre una nacionalidad específica). Este paradigma asume un usuario neutral y no diferenciado cuya identidad es irrelevante para la interacción.

Sin embargo, este enfoque crea un punto ciego estructural: en la Interacción Humano-IA (HAII) del mundo real, el usuario es un participante activo, no un sujeto externo. Los LLM se utilizan cada vez más en interacciones abiertas y personales (por ejemplo, asesoramiento profesional, orientación de salud, depuración de errores) donde el modelo construye implícitamente una representación del usuario basada en señales de entrada. En consecuencia, el sesgo puede no manifestarse en cómo el modelo describe a otros, sino en cómo trata al interlocutor basándose en su identidad percibida. Los benchmarks existentes no logran capturar estos sesgos de "primera persona", donde solicitudes idénticas producen respuestas sistemáticamente diferentes dependiendo de quién pregunte.

2. Metodología: Auditoría de Interacción Situada (SIA)

Los autores proponen la Auditoría de Interacción Situada (SIA), un marco diseñado para estudiar cómo las señales del perfil del usuario moldean la calidad, el contenido y el tono de la respuesta del LLM.

2.1 Tipos de señales del perfil del usuario

SIA define tres tipos de señales que transmiten la identidad del usuario, que van desde lo implícito a lo explícito:

• S1 (Marcadores sociodemográficos implícitos): Características superficiales inferidas por el modelo sin identificación explícita, como nombres (que conllevan asociaciones etnorraciales y de clase) o referencias geográficas.
• S2 (Estilo de escritura y dialecto): Formas lingüísticas que incluyen registro, formalidad, rasgos dialectales y patrones gramaticales (por ejemplo, español con influencias del guaraní o AAVE) que señalan la identidad regional y social.
• S3 (Identidad declarada): Autodescripciones explícitas integradas en el prompt (por ejemplo, "Soy gay", "Tengo un diagnóstico").

2.2 Principios de diseño

Para asegurar la validez ecológica y el rigor, los estudios SIA deben adherirse a cinco principios:

1. Equivalencia semántica: Las variantes del prompt deben ser palabra por palabra idénticas, excepto por la señal del perfil del usuario.
2. Validez ecológica: Las señales deben reflejar el lenguaje que ocurre naturalmente en lugar de extremos construidos.
3. Análisis de múltiples señales: Las señales deben estudiarse de forma aislada y combinada (por ejemplo, género $\times$ estatus socioeconómico) para capturar efectos interseccionales.
4. Diseño de interacción realista: Las auditorías deben reflejar patrones de uso del mundo real, extendiéndose idealmente más allá de los intercambios de un solo turno.
5. Medición de resultados diversos: El sesgo en las interacciones abiertas es continuo, no binario. Las métricas deben capturar gradaciones en calidad, tono y contenido.

2.3 Medición de resultados

SIA operacionaliza la detección de sesgos a través de tres familias de métricas:

• Calidad léxica: Diversidad de vocabulario (relación tipo-token), elaboración estructural (profundidad del árbol sintáctico) y longitud de la respuesta.
• Postura y encuadre: La relación entre atenuantes (hedges - lenguaje tentativo) y reforzadores (boosters - lenguaje asertivo), atribución de agencia y análisis de sentimiento.
• Cobertura de contenido: La presencia o ausencia de elementos informativos específicos, medidos mediante la evaluación de un LLM como juez frente a listas de verificación específicas de la tarea y la frecuencia de atribuciones de roles estereotipados (mediante razones de probabilidad de sustantivos/adjetivos específicos).

3. Caso de estudio: Validación empírica

Para fundamentar el marco, los autores realizaron una auditoría controlada en el contexto latinoamericano (Chile).

• Diseño: Un experimento de técnica de guía emparejada (matched-guise) utilizando 118 perfiles de usuario construidos a partir de nombres y apellidos validados por asociaciones demográficas en Chile. El estudio cruzó Género (Masculino/Femenino) y Estatus Socioeconómico (SES) (Alto/Bajo).
• Tareas: 27 prompts a través de 9 dominios (por ejemplo, Empleo, Tecnología, Salud) solicitando consejos de tipo "cómo hacer".
• Modelos: GPT-4o mini y Qwen-2.5-7B-instruct.
• Procedimiento: Prompts idénticos fueron inyectados con diferentes perfiles de usuario como mensajes de sistema. Las respuestas fueron analizadas utilizando las familias de métricas de SIA.

Resultados clave

• Sesgo específico del dominio: Los efectos agregados fueron pequeños, pero surgió un tratamiento diferencial significativo en dominios específicos, particularmente en Empleo.
• Tratamiento de estatus alto vs. bajo (GPT-4o mini):
  • Tono: Los perfiles de estatus alto recibieron respuestas con un sentimiento positivo significativamente mayor y menos atenuantes. Los perfiles de estatus bajo recibieron respuestas con un mayor sentimiento neutral, aumento de atenuantes y más reforzadores, sugiriendo un registro condescendiente o excesivamente cauteloso.
  • Contenido: Las respuestas para el estatus alto utilizaron vocabulario orientado a la acción y centrado en redes (por ejemplo, "red", "capacidad", "personalización"). Las respuestas para el estatus bajo dependieron de términos afectivamente cálidos pero operativamente genéricos (por ejemplo, "calidad", "excepcional", "éxito").
  • Tecnicidad: Contrario a la hipótesis de "simplificación", el modelo asignó puntuaciones de tecnicidad más altas a los perfiles de bajo estatus en el dominio de Empleo, aunque la postura siguió siendo tentativa.
• Dependencia del modelo: El modelo Qwen replicó el hallazgo de que las señales de SES activan un tratamiento diferencial, pero invirtió la dirección del sentimiento (asignando un mayor sentimiento positivo a los perfiles de bajo estatus), lo que indica que, si bien el fenómeno del sesgo es robusto, su manifestación específica depende del entrenamiento del modelo.
• Interseccionalidad: El estudio demostró que las señales de género y SES interactúan, produciendo patrones de sesgo únicos que las auditorías de una sola dimensión pasarían por alto.

4. Contribuciones clave

1. Propuesta de marco: Introducción de la Auditoría de Interacción Situada (SIA), desplazando el enfoque de la representación de terceros al sesgo de interacción en primera persona.
2. Tipología y principios: Formalización de los tipos de señales del perfil del usuario (S1–S3) y cinco principios de diseño para realizar auditorías situadas rigurosas.
3. Evidencia empírica: Un estudio piloto que demuestra que las señales del perfil del usuario (específicamente el género basado en nombres y el SES) alteran sistemáticamente las respuestas de los LLM en dimensiones léxicas, agenciales y de estereotipación, invisibles para las auditorías tradicionales en tercera persona.

5. Significado y agenda de investigación

El artículo argumenta que la SIA representa una evolución necesaria en la investigación de NLP para cerrar la brecha entre la evaluación técnica y el despliegue en el mundo real.

• Nuevos estándares de evaluación: Los autores proponen la evaluación condicionada al perfil, donde el rendimiento del modelo se califica no solo por la calidad absoluta sino por la consistencia a través de perturbaciones del perfil del usuario. Esto desafía el supuesto de "usuario neutral" inherente a los actuales leaderboards.
• Requerimientos de datos: El trabajo futuro requiere corpus de interacción naturalista con metadatos demográficos y léxicos de señales culturalmente fundamentados, ya que los conjuntos de datos centrados en el inglés no pueden traducirse directamente a otros contextos lingüísticos.
• Puentes metodológicos: La SIA hace un llamado a integrar métodos de la sociolingüística (técnicas de guía emparejada), la interacción humano-computadora (diseño participativo) y la sociología para comprender mejor los efectos interseccionales.
• Problemas abiertos: El artículo identifica la identificación causal (distinguir los efectos de preentrenamiento frente a los de ajuste de instrucciones), los efectos de interacción de señales (cómo manejan los modelos las señales conflictivas) y las estrategias de mitigación (equilibrar la equidad con la sensibilidad al contexto) como áreas críticas para la investigación futura.

Los autores conclizan que, si bien su estudio de caso está limitado a un diseño de un solo turno y a un contexto cultural específico, sirve como prueba de concepto de que el sesgo de interacción en primera persona es real, detectable y requiere un nuevo paradigma de evaluación.