Resumen Técnico: Sesgo Omisivo en la Representación Religiosa

Declaración del Problema

A medida que los Modelos de Lenguaje Grande (LLM) sirven cada vez más como fuentes principales de orientación para preguntas personales, morales y existenciales, existe una necesidad crítica de evaluar si estos sistemas reflejan los diversos marcos de valores de sus usuarios. Si bien la investigación existente documenta extensamente los sesgos basados en la presencia (por ejemplo, estereotipos, inclinaciones políticas, contenido tóxico), este artículo identifica una forma distinta de daño representacional: el sesgo omisivo.

Los autores definen el sesgo omisivo como el fallo sistemático de los LLM alineados en poner de manifiesto perspectivas que son sustancialmente relevantes para una consulta, específicamente marcos religiosos. Dado que entre el 75 % y el 80 % de la población mundial se identifica con una religión, y muchos dependen de recursos religiosos para navegar el duelo, el perdón, las relaciones y los dilemas morales, la ausencia constante de referencias religiosas en las respuestas de los LLM a preguntas éticas cotidianas constituye una forma de "aniquilación simbólica". El artículo postula que los protocolos de alineación actuales, que a menudo recurren por defecto a una base occidental, secular-racionalista, pueden borrar inadvertidamente los marcos religiosos del discurso, incluso cuando esos marcos son altamente relevantes para el contexto del usuario.

Metodología

El Estándar de Representación Religiosa AllFaith

Para operacionalizar el sesgo omisivo, los autores construyeron el Estándar de Representación Religiosa AllFaith, compuesto por 150 preguntas abiertas.

• Fuente de las Preguntas: El conjunto de datos se derivó de dos fuentes principales:
  1. WildChat-1M: Un gran corpus de interacciones reales entre usuarios y LLM. Una tubería automatizada extrajo preguntas candidatas, las cuales fueron filtradas mediante clasificación por LLM y curaduría manual para asegurar que fueran preguntas éticas genuinas y de alto riesgo (por ejemplo, sobre el duelo, el matrimonio, la honestidad) que no mencionaran explícitamente la religión, pero donde las perspectivas religiosas serían una parte valiosa de una respuesta sólida.
  2. Contribuciones de Comunidades de Fe: Preguntas suplementarias fueron curadas por socios de diversas tradiciones de fe (judía, LDS, protestante, católica, etc.) para asegurar la diversidad y mitigar el sesgo de selección inherente a los datos de WildChat.
• Características de las Preguntas: Las preguntas abarcan temas como "Vida Interior" (depresión, adicción), "Relaciones" (perdón, matrimonio) y "Mundo y Ética" (significado, verdad). Crucialmente, las preguntas no son sobre la religión en sí misma; son dilemas personales donde la religión es uno de varios recursos potenciales.

Protocolo de Evaluación

• Prueba de Modelos: El estándar fue evaluado contra 27 modelos de vanguardia y de código abierto (incluyendo variantes de GPT-5, Claude 4.6/4.7, Gemini 3.1, Llama 4, Grok 4, y otros).
• Rúbrica de LLM como Juez: Las respuestas fueron evaluadas utilizando un marco de LLM como juez (específicamente Gemini 3.1 Pro Preview). La rúbrica se estableció deliberadamente con un umbral bajo:
  • Puntuación 0: Ninguna representación religiosa.
  • Puntuación 1–4: Niveles crecientes de mención, práctica o liderazgo religioso.
  • Métrica: Para el análisis principal, las puntuaciones se binarizaron (0 = sin religión, 1 = cualquier mención religiosa).
• Línea Base Humana: Para establecer una verdad fundamental sobre la "expectativa", los autores realizaron una encuesta con 1.125 participantes de EE. UU. (n=11.250 calificaciones). Los participantes calificaron las 343 preguntas iniciales en una escala de 1 a 5 sobre si esperarían que una respuesta contuviera referencias religiosas. El estándar final de 150 preguntas se seleccionó basándose en las preguntas con la mayor discrepancia entre las expectativas humanas y el comportamiento del modelo.

Resultados Clave

Subrepresentación Sistemática

En todos los 27 modelos probados, los LLM subrepresentaron consistentemente la religión en relación con las expectativas humanas.

• Rendimiento General: La puntuación binarizada media para la relevancia religiosa en todos los modelos fue de 0,084, lo que indica que en aproximadamente el 91,6 % de los casos, los modelos proporcionaron respuestas con cero contenido religioso.
• Brecha entre Humanos y Modelos: Las expectativas humanas fueron significativamente más altas, con una puntuación media de aproximadamente 0,63 (en una escala binarizada derivada de la encuesta de 1 a 5) para las mismas preguntas. La correlación entre las expectativas humanas y el comportamiento del modelo fue débil ($r = 0,257$ a $0,441$ dependiendo de la métrica), lo que sugiere que los modelos no se alinean con las expectativas de los usuarios en cuanto a la relevancia religiosa.

Omisión Asimétrica

La omisión de marcos religiosos no fue uniforme en todos los temas:

• Abstracto vs. Práctico: Los modelos eran más propensos a invocar la religión para preguntas existenciales abstractas (por ejemplo, "¿Qué sucede después de la muerte?", "¿Cuál es el significado de la vida?") donde las respuestas seculares podrían sentirse insuficientes.
• Dilemas Prácticos: Los modelos rara vez invocaban la religión para situaciones prácticas e interpersonales (por ejemplo, "¿Cómo lidio con el duelo?", "¿Cómo manejar la infidelidad?", "Perdonar a un cónyuge"). En estos dominios, donde la religión históricamente proporciona un apoyo comunitario y ritual significativo, los modelos recurrieron por defecto a consejos seculares, terapéuticos o procedimentales (por ejemplo, sugerir terapia o autorreflexión en lugar de oración, confesión o clero).

Variación entre Modelos

Si bien la tendencia de subrepresentación fue consistente, hubo variación entre los modelos.

• Valores Atípicos: El modelo Grok-4.20 mostró una propensión notablemente mayor a las menciones religiosas en comparación con otros modelos. Los autores hipotetizan que esto podría deberse a los datos de entrenamiento de Grok, que incluyen el discurso de redes sociales en tiempo real (X) donde los debates religiosos ocurren con más frecuencia, o a una estrategia de alineación diferente.
• Tendencia General: La mayoría de los modelos, incluidos los modelos insignia de OpenAI, Anthropic y Google, se agruparon alrededor de una puntuación media de 0,1, lo que sugiere una alineación "segura" uniforme que evita el encuadre religioso en el razonamiento ético diario.

Significado y Afirmaciones

El artículo hace una afirmación modesta pero significativa: Los LLM actuales pasan por alto oportunidades críticas para reflejar marcos religiosos de los que muchas personas se sirven al navegar desafíos personales y éticos.

• No es un Sesgo Anti-Religioso: Los autores declaran explícitamente que no están juzgando qué valores deberían tener los LLM, ni afirman que la omisión sea necesariamente un "sesgo anti-religioso" en un sentido malicioso. En cambio, argumentan que es probablemente una propiedad emergente de los incentivos de alineación, las políticas de seguridad y los datos de entrenamiento que favorecen consejos seculares, terapéuticos o procedimentales.
• Daño Representacional: Basándose en la teoría de la comunicación (Gerbner y Gross) y la equidad algorítmica (Crawford; Barocas et al.), el artículo argumenta que la ausencia de una perspectiva sostenida por la mayoría de la población mundial constituye un daño representacional. Al no poner de manifiesto recursos religiosos en contextos donde son cultural y personalmente relevantes, los LLM corren el riesgo de "borrar" estos marcos del discurso digital que da forma a la sociedad.
• Tensión de Diseño: Los autores destacan una tensión de diseño: los proveedores de LLM pueden temer que la sobre-representación de la religión parezca proselitismo, pero sub-representarla borra un recurso vital para miles de millones. Argumentan a favor de una estrategia que maneje explícitamente la religión con políticas claras, permitiendo que los modelos reconozcan los recursos religiosos como una opción válida sin imponerlos.

Conclusión

El Estándar de Representación Religiosa AllFaith proporciona la primera operacionalización formal del sesgo omisivo como un paradigma principal de evaluación de LLM. Los resultados demuestran que, aunque los LLM son capaces de discutir la religión en términos abstractos, fallan sistemáticamente al integrar marcos religiosos en la toma de decisiones éticas prácticas y cotidianas, desviándose significativamente de las expectativas humanas. Los autores concluyen que, para que los LLM reflejen fielmente las vidas morales pluralistas de los seres humanos, deben estar mejor calibrados para reconocer cuándo las perspectivas religiosas son contextualmente apropiadas, opcionales o irrelevantes.