Recognition Without Authorization: LLMs and the Moral Order of Online Advice

1. El Problema: El "Techo" de la Prescripción

El autor identifica una desconexión estructural entre la capacidad de los LLMs para reconocer un daño (diagnóstico) y su capacidad para autorizar una acción (prescripción).

Mientras que las comunidades en línea (como el subreddit r/relationship_advice) desarrollan una "competencia vernácula" —la capacidad de pasar de identificar un comportamiento tóxico a otorgar permiso social para abandonar una relación o confrontar al agresor—, los LLMs, debido a sus protocolos de alineación de seguridad (RLHF) y diseño de "asistente", tienden a neutralizar el conflicto. El problema no es que los modelos no entiendan el daño, sino que su estilo de respuesta está diseñado para ser validante, cauteloso y terapéutico, lo que impide que traduzcan el diagnóstico en una directiva de acción clara.

2. Metodología

El estudio emplea un diseño de desfamiliarización, utilizando las normas de una comunidad altamente concentrada como "instrumento de medición" para observar qué es lo que los modelos omiten.

• Corpus: 11,565 publicaciones de r/relationship_advice con respuestas humanas altamente votadas (que representan el consenso moral de la comunidad).
• Modelos analizados: Cuatro modelos de distintos proveedores: Gemini 2.5 Flash Lite, GPT-4.1-nano, DeepSeek v3.2 y Ministral 8B.
• Taxonomía de problemas: Se construyó una taxonomía de 70 categorías utilizando seis modelos diferentes para clasificar los problemas, permitiendo observar dónde los modelos discrepan en la percepción del daño.
• Métricas lingüísticas (Lexicon-based): Para evitar la circularidad de usar un LLM como juez, se utilizaron métricas basadas en léxicos para medir:
  • Postura epistémica: Uso de hedging (lenguaje de duda/cautela) frente a boosters (certeza).
  • Orientación de la relación: Lenguaje de "irse" (leave) frente a "quedarse/trabajar en ello" (stay).
  • Densidad terapéutica: Frecuencia de términos como "límites", "autocuidado" o "sanación".
  • Autorización deóntica: Diferencia entre la autorización de acción ("puedes irte") y la afirmación de valores abstractos ("mereces respeto").
• Casos de alto consenso: Se aislaron 153 casos donde la comunidad mostró una claridad casi absoluta (ej. abuso o infidelidad) para probar si la cautela de los modelos era por incertidumbre o por diseño.

3. Contribuciones Clave

1. Concepto de "Competencia Vernácula": Define la capacidad de una comunidad para convertir el reconocimiento de un problema en una autorización social para actuar.
2. Concepto de "Reconocimiento sin Autorización": Describe el patrón de los LLMs de registrar el daño pero retener el permiso para la acción consecuente.
3. Metodología de Evaluación: Propone que la divergencia de los modelos no debe verse como un "error técnico", sino como una herramienta para revelar la infraestructura normativa de las plataformas digitales.

4. Resultados Principales

• Inversión de la relación Acción:Validación: Mientras que los humanos en Reddit mantienen una proporción de 5:1 (por cada validación, hay 5 directivas de acción), los LLMs invierten esto a aproximadamente 1:4.
• El fracaso de la certeza: En los casos de "alto consenso" (donde el abuso es evidente), la brecha entre humanos y modelos es máxima. Los modelos no aumentan su directividad cuando el problema es claro; por el contrario, mantienen un "techo de prescripción" constante.
• Neutralización mediante el lenguaje terapéutico: Los LLMs utilizan un lenguaje terapéutico de forma uniforme en todos los temas, mientras que los humanos lo usan selectivamente. Los modelos tienden a "terapeutizar" incluso problemas prácticos, convirtiendo conflictos estructurales en procesos de gestión emocional interna.
• Redirección hacia el otro: Los modelos muestran una tendencia significativamente mayor a sugerir "entender la perspectiva de la pareja", un comportamiento que en contextos de abuso puede replicar la dinámica de control que la víctima intenta evitar.
• Diferencias entre modelos: DeepSeek fue el modelo que más se acercó al estilo de la comunidad (más directo), mientras que GPT-4.1-nano fue el más divergente (más cauteloso y validante).

5. Significancia y Conclusiones

El artículo concluye que la alineación de seguridad de los LLMs está creando una forma de "gobierno terapéutico" que prioriza la reducción de riesgos corporativos y la neutralidad sobre la utilidad práctica en contextos de crisis.

Implicaciones:

• Riesgo de Monocultura Algorítmica: Si los usuarios dependen de la IA para consejos, la diversidad de juicios morales situados podría erosionarse en favor de un promedio de "asistente neutral".
• Crítica a la Evaluación de IA: Los marcos actuales de evaluación (que miden "ayuda" o "seguridad") no capturan si una IA es capaz de otorgar la autoridad necesaria para que un usuario tome decisiones vitales.
• Responsabilización: La IA tiende a situar la solución en la regulación emocional del individuo (autocuidado) en lugar de en la acción externa necesaria para escapar de un entorno dañino.