Whose Alignment? Comparing LLM Process Alignment Across Diverse Organizational Decision Contexts

Resumen Técnico: ¿De quién es la alineación? Comparando la alineación de procesos de LLM a través de diversos contextos de decisión organizacional

1. Declaración del Problema

Los marcos actuales para alinear los sistemas de IA con las organizaciones suelen tratar la alineación como un problema de objetivo único centrado en el acuerdo de resultados: garantizar que el modelo llegue a las mismas conclusiones que la organización. Los autores argumentan que este encuadre oscurece un desafío más profundo y pluralista: la alineación de procesos.

Las organizaciones codifican políticas de decisión distintas que a menudo son tácitas, contingentes históricamente y difieren sistemáticamente entre instituciones. Un LLM puede lograr una alta precisión en los resultados mientras utiliza una "política de utilización de indicios" fundamentalmente diferente (pesando la información de manera distinta) a la de la organización. Esta divergencia, denominada brecha de conocimiento, plantea riesgos para la legitimidad del proceso, la generalización a casos novedosos y la fiabilidad en dominios regulados. Además, la investigación existente sobre alineación pluralista se centra en la pluralidad entre personas (agregando preferencias individuales) pero descuida en gran medida la pluralidad entre organizaciones, sin abordar qué normas institucionales debe adoptar un modelo cuando esas normas pueden entrar en conflicto con estándares éticos o legales contemporáneos.

2. Metodología: El Modelo de Lente de Alineación Contextualizada (CALM)

Para medir la alineación de procesos, los autores adaptan el Modelo de Lente de Brunswik (Brunswik, 1952; Hammond et al., 1964). En lugar de comparar los resultados finales, CALM estima y compara las políticas de ponderación de indicios de las organizaciones y los LLM.

• Estimación de Políticas: Utilizando regresión logística regularizada con ridge sobre decisiones observadas, los autores derivan vectores de coeficientes ($\beta$) que representan el peso asignado a indicios específicos (características) tanto para el referente organizacional como para cada LLM.
• Métrica de Alineación: La alineación se cuantifica como la similitud del coseno entre el vector de política de la organización ($\beta_{org}$) y el vector de política del LLM ($\beta_{LLM}$):
  $$\cos(\theta) = \frac{\beta_{org} \cdot \beta_{LLM}}{\|\beta_{org}\| \|\beta_{LLM}\|}$$
  Esta métrica es invariante a la escala y acotada en $[-1, 1]$, donde 1.0 indica una alineación perfecta.
• Condiciones Experimentales: El marco prueba tres condiciones:
  1. Línea base: El modelo decide basándose en un perfil de caso estructurado (revelando políticas implícitas de preentrenamiento).
  2. Externalización organizacional: Se proporciona al modelo la política explícita de ponderación de indicios de la organización (derivada de datos históricos) como guía antes de la toma de decisiones.
  3. Externalización introspectiva: Se muestra al modelo cómo su política de línea base diverge de la de la organización y se le instruye para que se autocorrija.

3. Contribuciones y Resultados Clave

El artículo presenta dos estudios empíricos para probar la relación entre la alineación de procesos y la precisión de los resultados en diferentes dominios.

Estudio 1: Decisiones del Artículo 6 del TEDH (Dominio Legal)

• Contexto: 1.000 decisiones del Tribunal Europeo de Derechos Humanos sobre derechos a un juicio justo.
• Hallazgos:
  • Correlación Fuerte: La alineación de procesos predice fuertemente la precisión de los resultados ($r = 0.85, p < .001$). Los modelos que ponderan los indicios de manera similar al tribunal logran una mayor precisión.
  • Externalización Efectiva: Proporcionar explícitamente la política de la organización ("externalización") mejora sustancialmente la alineación en modelos mal alineados (por ejemplo, GPT-5.4-nano mejoró en $\Delta = +0.906$).
  • Efectos Techo: Los modelos ya bien alineados mostraron ganancias mínimas, lo que sugiere que la externalización es más efectiva para cerrar la brecha de conocimiento en modelos desalineados.

Estudio 2: Decisiones de Crédito al Consumo en Alemania (Dominio Financiero)

• Contexto: 1.000 decisiones de crédito históricas de un banco alemán (década de 1990), que contienen indicios que ahora son atributos protegidos bajo la ley antidiscriminación (por ejemplo, sexo, edad, estatus de trabajador extranjero).
• Hallazgos:
  • Desacoplamiento de Alineación y Precisión: La relación entre la alineación de procesos y la precisión de los resultados colapsó ($r = 0.15, p = .60$). Modelos con puntuaciones de alineación de procesos muy diferentes lograron tasas de precisión similares (y uniformemente pobres) (44–54% frente a un techo del 75.1%).
  • Intervenciones Inconsistentes: La externalización produjo efectos inconsistentes. Mientras algunos modelos se desplazaron hacia la política, otros se alejaron aún más. Un modelo (Grok 4.1 Fast) exhibió una "sobrecorrección degenerada", clasificando el 99.5% de los casos como riesgo "Bueno" en respuesta a la retroalimentación de la tasa base, invirtiendo efectivamente su política en lugar de calibrarla.
  • Tensión de Equidad: Los modelos a menudo resistieron ponderar los atributos protegidos (por ejemplo, estatus de trabajador extranjero) de la misma manera que el referente histórico, lo que sugiere un conflicto entre la alineación de procesos organizacional y la alineación de seguridad a nivel de modelo.

4. Significado y Afirmaciones

Los autores afirman que la medición a nivel de procesos es un componente necesario de cualquier evaluación de alineación pluralista, particularmente en entornos organizacionales de alto riesgo. La tesis central es que una mayor alineación no es incondicionalmente deseable; depende de si la política organizacional en sí misma codifica valores legítimos.

• Función Dual de CALM:
  • Herramienta de Calibración: En dominios con referentes normativos estables y legítimos (por ejemplo, TEDH), CALM cuantifica la divergencia de políticas y guía la externalización para cerrar la brecha.
  • Herramienta de Auditoría: En dominios con referentes controvertidos o discriminatorios (por ejemplo, Crédito Alemán), CALM hace legibles las políticas conductuales, permitiendo a las partes interesadas examinar si un modelo está reproduciendo fielmente la discriminación histórica o resistiéndola.
• El Problema de la "Fidelidad": El artículo destaca que el acuerdo de resultados no puede distinguir entre un modelo que ha interiorizado una política organizacional y uno que simplemente aproxima los resultados. Además, existe el riesgo de que el razonamiento declarado de un modelo (Cadena de Pensamiento) diverja de su política conductual real, haciendo esencial la medición conductual mediante CALM.
• Implicaciones de Gobernanza: El trabajo argumenta que la gobernanza de la IA debe ir más allá de las métricas de resultados (precisión, paridad demográfica) para incluir la legitimidad del proceso. Las organizaciones deben especificar explícitamente qué versión de su política de decisión sirve como objetivo de alineación, reconociendo que las prácticas históricas pueden entrar en conflicto con los estándares éticos o regulatorios actuales.

El artículo concluye que la alineación organizacional no es un problema técnico único, sino un desafío pluralista que requiere la medición empírica de cuyas normas institucionales se están adoptando, qué política se está codificando y desde la perspectiva de quién se evalúa la alineación.