Resumen Técnico: La Paradoja del Escalamiento en la Colaboración Humano–IA

Declaración del Problema

El descubrimiento de las Leyes de Escalamiento en la inteligencia artificial (Kaplan et al. 2020; Hestness et al. 2017) establece que las capacidades de la IA mejoran de manera predecible a medida que el tamaño del modelo, los datos y el cómputo aumentan. Sin embargo, en entornos operativos, la IA rara vez funciona de forma aislada; opera dentro de sistemas colaborativos humano–IA, donde los trabajadores humanos deben asignar esfuerzo para revisar, validar o corregir los resultados de la IA.

El problema central abordado es si las ganancias empíricas del escalamiento de la IA se traducen en una mejora del rendimiento para el sistema conjunto humano–IA. Aunque la intuición sugiere que una IA más capaz debería permitir a los humanos procesar más tareas, evidencia empírica reciente (por ejemplo, Becker et al. 2025; METR) indica resultados de productividad mixtos o incluso negativos. El artículo postula que la percepción errónea humana de las capacidades de la IA es un mecanismo crítico, a menudo ignorado, que puede romper el efecto de escalamiento, conduciendo a una "paradoja de escalamiento" donde el mayor escala de la IA reduce el rendimiento general del sistema y las ganancias de la empresa.

Metodología

Los autores desarrollan un modelo analítico parsimonioso de la colaboración humano–IA para estudiar la asignación endógena del esfuerzo bajo las leyes de escalamiento.

1. El Flujo de Trabajo Humano–IA

El modelo formaliza un proceso secuencial de tres pasos:

1. Configuración (Setup): Un trabajador humano inicia un proyecto con un costo de tiempo fijo $t_0$.
2. Ejecución de la IA: La IA intenta realizar la tarea con una probabilidad de éxito $1 - e^{-\alpha s}$, donde $s$ es la escala de la IA (medida logarítmica de recursos) y $\alpha$ es el factor de escalamiento (alineación tarea–IA).
3. Revisión Humana: El trabajador asigna tiempo $t$ para revisar y corregir el resultado de la IA. Si la IA falla, el humano lo corrige con una probabilidad $1 - e^{-t}$.

La probabilidad de éxito conjunta es $p(t; \alpha, s) = 1 - e^{-(\alpha s + t)}$. El trabajador tiene una capacidad fija $C$ y busca maximizar el número esperado de proyectos exitosos.

2. Mecanismo de Percepción Errónea

El modelo introduce un parámetro conductual donde el trabajador percibe el factor de escalamiento como $\hat{\alpha}$, que puede diferir del $\alpha$ real.

• Sobrepercepción ($\hat{\alpha} > \alpha$): Los trabajadores sobreestiman la capacidad de la IA, lo que conduce a una reducción agresiva del esfuerzo.
• Subpercepción ($\hat{\alpha} < \alpha$): Los trabajadores subestiman la capacidad de la IA, lo que conduce a una asignación excesiva de esfuerzo.

3. Perspectiva de la Empresa y Desalineación

La empresa maximiza las ganancias, definidas como la recompensa neta de los proyectos exitosos menos el costo de despliegue $c \cdot s$. Crucialmente, la empresa asume el costo de la IA mientras que el trabajador no, lo que crea una desalineación estructural empresa–trabajador respecto a los niveles óptimos de esfuerzo. El modelo analiza cómo la percepción errónea exacerba esta desalineación.

4. Intervenciones de Política

El estudio evalúa dos palancas operativas:

• Internalización de Costos (CI): Desplazar una fracción $\rho$ del costo de despliegue de la IA hacia el trabajador para alterar los incentivos de esfuerzo.
• Alineación de la Percepción: Intervenciones (por ejemplo, capacitación, informes transparentes) para alinear $\hat{\alpha}$ con $\alpha$.

Contribuciones Clave

1. Integración de las Leyes de Escalamiento en la Gestión de Operaciones: El artículo integra la ley de escalamiento como una primitiva en un marco analítico de operaciones, yendo más allá de los estudios empíricos de ML para examinar cómo el escalamiento afecta a todo el sistema de producción cuando el esfuerzo humano responde de forma endógena.
2. Identificación de la Paradoja de Escalamiento: Los autores identifican la percepción errónea humana como un mecanismo conductual novedoso donde el escalamiento falla. Específicamente, la sobrepercepción puede causar que el rendimiento del sistema conjunto sea no monótono con respecto a la escala $s$, creando una región donde una mayor escala de la IA produce peores resultados.
3. Asimetría de los Riesgos de Percepción Errónea: El artículo distingue los efectos asimétricos de la sobrepercepción frente a la subpercepción. La sobrepercepción revierte los beneficios del escalamiento y amplifica la desalineación empresa–trabajador. La subpercepción preserva la mejora monótona (aunque a un ritmo más lento) y puede, de manera contraintuitiva, mitigar parcialmente la desalineación empresa–trabajador al inducir a los trabajadores a ejercer más esfuerzo.
4. Diseño de Políticas para la Mitigación de Distorsiones: El estudio caracteriza cómo la internalización de costos y la alineación de la percepción deben adaptarse según la dirección de la percepción errónea y la economía del despliegue (por ejemplo, niveles de costo).

Resultados Clave

1. Colaboración Perfecta ($\hat{\alpha} = \alpha$)

Cuando los humanos perciben con precisión la capacidad de la IA, la ley de escalamiento se cumple. A medida que la escala $s$ aumenta:

• El esfuerzo humano por proyecto ($t^*$) disminuye de forma no creciente.
• El rendimiento de los proyectos aumenta.
• La recompensa total del sistema aumenta.
  El sistema transita de un régimen de "Solo Humano" a un régimen de "Humano en el Bucle" (HIL), y eventualmente a un régimen de "Inteligencia Artificial General" (AGI) donde el esfuerzo humano más allá de la configuración es cero.

2. Sobrepercepción ($\hat{\alpha} > \alpha$)

• Distorsión del Esfuerzo: Los trabajadores reducen el esfuerzo de forma demasiado agresiva ($\hat{t} < t^*$).
• La Paradoja del Escalamiento: En el régimen HIL, si el grado de sobrepercepción es suficientemente alto, la recompensa realizada se vuelve no monótona en $s$. Inicialmente, el escalamiento mejora el rendimiento, pero más allá de un umbral, la reducción en el esfuerzo humano supera las ganancias técnicas de la IA, causando que la recompensa total decline.
• Impacto en la Empresa: Esta paradoja se amplifica a nivel de la empresa. A medida que la recompensa disminuye, las ganancias de la empresa caen aún más drásticamente porque la empresa continúa pagando el creciente costo de despliegue $c \cdot s$ por un número decreciente de proyectos exitosos. La sobrepercepción amplía la brecha entre el esfuerzo óptimo del trabajador y el de la empresa.

3. Subpercepción ($\hat{\alpha} < \alpha$)

• Distorsión del Esfuerzo: Los trabajadores invierten demasiado esfuerzo ($\hat{t} > t^*$).
• Escalamiento Atenuado: La ley de escalamiento se mantiene (la recompensa aumenta con $s$), pero las ganancias son más lentas que en el caso de la colaboración perfecta porque los trabajadores asignan de manera ineficiente demasiado tiempo por proyecto, reduciendo el rendimiento (throughput).
• Impacto en la Empresa: La subpercepción puede alinear parcialmente el comportamiento del trabajador con los intereses de la empresa. Dado que la empresa prefiere un mayor esfuerzo que el trabajador (para reducir los costosos despliegues de IA), el "exceso de esfuerzo" del trabajador bajo la subpercepción puede, de forma contraintuitiva, reducir la desalineación empresa–trabajador, mejorando a veces la ganancia de la empresa en relación con la línea base de la colaboración perfecta.

4. Intervenciones de Política

• Internalización de Costos:
  • Bajo Costo de IA: Desplazar los costos hacia los trabajadores (alto $\rho$) generalmente aumenta la ganancia de la empresa.
  • Alto Costo de IA: Las empresas deben absorber más costos (bajo $\rho$) para evitar que los trabajadores abandonen las herramientas de IA.
  • Bajo Percepción Errónea: Bajo sobrepercepción, las empresas pueden desplazar más costos hacia los trabajadores (quienes ya son excesivamente optimistas). Bajo subpercepción, las empresas deben asumir más costos para fomentar la adopción.
• Alineación de la Percepción:
  • Sobrepercepción: La alineación es inequívocamente beneficiosa tanto para los trabajadores como para las empresas, evitando la paradoja del escalamiento.
  • Subpercepción: La alineación no siempre es beneficiosa para la empresa. Corregir una leve subpercepción puede reducir la ganancia de la empresa al alejar a los trabajadores del nivel de esfuerzo preferido por la empresa. La alineación agresiva solo es beneficiosa si la subpercepción es severa.

Significado y Reivindicaciones

El artículo argumenta que el escalamiento de la IA no es meramente un desafío tecnológico, sino un desafío conductual y operativo. Los autores afirman que:

1. El Valor Automático es un Mito: Los sistemas de IA más grandes no conducen automáticamente a mejores resultados operativos; el valor depende críticamente de cómo el aumento de las capacidades moldea las creencias humanas y los esfuerzos de colaboración.
2. Gestión de la Interfaz: Las organizaciones pueden beneficiarse más gestionando la interfaz humano–IA (mediante la alineación de la percepción y el diseño de incentivos) que simplemente invirtiendo en modelos más grandes y costosos.
3. Riesgo de Sobrepercepción: La "paradoja del escalamiento" sugiere que las tendencias organizacionales actuales de escalar la IA agresivamente mientras se reduce la supervisión humana —impulsadas por el exceso de optimismo— pueden conducir a un deterioro del rendimiento y a pérdidas de ganancias amplificadas.
4. Intervenciones Asimétricas: Las políticas operativas deben ser asimétricas; lo que funciona para la sobrepercepción (por ejemplo, el desplazamiento de costos y la alineación agresiva) puede ser contraproducente para la subpercepción.

El estudio concluye que realizar el valor de la IA desplegada requiere que las empresas adapten las creencias humanas y las estructuras de incentivos a las capacidades específicas del sistema de IA, advirtiendo contra la visión de que el progreso tecnológico por sí solo garantiza el rendimiento organizacional.