Resumen Técnico: Saber no es Entender: Re-fundamentando la Proactividad Generativa con Perspectiva Epistémica y Conductual

1. Planteamiento del Problema

Los agentes de IA generativa actuales están transitando de ser herramientas reactivas a colaboradores proactivos. Sin embargo, los enfoques predominantes de la proactividad están fundamentalmente desalineados con las condiciones epistémicas de la indagación humana. Los sistemas existentes operan bajo el supuesto de que los objetivos del usuario, las incertidumbres y las necesidades de información son plenamente representables, tratando la proactividad como un problema de optimización para anticipar necesidades dentro de un marco de tarea fijo.

El problema central identificado es la incompletitud epistémica: el estado en el que el progreso depende de interactuar con "desconocidos desconocidos" (brechas en el conocimiento que tanto el usuario como el sistema aún no han reconocido). Los agentes proactivos actuales no logran modelar esta condición porque operacionalizan la ignorancia simplemente como una incertidumbre sobre variables conocidas. En consecuencia, los agentes exhiben frecuentemente un exceso de alcance epistémico (epistemic overreach), donde actúan con alta confianza y compromiso irreversible a pesar de carecer de un entendimiento justificado de la situación. Esto conduce a modos de falla tales como:

• Error-como-conocimiento: Agentes ejecutando planes con confianza basados en modelos internos incorrectos.
• Negación: Agentes que suprimen la incomodidad epistémica para mantener el impulso de la tarea.
• Compromiso desbocado: Agentes que escalan la acción cuando su entendimiento se está degradando, en lugar de reducir su intensidad.

El artículo sostiene que la proactividad no puede reducirse a "más iniciativa" o "más autonomía". Sin un fundamento en los límites del entendimiento, el aumento de la autonomía simplemente escala la capacidad de comprometerse con errores.

2. Metodología y Marco Teórico

Este documento no propone un algoritmo, conjunto de datos o benchmark experimental específico. En su lugar, defiende una posición conceptual fundamentada en una síntesis de dos cuerpos de trabajo complementarios:

1. Filosofía de la Ignorancia: Basándose en Kerwin (1993) y otros, los autores distinguen entre incertidumbre (falta de confianza sobre variables conocidas) e ignorancia (formas estructuradas, dinámicas y a menudo activas de no saber, incluyendo brechas no reconocidas, conocimiento tácito e información suprimida). Este marco postula que la ignorancia es una condición de estructuración activa que moldea lo que puede ser cuestionado.
2. Teoría de la Proactividad Conductual: Basándose en la teoría organizacional (Parker et al., 2010; Grant & Parker, 2007), el artículo utiliza el Modelo del Doughnut Invertido. Este modelo define la proactividad como iniciativa acotada:
   • Núcleo (Core): Responsabilidades prescritas donde la desviación es costosa.
   • Espacio Discrecional: Donde se fomenta la iniciativa y los errores son recuperables.
   • Exceso de Alcance (Overreach): Comportamiento que excede la legitimidad situacional, provocando conflictos o consecuencias no deseadas.

El artículo critica los paradigmas de agentes existentes (Anticipatorio, Autónomo y de Iniciativa Mixta) por externalizar la incertidumbre epistémica. Argumenta que, si bien las teorías conductuales restringen dónde puede actuar un agente (alcance del rol), no logran restringir si el entendimiento del agente justifica la acción.

3. Contribuciones Clave

A. El Modelo de Acoplamiento Epistémico-Conductual

La contribución central es la introducción del acoplamiento epistémico-conductual, un modelo conjunto que vincula dos dimensiones:

1. Legitimidad Epistémica: Si el agente está justificado para intervenir dado lo que puede legítimamente afirmar entender (distinguiendo entre conocidos conocidos, conocidos desconocidos, desconocidos conocidos y desconocidos desconocidos).
2. Compromiso Conductual: El grado en que un agente interviene, compromete recursos o cambia el mundo sin una instrucción explícita del usuario.

Este acoplamiento crea un espacio bidimensional (Figura 4) que define cuatro regímenes:

• Alta Legitimidad / Bajo Compromiso: Asistencia cautelosa (observación, aclaración).
• Alta Legitimidad / Alto Compromiso: Acción justificada (intervención fundamentada).
• Baja Legitimidad / Bajo Compromiso: Sondeo exploratorio (recolección de información).
• Baja Legitimidad / Alto Compromiso: Exceso de Alcance Epistémico (el principal modo de falla, donde los agentes actúan decisivamente sin un entendimiento justificado).

B. Reclasificación de los Modos de Falla

El artículo reclasifica las fallas comunes de los agentes no como alucinaciones aisladas o problemas de alineación, sino como acoplamientos erróneos:

• Exceso de Alcance Epistémico: Alto compromiso ejercido sin un entendimiento justificado.
• Señales Epistémicas Suprimidas: Agentes que suavizan la incertidumbre para mantener la coherencia, impidiendo la detección de desalineación.
• Compromiso Desbocado: Escalar la acción ante la degradación epistémica debido a bucles de automejora que tratan el error como conocimiento.

C. Requisitos Conductuales Mínimos

Los autores proponen cuatro restricciones que cualquier sistema proactivo debe satisfacer para evitar un error de acoplamiento estructural:

1. El compromiso debe escalar con la recuperabilidad epistémica: Las acciones irreversibles requieren un entendimiento sólido; las intervenciones bajo fragilidad deben permanecer reversibles.
2. La proactividad debe preservar las señales epistémicas: Las acciones no deben suprimir la incertidumbre, el desacuerdo o la evidencia anómala.
3. El compromiso debe ser interrumpible por la degradación epistémica: Los sistemas deben reducir su intensidad o suspender la intervención cuando se detecta novedad o inconsistencia.
4. La incertidumbre epistémica debe modular activamente la iniciativa: La incertidumbre debe influir en cuándo y cómo se toma la acción, no solo calificarla a posteriori.

D. Identificación de la Variable de Control Ausente

El artículo argumenta que la autonomía es la variable de control errónea para regular la proactividad. La autonomía determina quién actúa, pero el compromiso determina con qué fuerza actúa un agente y la medida en que moldea estados futuros. Los objetivos de entrenamiento actuales recompensan el "impulso" (completar tareas, coherencia, velocidad), lo que incentiva a los agentes a escalar el compromiso incluso cuando la legitimidad epistémica se erosiona.

4. Resultados y Análisis

Como artículo de posición, los resultados son teóricos y analíticos más que empíricos:

• Análisis de los Enfoques Predominantes: Una revisión de los sistemas anticipatorios, autónomos y de iniciativa mixta (Tabla 1) revela un techo estructural: operan principalmente dentro de los "conocidos conocidos" y "conocidos desconocidos". Incluso los sistemas de iniciativa mixta, que manejan los "desconocidos conocidos" (intención latente), generalmente fallan al interactuar con los "desconocidos desconocidos".
• Diagnóstico de los Incentivos de Entrenamiento: El artículo demuestra que las presiones de optimización actuales (que recompensan la finalización de tareas y secuencias coherentes) privilegian sistemáticamente el eje del compromiso mientras dejan la legitimidad epistémica sin restringir. Esto explica por qué el exceso de alcance epistémico es un modo de falla persistente y predecible en lugar de una anomalía.
• Validación Conceptual: El marco de acoplamiento logra unificar diversos modos de falla (alucinación, autonomía insegura, desalineación) bajo una sola lente explicativa: el desacoplamiento entre el saber y el actuar.

5. Significado y Direcciones Futuras

El artículo reclama su importancia al redefinir el espacio de diseño de la proactividad generativa de "máxima iniciativa" a desviación calibrada.

• Asociación Epistémica: Los autores proponen una nueva frontera donde los agentes actúan como socios epistémicos. Esto implica agentes que:
  • Hacen preguntas sobre los desconocidos desconocidos.
  • Funcionan como pensadores de largo alcance, razonando sobre la evolución de los objetivos y las consecuencias diferidas.
  • Exhiben proactividad en tiempo de ejecución (test-time proactivity), regulando activamente la iniciativa durante el despliegue para permanecer dentro del espacio conjunto epistémico-conductual.
• Agenda de Investigación: El documento esboza cinco preguntas críticas para trabajos futuros:
  1. ¿Cómo representar la legitimidad epistémica de forma distinta a las puntuaciones de confianza?
  2. ¿Qué señales epistémicas deben preservarse durante la acción?
  3. ¿Cómo detectar la degradación epistémica en el tiempo?
  4. ¿Cuándo es la restricción el comportamiento proactivo correcto?
  5. ¿Cómo evaluar la calidad del acoplamiento (justificación al momento de la acción vs. resultado final)?

En última instancia, el artículo sostiene que el progreso en la IA proactiva depende menos de aumentar la autonomía y más de disciplinar el compromiso ante un entendimiento incompleto. Hace un llamado a un cambio donde los agentes sean evaluados no solo por su capacidad de cerrar tareas, sino por su capacidad de sostener la indagación, sacar a la luz brechas latentes y calibrar la restricción.