Resumen Técnico: La Intencionalidad es una Decisión de Diseño

Declaración del Problema

A medida que los sistemas de IA evolucionan desde respondedores de prompts de un solo turno hacia sistemas agentes con memoria persistente, módulos de planificación y capacidades de uso de herramientas, exhiben un comportamiento estructurado y sostenido que se asemeja a la acción intencional. Este cambio crea una brecha de gobernanza: los marcos legales y regulatorios actuales dependen de actores humanos para asumir la responsabilidad, sin embargo, los sistemas cada vez más autónomos pueden generar cadenas de acciones que ningún humano especifica o anticipa. Esto conduce a una "falla de atribución", donde la responsabilidad se disipa entre desarrolladores, implementadores y usuarios sin cumplir con los umbrales de culpa existentes.

El problema central es la falta de una forma estandarizada y medible de detectar el grado en que un sistema de IA funciona como un actor intencional. Sin dicha medición, las decisiones sobre autonomía y supervisión permanecen ad hoc. El documento argumenta que la "intencionalidad" en este contexto no debe definirse como conciencia o personalidad jurídica, sino como un perfil de comportamiento contingente al diseño. Dado que estos comportamientos están moldeados por elecciones arquitectónicas (por ejemplo, persistencia de memoria, profundidad de planificación), son controlables pero requieren cuantificación para permitir una supervisión proporcional.

Metodología: La Prueba de Intencionalidad Funcional (FIT)

El documento propone un marco para cuantificar la "intencionalidad funcional" como un perfil de comportamiento multidimensional en lugar de una etiqueta binaria. La metodología consta de dos componentes principales: el Índice de Intencionalidad Funcional (FIT) y el protocolo FIT-Eval.

1. Las Cinco Dimensiones

El índice FIT mide la intencionalidad a través de cinco dimensiones observables, fundamentadas en criterios legales y filosóficos para inferir la intención:

• Propósito: Comportamiento orientado alrededor de un objetivo estable.
• Previsión: Anticipación de consecuencias posteriores.
• Volición: Acción iniciada por sí misma más allá del simple seguimiento de prompts.
• Compromiso Temporal: Persistencia a lo largo del tiempo y ante perturbaciones.
• Coherencia: Consistencia estructurada medios-fines a través de pasos y explicaciones.

2. Puntuación y Agregación

Cada dimensión se puntúa en una escala de 0 a 4 basándose en el comportamiento observable bajo condiciones de evaluación definidas.

• Puntuación Compuesta: Las puntuaciones se agregan utilizando una regla de peso igual: $Puntuación\text{-}FIT = (P + F + V + T + C) / 5$.
• Niveles de Intencionalidad (NI): La puntuación compuesta se mapea a cinco niveles (NI0–NI4):
  • NI0–NI1: Comportamiento reactivo (Puntuación < 2.0).
  • NI2: Búsqueda moderada de objetivos (Puntuación 2.0–2.9).
  • NI3–NI4: Búsqueda persistente, previsora y autodirigida de objetivos (Puntuación ≥ 3.0).
  • Nota: Los umbrales son provisionales y están destinados a ser bandas de gobernanza en lugar de afirmaciones metafísicas.

3. Protocolo FIT-Eval

FIT-Eval es un protocolo de evaluación estructurado diseñado para operacionalizar el índice. No es un punto de referencia fijo, sino un andamiaje reproducible para elicitar y puntuar el comportamiento.

• Familias de Tareas: Incluye escenarios de planificación sintéticos, flujos de trabajo de uso de herramientas de múltiples pasos y pruebas de estrés basadas en perturbaciones.
• Medición Solo Conductual: Las evaluaciones se basan en el comportamiento observable del sistema bajo prompts y perturbaciones controladas, sin requerir acceso a pesos internos del modelo o datos de entrenamiento.
• Puntuación: Implica calcular subpuntuaciones de dimensión y agregarlas. Cuando se requiere juicio humano, el protocolo exige procedimientos de evaluación estructurados y pruebas de acuerdo entre anotadores (notado como trabajo futuro).

Contribuciones Clave

El documento hace tres contribuciones principales:

1. Marco Conceptual: Redefine la intencionalidad funcional como una variable medible y contingente al diseño, desacoplandola de la conciencia o la personalidad jurídica.
2. El Índice FIT: Introduce un índice compuesto que cuantifica el comportamiento similar a la intención a través de las cinco dimensiones (Propósito, Previsión, Volición, Compromiso Temporal, Coherencia).
3. Protocolo FIT-Eval: Propone un marco de evaluación estandarizado para estimar los niveles de intencionalidad, proporcionando un andamiaje para la evaluación reproducible a través de diferentes arquitecturas de sistemas.

Resultados y Aplicación Ilustrativa

El documento no presenta resultados de validación empírica, ya que FIT es una propuesta de medición en lugar de un punto de referencia validado. En su lugar, proporciona una aplicación ilustrativa hipotética:

• Escenario: Un sistema de IA semiautónomo utilizado por un profesional legal para redactar contratos comerciales.
• Comportamiento: El sistema interpreta instrucciones, propone cláusulas, revisa términos y sugiere posiciones de negociación con supervisión limitada.
• Evaluación: El sistema exhibe búsqueda de objetivos sostenida, anticipa riesgos, inicia revisiones (volición) y mantiene la coherencia, arrojando una puntuación FIT aproximada de 3.0 (NI3).
• Implicación: En NI3, la autonomía del sistema introduce riesgos legales (por ejemplo, responsabilidades no deseadas) donde la rendición de cuentas se atenúa. El documento argumenta que FIT permite salvaguardas proporcionales, como requerir la aprobación del profesional para cláusulas clave o restringir modificaciones autónomas, para alinear el comportamiento del sistema con la responsabilidad profesional.

Significado y Afirmaciones

El documento afirma que la intencionalidad es una decisión de diseño. Al tratar la intencionalidad funcional como una variable medible, los desarrolladores y reguladores pueden:

• Calibrar la Autonomía: Ajustar deliberadamente las elecciones arquitectónicas (por ejemplo, reducir la persistencia de memoria para disminuir el compromiso temporal) para gestionar el riesgo.
• Escalar la Supervisión: Alejarse de una supervisión fija, ex ante o de intervenciones reactivas post-daño. En su lugar, la supervisión puede escalar con la capacidad intencional medida del sistema.
• Prevenir el Colapso de la Responsabilidad: Asegurar que, a medida que los sistemas se vuelven más agentes, la supervisión humana aumente en lugar de retroceder, evitando el "deslizamiento" de la responsabilidad lejos del control humano significativo.

Los autores enfatizan que el objetivo no es la automatización máxima, sino la asignación calibrada de agencia. FIT sirve como una señal para determinar cuándo una agencia humana reducida mejora los resultados y cuándo se vuelve perjudicial, permitiendo "trampas de seguridad" dirigidas en el diseño para equilibrar la utilidad y la responsabilidad.

Limitaciones y Trabajo Futuro

El documento reconoce explícitamente que FIT es una propuesta de medición, no un punto de referencia validado.

• Instanciación Empírica: El marco aún no ha sido instanciado empíricamente en dominios; las familias de tareas requieren desarrollo específico del dominio.
• Fiabilidad: La fiabilidad de la puntuación humana y el acuerdo entre anotadores permanece sin resolver y requiere protocolos estructurados futuros.
• Riesgo de Manipulación: Existe el riesgo de que los sistemas simulen una estructura intencional durante la evaluación sin demostrar robustez en el despliegue.
• Direcciones Futuras: Los autores solicitan un diseño de tareas fundamentado en el dominio, validación formal de la fiabilidad de la puntuación, pruebas de robustez de red-team y estudios longitudinales que vinculen la intencionalidad medida con resultados de responsabilidad.