When Do Data-Driven Systems Exhibit the Capability to Infer?

Resumen Técnico: ¿Cuándo exhiben los sistemas basados en datos la capacidad de inferencia?

Planteamiento del problema
La Ley de IA de la Unión Europea establece un marco jurídico integral para la inteligencia artificial, definiendo un sistema de IA principalmente por su "capacidad de inferencia". Sin embargo, la Ley y sus directrices complementarias de la Comisión no proporcionan una definición técnica precisa de la inferencia, lo que crea una ambigüedad regulatoria para los sistemas basados en datos que dependen de modelos estadísticos clásicos en lugar de arquitecturas modernas de aprendizaje automático (machine learning). Esta incertidumbre es particularmente aguda en el dominio de la calificación crediticia (credit scoring), que figura explícitamente como una aplicación de alto riesgo en el Anexo III de la Ley de IA. Los profesionales del sector y los reguladores se enfrentan a un dilema: muchos sistemas de calificación crediticia utilizan regresión logística y procedimientos de agrupación estadística (binning). No está claro si estos sistemas, que a menudo implican la intervención de expertos humanos en el desarrollo del modelo, poseen la "capa de inferencia" suficiente para clasificarlos como sistemas de IA bajo la Ley, o si quedan fuera del alcance como "procesamiento de datos básico".

Metodología
Para abordar esta ambigüedad, los autores desarrollan un marco graduado para evaluar la capacidad de inferencia, fundamentado en la teoría del aprendizaje estadístico. La metodología procede en tres etapas:

1. Abstracción Teórica: Los autores formalizan el concepto de inferencia analizando cómo los datos influyen en la formación de las mapeaciones de entrada-salida. Basándose en la distinción entre la estimación paramétrica (cultura de modelado de datos) y la construcción algorítmica (cultura de modelado algorítmico), proponen un marco escalonado de cinco niveles (Niveles 0–4) que categoriza los sistemas según la medida en que los datos dan forma a la lógica del sistema:

   • Nivel 0 (Mapeo Fijo): Totalmente especificado ex ante por humanos; los datos se procesan pero no influyen en la estructura o los parámetros.
   • Nivel 1 (Adaptación Paramétrica): La forma funcional es fija; los datos determinan únicamente los parámetros numéricos (por ejemplo, coeficientes en una regresión lineal o logística).
   • Nivel 2 (Selección Estructural): Los datos seleccionan entre un conjunto predefinido de estructuras admisibles (por ejemplo, selección de características paso a paso o regularización $L_1$).
   • Nivel 3 (Construcción Estructural): Los datos construyen funcionalmente la mapeación de entrada-salida, ya sea de forma explícita (por ejemplo, árboles de decisión) o implícita (por ejemplo, $k$-vecinos más cercanos).
   • Nivel 4 (Construcción de Representación): Los datos determinan el propio espacio de representación (por ejemplo, redes neuronales profundas, aprendizaje de representaciones).

2. Mapeo Regulatorio: El marco se aplica al texto de la Ley de IA (Artículo 3, Recital 12) y a las Directrices de la Comisión. Los autores analizan la exclusión en las Directrices de los sistemas que "mejoran la optimización matemática" o "aceleran métodos tradicionales" para determinar dónde reside el umbral regulatorio de la "capacidad de inferencia". Exploran dos interpretaciones: una donde el Nivel 1 queda fuera de la definición de IA, y una alternativa donde incluso la estimación de parámetros constituye inferencia.

3. Aplicación de Caso de Estudio: El marco se aplica a dos flujos de trabajo realistas de calificación crediticia utilizando el conjunto de datos "Give Me Some Credit". Los autores diseccionan el proceso de desarrollo de extremo a extremo, incluyendo:

   • Agrupación (Binning): Análisis de la agrupación manual frente a la impulsada por datos (por ejemplo, divisiones binarias recursivas que optimizan la entropía de Shannon).
   • Regresión Logística: Examen de la regresión logística estándar frente a versiones que emplean la selección de características paso a paso (stepwise feature selection).
   • Intervención Humana: Evaluación de cómo las restricciones de los expertos (por ejemplo, requisitos de monotonicidad, reglas regulatorias) y la selección manual de variables afectan la capacidad de inferencia del sistema.

Contribuciones Clave

• Un Marco de Inferencia Graduado: El artículo introduce una taxonomía estructurada de cinco niveles que distingue los sistemas basándose en cómo los datos dan forma a las mapeaciones de entrada-salida. Esto va más allá de las clasificaciones binarias para permitir un análisis granular de los sistemas híbridos.
• Clarificación Regulatoria para Modelos Estadísticos: Los autores demuestran que las técnicas comunes de calificación crediticia ocupan diferentes niveles del marco. Específicamente, muestran que mientras una regresión logística estándar con características fijas es Nivel 1, la adición de agrupación impulsada por datos (Nivel 3a) o la selección de características paso a paso (Nivel 2) desplaza la capacidad de inferencia del sistema.
• Análisis a Nivel de Flujo de Trabajo: El artículo sostiene que la evaluación regulatoria no puede limitarse al modelo predictivo final. En su lugar, debe evaluarse todo el flujo de trabajo de procesamiento de datos, ya que los pasos de preprocesamiento como la agrupación y la selección de variables pueden introducir capacidades de inferencia que el modelo final por sí solo podría no poseer.
• El Papel de la Experiencia Humana: El análisis destaca que la participación humana durante la fase de desarrollo (por ejemplo, definir restricciones, seleccionar variables manualmente) puede influir significativamente en si un sistema es considerado con la capacidad de inferir, manteniendo potencialmente un sistema dentro de la categoría de "procesamiento de datos básico" incluso si utiliza modelos estadísticos.

Resultos
La aplicación del marco a los flujos de trabajo de calificación crediticia revela que estos sistemas suelen ser compuestos:

• Agrupación (Binning): La agrupación manual permanece en el Nivel 0 o 1. Sin embargo, los métodos de agrupación impulsados por datos (como los que optimizan la entropía) constituyen el Nivel 3a (Construcción Estructural Explícita), ya que la estructura de partición se construye funcionalmente a partir de los datos en lugar de ser seleccionada de un catálogo fijo.
• Regresión Logística: Un modelo de regresión logística estándar con características preseleccionadas es Nivel 1. Sin embargo, cuando se combina con la selección de características paso a paso, el sistema opera en el Nivel 2 (Selección Estructural).
• Umbral Regulatorio: Los autores sugieren que si las Directrices de la Comisión se interpretan estrictamente para excluir los sistemas que simplemente "aceleran" la optimización tradicional, los sistemas de Nivel 1 (adaptación paramétrica) podrían quedar fuera del alcance de la Ley de IA. Por el contrario, los sistemas que exhiben Nivel 2 o superior (selección o construcción estructural) se alinean más estrechamente con la definición de la Ley de derivar modelos a partir de datos.
• Resolución de la Ambigüedad: El estudio ilustra que un solo sistema de calificación crediticia puede contener componentes en diferentes niveles. En consecuencia, la "capacidad de inferencia" no es una propiedad intrínseca del algoritmo por sí solo, sino una propiedad de la implementación y el flujo de trabajo específicos.

Significancia
El artículo afirma que su principal significancia radica en proporcionar una herramienta técnica para operacionalizar el concepto legal de "capacidad de inferencia" para reguladores y profesionales del sector. Al demostrar que no todos los sistemas basados en datos son iguales en sus capacidades de inferencia, el marco ofrece una base para un tratamiento regulatorio consistente de los casos límite, particularmente en sectores de alto riesgo como la calificación crediticia. Los autores enfatizan que su trabajo no resuelve definitivamente el estatus legal de la regresión logística, sino que clarifica las distinciones técnicas necesarias para tal determinación, destacando que la participación de expertos humanos y el diseño específico del flujo de trabajo son factores críticos para determinar si un sistema cumple con la definición de la Ley de IA.