When Do Data-Driven Systems Exhibit the Capability to Infer?

Sintesi Tecnica: Quando i Sistemi Basati sui Dati Possiedono la Capacità di Inferenza?

Problema
L'AI Act europeo stabilisce un quadro giuridico completo per l'intelligenza artificiale, definendo un sistema di IA principalmente attraverso la sua "capacità di inferenza". Tuttavia, l'Atto e le relative Linee Guida della Commissione non forniscono una definizione tecnica precisa di inferenza, creando un'ambiguità normativa per i sistemi basati sui dati che si affidano a modelli statistici classici piuttosto che alle moderne architetture di machine learning. Questa incertezza è particolarmente acuta nel dominio del credit scoring, che è esplicitamente elencato come applicazione ad alto rischio nell'Allegato III dell'AI Act. Gli operatori del settore e i regolatori si trovano di fronte a un dilemma: molti sistemi di credit scoring utilizzano la regressione logistica e procedure di binning statistico. Resta da chiarire se questi sistemi, che spesso prevedono l'intervento umano esperto nello sviluppo del modello, possiedano una "capacità di inferenza" sufficiente per essere classificati come sistemi di IA ai sensi dell'Atto, o se rientrino nell'ambito di esclusione come "elaborazione di dati di base".

Metodologia
Per affrontare questa ambiguità, gli autori sviluppano un framework graduato per valutare la capacità di inferenza, basato sulla teoria dell'apprendimento statistico. La metodologia procede in tre fasi:

1. Astrazione Teorica: Gli autori formalizzano il concetto di inferenza analizzando come i dati influenzano la formazione delle mappature input-output. Basandosi sulla distinzione tra stima parametrica (cultura della modellazione dei dati) e costruzione algoritmica (cultura della modellazione algoritmica), propongono un framework strutturato in cinque livelli (Livelli 0–4) che categorizza i sistemi in base all'estensione con cui i dati plasmano la logica del sistema:

   • Livello 0 (Mappatura Fissa): Completamente specificata ex ante dagli esseri umani; i dati vengono elaborati ma non influenzano la struttura o i parametri.
   • Livello 1 (Adattamento Parametrico): La forma funzionale è fissa; i dati determinano solo i parametri numerici (es. coefficienti in una regressione lineare/logistica).
   • Livello 2 (Selezione Strutturale): I dati selezionano tra un insieme predefinito di strutture ammissibili (es. selezione delle caratteristiche stepwise, regolarizzazione $L_1$).
   • Livello 3 (Costruzione Strutturale): I dati costruiscono funzionalmente la mappatura input-output, sia esplicitamente (es. alberi decisionali) che implicitamente (es. $k$-nearest neighbors).
   • Livello 4 (Costruzione Rappresentazionale): I dati determinano lo spazio rappresentazionale stesso (es. reti neurali profonde, apprendimento di rappresentazione).

2. Mappatura Regolatoria: Il framework viene applicato al testo dell'AI Act (Articolo 3, Considerando 12) e alle Linee Guida della Commissione. Gli autori analizzano l'esclusione nelle Linee Guida di sistemi che "migliorano l'ottimizzazione matematica" o "accelerano metodi tradizionali" per determinare dove risieda la soglia normativa della "capacità di inferenza". Esplorano due interpretazioni: una in cui il Livello 1 rimane al di fuori della definizione di IA, e un'alternativa in cui anche la stima dei parametri costituisce inferenza.

3. Applicazione del Caso di Studio: Il framework viene applicato a due flussi di lavoro realistici di credit scoring utilizzando il dataset "Give Me Some Credit". Gli autori dissezionano l'intero processo di sviluppo, includendo:

   • Binning: Analisi del binning manuale rispetto a quello guidato dai dati (es. divisioni binarie ricorsive che ottimizzano l'entropia di Shannon).
   • Regressione Logistica: Esame della regressione logistica standard rispetto a versioni che impiegano la selezione delle caratteristiche stepwise.
   • Coinvolgimento Umano: Valutazione di come i vincoli esperti (es. requisiti di monotonicità, regole normative) e la selezione manuale delle variabili influenzino la capacità di inferenza del sistema.

Contributi Chiave

• Un Framework di Inferenza Graduato: Il documento introduce una tassonomia strutturata in cinque livelli che distingue i sistemi in base a come i dati plasmano le mappature input-output. Ciò supera le classificazioni binarie per consentire un'analisi granulare dei sistemi ibridi.
• Chiarificazione Regolatoria per i Modelli Statistici: Gli autori dimostrano che le comuni tecniche di credit scoring occupano diversi livelli del framework. Nello specifico, mostrano che mentre la regressione logistica standard con caratteristiche fisse è di Livello 1, l'aggiunta di un binning guidato dai dati (Livello 3a) o della selezione delle caratteristiche stepwise (Livello 2) sposta la capacità di inferenza del sistema.
• Analisi a Livello di Workflow: Il documento sostiene che la valutazione regolatoria non può limitarsi al modello predittivo finale. Invece, l'intero workflow di elaborazione dei dati deve essere valutato, poiché le fasi di pre-elaborazione come il binning e la selezione delle variabili possono introdurre capacità di inferenza che il modello finale da solo potrebbe non possedere.
• Ruolo dell'Esperienza Umana: L'analisi evidenzia come il coinvolgimento umano durante la fase di sviluppo (es. definizione di vincoli, selezione manuale delle variabili) possa influenzare significativamente se un sistema è considerato avere la capacità di inferenza, mantenendo potenzialmente il sistema nella categoria di "elaborazione di dati di base" anche se utilizza modelli statistici.

Risultati
L'applicazione del framework ai flussi di lavoro di credit scoring rivela che questi sistemi sono spesso compositi:

• Binning: Il binning manuale rimane al Livello 0 o 1. Tuttavia, i metodi di binning guidati dai dati (come quelli che ottimizzano l'entropia) costituiscono il Livello 3a (Costruzione Strutturale Esplicita), poiché la struttura di partizione è costruita funzionalmente dai dati piuttosto che selezionata da un catalogo fisso.
• Regressione Logistica: Un modello di regressione logistica standard con caratteristiche pre-selezionate è di Livello 1. Tuttavia, quando combinato con la selezione delle caratteristiche stepwise, il sistema opera al Livello 2 (Selezione Strutturale).
• Soglia Regolatoria: Gli autori suggeriscono che se le Linee Guida della Commissione vengono interpretate strettamente per escludere i sistemi che si limitano ad "accelerare" la tradizionale ottimizzazione, i sistemi di Livello 1 (adattamento parametrico) potrebbero ricadere al di fuori dell'ambito dell'AI Act. Al contrario, i sistemi che mostrano un Livello 2 o superiore (selezione o costruzione strutturale) si allineano maggiormente alla definizione di derivazione di modelli dai dati dell'Atto.
• Risoluzione dell'Ambiguità: Lo studio illustra come un singolo sistema di credit scoring possa contenere componenti a diversi livelli. Di conseguenza, la "capacità di inferenza" non è una proprietà intrinseca dell'algoritmo da solo, ma una proprietà dell'implementazione specifica e del workflow.

Significatività
Il documento afferma che la sua principale significatività risiede nel fornire uno strumento tecnico per operazionalizzare il concetto legale di "capacità di inferenza" per regolatori e operatori del settore. Dimostrando che non tutti i sistemi basati sui dati sono uguali nelle loro capacità di inferenza, il framework offre una base per un trattamento regolatorio coerente dei casi limite, in particolare in settori ad alto rischio come il credit scoring. Gli autori sottolineano che il loro lavoro non risolve definitivamente lo status legale della regressione logistica, ma chiarisce le distinzioni tecniche necessarie per tale determinazione, evidenziando che il coinvolgimento degli esperti umani e il design specifico del workflow sono fattori critici nel determinare se un sistema soddisfi la definizione di AI Act.