Sintesi Tecnica: Modellare le Interazioni Uomo-IA per Fornire Percorsi di Miglioramento e Bilanciare Obiettivi Conflittuali

Autore: Keziah Naggita
Istituzione: Toyota Technological Institute at Chicago
Titolo di studio: Dottorato di Filosofia in Informatica (Giugno 2026)

1. Definizione del Problema

La proliferazione di sistemi di IA nei processi decisionali ad alto rischio (es. assunzioni, ammissioni) e negli ambienti domestici crea un ciclo di feedback in cui gli individui (agenti) formano credenze sul sistema e agiscono strategicamente per influenzare i risultati. Queste azioni possono essere miglioramenti genuini (potenziamento delle qualifiche sottostanti) o gaming (manipolazione di caratteristiche osservabili senza un reale miglioramento).

Questa tesi affronta tre sfide fondamentali nel modellare queste interazioni:

1. Dinamiche Evolutive e Comportamentali: Come percepiscono e rispondono gli esseri umani (specificamente i genitori) al comportamento aggressivo dei bambini verso i dispositivi guidati dall'IA (robot, smart speaker, tablet) e come l'antropomorfismo del dispositivo influenza tali risposte.
2. Incentivare il Miglioramento: Come possono i decisori progettare obiettivi e fornire guida per massimizzare il miglioramento genuino degli agenti garantendo al contempo equità e raggiungibilità.
3. Bilanciare Obiettivi Conflittuali: Come possono i sistemi di IA essere progettati per massimizzare i veri positivi (identificare agenti qualificati) e minimizzare i falsi positivi (rifiutare agenti non qualificati) quando gli agenti possono sia migliorare che fare gaming rispetto al sistema.

2. Metodologia

La tesi impiega un approccio metodologico multifacettato, integrando:

• Esperimenti con Soggetti Umani: Uno studio online tra soggetti (between-subjects) ($N=332$) che indaga le reazioni genitoriali all'aggressività infantile verso robot, smart speaker e tablet.
• Progettazione Algoritmica e Ottimizzazione: Sviluppo di algoritmi in tempo polinomiale e pseudo-polinomiale per il posizionamento dei target, la generazione di spiegazioni controfattuali (CFE) e la selezione di modelli di riferimento (role model).
• Analisi Teorica: Applicazione della teoria dell'apprendimento (PAC learning), della teoria dei grafi e della teoria della complessità (dimostrazioni di NP-hardness) per analizzare la apprendibilità, la complessità campionaria e i limiti di classificazione in contesti strategici.
• Valutazione Empirica: Esperimenti su dataset del mondo reale (Adult, OULAD, Law School) e dati semi-sintetici per valutare le prestazioni algoritmiche sotto diverse strategie di avversione al rischio e vincoli geometrici.

3. Contributi Chiave e Risultati

Parte I: Interazioni Uomo-IA tramite Esperimenti con Soggetti Umani

Focus: Reazioni genitoriali all'aggressività infantile verso i dispositivi IA.

• Metodo: Un disegno 2 (aggressività: aggressivo vs neutro) $\times$ 3 (dispositivo: robot, smart speaker, tablet) $\times$ 3 (modalità: audio, fisico, audio+fisico).
• Risultati Chiave:
  • Impatto dell'Aggressività: I genitori hanno espresso una preoccupazione significativamente maggiore e sono stati più propensi a intervenire (rimproverare o rimuovere il dispositivo) quando il bambino mostrava un comportamento aggressivo rispetto a un comportamento neutro.
  • Percezione del Dispositivo: Sebbene i genitori percepissero i robot e gli smart speaker come più antropomorfi, animati e calorosi rispetto ai tablet, non è stata trovata alcuna differenza significativa nella preoccupazione genitorle o nella probabilità di intervento tra robot e smart speaker. Ciò contraddice l'ipotesi che l'incarnazione fisica (robot) aumenti unicamente la preoccupazione rispetto ai disincarnati assistenti vocali.
  • Stili di Intervento: I genitori hanno risposto al comportamento neutro con incoraggiamento e assistenza, mentre il comportamento aggressivo ha innescato rimproveri e l'uso della situazione come opportunità di apprendimento.

Parte II: Modellare le Interazioni per Fornire Percorsi di Miglioramento

3.1 Impostare Target Raggiungibili (Capitolo 3)

• Problema: Determinare il posizionamento ottimale di $k$ livelli di abilità target per massimizzare il miglioramento totale dell'agente, considerando che gli agenti migliorano verso il target raggiungibile più vicino.
• Sfide: Il posizionamento dei target è non monotono; l'aggiunta di un target può ridurre il miglioramento totale causando il passaggio degli agenti da obiettivi distanti e di alto valore a obiettivi più vicini e di minor valore.
• Contributi:
  • Sviluppo di un algoritmo di programmazione dinamica in tempo polinomiale per massimizzare il miglioramento totale.
  • Costruzione della frontiera di Pareto per il benessere sociale di gruppo per affrontare l'equità (obiettivi max-min).
  • Dimostrazione di un risultato strutturale: esiste una soluzione che è simultaneamente approssimativamente ottimale $\Omega(1/g^3)$ per ciascuno di $g$ gruppi (sotto capacità di miglioramento comune).
  • Dimostrazione che le soluzioni max-min non garantiscono un'approssimazione costante per tutti i gruppi simultaneamente.

3.2 Generare Intuizioni Azionabili (Capitolo 4)

• Problema: Generare Spiegazioni Controfattuali (CFE) che siano azionabili e simili ad azioni del mondo reale in grandi spazi di stato.
• Contributi:
  • Proposta di generatori di CFE a singolo agente e guidati dai dati che collegano gli spazi basati sulle caratteristiche a quelli basati sulle azioni.
  • Introduzione di CFE di "alto livello" che modificano meno caratteristiche ma producono un miglioramento dell'agente superiore rispetto alle tradizionali modifiche di basso livello delle caratteristiche.
  • Dimostrazione che i generatori guidati dai dati possono produrre efficientemente CFE valide sfruttando le somiglianze tra gli stati degli agenti, migliorando la scalabilità e l'efficienza delle risorse.

3.3 Rivelare Selettivamente i Modelli di Riferimento (Capitolo 5)

• Problema: Un pianificatore sociale deve rivelare le etichette (positive/negative) dei modelli di riferimento per massimizzare il numero di agenti che emulano target positivi, soggetto a un budget limitato.
• Contributi:
  • Dimostrazione che la funzione di benessere sociale è submodulare solo quando il pianificatore è limitato alla rivelazione di target positivi (ottenendo un'approssimazione $(1-1/e)$ tramite algoritmi greedy).
  • Dimostrazione che consentire la rivelazione di target negativi rompe la submodularità, portando potenzialmente a prestazioni arbitrariamente scarse.
  • Introduzione di una funzione di benessere proxy che rimane submodulare anche con target negativi, ripristinando le garanzie di approssimazione.
  • Dimostrazione che il problema rimane NP-Hard indipendentemente dalle restrizioni di divulgazione.

Parte III: Ottimizzazione Congiunta di Obiettivi Conflittuali

Focus: Classificazione di agenti che possono sia migliorare che fare gaming.

4.1 Apprendimento PAC con Miglioramenti (Capitolo 6)

• Problema: In che modo la capacità di miglioramento influenza l'apprendibilità e la complessità campionaria?
• Contributi:
  • Analisi dell'apprendimento PAC in contesti in cui gli agenti possono muoversi all'interno di un vicinato (modello a grafo) per migliorare.
  • Apprendimento a Errore Zero: Dimostrazione che, sotto distribuzioni uniformi, è possibile ottenere un errore di generalizzazione nullo con una complessità campionaria di $O(\frac{n \log n}{d_{min}^+ + 1})$, dove $d_{min}^+$ è il grado minimo dei nodi positivi. Ciò contrasta con i modelli PAC standard che spesso presentano limiti di errore costante.
  • Dimostrazione che le strategie di apprendimento avverse al rischio (che penalizzano pesantemente i falsi positivi) sono particolarmente efficaci in contesti di miglioramento.

4.2 Teoria della Classificazione di Agenti che Migliorano e Fanno Gaming (Capitolo 7)

• Problema: Progettare classificatori per massimizzare i veri positivi minimizzando al contempo i falsi positivi quando gli agenti possono fare gaming (bordi rossi) o migliorare (bordi blu).
• Modelli:
  • Modello Discreto Generale: Gli agenti e i criteri formano un grafo bipartito pesato e colorato.
  • Modello Lineare: Gli agenti si muovono in $\mathbb{R}^d$; alcune dimensioni sono miglioramenti, altre sono gaming.
• Contributi:
  • Algoritmo: Sviluppo di un algoritmo efficiente (Algoritmo 7.1) per trovare un insieme di criteri che massimizzi i veri positivi soggetto a zero falsi positivi nel modello discreto generale.
  • Difficoltà (Hardness): Dimostrazione che massimizzare i veri positivi soggetto a un limite non nullo di falsi positivi è NP-hard, anche nel modello lineare.
  • Classificazione Lineare: Dimostrazione che trovare un classificatore lineare che classifichi accuratamente tutti gli agenti e qualifichi tutti gli agenti migliorabili è possibile, ma massimizzare i veri positivi con minimi falsi positivi in uno spazio 2D richiede costruzioni algoritmiche specifiche.

4.3 Studio Empirico (Capitolo 8)

• Problema: Valutazione di algoritmi consapevoli di miglioramento-gaming su dati reali.
• Risultati:
  • Avversione al Rischio: Le strategie avverse al rischio (es. funzioni di perdita pesate che penalizzano i falsi positivi) superano costantemente i modelli standard nel ridurre l'errore all'aumentare dei budget di miglioramento.
  • Trade-off: L'aumento dell'avversione al rischio riduce l'errore di classificazione, ma un'eccessiva avversione al rischio può abbassare l'utilità complessiva.
  • Errore Zero vs. Utilità: Raggiungere un errore di classificazione zero non garantisce un'utilità perfetta; il rapporto tra veri positivi e falsi positivi è critico.
  • Vincoli Geometrici: La scelta della norma ($\ell_\infty$ vs. $\ell_2$) modella significativamente la direzione e l'estensione dei movimenti fattibili degli agenti.

4. Significato e Rivendicazioni

La tesi sostiene di far avanzare l'apprendimento automatico centrato sull'uomo fornendo principi e metodi per progettare sistemi di IA che si allineino con i bisogni, i valori e le capacità umane.

• Avanzamento Teorico: Estende la teoria dell'apprendimento agli "apprendimenti con miglioramenti", dimostrando che l'agency dell'agente può ridurre la complessità campionaria e consentire l'apprendimento a errore zero in condizioni specifiche, sfidando gli assunti standard del PAC learning.
• Robustezza Algoritmica: Fornisce risultati strutturali sulla non monotonicità del posizionamento dei target e sulla difficoltà di bilanciare miglioramento e gaming, offrendo algoritmi robusti al comportamento strategico.
• Progettazione Pratica: Attraverso il lavoro sperimentale ed empirico, offre spunti azionabili per i decisori politici e i progettisti di sistemi:
  • Sicurezza Bambino-IA: I progettisti devono considerare che i genitori potrebbero non distinguere tra robot e smart speaker riguardo all'aggressività, suggerendo che le funzioni di sicurezza dovrebbero essere coerenti tra i diversi tipi di dispositivi.
  • Ricorso (Recourse): Andare oltre le spiegazioni basate sulle caratteristiche per arrivare a una guida basata sulle azioni e sui dati migliora la scalabilità e l'equità del ricorso algoritmico.
  • Classificazione Strategica: I sistemi dovrebbero impiegare strategie avverse al rischio e bilanciare attentamente il costo dei falsi positivi rispetto ai benefici dell'incentivare il miglioramento genuino.

Il lavoro integra l'analisi teorica rigorosa con la modellazione basata sui dati e l'esperimentazione su soggetti umani per colmare il divario tra l'astratta equità algoritmica e le realtà pratiche dell'interazione uomo-IA.