Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

1. Enunciato del Problema: Il Divario di Legittimità Pre-Azione

Mentre i sistemi di intelligenza artificiale evolvono da strumenti di consulenza ad agenti autonomi capaci di eseguire azioni nel mondo reale (ad esempio, trasferimenti di fondi, sospensioni di account, modifiche all'infrastruttura), i paradigmi architettonici attuali affrontano un divario critico. I meccanismi esistenti — come l'autorizzazione, l'allineamento alla sicurezza, l'applicazione delle politiche e la certificazione statistica — valutano chi è autorizzato ad agire, se l'output è dannoso o se il sistema si comporta entro i limiti di rischio.

Tuttavia, questi meccanismi non riescono a rispondere a una domanda distinta e precedente: "Questa specifica decisione generata dall'IA dovrebbe essere consentita ad esistere come evento eseguibile in assoluto?"

Il documento definisce il Divario di Legittimità Pre-Azione come l'assenza di un meccanismo formale per determinare se una decisione abbia il "diritto di agire" prima di entrare nella pipeline di esecuzione. Una decisione può essere autorizzata, sicura e a basso rischio, eppure essere strutturalmente illegittima a causa della mancanza di verifica contestuale, di giustificazione insufficiente o di tempistica prematura. I sistemi attuali spesso si affidano alla punteggiatura compensativa, dove un alto punteggio di confidenza o una forte corrispondenza con le politiche possono compensare una condizione critica mancante, portando a errori potenzialmente irreversibili.

2. Metodologia e Modello Formale

L'autore propone un quadro formale minimale chiamato protocollo del Diritto di Agire. Questo approccio tratta la legittimità non come un punteggio probabilistico da ottimizzare, ma come una condizione di fattibilità definita da vincoli rigidi.

2.1 Definizioni Formali

• Spazio delle Decisioni ($A$): Un insieme di decisioni eseguibili candidate $a$, rappresentate come tuple strutturate contenenti operazione, contesto, target, ambito e tempistica.
• Vincoli di Legittimità ($C$): Un insieme finito di predicati deterministici $\{C_1, C_2, ..., C_n\}$ dove $C_i(a) \in \{0, 1\}$. Un valore di 1 indica che la condizione è soddisfatta; 0 indica un fallimento.
• Regione Fattibile ($F$): L'insieme di tutte le decisioni in cui tutti i vincoli richiesti sono soddisfatti:
  $$F = \{a \in A : \forall i, C_i(a) = 1\}$$
• Funzione del Diritto di Agire ($D$): Una funzione decisionale deterministica:
  $$D(a) = \begin{cases} \text{PERMETTI} & \text{se } a \in F \\ \text{NON-AZIONE} & \text{altrimenti} \end{cases}$$

2.2 Logica Non Compensativa

L'innovazione metodologica centrale è la natura non compensativa del confine. In questo sistema, se qualsiasi singolo vincolo richiesto fallisce ($C_j(a) = 0$), la decisione viene rifiutata, indipendentemente da quanti altri vincoli siano soddisfatti o da quanto alto sia il punteggio di confidenza.

• Esito: La "Non-Azione" non è trattata come un errore di sistema, ma come uno stato valido e auditabile (ad esempio, RIMANDARE, SCALARE o RICHIEDERE-INFO).

3. Contributi Chiave

Il documento apporta quattro contributi principali:

1. Definizione del Problema: Identifica formalmente il "Divario di Legittimità Pre-Azione" come un primitivo architettonico distinto dall'autorizzazione, dalla sicurezza o dalla governance runtime.
2. Formalizzazione: Introduce un modello matematico minimale per un confine di Diritto di Agire che impone la fattibilità strutturale piuttosto che ottimizzare i punteggi.
3. Teorema di Non Equivalenza: Dimostra che i sistemi di punteggio compensativo non possono garantire la legittimità pre-azione.
   • Teorema: Se un sistema utilizza una somma ponderata $S(a) = \sum w_i x_i(a)$ con una soglia $\theta$, è possibile costruire una decisione in cui un vincolo critico fallisce ($C_k=0$) ma il punteggio aggregato supera comunque $\theta$ a causa di altri segnali elevati. Pertanto, un sistema di punteggio non può replicare il comportamento di blocco rigido di un sistema di vincoli non compensativo.
4. Applicazione dello Studio di Caso: Dimostra l'impatto pratico di questo confine in uno scenario di sospensione di account guidato dall'IA.

4. Risultati e Analisi dello Studio di Caso

Il documento convalida il quadro utilizzando uno studio di caso sulla sospensione di account guidata dall'IA.

• Scenario: Un sistema di IA propone di disabilitare un account utente basato su alta confidenza, similarità di pattern e segnalazioni precedenti.
• Baseline Compensativa: Un sistema standard di valutazione del rischio calcola un alto punteggio aggregato ($S(a) \ge \theta$) ed esegue immediatamente la sospensione.
• Intervento del Diritto di Agire: Il sistema verifica un vincolo strutturale specifico: Verifica Contestuale (ad esempio, assicurarsi che l'attività non sia dovuta a un dispositivo compromesso o a una correlazione falsa).
  • Nello studio di caso, questo vincolo fallisce ($C_{context} = 0$).
  • Risultato: Il confine del Diritto di Agire blocca l'esecuzione ($D(a) = \text{NON-AZIONE}$), innescando una scalata o una richiesta di ulteriori informazioni, mentre il sistema baseline avrebbe causato una sospensione ingiustificata.

Risultato Chiave: Una decisione può essere statisticamente giustificata e conforme alle politiche, eppure strutturalmente illegittima. Il confine non compensativo previene ciò trattando le condizioni mancanti come blocchi rigidi piuttosto che come deduzioni di punteggio.

5. Significato e Implicazioni

Il documento sostiene che il passaggio dalla "punteggiatura" all'"applicazione del confine" cambia fondamentalmente la governance dell'IA:

• L'Inazione come Esito di Prima Classe: La non-esecuzione è ridefinita come uno stato operativo valido e controllato, piuttosto che come una modalità di fallimento.
• Migliorata Auditabilità: Poiché le decisioni sono bloccate da vincoli specifici falliti piuttosto che da bassi punteggi vaghi, le tracce di controllo diventano più chiare e difendibili.
• Indipendenza dal Modello: Il quadro si applica a qualsiasi sistema di IA (LLM, agenti, classificatori) purché la decisione possa essere rappresentata strutturalmente, rendendolo compatibile con ambienti eterogenei.
• Mitigazione dei Rischi di Dati Ricorsivi: In domini in cui l'IA genera dati che alimentano nuovamente l'addestramento (dati ricorsivi), la certificazione statistica può diventare auto-referenziale. Un confine di vincoli pre-azione impone la validità strutturale sulle singole decisioni, fornendo una salvaguardia contro la certificazione di distribuzioni distorte.

Conclusione

Il documento conclude che la legittimità è un confine, non un punteggio. Introducendo un primitivo decisionale deterministico e non compensativo, il protocollo del Diritto di Agire colma un divario critico nell'architettura di sicurezza dell'IA, assicurando che le decisioni procedano all'esecuzione solo quando soddisfano tutte le condizioni strutturali necessarie, indipendentemente dal loro punteggio aggregato di confidenza o profilo di rischio.