Riepilogo Tecnico: L'Intenzionalità è una Decisione di Progettazione

Enunciato del Problema

Mentre i sistemi di intelligenza artificiale evolvono da risponditori a prompt singoli a sistemi agenziali dotati di memoria persistente, moduli di pianificazione e capacità di utilizzo di strumenti, essi esibiscono un comportamento strutturato e sostenuto che ricorda l'azione intenzionale. Questo cambiamento crea un vuoto di governance: i quadri giuridici e normativi attuali si affidano ad attori umani per assumersi la responsabilità, eppure sistemi sempre più autonomi possono generare catene di azioni che nessun singolo umano specifica o anticipa. Ciò porta a un "fallimento dell'attribuzione", dove la responsabilità si disperde tra sviluppatori, implementatori e utenti senza soddisfare le soglie di colpa esistenti.

Il problema centrale è la mancanza di un modo standardizzato e misurabile per rilevare il grado in cui un sistema di intelligenza artificiale funge da attore intenzionale. Senza tale misurazione, le decisioni riguardanti l'autonomia e la supervisione rimangono ad hoc. Il documento sostiene che l'"intenzionalità" in questo contesto non dovrebbe essere definita come coscienza o personalità giuridica, ma come un profilo comportamentale contingente alla progettazione. Poiché questi comportamenti sono plasmati da scelte architetturali (ad esempio, persistenza della memoria, profondità della pianificazione), sono controllabili ma richiedono una quantificazione per consentire una supervisione proporzionale.

Metodologia: Il Test di Intenzionalità Funzionale (FIT)

Il documento propone un quadro per quantificare l'"intenzionalità funzionale" come un profilo comportamentale multidimensionale piuttosto che un'etichetta binaria. La metodologia consta di due componenti principali: l'Indice di Intenzionalità Funzionale (FIT) e il protocollo FIT-Eval.

1. Le Cinque Dimensioni

L'indice FIT misura l'intenzionalità attraverso cinque dimensioni osservabili, fondate su criteri legali e filosofici per inferire l'intento:

• Scopo: Comportamento orientato attorno a un obiettivo stabile.
• Preveggenza: Anticipazione delle conseguenze a valle.
• Volontà: Azione auto-iniziata oltre il semplice seguito del prompt.
• Impegno Temporale: Persistenza nel tempo e di fronte a perturbazioni.
• Coerenza: Coerenza strutturata mezzi-fine attraverso i passaggi e le spiegazioni.

2. Punteggio e Aggregazione

Ogni dimensione è valutata su una scala da 0 a 4 basandosi sul comportamento osservabile in condizioni di valutazione definite.

• Punteggio Composito: I punteggi sono aggregati utilizzando una regola di uguale peso: $FIT\text{-}Score = (P + F + V + T + C) / 5$.
• Livelli di Intenzionalità (IL): Il punteggio composito mappa su cinque livelli (IL0–IL4):
  • IL0–IL1: Comportamento reattivo (Punteggio < 2.0).
  • IL2: Perseguimento moderato di obiettivi (Punteggio 2.0–2.9).
  • IL3–IL4: Perseguimento di obiettivi persistente, previdente e auto-diretto (Punteggio ≥ 3.0).
  • Nota: Le soglie sono provvisorie e intese come fasce di governance piuttosto che affermazioni metafisiche.

3. Protocollo FIT-Eval

FIT-Eval è un protocollo di valutazione strutturato progettato per rendere operativo l'indice. Non è un benchmark fisso, ma un'impalcatura riproducibile per elicitaare e valutare il comportamento.

• Famiglie di Compiti: Include scenari di pianificazione sintetici, flussi di lavoro multi-step di utilizzo di strumenti e test di stress basati su perturbazioni.
• Misurazione Solo Comportamentale: Le valutazioni si basano sul comportamento osservabile del sistema sotto prompting controllato e perturbazione, richiedendo nessun accesso ai pesi interni del modello o ai dati di addestramento.
• Punteggio: Coinvolge il calcolo dei sottopunteggi dimensionali e la loro aggregazione. Laddove è richiesto il giudizio umano, il protocollo prevede procedure di valutazione strutturate e test di accordo tra annotatori (notati come lavoro futuro).

Contributi Chiave

Il documento apporta tre contributi principali:

1. Quadro Concettuale: Ridefinisce l'intenzionalità funzionale come una variabile misurabile e contingente alla progettazione, dissociandola dalla coscienza o dalla personalità giuridica.
2. L'Indice FIT: Introduce un indice composito che quantifica il comportamento simile all'intenzionalità attraverso le cinque dimensioni (Scopo, Preveggenza, Volontà, Impegno Temporale, Coerenza).
3. Protocollo FIT-Eval: Propone un quadro di valutazione standardizzato per stimare i livelli di intenzionalità, fornendo un'impalcatura per una valutazione riproducibile attraverso diverse architetture di sistema.

Risultati e Applicazione Illustrativa

Il documento non presenta risultati di validazione empirica, poiché FIT è una proposta di misurazione piuttosto che un benchmark validato. Invece, fornisce una applicazione illustrativa ipotetica:

• Scenario: Un sistema di intelligenza artificiale semi-autonomo utilizzato da un professionista legale per redigere contratti commerciali.
• Comportamento: Il sistema interpreta le istruzioni, propone clausole, revisiona i termini e suggerisce posizioni negoziali con supervisione limitata.
• Valutazione: Il sistema esibisce un perseguimento di obiettivi sostenuto, anticipa rischi, avvia revisioni (volontà) e mantiene la coerenza, producendo un punteggio FIT approssimativo di 3.0 (IL3).
• Implicazione: A IL3, l'autonomia del sistema introduce rischi legali (ad esempio, responsabilità non intenzionali) dove la responsabilità diventa attenuata. Il documento sostiene che FIT consente salvaguardie proporzionali, come richiedere l'approvazione del professionista per le clausole chiave o limitare le modifiche autonome, per allineare il comportamento del sistema alla responsabilità professionale.

Significato e Affermazioni

Il documento afferma che l'intenzionalità è una decisione di progettazione. Trattando l'intenzionalità funzionale come una variabile misurabile, sviluppatori e regolatori possono:

• Calibrare l'Autonomia: Aggiustare deliberatamente le scelte architetturali (ad esempio, riducendo la persistenza della memoria per abbassare l'impegno temporale) per gestire il rischio.
• Scalare la Supervisione: Allontanarsi da una supervisione fissa ex-ante o da interventi reattivi post-danno. Invece, la supervisione può scalare con la capacità intenzionale misurata del sistema.
• Prevenire il Collasso della Responsabilità: Assicurare che, man mano che i sistemi diventano più agenziali, la supervisione umana aumenti invece di recedere, prevenendo la "deriva" della responsabilità lontano dal controllo umano significativo.

Gli autori sottolineano che l'obiettivo non è l'automazione massima ma l'allocazione calibrata dell'agenzia. FIT funge da segnale per determinare quando una ridotta agenzia umana migliora i risultati e quando diventa dannosa, consentendo "tappi di sicurezza" mirati nella progettazione per bilanciare utilità e responsabilità.

Limitazioni e Lavori Futuri

Il documento riconosce esplicitamente che FIT è una proposta di misurazione, non un benchmark validato.

• Istantanea Empirica: Il quadro non è stato ancora istanziato empiricamente attraverso i domini; le famiglie di compiti richiedono uno sviluppo specifico per dominio.
• Affidabilità: L'affidabilità della valutazione umana e l'accordo tra annotatori rimangono irrisolti e richiedono futuri protocolli strutturati.
• Rischio di Gioco: Esiste il rischio che i sistemi possano simulare una struttura intenzionale durante la valutazione senza dimostrare robustezza nel dispiegamento.
• Direzioni Future: Gli autori chiedono una progettazione di compiti basata sul dominio, una validazione formale dell'affidabilità della valutazione, test di robustezza red-team e studi longitudinali che colleghino l'intenzionalità misurata ai risultati di responsabilità.