Sintesi Tecnica: Commutazione Principata dell'Autorità per l'Autonomia Condivisa in Team Uomo-Robot

Definizione del Problema

L'autonomia condivisa nei sistemi cyber-fisici (CPS) richiede meccanismi per allocare dinamicamente il controllo tra esseri umani ed agenti autonomi. Gli approcci esistenti spesso si affidano alla miscelazione degli input di controllo o a regole di commutazione euristiche. Tali metodi soffrono di una mancanza di garanzie teoriche, dipendono da una previsione accurata dell'intento e impongono carichi cognitivi continui all'operatore umano (richiedendo un input costante). Inoltre, spesso non tengono conto della reale probabilità di intervento dell'uomo (propensione all'override), portando a una coordinazione subottimale in domini critici per la sicurezza come la guida autonoma e la teleoperazione.

La sfida centrale affrontata è come formulare la commutazione dell'autorità come un problema decisionale cooperativo e ottimale per il team, che modelli esplicitamente la capacità di override dell'uomo e i costi associati alla commutazione, piuttosto che affidarsi a regole ad hoc.

Metodologia: Il Framework Flip-Team

Gli autori propongono Flip-Team, un framework cooperativo che modella la commutazione dell'autorità come un gioco dinamico a interesse identico. Il sistema opera sotto un paradigma "human-on-the-loop", in cui il sistema autonomo opera indipendentemente e l'uomo mantiene l'autorità di supervisione e override.

1. Dinamica del Sistema e Stato

Il sistema è modellato come un sistema dinamico a tempo discreto in cui l'autorità di controllo al tempo $k$ è indicata da uno stato FlipDyn $\alpha_k \in \{H, A\}$ (Umano o Autonomo).

• Controllo Umano: $x_{k+1} = F^H_k(x_k, u_k)$
• Controllo Autonomo: $x_{k+1} = F^A_k(x_k, w_k)$
• Azioni di Takeover: Gli agenti compiono azioni $\pi^j_k \in \{0, 1\}$ (inattivo o richiesta di takeover).
• Logica di Transizione: Le transizioni sono mutuamente esclusive. Fondamentalmente, quando l'agente autonomo è in controllo, un tentativo di override umano ha successo con una probabilità $p_k$ (la propensione all'override dell'uomo) se l'agente autonomo non richiede un passaggio di consegne (handoff). Se l'agente autonomo richiede un handoff, la transizione è deterministica.

2. Struttura dei Costi

L'obiettivo è minimizzare una funzione di costo totale $J$ su un orizzonte finito $L$:
$$J = g_{L+1}(x_{L+1}, \alpha_{L+1}) + \sum_{t=1}^{L} \left( g_t(x_t, \alpha_t) + \pi^H_t h_t(x_t) + \pi^A_t a_t(x_t) \right)$$

• Costo di Stato ($g_t$): Rappresenta metriche di prestazione (es. errore di inseguimento, energia) che differiscono tra il controllo umano e quello autonomo ($g^H_t \neq g^A_t$).
• Costi di Commutazione ($h_t, a_t$): Rappresentano il carico cognitivo, il cambio di attenzione o il rischio di transizione per l'uomo e l'agente autonomo, rispettivamente.

3. Politica di Commutazione Ottimale (Caso Lineare-Quadratico)

Per sistemi con dinamica lineare e costi quadratici (sistemi LQ), gli autori derivano soluzioni in forma chiusa utilizzando la programmazione dinamica.

• Funzioni di Valore: Il costo-to-go è rappresentato da funzioni di valore quadratiche $V^H_k(x) = x^\top P^H_k x$ e $V^A_k(x) = x^\top P^A_k x$.
• Ricorsioni: Le matrici $P^H_k$ e $P^A_k$ sono calcolate tramite ricorsione a ritroso.
• Teorema 1 (Condizioni di Commutazione): La politica ottimale è determinata dal confronto tra il vantaggio relativo di costo del controllo umano rispetto a quello autonomo (quantificato da $\tilde{P}_{k+1}$) e i costi di commutazione e la probabilità di override $p_k$.
  • Quando l'Umano è in Controllo: Mantiene il controllo se il vantaggio di costo del controllo umano più i costi di commutazione sono favorevoli; altrimenti, avviene un handoff coordinato all'autonomia.
  • Quando l'Autonomo è in Controllo: Emergono tre regimi basati su $p_k$:
    1. Mantenere (Retain): Se il vantaggio di costo del controllo umano è insufficiente rispetto a $p_k$.
    2. Override: Se il vantaggio di costo è significativo e $p_k$ è sufficientemente alto, l'uomo prende il controllo unilateralmente.
    3. Handoff Coordinato: Se il vantaggio di costo è grande, entrambi gli agenti concordano il trasferimento del controllo.

4. Soglia di Override e Stima

• Teorema 2 (Soglia Critica): Il documento deriva una soglia critica $p^*_k(x)$ che determina quando l'intervento umano è costo-efficace. Per costi di commutazione isotropi, ciò si semplifica in un rapporto indipendente dallo stato: $p^* = h / (h + a)$.
  • Se la propensione effettiva dell'uomo $p_k < p^*$, l'intervento probabilmente non è costo-efficace.
  • Se $p_k > p^*$, l'intervento è giustificato.
• Stima Online: Poiché $p_k$ è sconosciuto nella pratica, gli autori propongono un metodo di stima online. Ciò comporta il monitoraggio della frequenza degli override umani durante specifiche condizioni (controllo autonomo, nessun segnale di handoff) attraverso gli episodi o l'uso dello smoothing esponenziale all'interno di un episodio per stimare adattivamente $\hat{p}_k$.

Contributi Chiave

1. Framework di Commutazione Principato: Formulazione della commutazione dell'autorità come un gioco cooperativo con costi asimmetrici e capacità di override umano, producendo politiche ottimali senza l'uso di euristiche.
2. Derivazione della Soglia di Override: Derivazione di una soglia critica $p^*_k$ che stabilisce quando l'intervento umano è costo-efficace, fornendo linee guida progettuali interpretabili.
3. Soluzioni in Forma Chiusa: Per i sistemi lineare-quadratici, la derivazione di condizioni di commutazione e ricorsioni delle funzioni di valore in forma chiusa che consentono un calcolo efficiente indipendente dalla dimensione continua dello stato.
4. Stima Adattiva: Un metodo proposto per stimare la propensione all'override online dalle interazioni osservate, consentendo una commutazione adattiva senza calibrazione preventiva.

Valutazione e Risultati

Il framework è stato valutato su un compito di regolazione dell'altitudine di un quadrotore 1D (dinamica del doppio integratore) con un orizzonte di 3 schiavi (30 step).

• Baseline: La politica Flip-Team è stata confrontata con:
  1. Sempre-autonomo.
  2. Sempre-umano.
  3. Un'euristica basata sulla soglia di prestazione (commutazione basata esclusivamente sull'errore di inseguimento).
• Metriche: Costo totale, numero di commutazioni e percentuale di tempo sotto il controllo umano.
• Risultati:
  • Flip-Team ha ottenuto il costo totale più basso (40.5), superando la baseline sempre-umana (43.2) del 6% e la baseline sempre-autonoma (45.6) dell'11%.
  • La baseline della soglia di prestazione ha subito il costo più elevato (55.3), dimostrando che la commutazione reattiva basata solo sull'errore, senza considerare la propensione o i costi di commutazione, degrada le prestazioni.
  • Flip-Team ha ottenuto questi risultati con solo 1.8 commutazioni di autorità in media, con l'uomo in controllo per il 56% del tempo.
  • La politica ottimale ha anticipato con successo le fasi in cui l'intervento umano era sia probabile (alta $p_k$) che benefico (vantaggio di costo), evitando commutazioni non necessarie durante le fasi di basso coinvolgimento.

Significato e Rivendicazioni

Il documento sostiene che Flip-Team fornisca un meccanismo principato per l'autonomia condivisa che bilancia l'adattabilità umana con l'efficienza autonoma. Modellando esplicitamente la propensione all'override dell'uomo e i costi di commutazione, il framework evita le insidie delle regole euristiche che o sovraccaricano l'uomo o falliscono nell'intervenire quando necessario.

Gli autori sottolineano che la soglia critica derivata offre linee guida progettuali azionabili:

• I progettisti possono regolare i costi di commutazione ($H_k, A_k$) per modellare il panorama del coinvolgimento.
• I professione possono modulare la propensione dell'uomo (tramite avvisi o calibrazione della fiducia) per garantire che rimanga sopra la soglia critica quando l'intervento è necessario.

Il lavoro è modesto nel suo ambito attuale, notando che la valutazione si basa su un modello umano simulato con un profilo di propensione creato manualmente e un compito 1D. Gli autori dichiarano che il lavoro futuro validerà il framework con esperimenti human-in-the-loop, estenderà la stima della propensione dipendente dallo stato e applicherà il framework a sistemi a dimensioni superiori e non lineari.