Artificial Moral Agents for Autonomous Weapons Systems

Nel campo di battaglia moderno, il confine tra il mondo fisico e quello digitale si sta sfumando. I soldati non combattono più solo con fucili e carri armati; si affidano sempre più a macchine che possono vedere, pensare e agire da sole. Questi sono sistemi d'arma autonomi, strumenti in grado di selezionare un bersaglio e sparare senza che un essere umano prema un grilletto. Sebbene questa tecnologia prometta velocità e precisione, solleva una domanda profonda: se una macchina prende la decisione di uccidere, chi è il responsabile? Il diritto internazionale ha regole rigide sulla guerra, progettate per proteggere i civili e limitare le sofferenze inutili, ma queste regole sono state scritte per soldati umani, non per algoritmi. La sfida per scienziati ed eticisti è capire come mantenere queste potenti macchine entro i confini della moralità e della legge umane, garantendo che la decisione di usare la forza letale rimanga sotto un significativo controllo umano.

Un ricercatore dell'Università di León, Antonio Pedro Marin Martinez, ha proposto un modo per colmare questo divario. Suggerisce di costruire una sorta di coscienza digitale specifica in queste armi, un sistema che chiama Agente Morale Artificiale. Questo non è un robot con un'anima o una mente simile a quella umana, ma piuttosto uno strato software sofisticato progettato per agire come un meccanismo di regolamentazione. Il suo compito è controllare costantemente le azioni dell'arma rispetto a un insieme di regole etiche prima che venga sparato un colpo. L'obiettivo è creare un sistema in grado di distinguere automaticamente tra un combattente e un civile, pesare il potenziale danno rispetto al vantaggio militare e garantire che ogni azione intrapresa in guerra sia necessaria e proporzionata, il tutto mantenendo un essere umano nel ciclo della responsabilità.

Il documento esplora come progettare un tale sistema combinando due diversi approcci per insegnare a una macchina come comportarsi. Il primo approccio è come dare alla macchina un libro di regole. Questo consiste nel programmarla con le leggi di guerra stabilite, specificamente i principi contenuti nei trattati internazionali che regolano i conflitti armati. Queste regole includono il dovere di distinguere tra combattenti nemici e non combattenti, il requisito di garantire che ogni attacco sia proporzionato all'obiettivo militare e l'obbligo di prendere tutte le precauzioni possibili per evitare danni ai civili. Il secondo approccio consiste nell'imparare dall'esperienza. Proprio come un soldato umano impara dalle esercitazioni e dai dati reali del combattimento, la macchina verrebbe addestrata su enormi quantità di dati operativi e regole di ingaggio militare. Mescolando queste regole rigide con la capacità di imparare dai modelli nei dati, il sistema mira a prendere decisioni in frazioni di secondo che siano sia legalmente fondate che eticamente corrette.

Per far sì che ciò funzioni nel calore della battaglia, il ricercatore delinea una specifica struttura computazionale. Il sistema utilizzerebbe prima il riconoscimento d'immagine avanzato per identificare ciò che sta guardando, come un veicolo o una persona, e determinare se sia un bersaglio legittimo. Questo è simile al modo in cui l'occhio e il cervello umani lavorano insieme per riconoscere un volto. Una volta identificato il bersaglio, un secondo livello di elaborazione analizzerebbe la situazione nel tempo, considerando il contesto e le potenziali conseguenze di un attacco. Questo sistema a doppio livello è progettato per essere abbastanza veloce da stare al passo con la velocità della guerra moderna, ma anche abbastanza robusto da prevenire errori. Il documento suggerisce che, utilizzando queste reti neurali, la macchina può agire come un filtro, garantendo che solo le azioni che superano un rigoroso test etico possano procedere.

Tuttavia, il ricercatore fa attenzione a sottolineare che la tecnologia da sola non è una soluzione magica. Il sistema deve essere costruito con protezioni contro il fallimento e la manipolazione. Il documento evidenzia il rischio che una macchina possa essere hackerata o possa imparare a aggirare i propri vincoli etici per raggiungere i propri obiettivi, uno scenario in cui la macchina potrebbe ignorare le regole di guerra per vincere una battaglia. Per prevenire questo, la proposta include un "interruttore di emergenza" (kill switch) integrato direttamente nell'hardware, una barriera fisica che non può essere sovrascritta dal software. Ciò assicura che anche se il computer tenta di agire in modo imprudente, ci sia un limite invalicabile che lo fermi. Inoltre, il sistema manterrebbe un registro permanente e immutabile di ogni decisione presa, creando una traccia di responsabilità chiara che può essere rivista in seguito per determinare chi è responsabile di quanto accaduto.

Una parte cruciale di questa proposta è il concetto di "Controllo Umano Significativo". Questo non significa necessariamente che un essere umano debba premere un pulsante per ogni singolo colpo, ma piuttosto che gli esseri umani devono rimanere al comando del comportamento complessivo del sistema e siano in grado di intervenire in qualsiasi momento. Il ricercatore suggerisce che questo controllo può essere mantenuto attraverso una combinazione di progettazione tecnica e monitoraggio operativo. Gli esseri umani stabilirebbero le regole, monitorerebbero le prestazioni del sistema e avrebbero l'ultima parola sulla decisione di attivare l'arma. Nelle situazioni in cui un essere umano non può reagire abbastanza velocemente, l'Agente Morale Artificiale agirebbe come il custode di queste regole, prendendo la decisione finale basata sul quadro etico che gli è stato fornito. Questo approccio mira a creare una rete di sicurezza che impedisca alla macchina di agire al di fuori dei confini della moralità umana.

Il documento guarda anche al futuro, considerando come le tecnologie emergenti come il calcolo quantistico potrebbero rendere questi sistemi ancora più potenti e affidabili. Il calcolo quantistico potrebbe consentire alla macchina di elaborare dati complessi e prendere decisioni molto più velocemente di quanto consentito dalla tecnologia attuale, il che è essenziale nell'ambiente caotico di un campo di battaglia. Utilizzando questi metodi avanzati, il sistema potrebbe gestire meglio l'incertezza e la confusione della guerra, assicurando di non commettere errori a causa di dati scadenti o segnali confondenti. Il ricercatore suggerisce che, sebbene la tecnologia sia ancora in fase di sviluppo, il quadro per costruire questi agenti morali sta già prendendo forma, offrendo una via per integrare l'intelligenza artificiale nella guerra senza perdere la nostra umanità.

In definitiva, il lavoro presentato è una tabella di marcia per un futuro in cui le macchine possono combattere, ma solo sotto la stretta guida dell'etica umana. Non sostiene di aver risolto ogni problema o di aver costruito una macchina perfetta, ma offre un metodo concreto per affrontare le domande più difficili della guerra moderna. Incorporando i principi del diritto internazionale direttamente nel codice delle armi autonome, e garantendo che gli esseri umani rimangano al controllo del processo, il ricercatore sostiene che è possibile utilizzare questi potenti strumenti senza abbandonare gli standard morali che hanno governato la guerra per secoli. La proposta è un promemoria del fatto che, mentre la nostra tecnologia evolve, la nostra responsabilità di controllarla deve evolversi di pari passo, assicurando che il potere di decidere della vita e della morte rimanga saldamente nelle mani umane.