Sector-Specific Ethics in Artificial Intelligence: Clinical Applications, Military Automation, AutonomousVehicles, and Educational Technology

Immaginate un mondo in cui i computer non siano solo calcolatrici o console per videogiochi, ma decisori. Questo è il regno dell'Intelligenza Artificiale, o IA. Pensate all'IA come a un apprendista super intelligente che impara leggendo milioni di libri e guardando innumerevoli video. Ma ecco il punto: proprio perché un apprendista è veloce e sa molte cose, non significa che sappia sempre cosa sia giusto. A volte, potrebbe apprendere cattive abitudini dai libri che legge, o potrebbe compiere una scelta che salva una persona ma ne danneggia un'altra. È qui che entra in gioco l' "etica". L'etica è semplicemente il libro di regole per fare la cosa giusta. Quando affidiamo a questi apprendisti super intelligenti lavori seri — come curare persone malate, guidare auto o persino combattere in guerra — non possiamo usare un unico manuale generico. Una regola che funziona per un videogioco potrebbe essere un disastro in un ospedale. Ecco perché scienziati e pensatori si stanno chiedendo: come possiamo assicurarci che i nostri apprendisti IA si comportino bene in ogni specifico quartiere che visitano?

Questo articolo, scritto da Connor Nitchals, esplora quattro quartieri molto diversi dove l'IA è già operativa: ospedali, campi di battaglia, strade e scuole. L'autore suggerisce che non possiamo trattare tutta l'IA allo stesso modo. Al contrario, abbiamo bisogno di un'armatura su misura per ogni lavoro. Il documento non sostiene di aver risolto ogni problema o di aver trovato un tasto magico per sistemare tutto. Invece, funge da mappa, indicando le trappole e i pericoli unici in ogni settore, evidenziando al contempo alcune regole di sicurezza condivise che si applicano ovunque. Suggerisce che, per mantenere le cose sicure e giuste, dobbiamo essere molto attenti a come progettiamo questi sistemi, assicurandoci che siano trasparenti (sappiamo come pensano), sicuri (non si guastano o non feriscono le persone) e protetti dall'essere usati impropriamente.

Iniziamo con l'Ospedale, o IA Clinica. Immaginate un assistente del medico che ha letto ogni rivista medica della storia. Può aiutare a individuare malattie o pianificare trattamenti in modo incredibilmente veloce. Ma, avverte il documento, se questo assistente ha imparato da vecchi record medici che erano ingiusti verso certi gruppi di persone, potrebbe continuare a essere ingiusto. È come uno studente che ha studiato solo da un libro di testo scritto negli anni '50; potrebbe pensare che il mondo non sia cambiato, anche se è così. Il documento suggerisce che, affinché l'IA funzioni negli ospedali, dobbiamo controllare costantemente i suoi "compiti" per assicurarci che non sia influenzata da pregiudizi. Dobbiamo anche sapere come è giunta a una conclusione. Se l'IA è una "scatola nera" che fornisce una risposta senza spiegare il perché, i medici non possono affidarle la vita di un paziente. L'autore sottolinea che dobbiamo mantenere i medici umani nel processo per controllare il lavoro dell'IA e garantire che la privacy del paziente non venga mai violata.

Successivamente, ci spostiamo sul Campo di Battaglia, o Automazione Militare. Questo è il quartiere più serio di tutti. Qui, l'IA potrebbe essere utilizzata per guidare carri armati, spiare i nemici o persino decidere quando sparare un'arma. Il documento evidenzia una grande preoccupazione etica: un essere meccanico dovrebbe mai avere il permesso di prendere l'ultima decisione su vita e morte? L'autore suggerisce che dobbiamo mantenere un "controllo umano significativo" su queste decisioni. È come dire che un robot può guidare il carro armato, ma deve essere un essere umano a premere il pulsante. Il documento sostiene che, se un robot commette un errore e causa danni, è molto difficile capire di chi sia la colpa — del programmatore, del soldato o della macchina stessa. Per questo motivo, il documento suggerisce che abbiamo bisogno di regole rigide per impedire che questi sistemi vengano hackerati o usati in modi che violano le leggi internazionali. Sebbene la segretezza sia necessaria per la sicurezza nazionale, l'autore nota che troppa segretezza può far perdere la fiducia al pubblico, quindi è necessario un equilibrio.

Poi, saltiamo al Posto di Guida con i Veicoli Autonomi (AV). Si tratta di auto a guida autonoma che usano telecamere e sensori per navigare nel mondo. La promessa è di meno incidenti stradali e viaggi più facili. Tuttavia, il documento evidenzia che queste auto affrontano situazioni complicate, come cosa fare se un incidente è inevitabile. Dovrebbe l'auto sterzare per salvare un pedone ma ferire il passeggero? Il documento suggerisce che, sebbene non si possa risolvere perfettamente ogni scenario "e se succede questo", gli ingegneri devono progettare queste auto per dare priorità alla vita umana e minimizzare i danni. Nota inoltre che abbiamo bisogno di nuove leggi per capire chi è responsabile se un'auto a guida autonoma si scontra. È il proprietario dell'auto, il produttore del software o l'azienda che ha costruito l'auto? L'autore sottolinea che, affinché le persone si fidino di queste auto, le aziende devono essere aperte su come funzionano e sui loro limiti.

Infine, entriamo in Classe con la Tecnologia Educativa. Qui, l'IA aiuta gli insegnanti a correggere i compiti, personalizzare le lezioni e monitorare come gli studenti imparano. Il documento avverte che questa è un'arma a doppio taglio. Da un lato, può aiutare ogni studente a imparare al proprio ritmo. Dall'altro, raccoglie una grande quantità di dati privati sulle abitudini e sul cervello degli studenti. L'autore suggerisce che dobbiamo stare molto attenti a non usare questi dati per spiare i ragazzi o punirli ingiustamente. Se l'IA è addestrata su dati che favoriscono gli studenti ricchi, potrebbe dare consigli sbagliati agli studenti poveri, allargando ulteriormente il divario tra loro. Il documento sostiene che le scuole devono essere trasparenti su come utilizzano questi dati e garantire che l'IA supporti l'apprendimento piuttosto che limitarsi a osservare gli studenti come un severo sorvegliante dei corridoi.

Quindi, qual è il grande insegnamento di tutto questo? Il documento conclude che, sebbene gli ospedali, i campi di battaglia, le strade e le scuole siano molto diversi, tutti condividono alcune regole di sicurezza comuni. Che si tratti di un robot medico o di un autobus a guida autonoma, abbiamo bisogno di Trasparenza (sapere come funziona), Sicurezza (assicurarsi che non si rompa), Prevenzione dell'Uso Improprio (impedire ai malintenzionati di hackerarlo) e Privacy (mantenere al sicuro i dati personali). L'autore suggerisce che non possiamo avere un unico grande libro di regole per tutta l'IA. Invece, abbiamo bisogno di un quadro flessibile che rispetti le regole uniche di ogni settore, pur rispettando questi valori fondamentali. Il documento non sostiene di avere la risposta definitiva, ma offre un solido punto di partenza per governi e scienziati per costruire sistemi di IA migliori, più sicuri e più equi per il futuro.