Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
Questo articolo presenta un'implementazione in Wolfram Language della Logica di Input/Output Reificata per la governance dell'IA, dimostrando la sua capacità di tradurre norme giuridiche in codice eseguibile per un comportamento degli agenti verificabile, evidenziando al contempo le attuali limitazioni nell'uso dei grandi modelli linguistici per automatizzare questo processo di formalizzazione.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di cercare di insegnare a un robot super intelligente come comportarsi in un mondo pieno di regole. Il problema è che il cervello del robot è una "scatola nera". Non puoi sbirciare all'interno per vedere esattamente come pensa o perché prende una decisione. È come chiedere a un mago di spiegare un trucco mentre sta ancora eseguendo la prestazione. Di solito, cerchiamo di risolvere la cosa sperando che il robot impari a pensare come un essere umano, ma questo è rischioso perché il linguaggio umano è disordinato, pieno di significati nascosti e pieno di scappatoie.
È qui che entra in gioco il Diritto Computazionale. Pensalo come al processo di trasformazione di un libro di regole scritto a mano e disordinato in un rigoroso programma per computer. Invece di scrivere "Non essere cattivo", scrivi del codice che dice: "Se accade l'Azione X, allora deve verificarsi il Risultato Y". Questo campo cerca di rendere le regole legali così precise da poter essere lette da un computer, seguite e da poter dimostrare di essere state seguite. Il documento che stiamo esaminando esplora un modo specifico per farlo utilizzando un linguaggio di programmazione speciale chiamato Linguaggio Wolfram. Esso tratta le leggi come equazioni matematiche dove è possibile verificare se un robot sta obbedendo alle regole, anche se non si comprende come funzioni il cervello del robot. La grande domanda è: possiamo semplicemente chiedere a un'IA super intelligente (come quella che sta scrivendo questo testo) di tradurre le nostre disordinate leggi in inglese in un codice per computer perfetto?
Il Grande Esperimento del Documento: L'IA può Scrivere le Regole?
L'autore, James K. Wiles, ha deciso di testare questa idea. Ha costruito un sistema nel Linguaggio Wolfram che funge da "traduttore legale". Questo sistema utilizza una logica speciale chiamata Logica di Input/Output Reificata. Per capire questo, immagina un distributore automatico. Inserisci una moneta (Input) e la macchina ti dà una bibita (Output). In questo sistema legale, l' "Input" è un fatto (come "È notte") e l' "Output" è una regola (come "Devi fermarti"). Il sistema gestisce anche concetti complessi come la "reificazione", che è solo un modo elegante per trasformare un evento (come "Alice che dà un libro a Bob") in un oggetto fisico che il computer può tenere, misurare e descrivere.
L'autore ha poi chiesto a un'IA potente (GPT-4) di agire come il traduttore. Ha dato all'IA quattro semplici frasi legali in inglese e le ha chiesto di trasformarle nel codice di cui il sistema aveva bisogno.
I Risultati: Un Mix di Magia e Glitch
L'esperimento ha dimostrato che, sebbene l'IA sia veloce e possa scrivere codice che sembra corretto, non è ancora sicura da affidarsi da sola. Ecco cosa è successo con le quattro frasi di test:
- Il Test "Cravatta e Biondo": All'IA è stato chiesto di tradurre una regola riguardante le persone che non indossano la cravatta o che sono bionde, le quali devono lasciare una stanza. L'IA ha scritto del codice che sembrava funzionare. Tuttavia, quando l'autore ha controllato la matematica, ha trovato un bug silenzioso: il codice era rotto in un modo che lo faceva dire "Vero" per tutti, anche per le persone che indossavano la cravatta e avevano i capelli scuri. L'IA aveva creato una regola che in realtà non controllava nulla.
- Il Test "Ogni Uomo": All'IA è stato chiesto di tradurre "Ogni uomo è obbligato a correre". L'IA ha scritto del codice che funzionava, ma ha commesso un errore nel definire "uomo". Invece di controllare se una persona fosse effettivamente un uomo, il codice assumeva semplicemente che la persona fosse un uomo perché la regola lo diceva. È come un buttafuori di un club che lascia entrare tutti perché ha deciso che tutti sono VIP, invece di controllare i documenti.
- Il Test "Manager e Segretaria": L'IA ha cercato di tradurre una regola in cui una segretaria deve annotare i compiti di un manager. L'IA ha scritto un codice che sembrava perfetto e ha persino aggiunto un commento dicendo: "Dave non è un manager, quindi nessun obbligo". Ma quando il codice è stato effettivamente eseguito, ha costretto la segretaria a scrivere comunque il compito, ignorando il commento. Il codice dell'IA e la sua stessa spiegazione si contraddicevano.
- Il Test "Satellite": All'IA è stato chiesto di scrivere una regola secondo cui un satellite deve stare a 200 chilometri dalla Stazione Spaziale Internazionale. L'IA ha scritto un codice che utilizzava dati satellitari reali, il che è stato impressionante. Ma la matematica era sbagliata: misurava la distanza lungo la superficie terrestre (come guidare su una strada) invece della distanza in linea retta attraverso lo spazio. Due satelliti potevano essere distanti 400 chilometri verticalmente, ma il codice diceva che si stavano toccando.
Il Verdetto
Il documento conclude che l'IA è un ottimo assistente, ma un pessimo capo. Può bozzare le regole velocemente, ma commette "errori silenziosi": errori che non mandano in crash il programma ma che portano il robot a fare la cosa sbagliata. L'autore sostiene che non possiamo lasciare che l'IA scriva le leggi per altre IA. Invece, abbiamo bisogno di un approccio di squadra: l'IA bozza il codice, ma gli esseri umani devono controllare ogni singola riga con test rigorosi per assicurarsi che la logica regga.
Il Caso di Studio "Fluffy": Un Robot Cane da Guardia
Per mostrare come questo si applichi nel mondo reale, l'autore ha creato un caso di studio di un robot cane da guardia di nome Fluffy. Fluffy è di proprietà di un'azienda di IA e opera sotto un "contratto computazionale". Questo non è un contratto cartaceo; le regole sono scritte direttamente nel cervello di Fluffy.
Il contratto aveva tre regole semplici:
- Fermare gli intrusi: Se una persona si avvicina a meno di 100 metri dalla casa durante la notte, Fluffy deve fermarla.
- Restare vicino: Fluffy deve restare entro 200 metri dalla casa.
- Permesso di usare la forza: A Fluffy è permesso usare il suo taser, ma non è obbligato a farlo.
La parte interessante è che le azioni di Fluffy sono auditabili. Se Fluffy usa il suo taser, il sistema non dice solo "L'ho fatto". Produce una ricevuta simbolica che dice: "Ho usato il taser perché: Fatto A (Persona a 80m) + Fatto B (È notte) + Regola 1 = Obbligo di Fermarsi". Questo crea una traccia documentale chiara e immutabile che prova che il robot ha seguito la legge.
Perché Questo è Importante
Il documento sostiene che dobbiamo smettere di sperare che i robot "capiscano" le nostre leggi e iniziare a dare loro leggi che possano eseguire. Non possiamo aspettare che riusciamo a vedere dentro la scatola nera della mente di un'IA. Inveve, dobbiamo avvolgere la scatola nera in una gabbia di regole eseguibili.
L'autore suggerisce che, sebbene non possiamo trasformare ogni legge in codice (alcune cose sono troppo vaghe, come "essere ragionevoli"), possiamo e dobbiamo certamente trasformare le regole per le macchine critiche per la sicurezza in codice. L'obiettivo non è sostituire i giudici umani, ma darci strumenti che possano controllare se un robot sta seguendo le regole proprio ora, in tempo reale.
Il documento si conclude con un avvertimento: stiamo costruendo macchine potenti e, se non diamo loro regole chiare ed eseguibili, potremmo trovarci in un futuro in cui un robot prende una decisione terribile e noi non abbiamo idea del perché. Usando il diritto computazionale, possiamo garantire che, anche se il robot è una scatola nera, le sue regole siano cristalline, e possiamo sempre controllare se ha fatto ciò che doveva fare.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.