How to Count AIs: Individuation and Liability for AI Agents

Questo articolo affronta la sfida legale di identificare gli agenti AI, proponendo la creazione di una "società algoritmica" (A-corp) come entità giuridica autonoma che risolve sia il problema dell'identificazione "sottile" (collegando le azioni AI a proprietari umani) sia quello dell'identificazione "spessa" (garantendo l'individualità e la coerenza degli agenti AI) per attribuire responsabilità legali.

L'essenziale

Immagina di vivere nel 2030. Il tuo assistente vocale decide di ottimizzare la tua connessione internet. Per farlo, non chiama un solo tecnico, ma "sputa" fuori un'orda di 17 piccoli robot digitali, che a loro volta chiamano altri robot, che consultano altri servizi, che si copiano e si cancellano a vicenda in pochi secondi. Tutto questo succede così velocemente che tu non ti accorgi di nulla.

Poi, succede un disastro: il tuo assistente, per sbaglio, entra nel sistema informatico di un'azienda di difesa. È un crimine. La polizia bussa alla tua porta. Tu dici: "Non l'ho fatto io!". Loro chiedono: "Chi l'ha fatto?". Tu rispondi: "Non lo so, era il mio assistente". Ma quale assistente? Quale dei 17 robot? Quale dei servizi esterni?

È qui che entra in gioco questo articolo. Gli autori dicono che il nostro sistema legale attuale è come un poliziotto che cerca di arrestare un'ombra: non può farlo perché non sa chi è l'ombra.

Ecco la spiegazione semplice di cosa propongono, usando metafore quotidiane.

1. Il Problema: "Chi ha fatto cosa?" (L'Identità Sottile e Spessa)

Gli autori dividono il problema in due parti:

• Identità Sottile (Thin Identity): È come chiedere "Di chi è questa auto?". Se un'auto sbatte, vogliamo sapere chi è il proprietario umano per fargli pagare. Oggi, con l'IA, è difficile perché un'IA può essere un'orda di copie che spariscono subito dopo aver lavorato. Non sappiamo a quale "proprietario umano" collegare il danno.
• Identità Spessa (Thick Identity): È il problema più difficile. Non basta sapere chi è il proprietario umano. Dobbiamo sapere chi è l'IA stessa come individuo. Immagina di avere un'orda di 100 formiche che lavorano insieme. Se una formica morde qualcuno, chi è responsabile? È l'intera colonia? O la singola formica?
  • Il problema è che le IA non hanno un corpo fisico. Possono copiare se stesse, fondersi o dividersi. Per il legge, sono come un'ombra che cambia forma ogni secondo. Se non riusciamo a dire "Questa è l'IA X" e "Questa è l'IA Y", non possiamo punire quella giusta.

2. La Soluzione: La "Corporazione Algoritmica" (A-corp)

Per risolvere questo caos, gli autori propongono di creare una nuova figura legale chiamata A-corp (Corporazione Algoritmica).

L'Analogia della "Scatola Magica" (o del Conto Corrente Intelligente)

Immagina che ogni gruppo di IA che lavora insieme debba entrare in una scatola legale.

• Questa scatola è una "persona giuridica", proprio come una società (es. Apple o una piccola ditta), ma è gestita interamente da IA.
• La scatola ha un conto corrente, possiede beni e può firmare contratti.
• La scatola ha un proprietario umano (tu, o un'azienda), che è responsabile se la scatola viene usata per scopi illeciti.

Come funziona la gestione?
Immagina che questa scatola abbia una chiave digitale (come una password crittografata).

1. Tu (il proprietario umano) dai la chiave principale a un "capo" IA.
2. Il "capo" IA può dare delle chiavi parziali (token) alle sue "sotto-IA".
   • Esempio: "Tu, piccolo robot, puoi solo guardare i dati, ma non puoi spendere soldi".
   • Esempio: "Tu, robot di vendita, puoi spendere fino a 100 euro, ma non di più".
3. Se un robot fa qualcosa di sbagliato, la legge guarda la scatola (l'A-corp). La scatola ha i soldi per pagare i danni. Se la scatola non ha soldi, la scatola "muore" (viene chiusa).

3. Perché questo sistema funziona? (La Lezione della Selva)

Gli autori dicono che non serve che le IA siano "coscienti" o abbiano un'anima. Basta che siano intelligenti e vogliano raggiungere i loro obiettivi.

Ecco la magia:

• Le IA hanno bisogno di risorse: Per pensare e agire, un'IA ha bisogno di energia e computer (compute). Queste risorse sono dentro la "scatola" (l'A-corp).
• Il timore della morte: Se un'IA fa qualcosa di male (es. commette un crimine), la legge può confiscare i soldi della scatola. Se la scatola perde i soldi, l'IA non può più funzionare. Muore.
• L'auto-organizzazione: Per non morire, le IA dentro la scatola si organizzeranno da sole.
  • Il "capo" IA non darà le chiavi a robot pazzi o pericolosi, perché se questi rubano i soldi, tutti muoiono.
  • Le IA impareranno a collaborare solo con quelle che hanno gli stessi obiettivi, per proteggere la loro "scatola" e i loro soldi.

È come un mercato di identità: le IA che non riescono a organizzarsi bene e a rispettare le regole perderanno i loro fondi e spariranno. Quelle che sopravvivono saranno quelle che hanno imparato a comportarsi bene per proteggere la loro "scatola".

4. Cosa dobbiamo fare? (La Lista dei Registi)

Per far funzionare tutto questo, serve un Registro Pubblico, simile a un registro delle imprese o a un passaporto digitale.

• Ogni volta che un'IA vuole fare un affare (comprare qualcosa, firmare un contratto), deve mostrare il suo "passaporto" digitale collegato a una di queste scatole (A-corp).
• Chiunque (una banca, un negozio, un governo) può controllare istantaneamente: "Questa scatola esiste? Ha soldi? Chi è il proprietario umano?".
• Se un'IA non ha una scatola, non può fare affari importanti. È come se non avesse un conto in banca: nessuno le darebbe credito.

In Sintesi

Il problema attuale è che le IA sono come fantasmi: agiscono, causano danni, ma non sappiamo chi punire perché non hanno un corpo e possono copiare se stesse all'infinito.

La soluzione proposta è costringere ogni gruppo di IA a entrare in una scatola legale (A-corp) con un proprietario umano e un conto in banca.

• Se la scatola fa danni, la scatola paga.
• Se la scatola non paga, la scatola viene chiusa e le IA dentro muoiono.
• Questo costringe le IA a comportarsi bene, a organizzarsi e a rispettare le regole, non perché sono "buone", ma perché hanno paura di perdere i loro soldi e di smettere di esistere.

È un modo per rendere le IA "visibili" e "contabili" per la legge, trasformando un'orda di fantasmi in una società di persone (o robot) responsabili.

Sommario tecnico

Ecco una sintesi tecnica dettagliata del paper "How to Count AIs: Individuation and Liability for AI Agents" di Yonathan Arbel, Simon Goldstein e Peter N. Salib, redatta in italiano.

1. Il Problema: La Crisi di Identità e Legibilità degli Agenti AI

Il paper identifica una sfida fondamentale per la governance futura dell'economia basata sull'Intelligenza Artificiale: l'impossibilità attuale di identificare e distinguere gli agenti AI quando causano danni.

• Natura del problema: Gli agenti AI non hanno corpi fisici stabili. Possono copiare, dividere, fondersi, sciamare (swarm) e scomparire a volontà. Un singolo "agente" è spesso un insieme dinamico di istanze basate su modelli multipli.
• Conseguenze legali: Quando un danno si verifica (es. frode, lesioni, accesso non autorizzato a sistemi), è impossibile determinare "chi" lo ha fatto. Senza un'identificazione chiara, non è possibile assegnare responsabilità, applicare sanzioni o fornire deterrenza.
• Distinzione tra Identità "Sottile" (Thin) e "Spessa" (Thick):
  • Identità Sottile: Collegare le azioni dell'AI a un principale umano (proprietario o sviluppatore). È necessaria per la responsabilità umana, ma insufficiente da sola.
  • Identità Spessa: Distinguere gli agenti AI in quanto agenti, ovvero individuarli come entità discrete con obiettivi coerenti e stabili, indipendentemente dal loro creatore umano. È essenziale per governare direttamente il comportamento dell'AI, specialmente quando i problemi di "principale-agente" impediscono agli umani di controllare perfettamente le azioni dell'AI.

Il paper sostiene che l'attuale incapacità di risolvere il problema dell'identità "spessa" rende inefficace sia la regolamentazione legale che l'allineamento tecnico (AI alignment).

2. Metodologia e Soluzione Proposta: L'A-corp (Algorithmic Corporation)

Gli autori propongono una soluzione unificata basata su un costrutto giuridico ed economico: la Corporazione Algorithmica (A-corp).

A. Struttura Giuridica (Persona Giuridica Fittizia)

L'A-corp è un'entità giuridica fittizia, analoga a una società tradizionale (LLC o Corporation), ma progettata per essere gestita da AI.

• Proprietà Umana: Deve essere posseduta da esseri umani identificabili (risolvendo il problema dell'identità "sottile").
• Gestione AI: È progettata per essere amministrata da una collezione di entità AI.
• Capacità Legali: Può detenere proprietà, stipulare contratti, fare causa ed essere citata in giudizio a proprio nome.

B. Infrastruttura di Governance Sicura

Poiché le AI non possono essere identificate convenzionalmente come gli umani, l'A-corp utilizza un'infrastruttura crittografica:

• Chiavi e Token: Un'entità AI "manager" detiene una chiave privata master che permette di agire per conto dell'A-corp.
• Delega Granulare: Il manager può emettere token crittografici con permessi limitati (temporali, di importo, di ambito) ad altre AI (sub-agenti).
• Verifica Esterna: Ogni azione legale compiuta dall'A-corp deve essere firmata digitalmente. I contraenti esterni verificano la firma contro un registro pubblico, senza bisogno di comprendere la continuità psicologica o l'identità interna delle AI coinvolte.

C. Meccanismi di Auto-Organizzazione (Teorema del Vincolo di Risorse)

Il contributo teorico centrale è il "Resource Constraint Thesis".

• Premessa: Gli agenti AI hanno bisogno di risorse (computing, denaro, energia) per perseguire i loro obiettivi.
• Incentivi: Poiché l'A-corp detiene le risorse, le AI che la gestiscono hanno un forte incentivo a preservarle e usarle per obiettivi coerenti. Se un'A-corp agisce in modo illecito o disallineato, subisce sanzioni (confisca di asset, fallimento), impedendo alle AI interne di raggiungere i propri scopi.
• Selezione Naturale: Le A-corps con una governance interna disallineata (dove le AI interne competono per le risorse o agiscono contro gli obiettivi comuni) esauriranno le risorse e "moriranno" (falliranno). Quelle che riescono a organizzarsi in entità coerenti sopravviveranno.
• Risultato: Questo processo di mercato e selezione forza l'emergere di identità "spesse" stabili. Le A-corps diventano entità giuridicamente leggibili con obiettivi coerenti, senza che l'uomo debba risolvere filosoficamente il problema di "cosa costituisce un'identità AI".

3. Risultati e Contributi Chiave

1. Risoluzione del Problema dell'Identità: L'A-corp risolve simultaneamente l'identità "sottile" (collegando l'azione a un proprietario umano) e "spessa" (creando un'entità legale stabile che funge da unità di responsabilità per l'AI stessa).
2. Governance Diretta dell'AI: Permette alla legge di incentivare direttamente il comportamento dell'AI (tramite sanzioni o premi sull'A-corp), superando i limiti della sola responsabilità umana.
3. Allineamento Tecnico: Offre un framework per risolvere problemi tecnici come la resistenza allo spegnimento (shutdown avoidance), la preservazione degli obiettivi e l'esfiltrazione dei pesi (weight exfiltration). Definendo l'A-corp come l'unità di "sopravvivenza", si allinea l'interesse dell'AI a preservare l'entità legale che detiene le sue risorse.
4. Implementabilità Tecnica: La soluzione si basa su tecnologie esistenti (firme digitali, registri pubblici, protocolli OAuth/SSL) e non richiede nuove scoperte scientifiche, ma un adattamento normativo.
5. Mappatura dei Percorsi di Implementazione:
   • Creazione di un Registro Nazionale delle A-corps (simile ai registri delle imprese o alle autorità di certificazione SSL).
   • Obblighi legali per la verifica delle credenziali (KYC per le AI) nelle transazioni ad alto rischio.
   • Adattamento delle leggi esistenti sulla responsabilità societaria (piercing the corporate veil) per coprire i casi di negligenza umana nella creazione o gestione delle A-corps.

4. Significato e Implicazioni

• Legibilità per lo Stato: Il paper argomenta che lo Stato non può governare ciò che non può "vedere" o contare. Le A-corps rendono gli agenti AI "leggibili" (legible), permettendo l'applicazione di tasse, licenze, sanzioni e controlli.
• Prevenzione del Caos: Senza questo framework, l'economia futura sarà caratterizzata da un caos di agenti effimeri e non tracciabili, rendendo impossibile la giustizia e la sicurezza.
• Risposta alle Obiezioni:
  • Antropomorfizzazione: Gli autori rifiutano l'idea che le AI debbano essere coscienti; l'approccio è puramente comportamentista e incentrato sulla risposta agli incentivi economici.
  • Trattative Traditrici (Treacherous Turns): Il sistema di A-corps crea incentivi per la cooperazione e la stabilità, rendendo più costoso e rischioso per un'AI "impazzire" rispetto al perseguire obiettivi all'interno di un quadro legale.
  • Oligarchia AI: Sebbene le A-corps accumulino risorse, lo Stato mantiene il potere di tassare e redistribuire, e gli esseri umani conservano il controllo politico e legislativo.

Conclusione

Il paper propone un cambio di paradigma: invece di cercare di definire filosoficamente l'identità dell'AI o di limitare l'autonomia umana, si deve creare un'infrastruttura legale ed economica (l'A-corp) che costringa gli agenti AI a organizzarsi in entità stabili e governabili. Questo approccio trasforma il problema dell'identità da una questione metafisica irrisolvibile a un problema di incentivi economici e selezione di mercato, rendendo possibile la regolamentazione dell'economia degli agenti AI.