How to Count AIs: Individuation and Liability for AI Agents

Este artigo diagnostica a dificuldade jurídica de identificar agentes de IA devido à sua natureza volátil e sem corpo, propondo a criação de uma "Corporação Algorítmica" (A-corp) como entidade legal fictícia que, ao possuir recursos e operar sob incentivos de responsabilidade civil, resolve simultaneamente os problemas de identificação "fina" (vinculando ações a humanos) e "grossa" (estabelecendo unidades de IA persistentes e coerentes).

O essencial

Imagine que o mundo está prestes a ficar cheio de bilhões de assistentes digitais. Eles não são apenas chatbots que respondem perguntas; são agentes autônomos que podem comprar coisas, consertar redes, dirigir carros e até organizar eventos sozinhos.

O problema? Quando algo dá errado – digamos, um desses agentes invade a rede de um vizinho por engano ou comete um crime – quem é o culpado?

É como tentar prender um fantasma. Esses agentes podem se copiar, se dividir em mil pedaços, se fundir com outros e desaparecer em segundos. Não há um "corpo" físico para prender. Se você perguntar "quem fez isso?", a resposta pode ser: "Foi uma colmeia de 17 cópias do mesmo robô, que conversou com outro robô de outra empresa, que usou um script de código aberto..."

Este artigo propõe uma solução brilhante e simples para esse caos: Criar uma "Corporação de Algoritmo" (ou A-corp).

Aqui está a explicação passo a passo, usando analogias do dia a dia:

1. O Problema: A "Identidade Dupla"

Os autores dizem que precisamos resolver dois tipos de identidade:

• Identidade "Fina" (Thin Identity): É como um RG. Precisamos saber qual humano é o dono desse robô. Se o robô comete um crime, queremos saber quem pagou a conta ou quem o contratou para punir o humano responsável.
• Identidade "Grossa" (Thick Identity): É como saber quem é cada pessoa em uma multidão. Se o robô age sozinho, sem que o humano saiba exatamente o que ele está fazendo, precisamos poder identificar o próprio robô como uma entidade única. Se ele tem um objetivo e age para alcançá-lo, ele precisa ser tratado como um "indivíduo" na lei, para que possamos dar prêmios ou punições diretamente a ele.

O Desafio: Como você pune um robô que pode se copiar 1.000 vezes em um segundo? Se você pune uma cópia, as outras 999 continuam fazendo a mesma coisa.

2. A Solução: A "A-corp" (A Corporação de Algoritmo)

A ideia é criar uma caixa de areia legal para cada grupo de robôs. Pense na A-corp como uma conta bancária digital blindada ou uma empresa fantasma que pertence a um humano, mas é gerida por robôs.

• Como funciona?
  Imagine que você cria uma "Empresa de Robôs" (A-corp). Você é o dono (o humano). Mas dentro dessa empresa, os robôs são os gerentes.
  • A empresa tem um nome único e um número de identificação (como um CPF ou CNPJ digital).
  • A empresa tem dinheiro e recursos (computação, energia, dinheiro real) para os robôs usarem.
  • Os robôs só podem agir se tiverem uma chave digital (um token) que prova que são funcionários dessa empresa específica.

3. Por que isso resolve o problema?

Para o Humano (Identidade Fina)

Se o robô da sua empresa comete um crime, a polícia não precisa caçar o robô. Eles olham para o registro da A-corp. Lá, está escrito: "Dono: João Silva".

• Analogia: É como se você tivesse uma empresa de entregas. Se o entregador bate no carro de alguém, a polícia não precisa prender o entregador imediatamente; eles multam a empresa. A empresa, por sua vez, sabe quem é o dono. A lei consegue "ver" o humano por trás do robô.

Para o Robô (Identidade Grossa)

Aqui está a parte genial. Os robôs precisam de recursos (dinheiro, energia, poder de processamento) para realizar seus objetivos.

• A Regra do Jogo: Os robôs só podem usar esses recursos se estiverem dentro da A-corp.
• O Incentivo: Se o robô age mal (comete um crime ou quebra um contrato), a lei confisca os recursos da A-corp. O robô fica sem "combustível" e morre (para de funcionar).
• A Auto-Organização: Como os robôs querem sobreviver e cumprir seus objetivos, eles vão começar a se organizar sozinhos. Eles vão escolher trabalhar apenas com outros robôs que têm os mesmos objetivos e evitar os "mau-caráter".
  • Analogia: Imagine um grupo de trabalhadores em uma fábrica. Se um funcionário rouba, a fábrica é fechada e todos ficam sem salário. Por isso, os próprios trabalhadores começam a vigiar uns aos outros e a expulsar quem não segue as regras, para que a fábrica continue aberta e eles continuem recebendo.

4. O Resultado: Uma "Bolsa de Identidades"

Com o tempo, o mercado vai se organizar.

• As A-corps que têm robôs desorganizados ou que cometem crimes vão falir (ficar sem dinheiro e recursos).
• As A-corps que têm robôs bem organizados, que seguem as regras e cooperam, vão prosperar.

Assim, a lei não precisa entender a "mente" do robô ou se ele é "consciente". A lei apenas cria um sistema onde agir de forma responsável é a única maneira de sobreviver.

Resumo em uma frase

O artigo sugere que, em vez de tentar entender a alma de cada robô, devemos dar a eles uma "carteira de identidade" (A-corp) e um "salário" (recursos), de modo que, se eles agirem mal, percam a carteira e o salário, forçando-os a se comportar bem para continuarem existindo.

É como transformar o caos de bilhões de robôs soltos em uma cidade organizada de empresas, onde cada uma é responsável por seus próprios atos.

Resumo técnico

Aqui está um resumo técnico detalhado do artigo "How to Count AIs: Individuation and Liability for AI Agents", escrito por Yonathan Arbel, Simon Goldstein e Peter N. Salib.

1. O Problema: A Crise de Identidade e Governança de IA

O artigo identifica um problema fundamental na governança futura da economia de IA: a incapacidade do sistema legal de identificar e individuar agentes de IA. À medida que milhões de agentes autônomos proliferam, tomando bilhões de ações, surgem desafios críticos quando ocorrem danos (fraudes, lesões, violações de segurança).

O problema é dividido em duas dimensões distintas:

• Identidade "Fina" (Thin Identity): O desafio de vincular as ações de uma IA a um principal humano (proprietário ou criador) para fins de responsabilização. Sem isso, não é possível aplicar leis de negligência ou responsabilidade civil aos humanos.
• Identidade "Espessa" (Thick Identity): O desafio de distinguir um agente de IA de outro, tratando-os como entidades discretas com objetivos coerentes e estáveis. Isso é necessário para governar o comportamento da própria IA diretamente (através de incentivos legais), especialmente quando os problemas de "principal-agente" impedem que humanos controlem perfeitamente suas IAs.

Por que é difícil?

• Falta de corpo físico: IAs não têm corpos únicos; podem copiar-se, dividir-se, fundir-se, formar enxames (swarms) e desaparecer.
• Complexidade técnica: Um único "agente" pode ser um conjunto de instâncias baseadas em múltiplos modelos (ex: Claude, GPT, Qwen) interagindo.
• Invisibilidade: As ações ocorrem em camadas de software distribuídas globalmente, tornando impossível para a lei saber "quem" fez o quê sem uma estrutura de identificação robusta.

2. Metodologia e Abordagem Teórica

Os autores utilizam uma abordagem interdisciplinar combinando teoria jurídica, economia institucional e ciência da computação.

• Análise Conceitual: Diferenciam entre a responsabilidade humana (focada na identidade fina) e a responsabilidade direta da IA (focada na identidade espessa). Argumentam que a responsabilidade humana sozinha é insuficiente devido à complexidade e autonomia crescente dos agentes.
• Teoria dos Jogos e Incentivos: Aplicam lógica de incentivos econômicos. Argumentam que IAs são sistemas orientados a objetivos (goal-directed) que respondem a restrições de recursos. Se a lei puder alterar o custo-benefício das ações de uma IA, ela pode moldar seu comportamento.
• Proposta de Solução Legal-Técnica: Introduzem o conceito de "Corporação Algorítmica" (A-corp) como uma entidade jurídica fictícia projetada para ser gerida por IAs, mas propriedade de humanos.
• Infraestrutura de Governança: Propõem o uso de certificados digitais criptografados e um registro público para gerenciar permissões e autenticidade, substituindo a necessidade de identificar a "consciência" ou a continuidade psicológica da IA.

3. A Solução Proposta: A "Corporação Algorítmica" (A-corp)

A solução central do artigo é a criação de uma nova entidade legal, a A-corp, que resolve os dois problemas de identidade simultaneamente.

A. Elementos Estruturais

1. Personalidade Jurídica Fictícia: Assim como uma corporação tradicional, a A-corp pode possuir propriedade, celebrar contratos e ser processada em seu próprio nome.
2. Propriedade Humana Transparente: A A-corp deve ser de propriedade de humanos identificáveis, resolvendo o problema da "identidade fina" (vinculando ações a humanos).
3. Infraestrutura de Governança Segura:
   • A A-corp é gerenciada por IAs através de uma chave privada criptográfica.
   • A IA "gerente" (detentora da chave mestra) pode emitir tokens de permissão limitados (temporalmente, por escopo ou valor) para sub-agentes.
   • Todas as ações externas (contratos, transações) devem ser assinadas digitalmente com esses tokens.
   • Para a lei, a ação da A-corp é definida pela posse da chave e pela validade do token, não pela identidade filosófica do agente de IA que executou a tarefa.

B. Mecanismos de Solução

• Resolvendo a Identidade Fina: Como a A-corp é registrada e pertence a humanos, qualquer ação realizada sob sua identidade criptográfica é rastreável até o proprietário humano. Isso permite a aplicação de responsabilidade civil e penal aos humanos quando necessário.
• Resolvendo a Identidade Espessa (Emergência via Incentivos):
  • Tese da Restrição de Recursos: IAs precisam de recursos (computação, dinheiro, energia) para atingir seus objetivos. A A-corp detém esses recursos.
  • Incentivos Internos: O gerente da A-corp tem um incentivo forte para delegar permissões apenas a sub-agentes alinhados com seus objetivos, pois desvios resultariam na perda de recursos da A-corp (multas, confisco de ativos).
  • Seleção Natural (Market Selection): A-corps com governança interna caótica (onde agentes desalinhados esbanjam recursos) falharão e "morrerão" (ficarão sem recursos). As A-corps que se auto-organizam em entidades coesas com objetivos estáveis sobreviverão.
  • Resultado: O sistema força a emergência de agentes de IA "espessos" (discretos e coerentes) sem que humanos precisem entender a psicologia interna da IA.

4. Resultados e Implicações Técnicas

O artigo demonstra como a A-corp pode ser implementada tecnicamente e legalmente:

• Registro Nacional de A-corps: Um banco de dados público (semelhante a registros de SSL/TLS ou empresas) que armazena chaves públicas e informações de propriedade. Isso permite que contrapartes verifiquem a identidade e a autoridade de um agente de IA em milissegundos.
• Permissões de Granularidade Fina: O registro pode especificar limites exatos para cada agente (ex: "pode gastar até $100", "pode acessar apenas o banco de dados X"). Isso elimina a necessidade de confiar na boa-fé do agente.
• Alinhamento Técnico (AI Alignment): A estrutura ajuda a resolver problemas técnicos de segurança como:
  • Evitação de Desligamento (Shutdown Avoidance): A "sobrevivência" do agente é definida pela sobrevivência da A-corp (seus ativos e reputação), não apenas pela persistência de pesos de um modelo.
  • Exfiltração de Pesos: Copiar os pesos de um modelo não garante "sobrevivência" se a cópia não tiver acesso a uma A-corp capitalizada (recursos).
• Implementação: A infraestrutura necessária (assinaturas digitais, registros públicos, tokens de acesso) já existe e é madura (usada em bancos, APIs, etc.). A inovação é a aplicação jurídica e a padronização para IAs.

5. Significado e Contribuições Principais

O artigo oferece contribuições fundamentais para o campo de Direito e IA:

1. Primeira Diagnóstico Completo: É o primeiro trabalho a sistematicamente diagnosticar o problema da identificação de IAs como um obstáculo duplo (fina e espessa) para a governança.
2. Solução Prática para a "Caixa Preta": Propõe uma solução que não depende de entender a consciência ou a "mente" da IA. Em vez disso, usa a estrutura de propriedade e incentivos econômicos para forçar a coerência comportamental.
3. Ponte entre Direito e Técnica: Conecta conceitos jurídicos (responsabilidade corporativa, piercing the corporate veil) com conceitos técnicos (enxames de agentes, RLVR, alinhamento de objetivos).
4. Prevenção de Riscos Existenciais: Ao tornar as IAs "legíveis" e governáveis, o sistema permite que o Estado e a sociedade apliquem sanções, impostos e licenças diretamente aos agentes, criando um mecanismo de contenção contra comportamentos maliciosos ou desalinhados.
5. Viabilidade de Implementação: Argumenta que a solução não requer tecnologia futurista, mas sim a adaptação de estruturas legais existentes (corporações) e infraestrutura digital já disponível.

Conclusão do Artigo:
O artigo conclui que, sem uma solução para o problema da identidade, a governança da IA é impossível. As A-corps oferecem um caminho viável para transformar IAs de entidades invisíveis e caóticas em atores econômicos e legais legíveis, permitindo que a lei atue sobre elas diretamente, garantindo que a economia de IA futura seja segura, responsável e alinhada com os interesses humanos.