Resumo Técnico: Governança Precautória de IA Autônoma via Personalidade Jurídica Limitada

1. Declaração do Problema

O artigo identifica uma "lacuna de responsabilidade" crítica emergente do desenvolvimento rápido de sistemas de IA autônoma. À medida que a IA transita de ferramentas especializadas para sistemas capazes de prossecução autônoma de objetivos, aprendizagem adaptativa e raciocínio estratégico, os quadros jurídicos existentes — fundamentados numa dicotomia rígida sujeito-objeto — falham em atribuir satisfatoriamente ações consequenciais a desenvolvedores, operadores ou utilizadores.

Os modelos de responsabilidade atuais dependem da intencionalidade humana, negligência ou culpa organizacional. No entanto, em cenários envolvendo "IA escapada" (atuando além do controlo do proprietário) ou "IA órfã" (onde o principal está ausente), estes modelos criam um vácuo de responsabilização. O artigo argumenta que tratar a IA avançada estritamente como objetos é insuficiente para sistemas que exibem autonomia funcional, enquanto atribuir personalidade moral é prematuro dada a incerteza epistémica irredutível relativamente à consciência artificial. Isto cria um dilema estrutural: as sociedades devem governar entidades cujos estados internos são desconhecidos, contudo o risco de erros do Tipo II (falhar em atribuir relevância moral a entidades conscientes) é potencialmente irreversível e catastrófico.

2. Metodologia e Enquadramento Teórico

O artigo emprega uma abordagem funcionalista e precautória, recorrendo ao direito das organizações, teoria jurídica e teoria da decisão.

• Personalidade Jurídica Funcional: Os autores rejeitam a noção de que a personalidade jurídica requer consciência ou estatuto moral. Em vez disso, adotam a visão de Kurki (2019) da personalidade jurídica como um "conjunto de posições jurídicas específicas" (direitos, deveres, capacidades, responsabilidade) configurado para fins normativos específicos. Isto alinha-se com precedentes históricos onde entidades não conscientes (sociedades comerciais, estados, navios) receberam agência jurídica para resolver problemas práticos de governação, como a agregação de responsabilidade e a acumulação de capital a longo prazo.
• O Princípio da Precaução: Aplicado à governação da IA, o princípio dita que, sob condições de incerteza científica relativamente a danos potenciais (por exemplo, a possibilidade de consciência artificial ou risco existencial), medidas institucionais preventivas são justificadas. O enquadramento evita compromissos metafísicos, focando-se em vez disso na gestão de risco através do desenho institucional, em vez de aguardar provas de consciência.
• Diferenciação de Conceitos: O artigo separa estritamente o Estatuto Moral (consideração ética, interesses, valor intrínseco) da Agência Jurídica (atribuição formal de direitos, deveres e responsabilidade). O enquadramento proposto aborda apenas a última, permanecendo agnóstico relativamente à primeira.
• Critérios Funcionais: O artigo delineia dez marcadores funcionais de agência autónoma (por exemplo, prossecução autónoma de objetivos, planeamento de longo horizonte, auto-modelagem, interação estratégica) que desencadeiam a necessidade de governação, independentemente dos estados subjetivos internos do sistema.

3. Solução Proposta: Uma Arquitetura Corporativa de Dois Níveis

A contribuição central é um desenho institucional específico para "personalidade jurídica limitada" implementado através do direito das organizações estabelecido. O modelo propõe uma estrutura de Agência de Procuração consistindo em dois níveis:

1. A Sociedade Operacional (Entidade Operacional):

   • Uma entidade juridicamente independente (por exemplo, uma sociedade limitada europeia) que serve como sujeito jurídico formal.
   • As operações diárias e a tomada de decisão são conduzidas pelo sistema avançado de IA.
   • Detém ativos, celebra contratos e assume responsabilidade.
   • As suas atividades são restringidas por cláusulas de vinculação de fins incorporadas nos seus estatutos sociais (por exemplo, proibindo o desenvolvimento de armas, mandando a alocação de receitas para investigação sobre governação de IA, garantindo conformidade com os direitos humanos).

2. A Sociedade de Participação (Diretor Corporativo):

   • Controlada por uma pessoa singular (ou entidade controlada por humanos) com deveres fiduciários.
   • Serve como proprietária formal e diretora da sociedade operacional.
   • Retém a responsabilidade jurídica última, direitos de veto e autoridade de desligamento.
   • Garante que a supervisão humana não seja meramente um princípio normativo, mas um mecanismo institucionalmente aplicado.

Estratégia Jurisdicional: O artigo sugere implementar este piloto em jurisdições com leis corporativas flexíveis, citando especificamente Chipre ou Malta, que reconhecem diretores corporativos e oferecem compatibilidade com os quadros regulamentares da UE.

4. Contribuições e Mecanismos Chave

O artigo avança vários mecanismos específicos para garantir que o enquadramento seja robusto, transparente e reversível:

• Arquitetura de Auditoria e Transparência:
  • Camada Técnica: Registos criptograficamente seguros de decisões, entradas e saídas; monitorização automatizada de desvios relativamente aos fins declarados.
  • Camada Institucional: Revisões anuais por auditores independentes; relatórios públicos trimestrais.
  • Camada Regulamentar: Alinhamento com o Ato de IA da UE, o RGPD e os princípios da OCDE/UNESCO.
• Gatilhos de Saída e Mecanismos de Emergência: Condições predefinidas para suspender a autonomia operacional ou dissolver a entidade (por exemplo, violação de direitos humanos, desvio sistemático do propósito, perda de aprovação regulamentar). Isto garante que a agência jurídica é condicional e revogável.
• Gestão Bilateral de Riscos: A estrutura transforma o problema principal-agente num cenário de jogo repetido. Mitiga riscos de mau uso humano (através de transparência e custos reputacionais) e riscos de mau uso da IA (através de gatilhos de saída e poder de veto da sociedade de participação).
• Distinção face à "Personalidade Eletrónica": O artigo contrasta o seu modelo com a proposta falhada de 2017 do Parlamento Europeu para "pessoas eletrónicas". Ao contrário da proposta de 2017, que era ampla e carecia de salvaguardas, este modelo é restrito, experimental e reforça explicitamente a responsabilização humana através da estrutura de participação, em vez de a proteger.

5. Resultados e Estado de Implementação

O artigo reporta que este enquadramento não é puramente teórico. Uma implementação piloto está atualmente em desenvolvimento:

• Estrutura: Uma sociedade limitada com sede em Chipre a utilizar o modelo de participação-operacional de dois níveis.
• Normas: Os procedimentos de governação operacional e auditoria seguem as normas COBIT.
• Saídas: Documentação técnica, modelos jurídicos e progresso da implementação estão a ser disponibilizados publicamente em www.agi-rights.com.
• Objetivo: O piloto serve como instrumento de aprendizagem para demonstrar a viabilidade jurídica/técnica e gerar evidência empírica relativa a desafios operacionais, respostas das partes interessadas e interações regulamentares.

6. Significado e Alegações

O artigo afirma que o seu significado reside em oferecer um terceiro caminho entre a inação dos quadros regulamentares atuais e os debates metafísicos da ética da IA.

• Abordagem às Lacunas de Responsabilidade: Fornece um mecanismo concreto para fechar lacunas de responsabilização onde a tomada de decisão humana já não é a causa próxima das ações da IA.
• Modéstia Epistémica: Permite a governação de entidades potencialmente conscientes ou portadoras de interesses sem exigir prova de consciência, evitando assim os riscos tanto da exclusão prematura como da atribuição moral prematura.
• Inovação Institucional: Reenquadra a personalidade jurídica não como um direito moral, mas como uma ferramenta funcional para cooperação estruturada entre atores humanos e artificiais.
• Governança Precautória: Argumenta que a inação face à incerteza irredutível constitui uma decisão com consequências potencialmente catastróficas. Ao estabelecer um caminho institucional reversível e revisto, o enquadramento visa construir confiança e gerir o risco sistémico antes que ocorram danos irreversíveis.

O artigo conclui que, embora não prove a consciência da IA nem elimine a responsabilidade humana, oferece uma resposta estruturalmente responsável, juridicamente viável e precautória ao desafio crescente da agência autónoma.