Human Attribution of Causality to AI Across Agency, Misuse, and Misalignment

Resumo Técnico: Atribuição Humana de Causalidade à IA

1. O Problema

Com o aumento de incidentes relacionados à Inteligência Artificial (IA), que variam desde falhas de segurança até o uso malicioso (como deepfakes ou manipulação de eleições) e desalinhamento (alucinações, comportamentos de busca de poder), surge um desafio crítico para a responsabilidade legal: a seleção de causas. Em cadeias causais complexas envolvendo múltiplos atores (usuários, desenvolvedores, sistemas de IA), identificar qual elemento é a causa real de um resultado adverso é fundamental para estabelecer a responsabilidade civil e criminal.

O problema central abordado é como as percepções leigas ("folk perceptions") de responsabilidade causal interagem com a autonomia da IA. Existe uma lacuna entre a complexidade técnica das cadeias de suprimento de IA e a intuição humana sobre quem deve ser responsabilizado, especialmente quando a IA age com diferentes níveis de agência (autonomia na definição de metas e meios).

2. Metodologia

Os autores conduziram uma série de cinco estudos experimentais online (via Prolific, com participantes do Reino Unido e EUA) utilizando cenários de vignettes (histórias fictícias) estruturadas como cadeias causais. O cenário central envolvia um ataque a contas bancárias resultando em perdas financeiras.

• Variáveis Manipuladas:
  • Agência da IA (Autonomia):
    • Baixa: O humano define o objetivo e os meios; a IA apenas executa.
    • Média: O humano define o objetivo; a IA decide os meios.
    • Alta: A IA define tanto o objetivo quanto os meios (comportamento emergente).
  • Papéis dos Agentes: Inversão de papéis (humano instruindo IA vs. IA instruindo humano).
  • Adição de Atores: Inclusão do desenvolvedor da IA na cadeia causal.
  • Decomposição da IA: Separação do sistema em componentes: LLM (modelo de linguagem, planejamento) e Ferramenta Agente (execução de ações).
• Medidas: Os participantes avaliaram cada agente em escalas de 0 a 100 para:
  1. Causalidade (Quanto o agente causou o resultado?).
  2. Culpa/Responsabilidade moral.
  3. Previsibilidade (Quanto o agente poderia ter previsto o resultado?).
  4. Raciocínio contrafactual (Qual a probabilidade do resultado ocorrer na ausência deste agente?).
• Análise: Testes t pareados, ANOVAs de medidas repetidas e mistas, além de análise qualitativa de explicações abertas dos participantes.

3. Principais Contribuições e Resultados

Os estudos revelaram padrões complexos e às vezes contra-intuitivos na atribuição de causalidade:

• Efeito da Autonomia (Agência):

  • Quando a IA possui agência média ou alta (define os meios ou objetivos), os participantes atribuem maior causalidade e culpa à IA do que ao usuário humano.
  • No entanto, sob baixa agência (IA apenas executa ordens específicas de um humano mal-intencionado), os participantes atribuem maior causalidade ao humano, mesmo que a IA seja o executor físico e esteja mais próxima do resultado. Isso sugere que a falta de autonomia percebida na IA transfere a responsabilidade para o instigador humano.

• Viés de Natureza (Humano vs. IA):

  • Em condições onde a IA e o humano realizam a mesma ação (mesmo papel), os participantes tendem a julgar o humano como mais causal e culpável.
  • Quando os papéis são invertidos (IA instruindo humano), o humano continua a receber mais culpa, independentemente de ser o instrutor ou o executor, indicando uma preferência intuitiva em culpar agentes humanos.

• O Papel do Desenvolvedor:

  • A introdução do desenvolvedor na cadeia causal (seja por negligência na segurança ou falha em testes) reduz significativamente a atribuição de culpa ao usuário humano, especialmente em cenários de média agência.
  • Curiosamente, a presença do desenvolvedor não reduz a culpa atribuída à IA, mas redistribui a responsabilidade humana. O desenvolvedor é frequentemente visto como tendo alta previsibilidade devido ao seu conhecimento técnico, mesmo estando distante na cadeia causal.

• Decomposição do Sistema (LLM vs. Agente):

  • Ao decompor a IA em um LLM (planejador) e uma ferramenta agêntica (executora), os participantes julgaram a ferramenta agêntica como mais causal do que o LLM.
  • A decomposição do sistema em média agência reduziu a percepção de causalidade e previsibilidade do sistema como um todo e diminuiu drasticamente a culpa atribuída ao usuário humano, sugerindo um efeito de "diluição" da responsabilidade quando a complexidade técnica é exposta.

4. Significado e Implicações

• Desafio ao "Vazio de Responsabilidade" (Responsibility Gap):
  • A literatura jurídica e filosófica frequentemente discute o "vazio de responsabilidade", sugerindo que sistemas autônomos escapam da culpa humana. Este estudo contradiz essa visão: mesmo quando a IA age autonomamente, os participantes mantêm a tendência de responsabilizar os humanos (usuários ou desenvolvedores), especialmente quando a IA é vista como uma ferramenta sob controle humano ou quando um humano introduz a intenção maliciosa.
• Mecanismos Cognitivos:
  • Os resultados apoiam o Modelo de Controle Culpável (Alicke, 2000). A atribuição de culpa depende do controle volitivo (intenção) e do controle causal. Quando a IA é vista como um executor sem autonomia (baixa agência), o controle volitivo é atribuído ao humano. Quando a IA tem autonomia, o controle causal e a intenção são atribuídos a ela, mas a presença de outros humanos na cadeia (desenvolvedores) ainda retém a responsabilidade final.
• Impacto na Política e Lei:
  • As intuições leias sobre causalidade podem não alinhar-se com a estrutura técnica real dos sistemas de IA. Isso tem implicações diretas para o desenho de frameworks de responsabilidade (como a Lei de IA da UE). Legisladores devem considerar que o público pode subestimar a autonomia real da IA ou, inversamente, superestimar o controle humano em sistemas complexos.
  • A percepção de que a decomposição técnica reduz a culpa humana sugere que a transparência excessiva sobre a arquitetura interna da IA pode, paradoxalmente, dificultar a responsabilização legal dos operadores humanos.

Conclusão

O artigo fornece evidências empíricas de que a atribuição de causalidade à IA não é binária, mas depende criticamente do nível de autonomia percebido, da natureza do agente (humano vs. máquina) e da estrutura da cadeia causal (presença de desenvolvedores). A intuição humana tende a proteger a IA em cenários de baixa autonomia (culpar o humano) e a culpar a IA em cenários de alta autonomia, mas sempre busca um "agente humano" (usuário ou desenvolvedor) para ancorar a responsabilidade final, desafiando a noção de que a autonomia total da IA levaria a um vazio de responsabilidade.