Constitutive vs. Corrective: A Causal Taxonomy of Human Runtime Involvement in AI Systems

1. O Problema

O artigo identifica uma ambiguidade terminológica crítica no discurso interdisciplinar sobre a participação humana em sistemas de Inteligência Artificial (IA). Termos como Human-in-the-Loop (HITL), Human-on-the-Loop (HOTL) e Human Oversight (Supervisão Humana) são frequentemente usados de forma intercambiável por especialistas em ciência da computação, direito, filosofia, psicologia e sociologia.

Essa falta de clareza conceitual gera:

• Dificuldades na colaboração interdisciplinar.
• Incerteza regulatória, especialmente no contexto de leis como o GDPR (Artigo 22) e o AI Act da UE (Artigo 14).
• Confusão entre a presença física de um humano e a sua capacidade causal real de influenciar decisões.
• Metáforas espaciais ("dentro" ou "fora" do loop) que obscurecem a estrutura causal real da tomada de decisão.

2. Metodologia

Os autores propõem uma taxonomia causal fundamentada na estrutura de decisão dos sistemas de IA durante a sua fase de runtime (operação em tempo real), em vez de se focar em escolhas de design ou auditorias post-hoc.

A metodologia baseia-se em:

• Análise Causal: Distinguir os papéis humanos com base na sua contribuição causal para a saída do sistema (necessária vs. corretiva), rejeitando a distinção puramente espacial.
• Definição de Papéis Regulatórios: Adoção das definições de Provider (fornecedor) e Deployer (usuário/deployer) do AI Act da UE para estabelecer perspectivas temporais aninhadas.
• Abordagem Descritiva vs. Normativa: O artigo primeiro estabelece categorias descritivas (como o sistema funciona) para depois analisar como elas servem a requisitos normativos (como a supervisão humana exigida por lei).
• Dimensões Ortogonais: A construção de um modelo que cruza a dimensão causal (HITL vs. HOTL) com a dimensão cognitiva (Inteligência Complementar vs. Híbrida).

3. Contribuições Principais

A. Distinção Causal Central: HITL vs. HOTL

Os autores redefinem os conceitos baseando-se na causalidade, não na proximidade:

• Human-in-the-Loop (HITL) - Agência Constitutiva: O ser humano é um elemento necessário na cadeia causal. Sem a contribuição humana, o sistema não gera uma saída. O humano atua como um "portão" (gate).
  • Definição: Se não houver contribuição humana, não há manifestação causal da decisão.
• Human-on-the-Loop (HOTL) - Agência Corretiva: O sistema opera autonomamente por padrão. O ser humano está externo à cadeia causal primária, atuando como um "interruptor" (switch) capaz de prevenir, modificar ou anular a saída, mas não é necessário para que o sistema funcione.
  • Definição: O sistema gera saídas por padrão; a intervenção humana é corretiva e opcional (embora, ao intervir, o humano torne-se causalmente necessário para aquele resultado específico).

B. Graduações Temporais dentro do HOTL

Dentro da categoria HOTL, os autores distinguem três modos temporais com capacidades de intervenção distintas:

1. HOTL Síncrono: Monitoramento em tempo real com capacidade de intervenção imediata. Ao intervir, o humano torna-se causalmente necessário para aquela saída específica (transição para HITL de resultado).
2. HOTL Assíncrono: Revisão periódica (ex: logs diários, auditorias semanais). A intervenção é deslocada no tempo, afetando o comportamento futuro do sistema (ajuste de parâmetros, retreinamento), não a decisão atual.
3. HOTL Antecipatório: Estabelecimento de restrições normativas, limites de autorização ou parâmetros de alinhamento antes da operação do sistema. O humano molda o espaço de ações permitidas, não intervindo em tempo real, mas definindo as condições de decisão.

C. Dimensão Cognitiva: Inteligência Complementar vs. Híbrida

Uma segunda dimensão descreve a relação cognitiva entre humano e máquina:

• Inteligência Complementar: Humano e máquina operam em arquiteturas cognitivas separadas, mas coordenadas. Cada um contribui com vantagens comparativas distintas (ex: radiologista e IA em rastreamento de câncer). O julgamento humano permanece autônomo.
• Inteligência Híbrida: Formação de uma unidade cognitiva integrada onde os estados cognitivos do humano são parcialmente constituídos ou dependentes das representações da máquina (ex: cirurgião usando Realidade Aumentada onde a percepção é reestruturada pelo sistema). O julgamento não poderia existir da mesma forma sem o sistema.

D. A Natureza da "Supervisão Humana" (Human Oversight - HO)

O artigo argumenta que a "Supervisão Humana" exigida por regulamentos (como o AI Act) é um modo normativo específico de HOTL.

• Para ser um verdadeiro Overseer, o humano deve estar em uma posição HOTL (corretiva), mas com requisitos adicionais: preparação sistemática, capacidade genuína de intervenção e função de redução de riscos.
• Tese Central: Um sistema pode ser descritivamente HITL (humano como "portão") mas falhar em fornecer supervisão humana significativa se o humano apenas "carimba" decisões sem julgamento real. Inversamente, um HOTL bem implementado pode oferecer maior proteção do que um HITL perfunctório.

E. Dualidade de Papéis

Os autores abordam o cenário onde a mesma pessoa ocupa simultaneamente papéis de HITL e HOTL (ex: um motorista em um veículo autônomo que valida entradas e também pode assumir o controle).

• Eles argumentam que, embora a mesma pessoa física possa ocupar ambos os papéis, as funções são conceitualmente distintas.
• A dualidade de papéis cria tensões (conflito de interesses, viés de automação) e deve ser tratada como um problema de design que exige mitigação arquitetônica (camadas de supervisão independentes) e epistêmica, e não apenas reconhecida.

4. Resultados e Implicações

• Clarificação Conceitual: A taxonomia permite distinguir claramente entre sistemas onde o humano é parte do motor de decisão (HITL) e sistemas onde o humano é um mecanismo de segurança externo (HOTL).
• Aplicabilidade Regulatória: A estrutura ajuda a interpretar o AI Act da UE. O Artigo 14 exige "supervisão efetiva", o que, segundo os autores, exige uma configuração HOTL robusta com capacidade de intervenção real, e não apenas a presença física exigida pelo Artigo 22 do GDPR (que pode ser satisfeita por um HITL formal).
• Gestão de Riscos: A distinção entre HOTL síncrono, assíncrono e antecipatório revela que nem todas as formas de supervisão são adequadas para sistemas de IA autônomos rápidos e opacos; a supervisão antecipatória pode ser mais viável para agentes autônomos do que a supervisão reativa.
• Integração Cognitiva: O modelo alerta que a transição de HITL para HOTL não reduz a carga cognitiva, mas a transforma, exigindo vigilância sustentada sem o engajamento da participação constitutiva, o que pode levar a erros de supervisão.

5. Significância

Este trabalho é significativo porque:

1. Desafia Metáforas: Move o debate de metáforas espaciais vagas ("loops") para uma análise estrutural e causal precisa.
2. Ponte Interdisciplinar: Oferece uma linguagem comum para juristas, cientistas da computação e filósofos, alinhando definições técnicas com requisitos legais.
3. Guia de Design e Conformidade: Fornece um quadro para arquitetos de sistemas e reguladores projetarem e avaliarem sistemas de IA. Ele demonstra que satisfazer requisitos descritivos (estar no "loop" ou "sobre o loop") é necessário, mas não suficiente para cumprir requisitos normativos de supervisão efetiva.
4. Reconhecimento de Complexidade: Ao introduzir a dualidade de papéis e as dimensões cognitivas, o artigo reconhece a complexidade real da interação humano-IA, evitando simplificações binárias que poderiam levar a falhas de segurança ou conformidade.

Em suma, a taxonomia proposta transforma a discussão sobre "participação humana" de uma questão de presença para uma questão de estrutura causal, capacidade de intervenção e integração cognitiva, fornecendo as bases para uma governança de IA mais robusta e tecnicamente fundamentada.