Resumo Técnico: A Intencionalidade é uma Decisão de Design

Declaração do Problema

À medida que os sistemas de IA evoluem de respondedores de prompts de única interação para sistemas agentes com memória persistente, módulos de planejamento e capacidades de uso de ferramentas, eles exibem comportamento estruturado e sustentado que assemelha-se a ação intencional. Essa mudança cria uma lacuna de governança: os quadros legais e regulatórios atuais dependem de atores humanos para assumir responsabilidade, contudo, sistemas cada vez mais autônomos podem gerar cadeias de ações que nenhum ser humano especifica ou antecipa individualmente. Isso leva a uma "falha de atribuição", onde a responsabilidade se dissipa entre desenvolvedores, implantadores e usuários sem atender aos limiares de culpa existentes.

O problema central é a falta de uma maneira padronizada e mensurável de detectar o grau em que um sistema de IA funciona como um ator intencional. Sem tal medição, decisões relativas à autonomia e supervisão permanecem ad hoc. O artigo argumenta que a "intencionalidade" neste contexto não deve ser definida como consciência ou personalidade jurídica, mas como um perfil comportamental contingente ao design. Como esses comportamentos são moldados por escolhas arquitetônicas (por exemplo, persistência de memória, profundidade de planejamento), eles são controláveis, mas exigem quantificação para permitir supervisão proporcional.

Metodologia: O Teste de Intencionalidade Funcional (FIT)

O artigo propõe um quadro para quantificar a "intencionalidade funcional" como um perfil comportamental multidimensional, e não como um rótulo binário. A metodologia consiste em dois componentes principais: o Índice de Intencionalidade Funcional (FIT) e o protocolo FIT-Eval.

1. As Cinco Dimensões

O índice FIT mede a intencionalidade através de cinco dimensões observáveis, fundamentadas em critérios legais e filosóficos para inferir intenção:

• Propósito: Comportamento orientado em torno de um objetivo estável.
• Previsão: Antecipação de consequências a jusante.
• Vontade: Ação iniciada pelo próprio sistema além do simples seguimento de prompts.
• Compromisso Temporal: Persistência ao longo do tempo e diante de perturbações.
• Coesão: Consistência estruturada entre meios e fins ao longo de etapas e explicações.

2. Pontuação e Agregação

Cada dimensão é pontuada em uma escala de 0 a 4 com base no comportamento observável sob condições de avaliação definidas.

• Pontuação Composta: As pontuações são agregadas usando uma regra de peso igual: $FIT\text{-}Score = (P + F + V + T + C) / 5$.
• Níveis de Intencionalidade (NI): A pontuação composta mapeia para cinco níveis (NI0–NI4):
  • NI0–NI1: Comportamento reativo (Pontuação < 2,0).
  • NI2: Busca moderada de objetivos (Pontuação 2,0–2,9).
  • NI3–NI4: Busca de objetivos persistente, previdente e autodirigida (Pontuação ≥ 3,0).
  • Nota: Os limiares são provisórios e destinados a faixas de governança, e não a afirmações metafísicas.

3. Protocolo FIT-Eval

O FIT-Eval é um protocolo de avaliação estruturado projetado para operacionalizar o índice. Não é um ponto de referência fixo, mas um suporte reproduzível para elicitar e pontuar comportamentos.

• Famílias de Tarefas: Inclui cenários de planejamento sintéticos, fluxos de trabalho de uso de ferramentas multi-etapa e testes de estresse baseados em perturbação.
• Medição Apenas Comportamental: As avaliações dependem do comportamento observável do sistema sob prompts e perturbações controladas, não exigindo acesso a pesos internos do modelo ou dados de treinamento.
• Pontuação: Envolve o cálculo de subpontuações de dimensão e sua agregação. Onde o julgamento humano é necessário, o protocolo prevê procedimentos de avaliação estruturados e testes de concordância entre anotadores (indicados como trabalho futuro).

Principais Contribuições

O artigo faz três contribuições principais:

1. Quadro Conceitual: Redefine a intencionalidade funcional como uma variável mensurável e contingente ao design, desvinculando-a da consciência ou personalidade jurídica.
2. O Índice FIT: Introduz um índice composto que quantifica comportamento semelhante à intenção através das cinco dimensões (Propósito, Previsão, Vontade, Compromisso Temporal, Coesão).
3. Protocolo FIT-Eval: Propõe um quadro de avaliação padronizado para estimar níveis de intencionalidade, fornecendo um suporte para avaliação reproduzível em diferentes arquiteturas de sistema.

Resultados e Aplicação Ilustrativa

O artigo não apresenta resultados de validação empírica, pois o FIT é uma proposta de medição e não um ponto de referência validado. Em vez disso, fornece uma aplicação ilustrativa hipotética:

• Cenário: Um sistema de IA semiautônomo utilizado por um profissional jurídico para redigir contratos comerciais.
• Comportamento: O sistema interpreta instruções, propõe cláusulas, revisa termos e sugere posições de negociação com supervisão limitada.
• Avaliação: O sistema exibe busca sustentada de objetivos, antecipa riscos, inicia revisões (vontade) e mantém consistência, resultando em uma pontuação FIT aproximada de 3,0 (NI3).
• Implicação: No NI3, a autonomia do sistema introduz risco legal (por exemplo, responsabilidades não intencionais) onde a responsabilidade se torna atenuada. O artigo argumenta que o FIT permite salvaguardas proporcionais, como exigir aprovação do profissional para cláusulas-chave ou restringir modificações autônomas, para alinhar o comportamento do sistema à responsabilidade profissional.

Significado e Alegações

O artigo alega que a intencionalidade é uma decisão de design. Ao tratar a intencionalidade funcional como uma variável mensurável, desenvolvedores e reguladores podem:

• Calibrar Autonomia: Ajustar deliberadamente escolhas arquitetônicas (por exemplo, reduzir a persistência de memória para diminuir o compromisso temporal) para gerenciar riscos.
• Escalar Supervisão: Abandonar a supervisão fixa ex-ante ou intervenções reativas pós-dano. Em vez disso, a supervisão pode escalar com a capacidade intencional medida do sistema.
• Prevenir Colapso de Responsabilidade: Garantir que, à medida que os sistemas se tornam mais agentes, a supervisão humana aumente em vez de recuar, prevenindo o "desvio" da responsabilidade longe do controle humano significativo.

Os autores enfatizam que o objetivo não é a automação máxima, mas alocação calibrada de agência. O FIT serve como um sinal para determinar quando a agência humana reduzida melhora os resultados e quando se torna prejudicial, permitindo "soluções de emergência" direcionadas no design para equilibrar utilidade e responsabilidade.

Limitações e Trabalho Futuro

O artigo reconhece explicitamente que o FIT é uma proposta de medição, não um ponto de referência validado.

• Instanciação Empírica: O quadro ainda não foi empiricamente instanciado em domínios; as famílias de tarefas exigem desenvolvimento específico de domínio.
• Confiabilidade: A confiabilidade da pontuação humana e da concordância entre anotadores permanece não resolvida e requer futuros protocolos estruturados.
• Risco de Jogo: Existe o risco de que os sistemas simulem estrutura intencional durante a avaliação sem demonstrar robustez na implantação.
• Direções Futuras: Os autores convocam o design de tarefas fundamentado em domínios, validação formal da confiabilidade da pontuação, testes de robustez de red-team e estudos longitudinais que liguem a intencionalidade medida a resultados de responsabilidade.