When Do Data-Driven Systems Exhibit the Capability to Infer?

Resumo Técnico: Quando é que os Sistemas Baseados em Dados Exibem a Capacidade de Inferência?

Definição do Problema
O Regulamento da IA da União Europeia estabelece um quadro jurídico abrangente para a inteligência artificial, definindo um sistema de IA primordialmente pela sua "capacidade de inferência". No entanto, o Regulamento e as suas Diretrizes da Comissão não fornecem uma definição técnica precisa de inferência, criando uma ambiguidade regulatória para sistemas baseados em dados que dependem de modelos estatísticos clássicos em vez de arquiteturas modernas de aprendizagem automática (machine learning). Esta incerteza é particularmente aguda no domínio da pontuação de crédito (credit scoring), que está explicitamente listado como uma aplicação de alto risco no Anexo III do Regulamento da IA. Os profissionais do setor e os reguladores enfrentam um dilema: muitos sistemas de pontuação de crédito utilizam regressão logística e procedimentos de agrupamento estatístico (binning). Não está claro se estes sistemas, que frequentemente envolvem intervenção humana de especialistas no desenvolvimento do modelo, possuem a "capacidade de inferir" o suficiente para serem classificados como sistemas de IA sob o Regulamento, ou se ficam fora do âmbito como "processamento de dados básico".

Metodologia
Para abordar esta ambiguidade, os autores desenvolvem um quadro graduado para avaliar a capacidade de inferência, fundamentado na teoria da aprendizagem estatística. A metodologia procede em três etapas:

1. Abstração Teórica: Os autores formalizam o conceito de inferência através da análise de como os dados influenciam a formação de mapeamentos de entrada-saída. Baseando-se na distinção entre estimativa paramétrica (cultura de modelagem de dados) e construção algorítmica (cultura de modelagem algorítmica), propõem um quadro de cinco níveis (Níveis 0–4) que categoriza os sistemas com base na extensão em que os dados moldam a lógica do sistema:

   • Nível 0 (Mapeamento Fixo): Totalmente especificado ex ante por humanos; os dados são processados, mas não influenciam a estrutura ou os parâmetros.
   • Nível 1 (Adaptação Paramétrica): A forma funcional é fixa; os dados determinam apenas os parâmetros numéricos (ex: coeficientes numa regressão linear/logística).
   • Nível 2 (Seleção Estrutural): Os dados selecionam entre um conjunto predefinido de estruturas admissíveis (ex: seleção de características por stepwise, regularização $L_1$).
   • Nível 3 (Construção Estrutural): Os dados constroem funcionalmente o mapeamento de entrada-saída, seja explicitamente (ex: árvores de decisão) ou implicitamente (ex: $k$-vizinhos mais próximos).
   • Nível 4 (Construção Representacional): Os dados determinam o próprio espaço representacional (ex: redes neuronais profundas, aprendizagem de representação).

2. Mapeamento Regulatório: O quadro é aplicado ao texto do Regulamento da IA (Artigo 3.º, Considerando 12) e às Diretrizes da Comissão. Os autores analisam a exclusão nas Diretrizes de sistemas que "melhoram a otimização matemática" ou "aceleram métodos tradicionais" para determinar onde reside o limiar regulatório para a "capacidade de inferir". Exploram duas interpretações: uma onde o Nível 1 fica fora da definição de IA, e uma alternativa onde até a estimativa de parâmetros constitui inferência.

3. Aplicação de Estudo de Caso: O quadro é aplicado a dois fluxos de trabalho realistas de pontuação de crédito utilizando o conjunto de dados "Give Me Some Credit". Os autores dissecam o processo de desenvolvimento de ponta a ponta, incluindo:

   • Binning (Agrupamento): Analisando o binning manual versus o orientado por dados (ex: divisões binárias recursivas que otimizam a entropia de Shannon).
   • Regressão Logística: Examinando a regressão logística padrão versus versões que utilizam seleção de características stepwise.
   • Envolvimento Humano: Avaliando como as restrições dos especialistas (ex: requisitos de monotonicidade, regras regulatórias) e a seleção manual de variáveis afetam a capacidade de inferência do sistema.

Principais Contribuições

• Um Quadro de Inferência Graduado: O artigo introduz uma taxonomia estruturada de cinco níveis que distingue os sistemas com base em como os dados moldam os mapeamentos de entrada-saída. Isto vai além das classificações binárias para permitir uma análise granular de sistemas híbridos.
• Clarificação Regulatória para Modelos Estatísticos: Os autores demonstram que técnicas comuns de pontuação de crédito ocupam diferentes níveis do quadro. Especificamente, mostram que, embora a regressão logística padrão com características fixas seja Nível 1, a adição de binning orientado por dados (Nível 3a) ou seleção de características stepwise (Nível 2) altera a capacidade de inferência do sistema.
• Análise ao Nível do Fluxo de Trabalho: O artigo argumenta que a avaliação regulatória não pode limitar-se ao modelo preditivo final. Em vez disso, todo o fluxo de trabalho de processamento de dados deve ser avaliado, pois as etapas de pré-processamento, como o binning e a seleção de variáveis, podem introduzir capacidades de inferência que o modelo final isoladamente poderá não possuir.
• Papel do Especialista Humano: A análise destaca que o envolvimento humano durante a fase de desenvolvimento (ex: definição de restrições, seleção manual de variáveis) pode influenciar significativamente se um sistema é considerado como tendo a capacidade de inferir, mantendo potencialmente o sistema dentro da categoria de "processamento de dados básico", mesmo que utilize modelos estatísticos.

Resultos
A aplicação do quadro aos fluxos de trabalho de pontuação de crédito revela que estes sistemas são frequentemente compostos:

• Binning: O binning manual permanece no Nível 0 ou 1. No entanto, os métodos de binning orientados por dados (como os que otimizam a entropia) constituem o Nível 3a (Construção Estrutural Explícita), uma vez que a estrutura de partição é funcionalmente construída a partir dos dados, em vez de ser selecionada de um catálogo fixo.
• Regressão Logística: Um modelo de regressão logística padrão com características pré-selecionadas é Nível 1. Contudo, quando combinado com seleção de características stepwise, o sistema opera no Nível 2 (Seleção Estrutural).
• Limiar Regulatório: Os autores sugerem que, se as Diretrizes da Comissão forem interpretadas estritamente para excluir sistemas que meramente "aceleram" a otimização tradicional, os sistemas de Nível 1 (adaptação paramétrica) podem ficar fora do âmbito do Regulamento da IA. Inversamente, sistemas que exibem Nível 2 ou superior (seleção ou construção estrutural) alinham-se mais proximamente com a definição do Regulamento.
• Resolução de Ambiguidade: O estudo ilustra que um único sistema de pontuação de crédito pode conter componentes em diferentes níveis. Consequentemente, a "capacidade de inferir" não é uma propriedade intrínseca do algoritmo isoladamente, mas uma propriedade da implementação e do fluxo de trabalho específicos.

Significância
O artigo afirma que a sua principal significância reside em fornecer uma ferramenta técnica para operacionalizar o conceito jurídico de "capacidade de inferir" para reguladores e profissionais do setor. Ao demonstrar que nem todos os sistemas baseados em dados são iguais nas suas capacidades de inferência, o quadro oferece uma base para um tratamento regulatório consistente de casos limítrofes, particularmente em setores de alto risco como a pontuação de crédito. Os autores enfatizam que o seu trabalho não resolve definitivamente o estatuto jurídico da regressão logística, mas sim clarifica as distinções técnicas necessárias para tal determinação, destacando que o envolvimento de especialistas humanos e o desenho específico do fluxo de trabalho são fatores críticos para determinar se um sistema cumpre a definição do Regulamento da IA.