🤖 machine learning

On design-unbiased algorithmic Machine Learning

Este artigo propõe uma estrutura baseada em delineamento para alcançar previsões e classificações não viesadas em algoritようmos de aprendizado de máquina ao aproveitar probabilidades de amostragem conhecidas em vez de assumir modelos de dados subjacentes, abordando, assim, a necessidade de inferência não viesada em contextos como o de estatísticas oficiais.

Autores originais: Li-Chun Zhang, Siu-Ming Tam, Luis Sanguiao-Sande, Wesley Yung, Anders Holmberg

Publicado 2026-06-30

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Li-Chun Zhang, Siu-Ming Tam, Luis Sanguiao-Sande, Wesley Yung, Anders Holmberg

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um chef tentando criar a receita perfeita para um banquete massivo de 10.000 convidados (a população). Você não pode provar cada um dos pratos antes de servir, então você pega uma pequena colherada para degustação na cozinha (a amostra) para julgar toda a refeição.

No mundo do Aprendizado de Máquina (ML), os chefs geralmente tentam tornar sua colherada de degustação o mais "precisa" possível, minimizando erros. Eles ajustam sua receita até que o sabor na colher seja perfeito. No entanto, os autores deste artigo argumentam que um sabor perfeito na colher não garante que o banquete inteiro terá um gosto bom. Às vezes, a colherada foi apenas sorte, ou a maneira como você pegou a colherada foi tendenciosa, levando a uma colher "deliciosa", mas um banquete "salgado".

Este artigo é sobre uma nova forma de cozinhar: Aprendizado de Máquina com Design Não Enviesado (Design-Unbiased Machine Learning). Em vez de apenas esperar que a colherada represente todo o pote, eles usam um conjunto estrito de regras (um "design") para garantir que o que você aprende com a colher represente matematicamente todo o pote, mesmo que você não conheça a "receita verdadeira" do universo.

Aqui está a divisão do método deles usando analogias simples:

1. O Problema: A "Colher de Sorte"

Algoritmos padrão de ML (como k-Nearest Neighbors ou Random Forests) são como chefs que provam um prato e dizem: "Isso está bom!", baseando-se nos ingredientes que veem. Eles tentam minimizar a diferença entre seu palpite e o sabor real.

O Problema: Se você pegar sua colher de degustação do topo do pote (onde está o creme), seu palpite sobre todo o pote será tendencioso. Você pode achar que toda a sopa é cremosa, mas o fundo é aguado. Em estatística, isso é chamado de viés (bias). O ML padrão tenta ser "preciso" (baixo erro), mas frequentemente falha em ser "não enviesado" (honesto sobre toda a população).

2. A Solução: A Regra do "Treinamento Representativo"

Os autores introduzem o conceito de Treinamento Representativo.

A Analogia: Imagine que você tem um saco de bolinhas de gude (a população). Você retira um punhado (a amostra). Para fazer uma previsão justa sobre o resto do saco, você precisa garantir que o punhado que você usou para treinar seu cérebro (o conjset de treinamento) seja um reflexo justo do punhado que você está usando para testar seu cérebro (o conjunto de teste).
A Regra: Se você escolher suas bolinhas de treinamento e suas bolinhas de teste usando um sistema de loteria específico e justo (chamado pq-design), então a "média de palpites" que seu algoritmo faz para as bolinhas de teste será exatamente a mesma que ele faria para as bolinhas que ele nunca viu.
Por que isso importa: Isso permite que você use os erros que vê na sua colher de teste para corrigir sua previsão para o pote inteiro.

3. O Ajuste: "Out-of-Bag" (Fora da Panela)

Uma vez que você tenha essa configuração justa, você pode corrigir o viés.

A Analogia: Imagine que seu chef (o algoritmo) prova uma colherada e diz: "Acho que a sopa está muito salgada". Mas espere, o chef cometeu um erro porque ele provou a colherada enquanto estava cozinhando aquela colherada específica.
O Truque: Os autores sugerem usar uma abordagem "Out-of-Bag" (OOB). Isso é como ter um segundo chef provando a sopa sem ter ajudado a cozinhar aquela colherada específica.
- Você divide sua amostra em dois grupos: Grupo A (Treino) e Grupo B (Teste).
- Você treina o algoritmo no Grupo A.
- Você pede ao algoritmo para prever o Grupo B.
- Você compara a previsão com o sabor real do Grupo B.
- A Magia: Se o algoritmo consistentemente superestima o salgado no Grupo B, você sabe que provavelmente superestimará o salgado para o pote inteiro. Você então subtrai esse "valor de superestimação" da sua previsão final.
O Resultado: Este "ajuste" garante que sua previsão final para toda a população seja não enviesada. Não importa se o seu algoritmo é complexo ou simples; se as regras de amostragem forem seguidas, a matemática garante que o resultado seja justo.

4. Classificação vs. Predição (O Menu "Sim/Não")

O artigo também analisa a classificação (ex: "É um campo de café ou não?" em vez de "Quanto café há lá?").

O Desafio: Se você apenas disser "Sim" ou "Não" com base em um limite (ex: "Se a probabilidade > 50%, é café"), você frequentemente introduz viés.
A Correção: Os autores sugerem o uso de um classificador randomizado. Em vez de um "Sim/Não" rígido, imagine jogar uma moeda ponderada. Se o algoritmo diz que há 70% de chance de ser café, você joga uma moeda que cai em "Café" 70% das vezes.
Por que: Essa aleatoriedade suaviza os erros. Quando você tira a média desses lançamentos de moeda sobre toda a população, a matemática resulta em algo perfeitamente não enviesado, permitindo que você conte com precisão quantos campos de café existem no país.

5. Prova no Mundo Real (As Fotos de Satélite)

Para provar que isso funciona, os autores usaram um conjunto de dados real de imagens de satélite para identificar campos de café.

Eles pegaram uma amostra de imagens, treinaram um algoritmo k-Nearest Neighbor (kNN) e aplicaram o ajuste "Out-of-Bag".
O Resultado: O algoritmo padrão (sem o ajuste) cometeu erros pequenos, mas perceptíveis, na contagem total. O algoritmo ajustado, usando as novas regras deles, produziu uma contagem que era estatisticamente indistinguível do total real (não enviesado).
Bônus: Eles também mostraram que você pode medir o quão precisa é a classificação "Sim/Não" sem precisar saber a resposta verdadeira para cada imagem individual, simplesmente usando a mesma lógica "Out-of-Bag".

Resumo

Pense neste artigo como um novo conjunto de regras de segurança na cozinha para o Aprendizado de Máquina.

Não confie apenas no sabor: O ML padrão tenta minimizar o erro, mas isso não garante justiça.
Siga a loteria: Use regras de amostragem específicas (pq-design) para garantir que seus dados de treinamento e de teste sejam reflexos justos do todo.
Prove as sobras: Use os erros "Out-of-Bag" (o que o algoritmo errou no conjunto de teste) para corrigir matematicamente a previsão final para toda a população.
A Garantia: Se você seguir essas regras, seu número final (seja uma contagem total ou uma taxa de classificação) será não enviesado, o que significa que é uma representação verdadeira do mundo real, independentemente de quão complexa seja sua "receita" (algoritmo).

Isso é crucial para coisas como estatísticas governamentais oficiais, onde ser "próximo" não é suficiente; você precisa ser matematicamente honesto sobre toda a população, não apenas sobre a parte que você teve a chance de observar.

Resumo Técnico: Aprendizado de Máquina Algorítmico Não Enviesado pelo Desenho

Definição do Problema

Algoritmos de Aprendizado de Máquina (ML), como k-Vizinhos Mais Próximos (kNN) e Florestas Aleatórias (Random Forests), priorizam o desempenho preditivo (ex: minimizar o MSE ou o F-score) em detrimento da existência de modelos de dados verdadeiros. Embora eficazes para predição, a minimização dessas métricas não garante inerentemente a ausência de viés na estimação ou classificação. Essa falta de imparcialidade é crítica em aplicações como estatísticas oficiais, onde totais populacionais e proporções devem ser descritores precisos de populações finitas.

A amostragem de levantamento tradicional baseia-se em desenhos de probabilidade (p-designs) e estimadores como o de Horvitz-Thompson para garantir a imparcialidade em relação ao desenho, independentemente de qualquer modelo de dados subjacente. No entanto, quando algoritmos de ML são integrados a este arcabouço — frequentemente treinados em subconjuntos da amostra (conjuntos de treinamento) para prever resultados para o restante (unidades fora da amostra) — as práticas padrão de ML podem introduzir viés. A literatura existente frequentemente recorre à consistência assintótica (quando $N \to \infty$ ) — o que pode não se aplicar a populações finitas como "entidades reais". Além disso, trabalhos anteriores sobre ML com imparcialidade de desenho (ex: Zhang et al., 2025) não abordaram plenamente as condições gerais sob as quais algoritmos de ML produzem predições imparciais em relação ao desenho ou como avaliar a precisão de classificação sem viés.

Metodologia

O artigo propõe um arcabouço para Aprendizado de Máquina Algorítmico com Imparcialidade de Desenho baseado em um $pq$-design. Este design consiste em:

$p$ -design: Um desenho de amostragem probabilística selecionando uma amostra $s$ de uma população finita $U$ .
$q$ -design: Um desenho específico para dividir a amostra $s$ em um conjunto de treinamento $s_1$ e um conjunto de teste $s_2$ (onde $s_2 = s \setminus s_1$ ).

A principal contribuição teórica é o conceito de Treinamento Representativo. Um $pq$-design produz um treinamento representativo se o preditor esperado $\mu(x, s_1)$ para qualquer unidade $i$ for idêntico, quer $i$ esteja no conjunto de teste $s_2$ (dentro da amostra, mas fora do treinamento) ou no conjunto fora da amostra $R = U \setminus s$ . Matematicamente, isso requer:
$E_{pq}(\mu(x_i, s_1) \mid i \in s_2) = E_{pq}(\mu(x_i, s_1) \mid i \notin s)$

Os autores derivam condições sob as quais isso ocorre:

Condição Geral: A covariância entre o preditor e a probabilidade de inclusão condicional do conjunto de teste deve ser zero.
Condição Suficiente: A probabilidade condicional de uma unidade estar no conjunto de teste dado o conjunto de treinamento, $\pi_{2i} = Pr(i \in s_2 \mid s_1)$ , deve satisfazer uma relação específica com a probabilidade de inclusão global $\pi_i$ . Isso é satisfeito por desenhos como SRS-SRS (Amostragem Aleatória Simples para ambos os estágios) e desenhos Poisson-Bernoulli.

Ajuste para Imparcialidade

Mesmo com treinamento representativo, os preditores padrão de ML podem ser enviesados. O artigo introduz um mecanismo de ajuste para alcançar a imparcialidade exata em relação ao desenho:

Subamostragem de Rao-Blackwell (SRB): O preditor é calculado pela média de todos os possíveis cortes de treinamento/teste para reduzir a variância.
Correção de Viés: Um termo de correção $\tau_\mu(s)$ é subtraído do preditor SRB. Este termo é derivado da soma ponderada dos erros de predição Out-of-Bag (OOB) dentro da amostra.
Estimação Imparcial: O artigo fornece fórmulas para estimar o viés e o Erro Quadrático Médio (MSE) desses estimadores ajustados usando os erros OOB observados e pesos de amostragem, sem assumir um verdadeiro modelo de dados.

Classificação

O arcabouço estende-se à classificação binária. Os autores argumentam que classificadores determinísticos (ex: limiar em 0,5) geralmente falham em serem imparciais em relação ao desenho. Em vez disso, eles propõem classificadores randomizados (onde a decisão de classificação é probabilística com base na probabilidade prevista), que satisfazem uma condição de regularidade que permite a estimativa imparcial da precisão de classificação fora da amostra usando os erros OOB.

Principais Resultados

O artigo valida a teoria através de exemplos analíticos, simulações e uma aplicação de dados reais utilizando kNN ( $k=5$ ).

Exemplo Analítico: Em uma população construída, os preditores padrão kNN e SRB-kNN exibiram viés não nulo. No entanto, o OOB-tuned SRB-kNN (usando a correção proposta) alcançou exatamente zero de viés.
Estudo de Simulação:
- A aplicação direta de kNN (sample-kNN) e o SRB-kNN não ajustado resultaram em viés significativo (ex: $EBias \approx -0,795$ para SRB-5NN em um cenário).
- O OOB-tuned SRB-kNN conseguiu reduzir o viés para níveis próximos de zero ( $EBias \approx -0,069$ ) enquanto mantinha MSE competitivo ou inferior em comparação com alternativas ajustadas por resíduos.
- O estudo demonstrou que o método proposto permite a estimação imparcial do viés e do MSE dos próprios preditores.
Aplicação no Mundo Real (Dataset CropHarvest):
- Aplicado à classificação de imagens de satélite (campos de café vs. não-café).
- Os resultados confirmaram que o OOB-tuned SRB-5NN é essencialmente imparcial para as médias populacionais através de diferentes conjuntos de características.
- Impacto da Seleção de Características: O estudo destacou que a seleção de características é crítica. Conjuntos de características ruins (ex: selecionados via LASSO para regressão logística, mas usados para kNN) aumentaram tanto o viés quanto a variância.
- Troca de Precisão de Classificação: Embora a remoção do viés garanta uma estimativa populacional precisa, o processo de ajuste pode ocasionalmente empurrar as probabilidades previstas para fora do intervalo $[0, 1]$ , exigindo truncamento. Isso pode reduzir ligeiramente a precisão da classificação em comparação com preditores enviesados. O artigo observa que uma seleção de características sensata pode mitigar esse risco.

Significância e Alegações

O artigo afirma fornecer uma base teórica rigorosa para o uso de ML em inferência de populações finitas onde a imparcialidade de desenho é primordial. Sua significância reside em:

Generalização de Amostragem Representativa: Estende o conceito de "treinamento representativo" de ambientes IID (como validação cruzada) para amostragem de populações finitas com probabilidades desiguais e sem reposição.
Desacoplamento de Modelos Verdadeiros: Demonstra que a imparcialidade pode ser alcançada baseando-se apenas no desenho de probabilidade conhecido da amostra e dos conjuntos de treinamento, sem exigir que o algoritmo de ML aproxime um "verdadeiro" modelo de dados.
Ajuste Prático: Oferece uma receita concreta e implementável (ajuste OOB) para corrigir o viés em algoritmos populares como kNN e Florestas Aleatórias.
Inferência Unificada: Permite a avaliação imparcial tanto dos erros de predição quanto da precisão de classificação para unidades fora da amostra, preenchendo uma lacuna na literatura anterior.

Os autores posicionam este trabalho como uma extensão do trabalho fundamental de Neyman (1934) sobre amostragem de populações finitas, fornecendo uma base intuitiva para a estimação "consistente" de ML em estatísticas oficiais e outras aplicações de população finita. Eles reconhecem que, embora a estimação populacional imparcial seja alcançada, isso pode ocorrer ao custo de uma precisão de classificação por unidade ligeiramente reduzida, uma troca que merece pesquisas futuras.