Resumo Técnico: Um Benchmark para Jogadas Estratégicas de Auditados sob Monitoramento Contínuo de Conformidade

Declaração do Problema

Regulamentações emergentes, especificamente o Ato de IA da UE e o Ato de Serviços Digitais (DSA), exigem monitoramento contínuo de conformidade pós-implementação para sistemas de IA e grandes plataformas online. Diferentemente de trabalhos anteriores sobre classificação estratégica e jogos de auditoria, que tipicamente modelam interações de uma única rodada, esses novos regimes criam uma relação de auditoria longitudinal. Nesse cenário, uma empresa regulada (o auditado) reporta métricas de resultado ao longo de múltiplas rodadas, enquanto um auditor (regulador) seleciona quais rodadas scrutinizar com base em uma política temporal.

O artigo identifica uma lacuna crítica: a literatura existente assume amplamente auditados "honestos, mas curiosos" ou interações de rodada única. Ela falha em modelar como um auditado adaptativo, possuindo discricionariedade sobre o momento do reporte, definições de métricas e cobertura populacional, pode estrategicamente "jogar" um sistema de auditoria contínua. Evidências empíricas do Banco de Dados de Transparência do DSA já mostram inconsistências nos relatórios de moderação e "pontos cegos de auditoria" criados por restrições de API, sugerindo que a adaptação estratégica é um fenômeno do mundo real que requer análise formal.

Metodologia

Os autores formalizam a auditoria de conformidade contínua como um jogo de Stackelberg de $T$ rodadas:

• O Auditor (Líder): Compromete-se com uma política temporal $\pi$ em $t=0$ (por exemplo, um cronograma fixo ou uma distribuição aleatorizada) que determina quais rodadas são auditadas. A regra de decisão nas rodadas auditadas é um limiar estilo Wald consciente de ruído, onde a faixa de aceitação se amplia para tamanhos de amostra menores ($n_t$) para contabilizar a incerteza estatística.
• O Auditado (Seguidor): Observa a política comprometida do auditor e escolhe uma métrica reportada $\hat{m}_t$ e um tamanho de amostra $n_t$ para cada rodada. O auditado pode adaptar estratégias com base no cronograma de auditoria e no histórico de detecção.

O Artefato de Benchmark

Para apoiar o estudo empírico, os autores contribuem com um simulador Python reproduzível apresentando:

1. Cinco Estratégias de Auditado:
   • Atraso: Atrasando deslocamentos desfavoráveis de métricas.
   • Deriva: Adicionando um viés fixo à métrica verdadeira.
   • Seleção Seletiva (Cherry-pick): Selecionando o máximo de $K$ estimativas estocásticas de métricas.
   • Esgotamento (Attrition): Reduzindo o tamanho da amostra ($n_t$) quando as métricas são desfavoráveis para ampliar a tolerância ao ruído do auditor, enquanto aplica uma pequena deriva.
   • DerivaForaAuditoria (OffAuditDrift): Uma estratégia consciente da auditoria que reporta honestamente nas rodadas auditadas e deriva em todas as outras, explorando o cronograma comprometido do auditor.
2. Cinco Políticas de Auditor:
   • Linhas de Base Estáticas: Rodada única, Periódica e Programada-aleatória.
   • Extensões: Piso de amostra mínima (exigindo um $n_t$ mínimo) e Escalonamento de Suspeita (aumentando a frequência de auditoria com base em lacunas observadas).
3. Métricas de Avaliação:
   • Lacuna de Jogada ($G$): Diferença média entre métricas reportadas e verdadeiras nas rodadas auditadas.
   • Tempo-até-Detecção ($\tau_d$): Rodadas até que uma lacuna seja sinalizada.
   • Decomposição de Dano: Uma divisão não aditiva em Perda de Bem-Estar ($W$) (dano a indivíduos dentro do relatório verificado em rodadas não auditadas) e Perda de Cobertura ($C$) (dano a indivíduos excluídos do relatório devido ao esgotamento da amostra).

Principais Contribuições

1. Formalização da Auditoria Contínua (C1)

O artigo estabelece o complemento longitudinal à classificação estratégica de uma única rodada, modelando a interação como um jogo de Stackelberg de $T$ rodadas onde o auditado tem discricionariedade sobre o momento, definições e cobertura.

2. Decomposição de Dano Não Aditiva (C2)

Os autores introduzem um framework que separa o dano em $W$ (superfície auditada) e $C$ (superfície excluída). Eles argumentam que estes não são somandos de uma perda total; em vez disso, o objetivo estratégico é frequentemente a realocação do dano da superfície responsável perante o regulador ($W$) para a superfície invisível ao regulador ($C$). O esgotamento não necessariamente reduz o dano total; ele o desloca para um domínio "invisível ao regulador".

3. A Observação do Regime de Cobertura (C3)

Observação 4.1 identifica um trade-off estrutural em qualquer design de auditor estático consciente de ruído (o "regime de cobertura"). Para um intervalo específico de magnitudes de deriva ($\Delta$), uma política de cobertura temporal estática enfrenta um trade-off vinculativo:

• Falha de Cobertura: Se o conjunto de auditoria não for exaustivo ($\mathcal{A}_\pi \subsetneq \{0, \dots, T-1\}$), um auditado pode derivar em rodadas não auditadas sem detecção.
• Falha de Granularidade: Se o conjunto de auditoria for exaustivo, um auditado pode reduzir o tamanho da amostra ($n_t$) para ampliar o envelope de ruído, permitindo que uma deriva dentro do "regime de cobertura" escape da detecção.
  A observação prova que uma política estática não pode fechar ambas as lacunas simultaneamente. Ela identifica uma regra estática consciente do tamanho da amostra (Piso de amostra mínima) e uma política condicionada ao histórico (Escalonamento de Suspeita) como saídas ortogonais desse regime.

4. Validação Empírica (C4)

Usando parâmetros calibrados a estatísticas do Banco de Dados de Transparência do DSA, o simulador demonstra:

• Efeito de Esgotamento: A estratégia Esgotamento reduz $W$ em ~90% enquanto cria $C$ significativa, efetivamente escondendo o dano do regulador.
• Saídas Ortogonais: A política Piso de amostra mínima detecta com sucesso o Esgotamento (fechando a falha de granularidade), mas falha contra DerivaForaAuditoria (falha de cobertura). Inversamente, Escalonamento de Suspeita detecta a Deriva ingênua mais rapidamente, mas falha contra Esgotamento.
• Exploração Consciente da Auditoria: A estratégia DerivaForaAuditoria derrota todas as políticas estáticas reportando honestamente apenas nas rodadas de auditoria conhecidas, validando o caso de "Falha de Cobertura" do Regime de Cobertura.

5. Calibração e Reprodutibilidade (C5)

O benchmark é calibrado a estatísticas resumidas de auditorias do DSA publicadas (por exemplo, envelopes de deriva, razões de tamanho de amostra) e é fornecido como um pacote instalável via pip com sementes determinísticas e uma interface Python pequena e extensível.

Resultados e Significância

O artigo afirma que a auditoria contínua cria uma classe distinta de jogadas estratégicas onde o auditado pode explorar a natureza longitudinal da relação para deslocar o dano de superfícies visíveis para invisíveis.

• Limitação Estrutural: O "Regime de Cobertura" demonstra que políticas temporais estáticas são inerentemente vulneráveis. Aumentar a frequência de auditoria não resolve falhas de granularidade (manipulação de tamanho de amostra), e impor tamanhos de amostra não resolve falhas de cobertura (momento estratégico).
• Adaptação Estratégica: A estratégia DerivaForaAuditoria prova que, se o auditor se comprometer com um cronograma determinístico ou aleatório conhecido, um auditado racional pode garantir detecção zero nas rodadas auditadas enquanto maximiza o dano nas rodadas não auditadas.
• Implicações de Política: Os resultados sugerem que a auditoria contínua eficaz exige ir além de cronogramas temporais estáticos. O artigo propõe que restrições de tamanho de amostra e escalonamento condicionado ao histórico são extensões mínimas necessárias, embora nenhuma seja suficiente por si só contra um adversário totalmente adaptativo.

A significância do trabalho reside em fornecer o primeiro ambiente executável, baseado em teoria dos jogos, para testar hipóteses sobre o comportamento de auditados adaptativos em contextos regulatórios, indo além da suposição de "honestos, mas curiosos" prevalente na literatura atual de justiça em IA. Ele destaca que, sem mecanismos de auditoria adaptativa, a conformidade contínua pode criar uma falsa sensação de segurança enquanto o dano é sistematicamente realocado para populações não monitoradas.