Online Conformal Prediction Beyond Feedback

Formulação do Problema: Predição Conformal Online Além do Feedback

A quantificação de incerteza é crítica para o deployment de aprendizado de máquina em aplicações de segurança crítica. A Predição Conformal Online (OCP) oferece um framework teoricamente fundamentado para gerar conjuntos de predição que garantem que o rótulo verdadeiro esteja incluído com uma frequência especificada pelo usuário, mesmo para fluxos de dados não-i.i.d. e classificadores de caixa-preta. No entanto, os métodos padrão de OCP dependem de um ciclo de feedback: após emitir um conjunto de predição, o algoritmo recebe um feedback (seja o rótulo verdadeiro ou um sinal de cobertura) para ajustar conjuntos futuros, compensando falhas de cobertura passadas.

Este artigo aborda um cenário onde tal feedback é indisponível ou proibitivo. Em muitos cenários de segurança crítica, como sondas latentes para Large Language Models (LLMs), um algoritmo pode precisar classificar entradas em categorias de segurança. Se a sonda se abstém (consulta um humano ou um sistema mais forte), o rótulo pode eventualmente tornar-se disponível. No entanto, para entradas onde a sonda faz uma decisão implantada, o rótulo nunca é observado. Isso cria um cenário de "além do feedback": o aprendiz deve escolher entre emitir um conjunto de predição ou consultar o rótulo correto, mas não pode fazer ambos. Consequentemente, o aprendiz nunca observa se um conjunto de predição implantado foi correto, impedindo os mecanismos de compensação padrão usados nos métodos de OCP existentes.

Metodologia: OCP com Consultas (OCPQ)

Os autores propõem a Predição Conformal Online com Consultas (OCPQ), um método projetado para este protocolo de além do feedback. A abordagem procede em duas etapas principais:

1. Redução para Monitoramento Parcial: O problema é reduzido a um jogo de monitoramento parcial finito. Os "braços" do jogo consistem em um conjunto finito de limiares de predição $M \subset [0, 1]$ e uma ação de consulta separada.

   • Ação de Predição: Selecionar um limiar $m \in M$ gera um conjunto de predição $\Gamma_C(x_t, m)$ baseado em um classificador de caixa-preta $C$. Esta ação não produz observação (feedback nulo $\perp$) e nenhum reward direto.
   • Ação de Consulta: Selecionar a ação de consulta revela o rótulo verdadeiro $y_t$, mas não produz um conjunto de predição e gera zero reward.
   • Estrutura de Reward: O algoritmo define uma função de reward auxiliar $R(m, t)$. Se o rótulo verdadeiro for coberto pelo conjunto de predição ($y_t \in \Gamma_C(x_t, m)$), o reward é $1 - m(1-\beta)$, onde $\beta$ é um parâmetro definido pelo usuário que controla o trade-off entre cobertura e eficiência. Se o rótulo não for coberto, o reward é 0. A ação de consulta sempre gera 0 de reward. Esta estrutura incentiva o aprendiz a selecionar limiares apertados (pequeno $m$) enquanto mantém a cobertura.

2. Design do Algoritmo: O OCPQ adapta o forecaster exponencialmente ponderado com eficiência de rótulo de Cesa-Bianchi, Lugosi e Stoltz (2004).

   • Em cada rodada $t$, o algoritmo realiza uma consulta com uma probabilidade fixa $\epsilon$.
   • Se uma consulta é feita, o rótulo verdadeiro $y_t$ é observado. O algoritmo então atualiza as estimativas de reward cumulativo $\hat{Z}_{m,t}$ para todos os limiares $m \in M$ usando um esquema de ponderação por probabilidade inversa, reconstruindo efetivamente o reward que teria sido obtido caso uma predição tivesse sido feita.
   • Se nenhuma consulta é feita, o algoritmo amostra um limiar $m_t$ de uma distribuição exponencialmente ponderada baseada nas estimativas atuais $\hat{Z}_{m,t}$ e emite o respectivo conjunto de predição. Nenhum feedback é recebido.

Resultados Teóricos

O artigo estabelece garantias de horizonte finito para o OCPQ sob um fluxo de dados adversário oblívio de comprimento $T$:

• Regret: O regret esperado em relação ao melhor limiar fixo no passado é $O(T^{2/3})$. Especificamente, com $\epsilon = T^{-1/3}$ e $\eta = T^{-2/3}\sqrt{\ln|M|}$, o regret é limitado por $T^{2/3}(2\sqrt{\ln|M|} + 1)$. Os autores observam que esta taxa é assintoticamente ótima para esta classe de jogos de monitoramento parcial.
• Cobertura: A taxa de cobertura esperada $p_{cover}$ satisfaz:
  $$E[p_{cover}] \ge \beta - O(T^{-1/3})$$
  Isso garante que a cobertura se aproxime do alvo definido pelo usuário $\beta$ conforme $T$ aumenta.
• Taxa de Consulta: O algoritmo consulta o rótulo em apenas uma fração esperada de $T^{-1/3}$ das rodadas.
• Limites de Alta Probabilidade: O artigo também deriva limites de alta probabilidade para tanto o regret quanto a cobertura, demonstrando que a variância do desempenho do algoritmo é controlada e não exibe comportamento patológico.

Resultados Empíricos

Experimentos foram conduzidos em datasets do mundo real para validar a abordagem:

• Mudança de Distribuição: O OCPQ foi testado em benchmarks padrão (MNIST, CIFIA-10, CIFAR-100) onde a distribuição de treinamento diferia da distribuição de teste (ex: de MNIST para USPS, ou MNIST para MNIST-C). Os resultados mostraram que o trade-off cobertura-eficiência pode ser controlado via o parâmetro $\beta$. A cobertura empírica consistentemente excedeu o limite teórico.
• Monitoramento de Segurança de LLM: O método foi aplicado ao monitoramento de segurança para prompts de LLM usando o dataset WildGuardMix, que inclui prompts vanilla e adversariamente reescritos. A acurácia do classificador base caiu significativamente em prompts adversários, mas o OCPQ manteve a cobertura acima do limite teórico enquanto mantinha os conjuntos de predição informativos.
• Comparação: Comparado ao Adaptive Conformal Inference (ACI), que assume feedback total, o OCPQ alcançou fronteiras de cobertura-eficiência comparáveis, apesar de usar significativamente menos informação (consultando apenas ~5% das rodadas).

Significância e Contribuições

O artigo afirma as seguintes contribuições:

1. Novo Protocolo: Formula o OCP em um cenário de "além do feedback" onde predições implantadas nunca são avaliadas, um cenário comum em aplicações de segurança crítica onde rótulos só estão disponíveis para consultas de abstenção.
2. Redução Algorítmica: Reduz este problema a um jogo de monitoramento parcial e adapta técnicas de aprendizado adversário com eficiência de rótulo para resolvê-lo, especificamente modificando o forecaster para tratar consultas como ações distintas que substituem, em vez de seguirem, as predições.
3. Garantias Teóricas: Fornece garantias de regret esperado e cobertura de horizonte finito para o OCP neste cenário, mostrando que a quantificação de incerteza válida é possível com apenas $O(T^{-1/3})$ consultas de rótulo.
4. Efetividade Prática: Experimentos demonstram que a supervisão esparsa (consultas aleatórias) é suficiente para manter trade-offs úteis de cobertura e eficiência, mesmo sob mudanças adversárias de distribuição, sem exigir feedback das predições implantadas.

Os autores observam que, embora o método seja conservador (a cobertura empírica frequentemente excede o limite), isso é consequência das suposições fracas exigidas pela formulação do jogo de monitoramento parcial. Trabalhos futuros poderiam explorar métodos menos conservadores ou extensões para adversários adaptativos.