🤖 machine learning

The geometry of AI validation: Exact certification limits for iid best-of-N search

Este artigo estabelece limites de certificação exatos para a busca iid best-of-N ao modelar a validação como geometria de kernel sobre uma superfície de confiabilidade, derivando uma fórmula de largura de ambiguidade precisa que escala com $m^2/N$ e propondo uma regra de auditoria de dois portões para distinguir cobertura estrutural de precisão.

Autores originais: Ricardo Fitas

Publicado 2026-08-25

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Ricardo Fitas

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

A inteligência artificial moderna evoluiu para além de simplesmente responder a uma única pergunta com uma única resposta. Os sistemas atuais frequentemente geram uma ampla gama de possibilidades, comparam-nas umas com as outras e, então, selecionam a melhor opção para apresentar ao utilizador. Este processo, conhecido como busca (search), é utilizado para resolver problemas matemáticos complexos, escrever código de computador ou desenhar novas moléculas. Como o sistema está a escolher entre muitas alternativas, a fiabilidade da sua saída final depende inteiramente de como essa seleção foi feita. Se um sistema escolhe a melhor resposta de cem tentativas, a qualidade dessa resposta é diferente da qualidade de uma resposta escolhida de apenas uma tentativa. O desafio central para os cientistas é descobrir como verificar se estas respostas selecionadas são realmente corretas, especialmente quando o sistema foi treinado para escolher a "melhor" em vez de uma aleatória.

Este problema de verificação é complexo porque o ato de seleção altera a natureza da verdade que está a ser medida. Imagine um cientista que verifica o desempenho de um modelo em alguns tipos específicos de perguntas e descobre que ele é muito preciso. Se esse modelo for então usado para resolver um tipo de problema completamente diferente, ou se o processo de seleção mudar para procurar um tipo diferente de "melor" resposta, as verificações anteriores podem deixar de se aplicar. A fiabilidade do sistema não é um número fixo que permanece constante; está ligada ao método específico utilizado para encontrar a resposta. Se o método utilizado para verificar o sistema não cobrir o mesmo terreno que o método utilizado para o implementar, o sistema pode parecer fiável enquanto é, na verdade, cego aos seus próprios erros no novo contexto.

Ricardo Fitas, um investigador da Universidade Técnica de Darmstadt, desenvolveu uma forma precisa de medir exatamente quanta incerteza permanece quando tentamos validar estes sistemas de IA. O seu trabalho foca-se num cenário comum onde uma IA gera muitos candidatos e escolhe o principal com base numa pontuação. O estudo coloca uma questão fundamental: se soubermos quão fiável é o sistema quando escolhe a melhor resposta de um pequeno número de tentativas, podemos ter a certeza de quão fiável ele será quando escolhe a melhor resposta de um número muito maior? A resposta, de acordo com a investigação, é frequentemente não. Existe um limite rígido para o quanto podemos saber sem alterar a forma como testamos o sistema.

A investigação demonstra que saber o desempenho de um sistema em pequenos tamanhos de busca não garante o conhecimento do seu desempenho em grandes tamanhos de busca. Mesmo que um sistema funcione perfeitamente ao escolher a melhor resposta de dez tentativas, poderia teoricamente funcionar muito mal ao escolher de cem, e ambos os cenários seriam consistentes com os mesmos dados de teste. Isto não acontece porque os testes foram mal feitos, mas sim porque os testes simplesmente não olharam na direção certa. O estudo prova que existe uma lacuna de conhecimento específica e intransponível que existe sempre que o tamanho da busca no mundo real é maior do que o tamanho da busca utilizado durante o teste. Esta lacuna representa uma forma de cegueira estrutural: o sistema pode estar a funcionar exatamente como os testes sugerem, mas ainda assim falhar de formas que os testes nunca poderiam prever.

Para compreender isto, considere que a validação é como apontar uma lanterna para um quarto escuro. Se apenas apontar a luz para alguns pontos específicos, pode ter a certeza do que está nesses pontos, mas não pode saber o que está nos cantos escuros. Se o sistema de IA for então implementado de uma forma que exige olhar para esses cantos escuros, as suas verificações anteriores não oferecem qualquer segurança. O investigador calculou o tamanho exato desta incerteza. Para um sistema que pesquisa através de cem candidatos, se tiver testado apenas em buscas de até dezasseis candidatos, a incerteza sobre o seu verdadeiro desempenho pode ser tão alta quanto oitenta e três por cento. Isto significa que duas versões completamente diferentes do sistema poderiam passar em todos os seus testes, mas uma poderia ser quase perfeita enquanto a outra seria quase inútil perante a busca maior.

O estudo também mostra que simplesmente repetir os mesmos testes repetidamente não resolve este problema. Executar um teste mil vezes no mesmo pequeno tamanho de busca apenas reduz o ruído aleatório; não ilumina os cantos escuros. Para reduzir a incerteza, deve-se mudar o próprio teste para olhar para um tipo diferente de busca. A investigação fornece uma regra clara para como fazer isto: deve expandir o alcance dos seus testes para cobrir o mesmo terreno que a implementação no mundo real. Se quiser certificar um sistema que pesquisa através de cem candidatos, deve incluir testes que envolvam pesquisar através de cem candidatos, ou pelo menos um número próximo disso.

O artigo valida estas descobertas utilizando dados do mundo real de dois domínios diferentes: raciocínio matemático e programação de computadores. Nos experiências matemáticas, os investigadores observaram o quão bem os modelos de IA resolveram problemas ao selecionar a melhor resposta de milhares de soluções geradas. Descobriram que, embora o desempenho médio tenha melhorado à medida que o sistema pesquisava mais candidatos, problemas específicos ficaram, de facto, piores. Alguns problemas que eram resolvidos corretamente com uma pequena busca tornaram-se incorretos quando o sistema pesquisou de forma mais ampla. Da mesma forma, nas experiências de programação, os investigadores analisaram tarefas de geração de código. Descobriram que, mesmo quando a taxa de sucesso global parecia boa, tarefas individuais podiam falhar dramaticamente quando a largura da busca mudava. Estes exemplos do mundo real confirmaram que os limites teóricos da incerteza não eram apenas abstrações matemáticas, mas estavam presentes no comportamento real da IA.

Além disso, o estudo oferece uma solução prática para como desenhar melhores avaliações. Sugere uma abordagem de dois passos. Primeiro, os investigadores devem garantir que os seus testes cobrem a amplitude estrutural da tarefa do mundo real. Isto significa testar o sistema na mesma escala de busca que este enfrentará na prática. Segundo, uma vez estabelecida essa cobertura estrutural, podem adicionar mais tarefas independentes para reduzir o ruído aleatório e melhorar a precisão. A investigação mostra que a recolha de mais rótulos ou dados só é eficaz se os dados forem recolhidos na direção certa. Por exemplo, nas experiências de programação, a recolha de rótulos especificamente para os candidatos com as pontuações mais altas reduziu a taxa de erro significativamente mais do que a recolha de rótulos para candidatos aleatórios. Isto destaca que a direção do teste importa mais do que o volume bruto de dados.

As conclusões servem como um aviso contra assumir que um sistema é seguro só porque passou numa bateria de testes padrão. Se esses testes não corresponderem à forma específica como o sistema será utilizado, o sistema poderá albergar falhas ocultas que só aparecerão quando for implementado. O estudo não afirma que a busca de IA está partida ou que não pode ser melhorada; antes, clarifica que as regras para provar que um sistema funciona são mais rigorosas do que se pensava anteriormente. Estabelece que a validação não é uma verificação única, mas um processo contínuo que deve evoluir juntamente com as capacidades do sistema. Ao compreender a geometria destes limites, os desenvolvedores podem desenhar auditorias que certifiquem verdadeiramente a fiabilidade dos sistemas de IA, garantindo que as respostas que fornecem são dignas de confiança não apenas no laboratório, mas no mundo real.

Resumo Técnico: A Geometria da Validação de IA

Definição do Problema
Sistemas de IA modernos dependem cada vez mais de busca em tempo de inferência (ex: seleção best-of- $N$ ) para gerar e selecionar alternativas. Este artigo argumenta que tais mecanismos de seleção alteram fundamentalmente a população cuja confiabilidade importa. Consequentemente, a validação torna-se relativa ao alvo: a confiabilidade de um modelo não é um escalar intrínseco, mas uma propriedade da inferência específica produzida por uma regra de implantação.

O problema central é a cegueira estrutural. Se um alvo de implantação (ex: a confiabilidade do best-of- $N$ ) reside fora do "espaço" das direções observadas pelas intervenções de validação (ex: auditorias best-of- $m$ para $m < N$ ), então nenhuma quantidade de amostragem adicional dentro do quadro de validação existente pode resolver a ambiguidade. Dois mundos de confiabilidade distintos podem concordar perfeitamente em todos os dados de auditoria, mas discordar arbitrariamente sobre o alvo de implantação. Este artigo formaliza os limites exatos de certificação deste fenômeno para o problema canônico de busca iid best-of- $N$ .

Metodologia e Estrutura Teórica
O artigo modela a validação como um problema inverso geométrico envolvendo três núcleos:

$f$ : A superfície de confiabilidade desconhecida ( $0 \le f \le 1$ ).
$v_j$ : Núcleos de validação representando as direções observadas pelas auditorias.
$k$ : O núcleo de implantação representando o alvo de interesse.

O autor define o resíduo cego $b(k; V)$ como a distância $L^1$ entre o núcleo de implantação $k$ e o span dos núcleos de validação $V = \text{span}\{v_1, \dots, v_p\}$ .

O Teorema do Span (Teorema 1): A separação máxima entre dois mundos de validação equivalentes (mundos que concordam em todas as auditorias) é exatamente $b(k; V)$ . Se $k \notin \text{span}(V)$ , a identificação exata é impossível, independentemente do tamanho da amostra.
Inferência Pós-Seleção: O artigo estabelece que quando um alvo de implantação é selecionado após a inspeção de evidências, a validade exige proteção simultânea sobre toda a família selecionável, não apenas confiança pontual.
Especialização Best-of- $N$ : Para candidatos iid com ranking escalar e empates randomizados, a confiabilidade best-of- $n$ corresponde ao momento $\theta_n = \langle k_n, f \rangle$ onde $k_n(u) = n u^{n-1}$ . O problema de validação reduz-se a determinar a largura de pior caso do conjunto identificado para $\theta_N$ , dado o conhecimento exato de $\theta_1, \dots, \theta_m$ .

Principais Contribuições e Resultados

Limites de Certificação Exatos (Teorema 2):
O artigo deriva uma expressão de forma fechada para a largura identificada de pior caso $W_{m,N}$ ao auditar através de $n=m$ para certificar $N$ :
$B_{m,N} = 1 + 2 \sum_{r=1}^m (-1)^r \cos^{2N} \left( \frac{r\pi}{2(m+1)} \right)$
Este valor é a ambiguidade exata atingível. O artigo constrói explicitamente mundos "Chebyshev-sign" ( $f_\pm$ ) que concordam em todas as auditorias $n \le m$ , mas alcançam os extremos deste intervalo em $N$ .
Maximalidade de Informação (Proposição 2):
Entre todos os cronogramas de auditoria confinados a larguras $n \le m$ (incluindo misturas aleatórias ou escolhas sequenciais), o prefixo completo ( $n=1, \dots, m$ ) é o de informação máxima. Nenhuma outra combinação de auditorias de baixa largura pode reduzir a ambiguidade de pior caso abaixo de $B_{m,N}$ .
Lei de Fase e Escalonamento (Corolário 1):
A escala governante para a ambiguidade é a razão $m^2/N$ .
- Quando $m \sim \sqrt{N}$ , a ambiguidade limitante permanece aproximadamente 0,83, o que significa que auditar até $\sqrt{N}$ ainda permite uma confiabilidade próxima aos extremos opostos do intervalo unitário.
- Para alcançar uma ambiguidade pequena $\epsilon$ , a profundidade de auditoria necessária escala como $m \sim \sqrt{N \log(1/\epsilon)}$ .
Robustez a Restrições de Forma (Teorema 3):
O artigo investiga se a cegueira estrutural persiste sob restrições de regularidade (monotonicidade e continuidade Lipschitz).
- Monotonicidade: Reduz o problema à aproximação monomial uniforme, com a ambiguidade escalando como $O(L/m^2)$ .
- Limites Lipschitz: A ambiguidade permanece da ordem de $L/m^2$ . Embora a regularidade reduza a magnitude do erro, ela não elimina a competição fundamental entre a resolução de auditoria $m^{-2}$ e a concentração de implantação $N^{-1}$ .
Regra de Auditoria de Dois Portões (Two-Gate Audit Rule):
O autor propõe um framework de decisão prático:
- Portão Estrutural: Primeiro, garanta que $B_{m,N} \le \epsilon$ . Se isso falhar, nenhuma quantidade de tarefas adicionais independentes (replicação) pode atingir a precisão desejada; novas direções de intervenção são necessárias.
- Portão de Amostragem: Uma vez que a cobertura estrutural seja adequada, aumente as contagens de tarefas para reduzir o ruído de amostragem.

Ilustrações Empíricas
O artigo fornece análises retrospectivas em dois conjuntos de dados públicos para demonstrar a geometria, declarando explicitamente que estas não são intervenções prospectivas ou estimativas de prevalência:

Raciocínio Matemático (GSM8K): Usando 127 problemas e 2,54 milhões de soluções, o estudo mostra que, embora o ranking agregado seja alto (AUC $\approx$ 0,9), problemas específicos exibem "reversões" onde o aumento da largura de busca ( $n=1 \to 4096$ ) diminui a verdade.
Geração de Código (CodeRM/HumanEval+): Usando 164 tarefas e 32.300 programas, o estudo constrói "mundos compatíveis" viáveis que coincidem com os primeiros 8 momentos de auditoria, mas preveem valores de verdade para best-of-100 variando de 0,186 a 0,992 (para 8B) e 0,305 a 0,996 (para 70B), apesar da verdade observada ser 0,715 e 0,788 respectivamente.
Aquisição de Rótulos: Um replay retrospectivo mostra que coletar rótulos na direção da implantação (scores da cauda superior) reduz significativamente o erro de estimativa em comparação com a amostragem uniforme, validando o princípio do "portão estrutural".

Significância e Escopo
O artigo afirma fornecer os objetos de identificação exatos e atingíveis para o cenário específico de busca best-of-N iid com verdade limitada. Sua significância reside em:

Formalizar a validação como um problema inverso relativo ao alvo, onde a cegueira estrutural é distinta do ruído de amostragem.
Provar que a replicação não pode corrigir a cegueira estrutural; apenas expandir o span das intervenções (ex: auditar diretamente o vencedor da implantação) pode.
Fornecer limites exatos e não assintóticos ( $B_{m,N}$ ) que servem como um limite inferior para a dificuldade de certificação.

Limitações e Alegações
O autor é explícito quanto aos limites de suas alegações:

Os resultados de forma fechada aplicam-se estritamente a candidatos iid, ranking escalar, empates randomizados e seleção de máximo.
A geometria aplica-se a núcleos conhecidos ou estimados independentemente. Não fornece certificados para geradores adaptativos onde a política ou o histórico não são modelados.
As análises empíricas são demonstrações ilustrativas do mecanismo em populações públicas fixas, não estimativas de quão frequentemente esses "mundos de pior caso" ocorrem na prática, nem alegam eficácia prospectiva das regras de auditoria propostas.
O artigo não afirma novos teoremas em espaços de momentos ou recuperação ótima, mas sim especializa ferramentas matemáticas estabelecidas (momentos de Hausdorff, aproximação de Chebyshev) para a geometria específica da validação de IA.

Resumo Técnico: A Geometria da Validação de IA

Mais como este