Resumo Técnico: Analogias Proporcionais em Distribuições de Probabilidade via Atualização Bayesiana

Declaração do Problema

O raciocínio analógico, definido pela relação quaternária "A está para B assim como C está para D" ($a:b::c:d$), tem sido extensamente formalizado nos domínios booleano, simbólico e de valores reais. No entanto, a extensão das analogias proporcionais para distribuições de probabilidade permanece amplamente inexplorada. Tentativas existentes de definir analogias entre distribuições enfrentam limitações significativas:

• Murena, Cornuéjols e Dessalles (2018) utilizaram o transporte paralelo na geometria da informação. Esta abordagem é computacionalmente exigente, restrita a distribuições dentro da mesma família paramétrica e falha em satisfazer os axiomas fundamentais de analogias proporcionais em variedades não planas.
• Prade e Richard (2025) estenderam as analogias proporcionais clássicas para distribuições categóricas utilizando restrições aritmético-geométricas. Este framework é limitado a distribuições categóricas, impõe condições excessivamente restritivas que reduzem o conjunto de analogias válidas e não aproveita a natureza estatística das distribuições de probabilidade.

O desafio central é definir uma noção de analogia proporcional para distribuições de probabilidade que satisfaça os axiomas clássicos do raciocínio analógico, aplique-se a distribuições arbitrárias e seja fundamentada nos mecanismos fundamentais da inferência probabilística.

Metodologia

A Atualização Bayesiana como Fundamento

O artigo introduz uma analogia proporcional baseada em Bayes. A hipótese central é que duas distribuições estão relacionadas se uma puder ser transformada na outra através de uma atualização bayesiana induzida por um conjunto adequado de observações.

Seja $\mathcal{P}$ um espaço de distribuições de probabilidade sobre um espaço de parâmetros $\Theta$, e $\mathcal{L}$ um modelo estatístico com verossimilhança $p(x|\theta)$. O autor define uma relação simétrica $p \xleftrightarrow{x}_{\mathcal{L}} q$ se $q$ for a posterior de $p$ dada a observação $x$, ou vice-versa.

Uma analogia proporcional baseada em Bayes $R_{\mathcal{L}}(p_A, p_B, p_C, p_D)$ ocorre se existirem observações $x_1, x_2 \in \bar{\mathcal{X}}$ (onde $\bar{\mathcal{X}}$ inclui uma observação nula $\emptyset$) tais que:

1. $p_A \xleftrightarrow{x_1}_{\mathcal{L}} p_B$ e $p_C \xleftrightarrow{x_1}_{\mathcal{L}} p_D$
2. $p_A \xleftrightarrow{x_2}_{\mathcal{L}} p_C$ e $p_B \xleftrightarrow{x_2}_{\mathcal{L}} p_D$

Esta definição baseia-se na alcancabilidade estatística: a analogia existe se a "distância" (em termos de atualizações necessárias) entre $A$ e $B$ for equivalente à distância entre $C$ e $D$, mediada pelo mesmo modelo de verossimilhança.

Caracterização Teórica: Família Exponencial

O autor prova que, para distribuições pertencentes à família exponencial, esta analogia admite uma simples caracterização aritmética no espaço de parâmetros naturais.

• Proposição 4 & Teorema 1: Para distribuições $p(.|\xi)$ em uma família exponencial com parâmetros naturais $\eta(\xi)$, a analogia $p_A : p_B :: p_C : p_D$ ocorre se, e somente se:
  1. Os parâmetros naturais satisfazem a proporção aritmética: $\eta(\xi_B) - \eta(\xi_A) = \eta(\xi_D) - \eta(\xi_C)$.
  2. OU a "solução reversa" ocorre: $\eta(\xi_A) = \eta(\xi_D)$ e $\eta(\xi_B) = \eta(\xi_C)$.
  3. Condição Crucial: Os vetores de diferença devem pertencer à imagem da estatística suficiente $S(x)$ do modelo de verossimilhança, denotada por $\text{Im}(S)$.

Este resultado implica que a "riqueza" das possíveis analogias é determinada pela geometria de $\text{Im}(S)$. Se $\text{Im}(S)$ cobrir todo o espaço de parâmetros, a analogia é maximal.

Solucionador Aproximado para Distribuições Arbitrárias

Para estender o framework além das famílias exponenciais analiticamente tratáveis, o artigo propõe um algoritmo baseado em amostragem inspirado na Computação Bayesiana Aproximada (ABC).

• Entrada: Amostras finitas das distribuições $p_A, p_B, p_C$.
• Objetivo: Encontrar uma distribuição $p_D$ (representada por amostras) e observações latentes $x, x'$ que satisfaçam as condições de consistência da analogia.
• Mecanismo:
  1. Amostragem de Posterior: Utiliza amostragem por importância para aproximar as posteriores $p(\theta|x)$ a partir das amostras a priori.
  2. Atualizações Inversas: Lida com a natureza simétrica da relação permitindo atualizações em reverso (recuperando uma a priori de uma posterior) usando reamostragem ponderada com pesos proporcionais a $1/p(x|\theta)$.
  3. Otimização: Busca conjuntos de dados latentes $(x, x')$ que minimizem a discrepância (ex: distância de Wasserstein) entre as distribuições empíricas das amostras observadas e as amostras reconstruídas.
  4. Validação: As soluções são aceitas apenas se o Tamanho Efetivo de Amostra (ESS) for suficiente e o erro de reconstrução estiver abaixo de um limite.

Principais Contribuições

1. Definição Inovadora: Introduz uma definição de analogia proporcional para distribuições de probabilidade baseada em atualização Bayesiana, que satisfaz os axiomas fundamentais das analogias proporcionais (reflexividade, simetria, permutação central).
2. Caracterização Aritmética: Prova que, para a família exponencial, a analogia reduz-se a uma proporção aritmética entre parâmetros naturais, desde que as diferenças de parâmetros estejam dentro da imagem da estatística suficiente da verossimilhança.
3. Generalização: Desenvolve um algoritmo baseado em amostragem que resolve equações analógicas para distribuições de probabilidade arbitrárias, contornando a necessidade de soluções analíticas de forma fechada.
4. Análise Teórica de Expressividade: Demonstra que a expressividade da analogia está diretamente ligada à geometria da imagem da estatística suficiente, definindo analogias "maximais" para modelos de verossimilhança específicos (ex: regressão linear gaussiana).

Resultados Empíricos

O autor avaliou o solucionador baseado em amostragem em um benchmark sintético envolvendo distribuições normais multivariadas onde a solução analítica é conhecida.

• Configuração: 3.121 equações analógicas foram geradas. Dois modelos de verossimilhança foram testados: uma verossimilhança normal padrão e uma verossimilhança de regressão linear.
• Desempenho na Verossimilhança Normal: O algoritmo recuperou 0% das soluções para a verossimilhança normal. Isso era esperado, pois o suporte da analogia para este modelo é de medida zero, confirmando que o algoritmo não gera falsos positivos.
• Desempenho na Verossimilhança de Regressão: Usando Otimização Bayesiana para buscar no espaço de observação latente, o solucionador recuperou com sucesso soluções para 1.918 de 3.121 equações (61,45%).
• Precisão: Para as execuções bem-sucedidas, a mediana da distância de Wasserstein entre a solução analítica e a recuperada foi de 0,132. As estimativas da média mostraram uma forte correlação de Pearson (0,997) com o valor real (ground truth), enquanto as estimativas de variância tenderam a ser subestimadas.
• Limitações Observadas:
  • Espaço de Busca: A busca exaustiva em grade foi computacionalmente proibitiva para verossimilhanças complexas; a Otimização Bayesiana foi utilizada para maior eficiência.
  • Degeneração de Partículas: Erros de aproximação estavam fortemente correlacionados com um baixo Tamanho Efetivo de Amostra (ESS), indicando que a degeneração de partículas no passo de amostragem por importância é uma fonte primária de erro.
  • Analogias Não-Maximais: O algoritmo falhou corretamente em encontrar soluções para analogias baseadas em verossimilhanças não-maximais (onde o suporte é de medida zero), confirmando que não gera falsos positivos.

Significância e Alegações

O artigo afirma fornecer uma fundamentação principiológica para conectar o raciocínio analógico com o aprendizado de máquina, fundamentando as analogias nos mecanismos intrínsecos da inferência probabilística.

• Contribuição Teórica: Ao contrário de abordagens anteriores que dependem de variedades geométricas ou aritmética ad-hoc sobre probabilidades, este framework estende-se naturalmente para distribuições arbitrárias e satisfaz os requisitos axiomáticos do raciocínio analógico.
• Utilidade Prática: O framework abre novas perspectivas para aplicações como transferência de aprendizado, aumento de dados, reconstrução de distribuição, raciocínio baseado em casos e meta-aprendizado, onde o raciocínio diretamente sobre distribuições de probabilidade oferece um mecanismo natural para transferência de conhecimento.
• Modéstia: O autor reconhece que a implementação atual é limitada pela qualidade da aproximação da amostragem por importância. Eles afirmam explicitamente que a "solução reversa" (onde $A=D$ e $B=C$) é uma consequência da definição simétrica, o que alguns podem considerar discutível, mas que é naturalmente coberto pelo seu framework teórico. Trabalhos futuros são propostos para investigar técnicas de inferência mais avançadas (ex: amostragem de posterior) para melhorar a robustez e a escalabilidade.