Vector Linking via Cross-Model Local Isometric Consistency

Resumo Técnico: Vinculação de Vetores via Consistência Isométrica Local entre Modelos

Definição do Problema: Vinculação de Vetores (Vector Linking)
O artigo aborda o problema da Vinculação de Vetores: recuperar correspondências de objetos entre modelos distintos ($E_1$ e $E_2$) geradas por diferentes codificadores contrastivos de caixa-preta ($f_1$ e $f_2$) sobre conjuntos de dados parcialmente sobrepostos ($O_1$ e $O_2$). O cenário é estritamente post-hoc e de caixa-preta; o método tem acesso apenas aos vetores de incorporação (embeddings) estáticos e a um pequeno "conjunto de sementes" (seed set) de âncoras pareadas ($S$) conhecidas por corresponderem aos mesmos objetos subjacentes. Crucialmente, a sobreposição entre os conjuntos de dados é desconhecida e parcial, o que significa que não há uma bijeção global entre os dois espaços de incorporação, e regiões não sobrepostas não podem ser tratadas como simples outliers. Essa lacuna de interoperabilidade dificulta a recuperação unificada, a deduplicação de índices cruzados e a integração de bancos de dados vetoriais.

Fundamentação Teórica: Consistência Isométrica Local
A principal percepção teórica que impulsiona este trabalho é a descoberta da consistência geométrica local entre codificadores contrastivos treinados de forma independente.

• Observação Empírica: Os autores observam que, embora as distâncias de longo alcance entre os embeddings se descorrelacionem rapidamente entre diferentes modelos, as distâncias de curto alcance permanecem fortemente correlacionadas.
• Justificativa Teórica: Ao analisar um substituto de alinhamento-uniformidade localizado para o aprendizado contrastivo, o artigo prova que codificadores localmente ótimos independentes induzem métricas localmente isométricas até um fator de escala. Especificamente, para dois codificadores localmente ótimos $f_1$ e $f_2$ em um ponto $x$, e para qualquer ponto próximo $y$, a relação de distância mantém-se:
  $$\|f_1(x) - f_1(y)\| = \kappa \cdot \|f_2(x) - f_2(y)\| + O(d_M(x, y)^2)$$
  onde $\kappa$ é um fator de escala e $d_M$ é a distância geodésica intrínseca. Isso implica que as vizinhanças locais são estáveis entre os modelos, enquanto os arranjos globais são distorcidos.

Metodologia: Hashing de Incorporação Geométrica (GEH)
Baseando-se na propriedade de consistência local, os autores propõem o Geometric Embedding Hashing (GEH), um algoritmo iterativo baseado em referências que recupera vínculos de vetores a partir de um minúsculo conjunto de sementes sem acessar os internos do modelo ou os dados brutos.

1. Assinaturas de Distância-para-Âncora: Em vez de alinhar espaços globais, o GEH representa cada vetor por suas distâncias a um conjunto de âncoras pareadas. Para lidar com o fator de escala $\kappa$ desconhecido, essas assinaturas são normalizadas (livres de escala), tipicamente usando similaridade de cosseno nos vetores de distância.
2. Votação Multi-Visão: Um único conjunto de âncoras é insuficiente para todos os pontos devido ao requisito de localidade. O GEH amostra muitas "visões" geométricas pequenas e diversas (subconjuntos de âncoras) a partir do pool atual de âncoras pareadas.
   • Geração de Visão: As visões são construídas usando Amostragem de Ponto Mais Distante (FPS) para garantir diversidade e estabilidade das âncoras.
   • Hashing Kernelizado: Para enfatizar a consistência de curto alcance e suprimir o ruído de longo alcance, as distâncias brutas são transformadas via um kernel monotônico (ex: $e^{-dist/\sigma}$).
   • Geração de Candidatos: Dentro de cada visão, links candidatos são propostos via busca de Vizinho Mais Próximo Mutuo (MNN) no espaço de hashing, utilizando CSLS para mitigar o efeito de hubness.
3. Bootstrapping Guiado por Posterior:
   • Agregação de Evidências: Correspondências entre diferentes visões são tratadas como votos ruidosos. O artigo modela a probabilidade de sucesso de um link usando um posterior Beta–Bernoulli. A média do posterior serve como uma pontuação de confiança.
   • Crescimento Iterativo: Links de alta confiança (aqueles com altos escores de posterior) são promovidos para se tornarem novas âncoras para a próxima iteração. Este processo de bootstrapping expande o conjunto inicial minúsculo de sementes em um grande conjunto de correspondências.
   • Limiarização Adaptativa: Um limiar de Otsu é aplicado aos escores de posterior para separar links verdadeiros de colisões espúrias causadas pela distorção específica do modelo.

Principais Contribuições

• Formulação do Problema: Formalizou o problema de "Vinculação de Vetores" sob sobreposição parcial e desconhecida e restrições estritas de caixa-preta.
• Percepção Teórica: Estabeleceu, tanto empírica quanto teoricamente, que codificadores contrastivos exibem consistência de distância local, formando a base para o hashing invariante ao codificador.
• Algoritmo: Desenvolveu o GEH, um algoritmo de hashing geométrico multi-visão com bootstrapping guiado por posterior que recupera links com precisão usando apenas 15–30 pares de sementes.
• Aplicações: Demonstrou a utilidade dos links recuperados para integração de bancos de dados vetoriais e agrupamento (clustering) de embeddings cruzados.

Resultados Experimentais
O método foi avaliado em múltiplos benchmarks BEIR (NFCorpus, SciFact, ArguAna, SciDocs, FiQA, FEVER) e cinco pares de modelos de incorporação (incluindo Mistral, OpenAI, GTE, Qwen e KaLM).

• Desempenho: O GEH superou consistentemente oito baselines (incluindo Linear, CCA, MLP, RCSLS, Procrustes e Unbalanced Gromov-Wasserstein). Por exemplo, com apenas 15 pares de sementes, o GEH alcançou mais de 90% de recall no dataset FiQA para Mistral vs. OpenAI, enquanto o melhor baseline alcançou apenas ~20% de recall.
• Robustez: O método permaneceu robusto em diferentes razões de sobreposição (15%–40%), orçamentos de sementes e até mesmo quando utilizando sementes fora do domínio (OOD) extraídas de diferentes conjuntos de dados.
• Escalabilidade: No dataset FEVER (5,4 milhões de documentos), o GEH alcançou 93,8% de precisão e 68,9% de recall em aproximadamente 3328 segundos, demonstrando escalabilidade comparável ou mais rápida que baselines lineares, apesar de sua natureza iterativa.
• Impacto em Downstream: Em tarefas de integração de banco de dados vetorial, a recuperação unificada habilitada pelo GEH aproximou-se do limite teórico de usar um único modelo. Em agrupamento de modelos cruzados, recuperou atribuições de cluster consistentes para 75%–98% dos objetos sobrepostos.

Significância
O artigo argumenta que a vinculação de vetores é um primitivo prático para a interoperabilidade de embeddings. Ao aproveitar a consistência geométrica local inerente aos codificadores contrastivos, ele evita a necessidade de suposições de alinhamento global (que falham sob sobreposição parcial) e de retreinamento. Isso permite a integração de bancos de dados vetoriais díspares e a análise conjunta de embeddings de diferentes modelos, abordando um gargalo crítico no cenário em rápida evolução dos sistemas de informação baseados em embeddings.