Concentration bounds on response-based vector embeddings of black-box generative models

Resumo Técnico: Limites de Concentração para Embeddings Vetoriais Baseados em Respostas de Modelos Generativos de Caixa Preta

Definição do Problema
Modelos generativos, como grandes modelos de linguagem (LLMs) e modelos de difusão de texto-para-imagem, são cada vez mais ubíquos, mas frequentemente funcionam como caixas pretas, onde suas formas funcionais internas são inacessíveis. Para realizar análise estatística e inferência sobre uma coleção desses modelos, pesquisadores necessitam de métodos para representá-los como vetores em um espaço euclidiano de dimensão finita com base em suas respostas a consultas de usuários. Embora métodos como o embedding de Espaço de Perspectiva de Kernel de Dados (DKPS) existam para gerar essas representações vetoriais computando dissimilaridades pareadas de respostas de modelos, a literatura existente tem focado primariamente na consistência assintótica. Há uma carência de garantias teóricas para cenários de amostra finita, particularmente no que diz respeito a quantas respostas de amostra são necessárias para estimar representações vetoriais de nível populacional com um nível específico de precisão e nível de confiança. Este artigo aborda a necessidade de limites de concentração de alta probabilidade para esses embeddings vetoriais baseados em amostras.

Metodologia
O artigo utiliza o framework de embedding DKPS, uma variante do Escalonamento Multidimensional (MDS) Clássico. O cenário envolve um conjunto de $n$ modelos generativos $\{f_1, \dots, f_n\}$ respondendo a $m$ consultas $\{q_1, \dots, q_m\}$.

1. Nível Populacional: A resposta verdadeira do modelo $f_i$ à consulta $q_j$ é um vetor aleatório $g(f_i(q_j))$ com distribuição $F_{ij}$. A representação populacional é definida pela matriz de respostas esperadas $\mu_i$. As dissimilaridades pareadas de população $\Delta_{ii'}$ são computadas como a norma de Frobenius normalizada da diferença entre $\mu_i$ e $\mu_{i'}$. Essas dissimilaridades são incorporadas em $\mathbb{R}^d$ via MDS para produzir perspectivas verdadeiras $\psi$.
2. Nível de Amostra: Como as distribuições verdadeiras são desconhecidas, os autores utilizam $r$ réplicas independentes e identicamente distribuídas (iid) das respostas para cada par modelo-consulta para estimar as médias de resposta $\bar{X}_i$. Uma matriz de dissimilaridade de amostra $D$ é construída a partir dessas médias empíricas.
3. Embedding: A matriz de dissimilaridade de amostra é duplamente centralizada para formar $\hat{B}$, e o MDS é aplicado para obter os embeddings vetoriais de amostra $\hat{\psi}$.

A abordagem teórica central envolve estabelecer desigualdades de concentração para a norma espectral da diferença entre a matriz de amostra $\hat{B}$ e a matriz populacional $B$. Os autores baseiam-se em limites de perturbação para autovetores (Teorema de Davis-Kahan) e autovalores (Desigualdade de Weyl) para relacionar o erro nas matrizes de dissimilaridade ao erro nos embeddings vetoriais resultantes.

Premissas Principais
Os resultados teóricos dependem de duas premissas primárias:

• Premissa 1 (Distribucional): As respostas médias concatenadas padronizadas possuem cauda leve e entradas não correlacionadas. Especificamente, a densidade do vetor padronizado é proporcional a $e^{-U(w)}$ com uma Hessiana limitada inferiormente, e as respostas são quase certamente limitadas. Isso é justificado pelo Teorema do Limite Central para grandes tamanhos de amostra e pela natureza de tokens finitos das saídas de LLMs.
• Premissa 2 (Posto/Rank): O posto da matriz de dissimilaridade populacional $B$ é uma constante $d$ que não cresce com $n$. Isso implica que as perspectivas verdadeiras residem em um espaço de dimensão fixa.

Principais Resultados
O artigo estabelece limites de concentração de alta probabilidade para o erro de estimativa dos embeddings vetoriais:

1. Concentração de Matriz (Teorema 1): Sob a Premissa 1 e assumindo que o traço das matrizes de covariância de resposta é uniformemente limitado por $\Gamma$, o erro da norma espectral $\|\hat{B} - B\|$ é limitado com probabilidade de pelo menos $1 - e^{-nc}$ por um termo que escala como $\frac{n}{\sqrt{mr}} + \frac{1}{r}$.
2. Concentração de Embedding (Teorema 2): Sob as Premissas 1 e 2, e uma condição de relação sinal-ruído, existe uma matriz ortogonal $W^*$ tal que o erro de estimativa $\|\hat{\psi}W^* - \psi\|$ é limitado com alta probabilidade. O limite escala com o número de condição de $B$ e o termo $\left(\frac{n}{\sqrt{mr}} + \frac{1}{r}\right)$.
3. Condições de Consistência (Proposição 2): O artigo fornece uma condição suficiente para que os autovalores de $B$ cresçam linearmente com $n$ (especificamente $\lambda_d(B) \geq C(d)n$). Isso ocorre se a coleção de matrizes de resposta média populacional contiver apenas um número finito de membros distintos (comunidades) com proporção de membros. Sob estas condições, se o número de réplicas $r$ crescer mais rápido que $n^2$ (ou seja, $r = \omega(n^2)$) enquanto $m$ é constante, o erro de estimativa aproxima-se de zero.

Experimentos Numéricos
Os autores validam seus limites teóricos através de dois experimentos:

• Simulações: Usando vetores aleatórios de alta dimensão sintéticos para simular respostas de LLM, o estudo demonstra que, conforme $n$ aumenta (com $r \approx n^{2.25}$), o erro de estimativa empírica diminui e permanece bem dentro do limite superior teórico. Os limites foram mantidos para 100% das amostras de Monte Carlo.
• Análise de Dados Reais: Utilizando o modelo Google-gemma-2-2b-it e Nomic-embed-text-v2-moe, os autores amostraram respostas a duas consultas específicas. Com $r \approx n^{2.75}$, o erro de estimativa empírica foi consistentemente menor que o limite teórico através de vários valores de $n$, alcançando 100% de cobertura empírica.

Significância e Alegações
O artigo afirma fornecer os primeiros limites de concentração de alta probabilidade para amostras finitas de embeddings vetoriais baseados em resposta de modelos generativos de caixa preta. A significância reside em:

• Orientação Prática: Os limites oferecem uma base teórica para determinar o tamanho de amostra necessário $r$ para atingir um nível desejado de precisão em tarefas de inferência (por exemplo, testar se dois modelos têm a mesma perspectiva) com um nível de confiança específico.
• Análise de Trade-off: Os resultados sugerem que a precisão pode ser melhorada não apenas aumentando o número de réplicas ($r$), mas também aumentando o número de consultas ($m$), embora o artigo note que o trade-off entre $m$ e a qualidade dos estimadores linha a linha requer investigação adicional.
• Fundação Não-Assintótica: Ao estabelecer esses limites, este trabalho facilita a análise estatística no regime não-assintótico, indo além da suposição irrealista de tamanhos de amostra infinitos.
• Configuração Realista: A metodologia opera sob um cenário de caixa preta, exigindo apenas o acesso às respostas do modelo, tornando-a aplicável a modelos proprietários ou de código fechado do mundo real.

Os autores observam modestamente que sua condição referente ao posto de $B$ e ao crescimento dos autovalores é suficiente, mas pode ser relaxada em trabalhos futuros para acomodar cenários com um número crescente de comunidades distintas de modelos. Eles também conjecturam que sua condição de relação sinal-ruído é necessária, traçando paralelos com configurações mais simples na literatura existente.