🤖 AI

You Have Been LaTeXpOsEd: A Systematic Analysis of Information Leakage in Preprint Archives Using Large Language Models

Este artigo apresenta o "LaTeXpOsEd", uma auditoria de segurança sistemática e em larga escala de mais de 100.000 submissões ao arXiv que revela vazamentos generalizados de informações em arquivos de origem e comentários, incluindo credenciais sensíveis, informações de identificação pessoal e comunicações confidenciais, ao aproveitar um novo quadro que integra correspondência de padrões e modelos de linguagem grandes.

Autores originais: Richard A. Dubniczky, Bertalan Borsos, Tamas Bisztray, Norbert Tihanyi

Publicado 2026-05-12

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Richard A. Dubniczky, Bertalan Borsos, Tamas Bisztray, Norbert Tihanyi

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está enviando um manuscrito para uma biblioteca prestigiosa (como o arXiv) para compartilhar sua mais recente descoberta científica. Você entrega o livro final, polido (o PDF), que todos podem ler. Mas, como a biblioteca deseja garantir que seu trabalho seja honesto e reproduzível, eles também pedem que você entregue sua oficina inteira: os rascunhos preliminares, os post-its nas paredes, os esboços inacabados e as anotações que você rabiscou nas margens enquanto pensava em voz alta.

O artigo "You Have Been LaTeXpOsEd" é uma auditoria de segurança massiva dessa oficina. Os pesquisadores descobriram que, embora os cientistas sejam muito cuidadosos com o que colocam no livro final, frequentemente esquecem de limpar sua oficina antes de entregá-la.

Aqui está uma explicação simples do que eles encontraram, usando analogias do cotidiano:

1. O Problema do "Sótão Digital"

Quando os cientistas fazem o upload de seus artigos, eles não enviam apenas o PDF final. Eles enviam os arquivos fonte do LaTeX. Pense nesses arquivos fonte como um sótão digital ou uma garagem.

O Erro: Os autores frequentemente deixam "post-its" (comentários no código) ou "caixas antigas" (arquivos não utilizados) nesse sótão.
O Risco: Essas anotações podem dizer coisas como: "Ei, a senha do nosso servidor interno é 'Senha123'" ou "Tivemos uma briga enorme com o revisor, aqui estão os e-mails furiosos."
A Realidade: Como o sótão é público, qualquer pessoa pode entrar e ler essas anotações. Os pesquisadores trataram isso como uma auditoria "passiva": eles apenas olharam o que já estava lá, como um guarda de segurança passeando por uma casa aberta, sem tentar invadir ou testar se as fechaduras realmente funcionavam.

2. As Ferramentas do Detetive: Regex vs. O "Super-Leitor"

Para encontrar esses segredos, os pesquisadores usaram dois tipos de detetives:

O Correspondente de Padrões (Regex): É como um robô que procura apenas formas específicas. Ele consegue encontrar facilmente coisas que parecem um endereço de e-mail (nome@dominio.com) ou um endereço IP (192.168.1.1). É bom para encontrar pistas óbvias, mas ruim para entender o contexto.
O "Super-Leitor" (Modelos de Linguagem Grandes - LLMs): É como um detetive humano altamente inteligente que pode ler uma frase e entender o significado.
- Exemplo: Um correspondente de padrões pode perder uma frase que diz: "Estou usando a chave 'ChaveSecreta99' para fazer login no laboratório." porque não parece um formato padrão de senha.
- O LLM, no entanto, lê a frase inteira, entende que "ChaveSecreta99" é um segredo e a sinaliza.

Os pesquisadores testaram 25 "Super-Leitores" diferentes (modelos de IA) para ver qual era o melhor detetive. Eles descobriram que os modelos de código aberto (como o Qwen-2.5) eram quase tão bons quanto os proprietários e caros, mas custavam uma fração do preço.

3. O Que Eles Encontraram no Sótão?

Após escanear 100.000 artigos (cerca de 1,2 terabytes de dados, o que equivale a uma biblioteca massiva), eles encontraram milhares de "vazamentos". Veja o que foi deixado para trás:

Chaves de "Porta Aberta": Centenas de instâncias de senhas reais, chaves de API e credenciais de login. É como se alguém deixasse a chave de casa colada na porta da frente com um bilhete dizendo: "Isso abre a porta dos fundos."
Vazamentos de "Chat Privado": Links para pastas privadas do Google Drive ou Dropbox configuradas como "Qualquer pessoa com o link pode editar". Isso significava que revisões por pares confidenciais, argumentos internos entre coautores e dados não publicados estavam visíveis para o mundo inteiro.
Argumentos de "Post-its": Comentários onde os autores discutiam sobre a qualidade da pesquisa ou reclamavam dos revisores. Esses comentários eram destinados apenas a olhos internos, mas foram publicados para que todos vissem.
"Fotos Escondidas": Imagens enviadas para o artigo frequentemente continham dados EXIF (metadados digitais). É como uma foto de um prédio que secretamente inclui as coordenadas GPS da casa do fotógrafo e o horário exato em que a foto foi tirada.

4. O Custo da Investigação

Uma das descobertas mais surpreendentes foi o quão barato foi fazer isso.

Os pesquisadores gastaram cerca de 90 dólares no total para escanear 100.000 artigos.
Isso incluiu o custo de baixar os dados e pagar à IA para ler os comentários.
A Analogia: É como contratar uma equipe de segurança para verificar 100.000 casas por alguns dólares. Isso significa que até mesmo um ator mal-intencionado de "baixa recursos" (alguém com orçamento limitado) poderia facilmente fazer isso para roubar segredos ou causar danos à reputação.

5. O "Jogo de Culpa" (Quem é o Responsável?)

O artigo aponta uma situação jurídica complicada.

A Regra da Biblioteca: Quando você envia algo para o arXiv, você assina um contrato dizendo: "Eu concedo à biblioteca o direito de distribuir meu trabalho para sempre." A biblioteca também diz: "É seu trabalho garantir que você não inclua informações privadas."
O Problema: Os autores frequentemente pensam: "Eu coloquei o segredo nos comentários do código; ninguém lê o código, apenas o PDF." Eles não percebem que os "comentários do código" fazem parte do registro público permanente.
O Veredito: Os pesquisadores argumentam que, embora os autores sejam tecnicamente responsáveis pela limpeza, o sistema está quebrado porque é muito fácil deixar segredos para trás acidentalmente, e a biblioteca não os remove automaticamente.

6. A Solução: Limpando a Oficina

O artigo sugere duas correções principais:

Para os Autores: Antes de clicar em "Enviar", execute uma ferramenta de "limpeza" (como um aspirador digital) que exclui automaticamente todos os comentários, arquivos não utilizados e metadados ocultos. Não deixe post-its no sótão!
Para a Biblioteca (arXiv): Eles devem adicionar uma rede de segurança. Antes de um artigo entrar no ar, o sistema deve escanear automaticamente senhas e links privados e alertar o autor: "Ei, você deixou uma senha nas suas anotações. Você realmente quer publicar isso?"

Resumo

O artigo é um alerta. Ele mostra que, na pressa de compartilhar a ciência rapidamente, os pesquisadores estão deixando acidentalmente seu "lixo digital" (segredos, senhas e argumentos privados) exposto ao ar livre. Como a IA moderna é tão boa em ler e entender essas anotações bagunçadas, agora é incrivelmente fácil para qualquer pessoa encontrá-las. Os pesquisadores instam a comunidade científica a começar a limpar seus arquivos fonte antes de publicar, assim como limpariam um laboratório físico antes de abrir as portas ao público.

Resumo Técnico: Você Foi LaTeXpOsEd

Declaração do Problema

A rápida expansão dos repositórios de pré-publicações científicas, particularmente o arXiv, deslocou o paradigma do compartilhamento de conhecimento. Diferentemente dos periódicos tradicionais que publicam apenas PDFs finais, o arXiv exige o envio dos arquivos-fonte subjacentes (por exemplo, fonte LaTeX, artefatos de construção e imagens auxiliares) para garantir transparência e reprodutibilidade. No entanto, essa escolha arquitetural cria um vetor de segurança significativo, frequentemente negligenciado: vazamento de informações por meio de arquivos-fonte não sanitizados.

Autores frequentemente incorporam dados sensíveis em comentários LaTeX, arquivos auxiliares não referenciados ou metadados de imagem (EXIF) sob a falsa crença de que esses elementos são efêmeros ou invisíveis ao público. O artigo argumenta que, ao aceitar o acordo de submissão do arXiv, os autores concedem uma licença irrevogável para distribuir esses arquivos, e a política de privacidade da plataforma transfere explicitamente o ônus da sanitização para o submissor. Consequentemente, adversários podem coletar Informações de Identificação Pessoal (PII), credenciais, chaves de API e disputas internas utilizando técnicas de Inteligência de Código Aberto (OSINT). A correspondência de padrões baseada em expressões regulares tradicionais é insuficiente para detectar segredos dependentes de contexto (por exemplo, vazamentos semânticos, disputas entre autores ou formatos de credenciais não padrão) ocultos dentro dessas estruturas documentais complexas.

Metodologia: O Framework LaTeXpOsEd

Os autores apresentam o LaTeXpOsEd, um pipeline de quatro fases projetado para auditar sistematicamente arquivos-fonte de pré-publicações quanto ao vazamento de informações sensíveis. O framework integra correspondência de padrões, filtragem lógica e Modelos de Linguagem de Grande Escala (LLMs).

Fase 1: Coleta de Dados (Scraping)
- Os dados foram adquiridos através do serviço oficial de dados em massa Amazon S3 do arXiv para garantir conformidade e evitar coleta abusiva.
- O estudo analisou 100.000 submissões (aproximadamente 1,2 TB de dados descomprimidos), recuperando 808 arquivos tar.gz específicos.
- O custo total de pesquisa para a recuperação de dados foi de aproximadamente $37.
Fase 2: Parsing e Limpeza
- Os arquivos foram descomprimidos e o conteúdo extraído para JSON legível por máquina.
- Filtragem: O pipeline excluiu artigos sem arquivos-fonte (7,7%), aqueles sem arquivos LaTeX (6,1%) e aqueles sem comentários (4,6%).
- Limpeza: Um pipeline multiestágio removeu boilerplate, comandos sintáticos e fragmentos redundantes. O conjunto de dados foi reduzido de ~12 milhões de comentários para 6,6 milhões de comentários (uma redução de 89% na contagem de tokens), diminuindo significativamente os custos de inferência para LLMs.
- Análise Auxiliar: Arquivos não referenciados (presentes no pacote, mas não no PDF final) foram isolados, pois estes frequentemente contêm resíduos sensíveis do fluxo de trabalho. Metadados EXIF foram extraídos de imagens antes da remoção.
Fase 3: Mineração de Dados
- Correspondência de Padrões: Utilizou expressões regulares e ferramentas como TruffleHog para detectar dados estruturados (IPs, URLs, e-mails, IBANs) e 1.750 padrões de segredos conhecidos.
- Extração Baseada em LLM: Para detectar segredos dependentes de contexto (por exemplo, disputas entre autores, comentários de revisão por pares, credenciais não padrão), os autores introduziram o LLMSec-DB, um benchmark de 300 snippets sintéticos de comentários.
- Avaliação (Benchmarking): 25 LLMs de última geração foram avaliados no LLMSec-DB usando Precisão de Correspondência Exata (EMA) e Precisão de Pelo Menos Um (ONE).
- Seleção de Modelo: Qwen-2.5 72B foi selecionado para processamento em larga escala devido à sua alta precisão (80,0% de EMA) e custo significativamente menor ($0,07 por milhão de tokens) em comparação com modelos proprietários como GPT-5 ($1,25 por milhão de tokens).
Fase 4: Análise e Validação
- Pós-processamento automatizado filtrou falsos positivos.
- Humano no Loop: Achados críticos (credenciais, PII) passaram por validação manual.
- Restrições Éticas: O estudo aderiu a um rigoroso framework de "verificação passiva". Nenhuma credencial vazada foi testada contra sistemas ativos, e nenhum conteúdo privado foi acessado ou compartilhado. As descobertas foram anonimizadas, e os autores afetados foram notificados onde o contato foi possível.

Contribuições Principais

O Framework LaTeXpOsEd: Uma metodologia novel que combina extração de entidades, correspondência de padrões e compreensão contextual de LLMs para processar sistematicamente arquivos-fonte LaTeX, descobrindo segredos perdidos por auditorias automatizadas.
Análise de Pré-publicações em Larga Escala: A primeira auditoria de segurança abrangente de arquivos-fonte de pré-publicações, examinando 100.000 submissões (1,2 TB) para quantificar o vazamento sistêmico.
Benchmark LLMSec-DB: Um novo benchmark para avaliar LLMs na detecção de segredos em documentos científicos, facilitando a análise comparativa de custo, precisão e disponibilidade de código aberto.
Evidência Empírica de Vazamento: A descoberta de milhares de exposições de PII, centenas de vazamentos de credenciais, links de nuvem privados e vazamentos semânticos (disputas internas, revisões por pares confidenciais).

Resultados

A análise de 100.000 submissões revelou que 9,9% dos artigos (9.926) continham pelo menos uma divulgação sensível, resultando em 13.806 detecções distintas.

Tipos de Informações Vazadas

Credenciais (Crítico): 47 instâncias de pares explícitos de nome de usuário/senha, 2 chaves de acesso AWS e 5 JWTs.
PII (Alto): 6.984 instâncias de exposição de PII (nomes, e-mails, números de telefone), incluindo 26 números de Seguro Social e 92 IBANs validados.
Revisão por Pares e Conflitos (Médio): 3.386 instâncias de disputas de revisão por pares e 3.283 conflitos internos/desacordos entre autores.
Artefatos Não Referenciados: Arquivos de configuração (JSON/YAML), artefatos de banco de dados e código-fonte contendo tokens embutidos e rastros de depuração foram encontrados em arquivos não referenciados.
Metadados: 631 imagens continham dados EXIF sensíveis, incluindo coordenadas de geolocalização e identificadores de dispositivo.
Links de Acesso: 650 links para armazenamento em nuvem privada (Google Drive, Dropbox, etc.) foram encontrados, com dois terços acessíveis sem autenticação adicional.

Desempenho do Modelo

Qwen-2.5 72B alcançou o melhor equilíbrio entre desempenho e custo, atingindo 80,0% de Precisão de Correspondência Exata e 91,0% de Precisão de Pelo Menos Um.
GPT-5 alcançou a maior EMA (82,7%), mas a um custo aproximadamente 18 vezes maior que o do Qwen-2.5 72B para o corpus completo.
TruffleHog (baseado em padrões) performou mal em dados sensíveis ao contexto, detectando apenas 4 credenciais verdadeiras com uma alta taxa de falsos positivos (EMA < 10%).

Viabilidade Econômica

O estudo demonstra que a extração em larga escala de informações sensíveis é economicamente viável para adversários de baixo recurso. O custo total para analisar 100.000 artigos usando o pipeline Qwen-2.5 72B foi de aproximadamente ** $90** ($ 37 para recuperação S3 + $50,4 para inferência de LLM). Extrapolando para o corpus completo do arXiv, o custo permanece na faixa de alguns milhares de dólares (~$3,3k), tornando-se uma ameaça escalável.

Significado e Alegações

O artigo alega que a extração em larga escala de informações sensíveis de arquivos de pré-publicações constitui uma ameaça séria à segurança e à reputação de indivíduos e instituições.

Risco Sistêmico: O vazamento não é um caso marginal, mas um problema sistêmico que afeta quase 10% das submissões.
Limitações das Práticas Atuais: A dependência de que os autores sanitizem manualmente os arquivos-fonte é insuficiente. O artigo destaca uma "lacuna estrutural" onde os autores concedem direitos de distribuição sem necessariamente entender que comentários e arquivos auxiliares são permanentemente públicos.
Eficácia de LLMs: O estudo prova que LLMs são únicos e eficazes na detecção de segredos dependentes de contexto que ferramentas tradicionais baseadas em regex perdem, particularmente em texto científico não estruturado.
Chamada à Ação: Os autores instam a comunidade de pesquisa e os operadores de repositórios a implementar salvaguardas imediatas, incluindo:
- Lado do Autor: Sanitizar pacotes-fonte (removendo comentários, arquivos não utilizados) e evitar armazenar segredos em árvores de projeto.
- Lado da Plataforma: Fornecer avisos explícitos no momento do upload, oferecer ferramentas opcionais de sanitização (por exemplo, remoção de comentários) e escanear dados sensíveis antes da publicação.

Os autores enfatizam que seu trabalho é uma auditoria de "verificação passiva" destinada a destacar riscos de infraestrutura, e não para expor indivíduos específicos. Todas as ferramentas, benchmarks e scripts foram lançados publicamente para apoiar a ciência aberta e a divulgação responsável.