🤖 AI

DOSA: A Tree-Guided, Self-Regressive Framework for Long Document Structure Analysis

O artigo propõe o DOSA, um framework autorregressivo guiado por árvore que reconstrói incrementalmente árvores semânticas de nível de documento ao processar documentos de múltiplas páginas pedaço por pedaço para capturar eficazmente dependências de longo alcance e layouts heterogêneos, alcançando desempenho de estado da arte em benchmarks de análise de estrutura de documentos.

Autores originais: Bohou Li, Benjamin Sowell, Mehul Shah, Mark Lindblad, Henry Lindeman

Publicado 2026-07-28

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Bohou Li, Benjamin Sowell, Mehul Shah, Mark Lindblad, Henry Lindeman

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando entender uma enciclopédia massiva de vários volumes que foi impressa em folhas de papel soltas, espalhadas por um chão gigante. Algumas páginas têm imagens, algumas têm listas e outras têm títulos grandes e em negrito. Para dar sentido a essa bagunça, você não apenas lê as palavras; você tem que descobrir como as peças se encaixam. Aquela imagem faz parte do parágrafo acima dela? Aquela lista é um "filho" do título ou é uma seção inteiramente separada? Este é o mundo dos "documentos visualmente ricos", onde a informação não é apenas um fluxo de texto, mas um quebra-cabeça complexo de formas, posições e estilos. Para que os computadores realmente "leiam" esses documentos — sejam contratos legais, artigos científicos ou apresentações de slides — eles precisam resolver um quebra-cabeça específico chamado Análise de Estrutura de Documentos. Eles precisam construir uma "árvore semântica", que é como uma árvore genealógica para as partes do documento, mostrando quem é o pai de quem e em que ordem todos devem ser lidos. Sem isso, um computador pode ver um título e um parágrafo como dois estranhos não relacionados, perdendo o fato de que eles são, na verdade, um pai e um filho.

Apresentamos o DOSA (Document Structure Analyzer), um novo método proposto por pesquisadores da Glean Technologies para resolver esse quebra-cabeça para documentos longos de várias páginas. Pense em tentar construir um castelo de LEGO de 1.000 peças de uma só vez; é esmagador e, se você cometer um erro no início, todo o conjunto pode desmoronar. Métodos anteriores tentavam olhar para o documento inteiro de uma só vez, o que é como tentar segurar o castelo inteiro nas mãos enquanto o constrói — fica muito pesado e o computador fica confuso. O DOSA adota uma abordagem diferente: ele constró o castelo uma pequena seção de cada vez. Ele processa o documento em "pedaços", como montar um cômodo do castelo antes de passar para o próximo. Mas aqui está a reviravolta inteligente: conforme constrói cada novo cômodo, ele não olha apenas para os tijolos em suas mãos; ele olha para o "ramo mais à direita" do castelo que já construiu. Isso atua como um guia, dizendo ao computador exatamente quais partes dos quartos anteriores são relevantes para os novos. Ao usar esse mapa "guiado pela árvore", o DOSA evita se perder na magnitude do documento.

Os pesquisadores descobriram que este método passo a passo e autoguiado funciona incrivelmente bem. Quando testaram o DOSA em cinco conjuntos de dados diferentes, incluindo um muito difícil chamado DocHieNet, repleto de layouts complexos de várias páginas, ele superou os melhores métodos atuais. Nesse benchmark desafiador, o DOSA melhorou a precisão em até 4 pontos em uma escala chamada F1 e quase 20 pontos em uma escala chamada TEDS (que mede o quão semelhante a árvore do computador é em relação à real). Ainda mais impressionante, ele superou modelos de IA poderosos e de propósito geral como o Gemini-2.5-Pro e o GPT-5.2, sugerindo que, para este trabalho específico de construir árvores de documentos, uma abordagem especializada e estruturada é melhor do que apenas pedir a uma IA gigante para "adivinhar" a estrutura. O artigo sugere que, ao fundir pistas visuais (como onde uma caixa está na página), conteúdo de texto e o tamanho dos objetos, o DOSA pode reconstruir a lógica do documento com alta precisão, mesmo sem precisar memorizar o documento inteiro de uma só vez. No entanto, os autores observam que, embora este método seja robusto, ele não é perfeito; atualmente, ele foca em estruturas de árvore e ainda não lida com conexões mais complexas em forma de teia, como citações, e ainda pode ser prejudicado se cometer um erro no início que não consiga corrigir posteriormente.

Resumo Técnico: DOSA – Um Framework de Análise de Estrutura de Documentos Baseado em Árvore e Autorregressivo

Definição do Problema

A Análise de Estrutura de Documentos (DSA - Document Structure Analysis) visa descobrir as relações lógicas, espaciais e semânticas entre objetos de página (ex: cabeçalhos, tabelas, blocos de texto) em documentos visualmente ricos (PDFs, apresentações de slides) para construir uma árvore semântica. Enquanto o trabalho inicial focava em documentos de página única usando características visuais, as aplicações modernas exigem o tratamento de documentos de múltiplas páginas com dependências de longo alcance e layouts heterogêneos.

As abordagens baseadas em Transformer existentes para documentos de múltiplas páginas enfrentam desafios significativos:

Sobrecarga Computacional: A complexidade quadrática da autoatenção (self-attention) torna proibitivo o processamento de documentos com milhares de objetos de página.
Diluição da Atenção: Em sequências longas, os mecanismos de atenção frequentemente falham em focar em elementos relevantes, levando à degradação da precisão.
Modelagem Entre Páginas: Conciliar dependências de longo alcance através de diversos layouts de página permanece não trivial para arquiteturas padrão.

Metodologia

Os autores propõem o DOSA (DOcument Structure Analyzer), um framework unificado que reformula a análise de estrutura de documentos longos como um problema de construção de árvore semântica incremental e autorregressiva. Em vez de processar um documento inteiro em uma única passagem, o DOSA opera por partes (chunks), utilizando a árvore parcialmente construída como contexto estrutural para predições subsequentes.

1. Construção de Árvore Semântica Autorregressiva

Fragmentação (Chunking): O documento é particionado em $M$ fragmentos, cada um contendo até $N$ objetos de página (correspondendo ao limite de entrada do transformer).
Atualização Incremental: Começando pelo primeiro fragmento, o modelo prevê relações hierárquicas (pai-filho) e de ordenação (predecessor). Essas predições atualizam a árvore semântica $T_{i-1}$ para formar $T_i$ .
Resolução de Ciclos: Para lidar com potenciais inconsistências estruturais (ex: ciclos) causadas por erros de classificação, um procedimento de desciclagem remove a aresta de menor confiança. Conflitos entre predições de pai-filho e de ordenação são resolvidos usando a ordenação espacial baseada em caixas delimitadoras (bounding boxes).

2. Seleção de Contexto Guiada pela Árvore

Para abordar a limitação do processamento de fragmentos isolados, o DOSA aproveita a ordenação intrínseca dos documentos.

Invariante do Ramo Mais à Direita: Teoricamente, se um objeto de página em um novo fragmento tem um pai na árvore construída anteriormente, esse pai deve estar no ramo mais à direita da árvore (correspondente à ordem de leitura atual).
Mecanismo de Janela Suave (Soft Window): Para melhorar a robustez contra erros de predição iniciais, o DOSA emprega uma "janela suave baseada nos ramos mais à direita". Objetos de contexto são recuperados começando pelo ramo mais à direita da árvore parcial. Se a janela de contexto não estiver cheia, objetos são adicionados a partir do segundo ramo mais à direita, depois o terceiro, e assim por diante. Isso preserva múltiplos candidatos estruturalmente plausíveis, mitigando a propagação de erros.

3. Arquitetura do Modelo Intra-Fragmento

O núcleo é um modelo multimodal leve composto por três componentes:

Extração de Características (Backbone): Extrai e funde quatro tipos de características para cada objeto de página:
- Visual: ResNet-50 FPN com MultiScaleROIAlign.
- Semântica: Conteúdo de texto (ou fallback de categoria) codificado via BERT.
- Categoria: Embedding baseado em números inteiros.
- Dimensionamento (Sizing): Vetores normalizados de largura, altura e área.
- Estas são concatenadas e projetadas via MLP em um embedding fundido de 1024 dimensões.
Encoder Transformer: Um encoder de 6 camadas processa a sequência de embeddings fundidos. Ele utiliza codificação posicional global combinando índices de página relativos dentro do fragmento e coordenadas de caixa delimitadora normalizadas para capturar a ordem espacial e entre páginas.
Classificador de Relação: Um classificador multiclasse (MLP) prevê o pai e o predecessor imediato para cada objeto, concatenando as representações dos objetos candidatos. O modelo é treinado usando Focal Loss para lidar com o desequilíbrio de classes.

Principas Contribuições

Framework Unificado: O DOSA reformula a DSA como um processo incremental e autorregressivo, aproveitando árvores parcialmente construídas como priors estruturais para permitir o parsing escalável de documentos longos.
Design de Modelo Eficiente: O framework integra características visuais, semânticas, categóricas e de dimensionamento para prever relações sem depender de pré-treinamento de modelos de fundação de larga escala específicos para documentos.
Contexto Guiado pela Árvore: A introdução de um mecanismo de seleção de contexto guiado pela árvore (especificamente a janela suave nos ramos mais à direita) permite que o modelo modele dependências de longo alcance enquanto evita o custo computacional da codificação de todo o documento.
Validação Empírica: Experimentos extensos demonstram que o DOSA supera métodos de estado da arte e baselines de modelos de linguagem de grande escala (LLMs).

Resultados Experimentais

Experimentos foram conduzidos em cinco benchmarks: arXivDocs, E-Periodica (página única), e HRDS, HRDH, DocHieNet (múltiplas páginas).

Desempenho em Benchmarks de Múltiplas Páginas: No desafiador benchmark DocHieNet, o DOSA alcançou melhorias de aproximadamente 4 pontos de F1 e 19 pontos de TEDS sobre o estado da arte anterior (DHFormer).
Comparação com LLMs: O DOSA superou significativamente os baselines de modelos de linguagem de grande escala (Gemini-2.5-Pro e GPT-5.2) no DocHieNet, alcançando um F1 de 81.80 vs. 69.53 (GPT-5.2) e um TEDS de 76.81 vs. 57.82. Isso sugere que a modelagem estrutural explícita é superior ao raciocínio puramente generativo para reconstrução hierárquica.
Estudos de Ablação:
- Contexto: Remover o contexto ou usar janelas sequenciais simples resultou em quedas substanciais de desempenho, validando a necessidade da recuperação guiada pela árvore.
- Características: Remover embeddings de categoria causou uma queda massiva de desempenho (11.67 pontos de F1), destacando seu papel crítico. Embeddings de dimensionamento forneceram um benefício modesto, mas consistente.
- Ordem de Leitura: Mesmo dependendo da ordem de leitura inferida em vez da real (ground truth), o DOSA superou o DHFormer (que requer ordem real), demonstrando a robustez do framework.

Significância e Alegações

O artigo afirma que o DOSA aborda o gargalo crítico do processamento de documentos longos de múltiplas páginas ao mudar de um paradigma de "passagem única" para uma abordagem "autorregressiva e guiada por árvore". Ao condicionar cada etapa de inferência a um subconjunto estruturalmente relevante de contexto (os ramos mais à direita da árvore semântica), o framework mitiga efetivamente as limitações de comprimento de sequência e diluição de atenção dos transformers.

Os autores enfatizam que esta abordagem permite um parsing escalável e coerente de documentos longos sem os custos proibitivos da atenção de documento completo ou a dependência de modelos de fundação massivos. Os resultados sugerem que mecanismos conscientes da tarefa para identificar o contexto relevante são mais eficazes do que padrões de atenção implícitos, oferecendo uma solução prática para aplicações que exigem chunking de documentos, extração estruturada e sumarização consciente da hierarquia.

Limitações

Os autores reconhecem que o framework atual não modela relações de citação ou referência (estruturas baseadas em grafos além de árvores) e que o mecanismo de janela suave, embora robusto, não elimina totalmente o impacto de erros de predição iniciais. Trabalhos futuros podem explorar mecanismos adaptativos de correção de erro.