Resumo Técnico: LV-ROVER para OCR de Parágrafos em Maltês

Declaração do Problema

O maltês, a única língua semítica com estatuto oficial na UE, enfrenta um estrangulamento crítico na digitalização dos seus vastos arquivos de texto (registos parlamentares, gazetas legais, imprensa histórica). Embora existam corpora de texto e modelos de linguagem pré-treinados, a língua sofre de restrições extremas de baixos recursos especificamente para o Reconhecimento Óptico de Caracteres (OCR). Existe apenas um conhecido corpus de PDF rotulado no mundo real para treino (57 páginas), o que é insuficiente para treinar reconhecedores ao nível do parágrafo.

O maltês apresenta desafios técnicos únicos:

1. Diacríticos: O alfabeto inclui quatro pares de diacríticos (˙C/˙c, ˙G/˙g, ¯H/¯h, Ż/ż) e dígrafos. As fontes frequentemente substituem silenciosamente letras base por formas diacríticas, corrompendo os rótulos.
2. Hifenização: A língua utiliza um hífen estrutural (ex: il-kelb) que partilha o codepoint U+002D com hífens de quebra de linha suave (soft hyphens). Distinguir entre eles requer conhecimento morfológico, não apenas análise de glifos.
3. Convenções de Rótulo: Os rótulos padrão (gold labels) utilizam aspas curvas e travessões (em-dashes), enquanto os motores de OCR padrão produzem ASCII direto. Normalizar estas convenções cria reduções artificiais na taxa de erro que não refletem a qualidade real do reconhecimento.

Metodologia

Os autores propõem o LV-ROVER, um sistema concebido para operar sob um envelope de computação restrito (apenas CPU, sem GPU, sem rede após a inicialização). O sistema consiste num pipeline de treino sintético e num ensemble de inferência de múltiplos fluxos.

1. Pipeline de Dados Sintéticos

Devido à falta de dados de treino reais, os autores construíram um pipeline sintético:

• Fonte de Texto: Utilizou o corpus korpus_malti (467M de tokens) através de 11 configurações de domínio diacritizadas. O código de alternância (code-switching) para inglês foi incluído a 12%.
• Renderizador: Um wrapper compatível com SynthTIGER que gera cortes de parágrafos.
  • Calibração de Resolução: Uma descoberta crítica foi que os renders sintéticos iniciais a 300 DPI tinham o dobro da resolução efetiva dos cortes reais do benchmark (~150–200 DPI). O renderizador foi corrigido para aplicar uma reescala Lanczos de meia-resolução e re-codificação JPEG para corresponder às estatísticas do mundo real.
  • Aumentação: Aplicou-se aumentações realistas de PDF (rotação, desfoque, sangramento de tinta, ruído), enquanto se desativaram operações de texto de cena (scene-text operations: distorção de perspetiva, brilho).
  • Etiquetagem de Hífens: Cada hífen é etiquetado como suave (soft), estrutural ou composto para permitir a avaliação específica da precisão de junção.
• Validação de Fontes: 68 fontes foram curadas e verificadas contra um "conjunto canário" de glifos diacríticos para garantir que não substituíam silenciosamente letras base.

2. Reconhecimento e Ensemble (LV-ROVER)

O motor de reconhecimento central é um ensemble de 5 fluxos de Tesseract LSTM. A diversidade é alcançada sem o retreino de múltiplos modelos do zero, variando três eixos:

1. Cadeia de Linguagem: Maltês apenas; Maltês + Italiano; Maltês + Italiano + Francês.
2. Estado de Treino: Modelos com ajuste fino (fine-tuned) vs. reconhecedores padrão (stock/pretrained).
3. Escala de Imagem: Resolução nativa vs. cortes com escala de 2x.

Mecanismo de Votação:
O sistema adapta o ROVER (Recognition Output Voting Error Reduction) com modificações específicas para configurações de baixos recursos:

• Léxico Suave (Soft Lexicon): Em vez de um léxico de conjunto fechado, utiliza-se uma tabela de frequência de palavras em maltês.
• Preservação de Diacríticos: Uma restrição estrita impede que a votação da maioria sobreponha um diacrítico correto (ex: ˙c) por uma letra base (c) se o diacrítico estiver presente no léxico. Isto atua como um controlo "canário".
• Diversidade: A votação baseia-se em diferenças estruturais entre os cinco fluxos (cadeia de linguagem, prior de treino, escala de imagem) em vez de reamostragem de dados.

3. Pós-processamento e Junção

• Juntor Baseado em Regras: Um juntor baseado em regras pré-existente resolve hífens suaves vs. estruturais. Verificou-se que este era 99,51% preciso em dados sintéticos, eliminando a necessidade de um novo rewrite.
• Cadeia de Normalização: Uma cadeia de cinco estágios alinha a saída com as convenções de rótulo do benchmark:
  1. Normalização de marcador de liderança (lead-marker).
  2. Normalização de apóstrofo.
  3. Regra de aspas de abertura posicional.
  4. Voto de restauração de diacríticos: Um estágio específico para recuperar diacríticos mal lidos (ganho de reconhecimento).
  5. Normalização de aspas de fecho.

4. Protocolo de Avaliação (Dual-CER)

Para distinguir entre melhorias reais de reconhecimento e mera convergência de formatação, os autores utilizam um protocolo de reporte Dual-CER:

• CER de Reconhecimento: Medido antes da normalização de pós-processamento (ex: aspas diretas).
• CER de Pipeline Completo: Medido após a aplicação de todas as regras de normalização.
• Harness de Auditoria: Utiliza intervalos de confiança de bootstrap, testes de permutação e dados sintéticos mantidos fora (held-out) para garantir que as regras de pós-processamento não causem overfitting ao conjunto de desenvolvimento ou introduzam regressões nos diacríticos.

Resultados Principais

O sistema foi avaliado num benchmark de 422 parágrafos em maltês contra uma linha de base de Tesseract com ajuste fino (CER 0.0234).

1. Ganho de Reconhecimento: O ensemble de 5 fluxos sozinho reduziu a Taxa de Erro de Caracteres (CER) de 0.0234 para 0.01317, uma redução de 44%. Isto é atribuído à votação do ensemble e ao ajuste fino.
2. Ganho de Pipeline Completo: Após a aplicação da cadeia de pós-processamento de cinco estágios, o CER caiu para 0.00700, uma redução de 70% em relação à linha de base.
3. Decomposição: Os autores enfatizam que o ganho adicional de 26% (de 0.01317 para 0.00700) se deve principalmente à normalização tipográfica (conversão de aspas diretas para curvas, etc.), e não à melhoria do reconhecimento de caracteres. Apenas um estágio na cadeia (voto de restauração de diacríticos) representa uma correção real de reconhecimento.
4. Decodificadores Neurais: Tentativas de utilizar decodificadores baseados em Transformers (TrOCR, FasterDAN) foram inicialmente malsucedidas devido ao desajuste de resolução identificado no pipeline sintético. Uma execução corrigida de um modelo do tipo Pix2Struct atingiu um CER de 0.312, indicando que o caminho permanece aberto, mas requer mais trabalho.

Significância e Alegações

O artigo reivindica significância principalmente pela sua abordagem rigorosa à avaliação de OCR de baixos recursos e pelas suas soluções específicas para a língua maltesa:

• Métricas Portáteis vs. Específicas: Os autores argumentam que reportar apenas a redução de 70% (0.00700) exagera a capacidade de aprendizagem do modelo. Eles postulam que a redução de 44% (0.01317) é a estimativa portátil do que o reconhecedor aprendeu, enquanto a figura de 70% é específica para as convenções tipográficas do benchmark.
• Calibração de Dados Sintéticos: O trabalho destaca que o desajuste de resolução é um fator crítico, frequentemente negligenciado, na transferência de sintético-para-real, que pode bloquear o desempenho de decodificadores neurais mais do que as escolhas de arquitetura.
• Validação de Regras: O "Dual-CER" e o harness de auditoria demonstram que as regras de pós-processamento devem ser validadas contra dados sintéticos independentes para garantir que não estão apenas a sofrer overfitting das idiossincrasias de rotulação do conjunto de desenvolvimento.
• Eficiência de Recursos: O sistema alcança alta precisão em hardware apenas com CPU, tornando-o viável para ambientes onde o acesso a GPU não está disponível.

Os autores concluem que, embora o ensemble Tesseract seja o sistema validado para este artigo, o caminho neural permanece aberto, e o pipeline é disponibilizado para apoiar a digitalização do património arquivístico maltês para os seus 520.000 falantes.