Optical Character Recognition of Historical Moroccan Arabic Calligraphy Using Transformer-Based TrOCR

Durante séculos, a palavra escrita tem sido o principal veículo da memória humana, transportando as leis, histórias e descobertas científicas de civilizações através do tempo. No entanto, à medida que o papel envelhece e a tinta desbota, esses documentos frequentemente se tornam ilegíveis para o olhar moderno, trancados por camadas de decadência física e estilos de caligrafia desconhecidos. No campo da ciência da computação, uma área conhecida como reconhecimento óptico de caracteres, pesquisadores há muito ensinam máquinas a ler texto impresso com precisão quase perfeita. Contudo, quando essas máquinas encontram as páginas desordenadas, fluidas e frequentemente danificadas de manuscritos históricos, elas frequentemente tropeçam. O desafio é particularmente agudo com a caligrafia árabe, onde as letras dentro de uma única palavra são frequentemente unidas em cadeias cursivas complexas que variam drasticamente de um escritor para outro. Para a tradição específica e culturalmente rica dos manuscritos árabes marroquinos, escritos em um estilo distinto conhecido como escrita Maghribi, a tarefa tem sido especialmente difícil porque as letras se tocam, sobrepõem-se e deslocam-se de formas que confundem o software de leitura padrão.

Dois pesquisadores independentes, Adnane Mehdaoui e Khadija El Maaroufi, abordaram este problema desenvolvendo uma nova abordagem que evita a necessidade tradicional de separar letras individuais. Em vez de tentar cortar uma palavra em suas partes componentes — uma tarefa que frequentemente falha quando a tinta borra ou as letras se fundem — eles treinaram um sistema de inteligência artificial moderno para observar uma linha inteira de texto como uma história única e conectada. Ao utilizar um tipo de modelo computacional avançado chamado Transformer, que é projetado para compreender o contexto de uma frase inteira de uma só vez, eles criaram um sistema capaz de decifrar estas difíceis páginas históricas. O trabalho deles demonstra que, ao combinar uma limpeza cuidadosa da imagem com um modelo que aprende com o fluxo da escrita, em vez de formas isoladas, é possível desbloquear os segredos do patrimônio marroquino que estavam anteriormente ocultos à vista de todos.

Os pesquisadores começaram com uma coleção de duzentas páginas de arquivos de código aberto, representando a escrita Maghribi única encontrada em Marrocos. Estas páginas estavam longe de estar imaculadas; sofriam das aflições típicas de documentos antigos, tais como iluminação irregular, tinta desbotada e papel que se deformou com o tempo. Para tornar estas imagens legíveis para um computador, a equipe construiu primeiro um pipeline especializado para limpar e organizar os dados. Eles ajustaram o contraste para fazer a tinta escura se destacar contra o papel envelhecido e, em seguida, utilizaram um sistema de detecção inteligente para encontrar onde cada linha de texto começava e terminava. Este passo foi crucial porque a caligrafia histórica frequentemente inclina ou se desloca, tornando difícil para as ferramentas padrão distinguir onde uma frase termina e a próxima começa. O sistema analisou automaticamente o espaçamento e a densidade da tinta para fatiar as páginas em linhas individuais, criando um conjunto limpo de imagens prontas para a próxima etapa de aprendizado.

Uma vez isoladas as linhas, os pesquisadores recorreram a uma ferramenta poderosa conhecida como TrOCR, que significa Reconhecimento Óptico de Caracteres baseado em Transformer. Ao contrário dos sistemas mais antigos que tentavam identificar uma letra de cada vez, este modelo trabalha observando a linha inteira de texto simultaneamente. Ele utiliza um mecanismo chamado autoatenção (self-attention), que permite ao computador ponderar a importância de diferentes partes da imagem enquanto lê. Por exemplo, se uma letra estiver ligeiramente distorcida ou faltando um ponto, o modelo pode observar as letras circundantes e a forma geral da palavra para adivinhar qual é a peça que provavelmente está faltando. Esta capacidade de compreender o contexto é vital para o árabe, onde a forma de uma letra muda dependendo de estar no início, no meio ou no fim de uma palavra, e onde pequenos pontos acima ou abaixo de uma letra podem mudar completamente o seu significado.

Para ensinar este modelo a ler o árabe marroquino, os pesquisadores não começaram do zero. Eles utilizaram uma técnica chamada aprendizagem por transferência (transfer learning), pegando um modelo que já havia sido treinado em milhares de documentos manuscritos em inglês e adaptando-o para a escrita árabe. Isto é semelhante a como uma pessoa que já aprendeu a tocar piano pode aprender um novo instrumento mais rapidamente do que um iniciante completo, porque já compreende os fundamentos do ritmo e da melodia. O modelo foi então refinado (fine-tuned) com o conjunto de dados marroquino, aprendendo a reconhecer as curvas, conexções e estilos específicos da escrita Maghribi. A equipe treinou o sistema em aproximadamente oito mil pares de imagens e suas transcrições de texto corretas, enquanto reservou outros dois mil pares para testar o desempenho do modelo em material que ele nunca tinha visto antes.

Os resultados deste treinamento foram medidos usando uma métrica padrão chamada Taxa de Erro de Caractere (Character Error Rate), que conta quantos caracteres o computador errou em comparação com o texto correto. No conjunto de teste, o modelo alcançou uma taxa de erro de pouco mais de cinco por cento. Isto significa que, para cada cem caracteres em uma linha de texto, o sistema identificou corretamente mais de noventa e cinco deles. Os pesquisadores observaram que o desempenho permaneceu consistente através das fases de treinamento, validação e teste, sugerindo que o modelo realmente aprendeu os padrões da escrita, em vez de simplesmente memorizar as páginas específicas que lhe foram mostradas. Este nível de precisão é significativo para documentos históricos, onde a variabilidade na caligrafia e a presença de danos tornam o reconhecimento perfeito um patamar extremamente elevado.

Apesar destes sucessos, os autores são cuidadosos ao apontar que o trabalho não é uma solução completa para todos os problemas de leitura de manuscritos antigos. O sistema ainda tem dificuldades com marcas diacríticas, os pequenos pontos e linhas que se situam acima ou abaixo das letras para indicar pronúncia ou significado, que são frequentemente ténues ou ausentes em documentos antigos. Se estas marcas forem mal interpretadas, o significado de uma palavra pode mudar inteiramente. Além disso, o modelo foi treinado em linhas de texto que foram cuidadosamente extraídas; ele ainda não lida com páginas completas com layouts complexos, tais como notas marginais escritas nas margens ou texto que corre em múltiplas colunas. Os pesquisadores também destacaram que a escassez de dados anotados continua a ser um grande obstáculo, pois a criação dos conjuntos de treinamento exige que especialistas transcrevam o texto manualmente, um processo lento e difícil.

O estudo conclui que, embora o deep learning tenha feito grandes progressos, ainda não pode substituir a necessidade de perícia humana ou superar todas as limitações físicas do papel envelhecido. No entanto, a abordagem adotada por Mehdaoui e El Maaroufi oferece um caminho robusto a seguir. Ao combinar o pré-processamento inteligente de imagem com um modelo que compreende o contexto da linha inteira, eles criaram uma ferramenta que pode acelerar significativamente a digitalização do patrimônio histórico marroquino. Este trabalho não produz apenas uma lista de números; fornece uma estrutura prática que permite aos investigadores aceder e preservar séculos de conhecimento linguístico e cultural que anteriormente eram demasiado difíceis de ler. À medida que o campo avança, a integração de modelos de linguagem para corrigir erros e o desenvolvimento de melhores técnicas de aumento de dados poderão refinar ainda mais estes sistemas, aproximando a história escrita do Magrebe do mundo moderno.