Texo: Formula Recognition within 20M Parameters

O artigo apresenta o Texo, um modelo minimalista de reconhecimento de fórmulas com apenas 20 milhões de parâmetros que, graças a um design atento e técnicas de distilação, alcança desempenho comparável aos modelos mais avançados enquanto reduz drasticamente o tamanho do modelo, permitindo inferência em tempo real em hardware comum e até mesmo no navegador.

O essencial

Imagine que você tem uma pilha enorme de livros de matemática, notas de aula rabiscadas à mão e fórmulas complexas tiradas de artigos científicos. O seu objetivo é transformar todas aquelas imagens de equações em código de computador (LaTeX) que qualquer editor de texto consegue ler e editar.

Antigamente, para fazer isso, os cientistas precisavam de "monstros" de inteligência artificial. Eram modelos gigantes, pesados como um caminhão de mudança, que exigiam computadores superpotentes e caros para funcionar. Era como tentar abrir uma porta simples usando uma chave mestra do tamanho de um prédio.

Aqui entra o Texo, o protagonista deste artigo.

O Texo: O "Mini-Mestre" das Fórmulas

Os autores criaram o Texo com uma missão simples: fazer o mesmo trabalho dos gigantes, mas sendo pequeno, leve e rápido.

Enquanto os modelos anteriores (como o UniMERNet ou o PPFormulaNet) eram como caminhões cheios de peças que você nunca usaria, o Texo é como uma ferramenta multiuso de bolso. Ele tem apenas 20 milhões de parâmetros (a "memória" da inteligência artificial). Para você ter uma ideia:

• O modelo antigo era como um caminhão de 107 ou 325 milhões de peças.
• O Texo é um carro esportivo ágil com apenas 20 milhões.

Isso significa que você pode rodar o Texo no seu próprio computador de casa, ou até mesmo direto no navegador do seu celular, sem precisar de servidores caros na nuvem.

Como eles conseguiram isso? (A Mágica da "Poda")

A grande sacada do Texo não foi apenas diminuir o tamanho do motor, mas trocar o vocabulário.

Imagine que você está ensinando um robô a ler matemática.

1. O jeito antigo: Eles ensinavam o robô com um dicionário de 50.000 palavras, incluindo palavras de conversas do dia a dia, gírias e termos que nunca aparecem em uma fórmula matemática. Era como ensinar um cozinheiro a fazer um bolo, mas dando a ele ingredientes para fazer também um carro, um navio e um foguete. O robô gastava muita energia e memória tentando entender tudo aquilo.
2. O jeito do Texo: Os autores olharam para o dicionário e disseram: "Ei, matemática é muito específica!". Eles criaram um dicionário super-curado, com apenas 687 palavras essenciais para fórmulas (como "soma", "raiz quadrada", "integral").

Além disso, eles resolveram um problema de "quebra de palavras".

• O problema: O robô antigo, ao ver a palavra \leftarrow (uma seta para a esquerda), quebrava ela em pedaços sem sentido: \left e arrow. Era como ler "caminhão" e entender "camin" + "hão", perdendo o sentido original.
• A solução: O Texo aprendeu a ver a palavra inteira de uma vez, como um bloco único. Isso fez o robô ler muito mais rápido e com menos erros.

O Resultado na Prática

O Texo é tão eficiente que:

• É 7 vezes mais rápido que o modelo anterior menor (UniMERNet-T).
• Tem a mesma precisão (ou até melhor em alguns casos) que os gigantes, mesmo sendo 80% menor.
• Funciona no seu navegador: Os autores criaram um site onde você pode tirar uma foto de uma fórmula e ver o código pronto instantaneamente, sem precisar instalar nada e sem enviar seus dados para ninguém (tudo acontece no seu computador).

A Analogia Final

Pense nos modelos antigos como bibliotecas gigantescas onde você precisa procurar um livro específico entre milhões de volumes, muitos dos quais são sobre culinária ou história, e você só quer matemática. É lento e confuso.

O Texo é como um livro de bolso de matemática pura. Ele não tem nada de supérfluo. Você abre, encontra exatamente o que precisa, e fecha. É rápido, leve e faz o trabalho perfeitamente.

Resumo da ópera: Os autores provaram que, para tarefas específicas como ler fórmulas matemáticas, você não precisa de um "supercomputador". Com um design inteligente e um vocabulário bem escolhido, um modelo pequeno e acessível pode vencer os gigantes.

Resumo técnico

1. Problema

O reconhecimento de fórmulas matemáticas (MER - Mathematical Expression Recognition) é crucial para a análise de documentos e para o treinamento de Modelos de Linguagem de Grande Escala (LLMs), que dependem de dados acadêmicos de alta qualidade. Embora existam modelos de última geração (SOTA) como o UniMERNet e o PPFormulaNet, eles apresentam desafios significativos:

• Ineficiência de Parâmetros: Modelos SOTA abertos variam de 58M a 325M de parâmetros (e modelos gerais como o GOT-OCR chegam a 560M), tornando-os pesados demais para execução em hardware de consumo ou dispositivos de borda.
• Vocabulário e Tokenização Inadequados: A maioria dos modelos herda vocabulários e tokenizadores (como BPE) projetados para linguagem natural. Isso resulta em vocabulários excessivamente grandes para o domínio restrito de LaTeX e na quebra de tokens semânticos importantes (ex: \leftarrow sendo dividido em \left e arrow), aumentando o comprimento da sequência e reduzindo a eficiência.

2. Metodologia

O Texo é um modelo minimalista de reconhecimento de fórmulas projetado para manter alto desempenho com apenas 20 milhões de parâmetros. A abordagem técnica baseia-se em três pilares principais:

A. Design do Modelo

• Arquitetura: O Texo herda a estrutura do PPFormulaNet-S, consistindo em um codificador de imagem e um decodificador de texto.
• Codificador de Imagem: Utiliza o HGNetV2-B4, uma CNN leve e moderna que serve como backbone para o RT-DETR, oferecendo desempenho comparável ao ViT em tarefas de classificação e detecção, mas com menos parâmetros.
• Decodificador de Texto: Um decodificador Transformer MBart de 2 camadas, com dimensão oculta de 384 e comprimento de contexto de 1024.

B. Destilação e Transferência de Vocabulário (Inovação Chave)

A maior parte dos parâmetros em modelos de reconhecimento de fórmulas reside nas camadas de embedding de entrada e saída do decodificador, que são proporcionais ao tamanho do vocabulário.

• Vocabulário Específico de Domínio: Em vez de usar vocabulários de linguagem natural, os autores criaram um vocabulário baseado em regras a partir do parser LaTeX de código aberto KaTeX. Isso garante que macros completas (como \frac ou \alpha) sejam tratadas como tokens únicos, preservando a semântica.
• Redução de Tokens: O vocabulário foi reduzido de 50.000 para apenas 687 tokens.
• Transferência de Conhecimento: Utilizando heurísticas de transferência de vocabulário, os pesos do decodificador do modelo base (PPFormulaNet-S) foram adaptados para o novo tokenizador. Isso reduziu os parâmetros de embedding de 38 milhões para menos de 1 milhão.
• Remoção de Espaços em Branco: O tokenizador foi ajustado para remover espaços em branco semânticos, reduzindo drasticamente o comprimento das sequências de treinamento e melhorando a modelagem de fórmulas complexas.

C. Implantação no Navegador

• O modelo foi exportado para o formato ONNX e executado inteiramente no navegador (frontend) usando o framework Transformers.js.
• A interface foi construída com Vue/Nuxt, utilizando Web Workers para separar a inferência da renderização da UI, garantindo privacidade (sem envio de dados para servidores) e baixo custo de infraestrutura.

3. Resultados Experimentais

Os testes foram realizados no conjunto de dados UniMER-Test, comparando o Texo com o UniMERNet-T, PPFormulaNet-S e o modelo comercial Mathpix. A métrica principal foi o CDM (Character Detection Matching), que é mais robusto que BLEU ou Edit Distance para LaTeX.

• Desempenho de Precisão:
  • O Texo (20M parâmetros) alcançou desempenho comparável ou superior ao PPFormulaNet-S (58M) em todos os tipos de fórmulas (SPE, CPE, SCE, HWE).
  • Exemplo em Expressões Impressas Simples (SPE): Texo obteve 0.958 de CDM, superando o PPFormulaNet-S (0.949) e aproximando-se do UniMERNet-T (0.991).
• Eficiência e Velocidade:
  • Tamanho: Redução de 80% em relação ao UniMERNet-T e 65% em relação ao PPFormulaNet-S.
  • Velocidade de Inferência: O Texo é 7x mais rápido que o UniMERNet-T. Embora seja ligeiramente mais lento que o PPFormulaNet-S (que usa previsão paralela de múltiplos tokens), o Texo mantém alta precisão sem sacrificar a acurácia pela velocidade.
  • Comprimento do Token: A tokenização otimizada reduziu o comprimento médio dos tokens de saída em quase 50%, acelerando a conclusão da previsão.
• Hardware: O modelo foi treinado em uma única GPU A40 (46GB) e pode ser adaptado para GPUs de consumo (ex: RTX 3090 24GB) com gradient accumulation.

4. Contribuições Principais

1. Modelo Minimalista de Alta Performance: Demonstração de que é possível desafiar modelos grandes em tarefas específicas de MER usando apenas dados abertos, pesos abertos e hardware de consumo, alcançando 20M de parâmetros.
2. Técnica de Destilação de Vocabulário: Uma metodologia eficaz para reduzir drasticamente o tamanho do modelo focando na otimização do vocabulário e do tokenizador para o domínio de LaTeX, eliminando a redundância de tokens de linguagem natural.
3. Solução Prática e Privada: Disponibilização de uma aplicação web completa que roda localmente no navegador do usuário, eliminando a necessidade de configuração de ambiente complexo ou riscos de vazamento de dados via API.

5. Significado e Impacto

O trabalho do Texo é significativo porque desafia a premissa de que modelos grandes e gerais (VLMs) são necessários para tarefas especializadas de OCR matemático. Ao focar na eficiência de parâmetros através de um design cuidadoso de vocabulário e arquitetura, o Texo torna o reconhecimento de fórmulas acessível para:

• Dispositivos de Borda e PCs Pessoais: Permitindo inferência em tempo real sem dependência de nuvem.
• Privacidade de Dados: Soluções locais para instituições que não podem enviar documentos confidenciais para APIs comerciais.
• Educação e Pesquisa: Fornecendo uma ferramenta gratuita e de código aberto para estudantes e pesquisadores, além de um pipeline de treinamento eficiente para futuras pesquisas em modelos leves.

Em resumo, o Texo prova que a otimização específica de domínio (vocabulário e tokenização) pode superar a simples escala de parâmetros, oferecendo uma alternativa viável e eficiente aos modelos SOTA atuais.