TRIZ-RAGNER: A Retrieval-Augmented Large Language Model for TRIZ-Aware Named Entity Recognition in Patent-Based Contradiction Mining

Resumo Técnico: TRIZ-RAGNER

1. O Problema

A mineração de contradições baseada na teoria TRIZ (Theory of Inventive Problem Solving) é fundamental para a análise de patentes e a inovação sistemática. O objetivo é identificar, em textos de patentes, pares de parâmetros técnicos onde a melhoria de um leva à deterioração de outro (parâmetro "melhorado" vs. parâmetro "piorado").

Os desafios principais enfrentados pelas abordagens existentes incluem:

• Limitações de Métodos Baseados em Regras: Dependem de correspondência de palavras-chave e padrões linguísticos manuais, sofrendo com baixa escalabilidade e robustez diante da diversidade de expressões em patentes.
• Limitações de Modelos de Aprendizado de Máquina Tradicionais: Modelos de NER (Reconhecimento de Entidades Nomeadas) baseados em sequências (como BiLSTM-CRF ou BERT) dependem de características de superfície e dados anotados, tendo dificuldade em capturar semânticas implícitas e dependências de longo alcance típicas de textos técnicos complexos.
• Limitações de Grandes Modelos de Linguagem (LLMs): Embora os LLMs tenham forte compreensão semântica, sua aplicação direta sofre de alucinações (geração de parâmetros incorretos) e falta de ancoragem em conhecimento estruturado de TRIZ, resultando em previsões inconsistentes.

2. Metodologia: TRIZ-RAGNER

O artigo propõe o TRIZ-RAGNER, um framework de LLM aumentado por recuperação (RAG - Retrieval-Augmented Generation) reformulado como uma tarefa de NER em nível semântico. A arquitetura opera em três etapas principais:

1. Recuperação de Conhecimento (Dense Retrieval):

   • A frase da patente de entrada é codificada em um vetor semântico.
   • Um banco de dados de conhecimento TRIZ (contendo os 39 parâmetros de engenharia padrão, definições, sinônimos e exemplos anotados do dataset PaTRIZ) é consultado.
   • Utiliza-se similaridade de cosseno para recuperar os top-K contextos de conhecimento mais relevantes para a frase de entrada.

2. Rerankagem com Cross-Encoder:

   • Para mitigar ruídos da recuperação inicial, um modelo cross-encoder reclassifica os contextos recuperados.
   • Este modelo codifica conjuntamente a frase da patente e o fragmento de conhecimento TRIZ, calculando uma pontuação de relevância mais precisa e refinada.
   • Apenas os contextos com maior pontuação são selecionados para a inferência, garantindo que o LLM receba informações altamente pertinentes.

3. Inferência com Prompt Estruturado (LLM):

   • Um prompt estruturado é construído concatenando: instruções da tarefa, o contexto de conhecimento TRIZ refinado e a frase da patente alvo.
   • O LLM é instruído a extrair os parâmetros de melhoria e piora, com uma restrição de saída em formato JSON estrito.
   • Isso guia o modelo a gerar pares de parâmetros consistentes e interpretáveis, reduzindo a ambiguidade.

3. Principais Contribuições

• Reformulação da Tarefa: A mineração de contradições TRIZ é redefinida como uma tarefa de NER em nível semântico, indo além do simples rotulamento de tokens.
• Framework Híbrido (TRIZ-RAGNER): Integração de conhecimento de domínio específico (TRIZ) via RAG com o raciocínio de LLMs, resolvendo o problema de alucinação e falta de fundamentação.
• Mecanismo de Rerankagem: Introdução de um cross-encoder para filtrar ruído semântico e melhorar a precisão da recuperação de conhecimento.
• Validação Empírica: Experimentos abrangentes no dataset PaTRIZ, demonstrando superioridade sobre métodos tradicionais e baselines baseados em LLM.

4. Resultados Experimentais

Os experimentos foram conduzidos no dataset PaTRIZ (aproximadamente 3.000 instâncias anotadas de contradições). As métricas avaliadas foram Precisão (P), Revocação (R) e F1-Score.

• Desempenho Geral: O TRIZ-RAGNER alcançou:
  • Precisão: 85,6%
  • Revocação: 82,9%
  • F1-Score: 84,2%
• Comparação com Baselines:
  • Superou modelos de sequência tradicional (ex: RoBERTa-CRF com F1 de 71,7%).
  • Superou LLMs puros (ex: GPT com prompt engineering alcançou 76,9%).
  • Houve uma melhoria absoluta de 7,3 pontos percentuais no F1-Score em relação ao baseline mais forte (GPT aprimorado).
• Estudo de Ablação:
  • A remoção do módulo de recuperação reduziu o F1 para 78,1%.
  • A remoção da rerankagem reduziu para 79,8%.
  • A remoção do prompt estruturado causou a maior degradação entre os componentes de LLM (F1 de 76,6%), evidenciando a importância da estrutura de saída.

5. Significado e Conclusão

O trabalho demonstra que a ancoragem de Grandes Modelos de Linguagem com conhecimento estruturado de domínio (TRIZ) via mecanismos de recuperação e rerankagem é uma abordagem eficaz para tarefas complexas de extração de informação em patentes.

• Impacto Prático: O framework permite a extração robusta e precisa de contradições técnicas, facilitando tarefas downstream como recomendação de princípios inventivos, análise de evolução tecnológica e descoberta de oportunidades de inovação.
• Limitações e Futuro: O método introduz uma sobrecarga computacional devido à recuperação externa e foca atualmente em nível de sentença. Trabalhos futuros visam estratégias de recuperação adaptativas e leves, além da mineração em nível de documento e multilíngue.

Em suma, o TRIZ-RAGNER estabelece um novo estado da arte na mineração de contradições em patentes, combinando a precisão do conhecimento de engenharia estruturado com a flexibilidade semântica dos LLMs.