A Dual-Channel Patent Vectorization Method Based on Claim Structure Analysis

Sintesi Tecnica: Un Metodo di Vettorizzazione di Brevetti a Doppio Canale Basato sull'Analisi della Struttura delle Rivendicazioni

Definizione del Problema
Gli esistenti metodi di vettorizzazione dei brevetti si affidano prevalentemente a strategie di rappresentazione del testo completo unificate. Sebbene approcci come TF-IDF, Word2Vec e Doc2Vec abbiano fatto progressi nella modellazione semantica, essi trattano spesso i testi dei brevetti come input piatti. Questo approccio non riesce a sfruttare esplicitamente la struttura gerarchica intrinseca nelle rivendicazioni dei brevetti. Di conseguenza, tali metodi faticano a catturare simultaneamente la semantica di sistema globale (tipicamente presente nelle rivendicazioni indipendenti) e i dettagli tecnici locali (presenti nelle rivendicazioni dipendenti). La miscelazione di questi distinti livelli semantici all'interno di un singolo spazio vettoriale può diluire la capacità discriminativa, portando a una riduzione dell'accuratezza del matching dei brevetti e a una minore qualità delle rappresentazioni vettoriali.

Metodologia
Il documento propone un Metodo di Vettorizzazione di Brevetti a Doppio Canale che modella esplicitamente la gerarchia strutturale delle rivendicazioni. Il flusso di lavoro consiste in tre fasi primarie:

1. Segmentazione della Struttura delle Rivendicazioni e Costruzione del Doppio Canale:

   • Segmentazione: Le rivendicazioni dei brevetti vengono segmentate in base alla numerazione e alle relazioni di citazione. Le rivendicazioni che non citano altre rivendicazioni e riassumono la soluzione principale sono classificate come Rivendicazioni Indipendenti; quelle che citano rivendicazioni precedenti per aggiungere caratteristiche o restrizioni sono classificate come Rivendicazioni Dipendenti.
   • Definizione dei Canali:
     • Canale Globale (Overall Channel): Costruito concatenando le rivendicazioni indipendenti per rappresentare la semantica del sistema. Questo canale è modellato utilizzando Doc2Vec per catturare la soluzione tecnica centrale.
     • Canale Locale (Local Channel): Costruito concatenando le rivendicazioni dipendenti per rappresentare dettagli tecnici fini (parametri, caratteristiche aggiuntive). Questo canale è modellato tramite l'aggregazione di vettori di parole pesati TF-IDF per evidenziare i termini discriminanti.
   • Correzione della Decorrelazione Locale: Per prevenire la ridondanza tra i due canali (poiché le rivendicazioni dipendenti spesso ripetono termini centrali), viene applicato un passaggio di decorrelazione. Il vettore del canale locale viene regolato sottraendo una proporzione del vettore del canale globale, garantendo che il canale locale si concentri su dettagli supplementari e non ridondanti.

2. Fusione per Concatenazione a Gate del Doppio Canale:

   • Estrazione delle Caratteristiche: Due caratteristiche statistiche vengono estratte dal testo completo delle rivendicazioni: la Concentrazione delle Parole Chiave (che misura il peso delle parole chiave principali) e la Specificità dei Termini (che misura la rarità e il potere discriminante dei termini).
   • Tendenza di Fusione: Queste caratteristiche vengono normalizzate e combinate in una tendenza di fusione a livello di campione di brevetto ($\alpha_i$), controllata da un parametro di bilanciamento ($\eta$).
   • Mappatura a Gate (Gated Mapping): Una funzione sigmoide converte la tendenza di fusione in un peso di gate ($gate_i$). Ciò consente al modello di regolare dinamicamente il rapporto di contribuzione tra il canale globale e quello locale in base alle specifiche caratteristiche testuali di ciascun campione di brevetto.
   • Fusione Finale: Il vettore finale del brevetto è generato tramite concatenazione a gate: $[(1 - gate_i)v_{o,i}; gate_i v'_{l,i}]$, dove $v_{o,i}$ è il vettore globale e $v'_{l,i}$ è il vettore locale decorrelato.

Contributi Chiave

1. Framework Orientato alla Struttura delle Rivendicazioni: Il documento introduce un framework di rappresentazione che separa le rivendicazioni indipendenti e quelle dipendenti rispettivamente in un canale globale e un canale locale. Ciò distingue esplicitamente la semantica della soluzione centrale dalle limitazioni dettagliate, migliorando la capacità del vettore di catturare la gerarchia delle rivendicazioni.
2. Meccanismo di Concatenazione a Gate: Viene progettato un nuovo meccanismo di fusione per affrontare la complementarità semantica. Utilizzando la decorrelazione locale per ridurre la ridondanza e una strategia di mappatura a gate guidata dalla concentrazione delle parole chiave e dalla specificità dei termini, il metodo bilancia dinamicamente l'influenza della semantica globale e di quella locale per ogni campione di brevetto.
3. Validazione Empirica: Il metodo è rigorosamente valutato su un dataset di recupero di brevetti del mondo reale (DAPFAM), dimostrando miglioramenti rispetto ai baseline standard a testo completo.

Risultati Sperimentali
Gli esperimenti sono stati condotti utilizzando il dataset DAPFAM, confrontando il metodo proposto con i baseline a testo completo TF-IDF, Avg Word2Vec e Doc2Vec.

• Qualità del Ranking: Il metodo proposto ha ottenuto prestazioni superiori in tutte le metriche: Precision@10 (P@10), Mean Average Precision@10 (MAP@10) e Normalized Discounted Cumulative Gain@10 (NDCG@10). Nello specifico, ha raggiunto un P@10 di 0,3316, superando il miglior baseline (Doc2Vec) che si attestava a 0,3172.
• Studi di Ablazione: I risultati hanno confermato che la struttura a doppio canale è la base dei guadagni di prestazione. Sebbene la concatenazione diretta abbia migliorato i risultati, l'aggiunta della decorrelazione e del meccanismo a gate completo ha prodotto le prestazioni più elevate, validando la necessità di ridurre la ridondanza e di pesare dinamicamente i canali.
• Efficienza: Il metodo proposto comporta costi computazionali più elevati (circa 7,26 ms/doc per la vettorizzazione online) rispetto ai baseline leggeri come TF-IDF (0,89 ms/doc) o Avg Word2Vec (0,51 ms/doc). Tuttavia, gli autori osservano che questo sovraccarico rimane entro un intervallo accettabile, rappresentando un compromesso ragionevole per i significativi guadagni nell'accuratezza del recupero.

Significatività e Rivendicazioni
Il documento sostiene che la sua principale significatività risieda nello spostamento della vettorizzazione dei brevetti da un approccio di modellazione del testo completo "piatto" a un approccio di modellazione gerarchico e consapevole della struttura. Riconoscendo che le rivendicazioni indipendenti e quelle dipendenti servono funzioni semantiche diverse, il metodo fornisce una rappresentazione vettoriale più mirata. Ciò migliora la qualità della rappresentazione vettoriale dei brevetti, supportando così un recupero di brevetti simili più accurato, la scoperta di opportunità tecnologiche e l'analisi del valore dei brevetti. Gli autori posizionano questo lavoro come un passo verso la valutazione sistematica e l'adattamento ai compiti nel campo del NLP per i brevetti, offrendo un approccio di modellazione che distingue meglio tra soluzioni tecniche centrali e dettagli tecnici locali.