Pointer-Augmented Autoregressive Generation of Patent Claims with Joint Topology and Content Decoding

기술 요약: 공동 토폴로지 및 콘텐츠 디코딩을 통한 포인터 증강 자기회귀적 특허 청구항 생성

문제 정의
자기회귀 언어 모델은 텍스트를 평면적인 토큰 시퀀스로 생성하며, 출력 세그먼트 간의 계층적 관계를 추론할 수 있는 명시적인 메커니즘이 부족하다. 이러한 한계는 특허 청구항 생성에서 특히 두드yl되는데, 청구항 세트는 "청구항 종속 포레스트(Claim Dependency Forest)"를 형성하기 때문이다. 이 구조에서 독립항은 트리의 루트가 되며, 종속항은 계층적 참조를 통해 선행 항을 반드시 인용해야 한다. 결정적으로, 이 계층 구조는 법적 제약을 수반한다. 즉, 보호 범위는 깊이에 따라 단조 감소(monotonically narrow)해야 한다. 이러한 제약을 준수하지 못하는 경우(예: 종속항이 부모 항의 범위를 넓히거나 유효한 선행 항을 인용하지 못하는 경우)는 특허청의 거절 사유가 된다.

기존 방식들은 다음과 같은 세 가지 주요 한계점을 가진다:

1. 구조적 분리: 표준 자기회귀 디코딩은 비선형적인 부모/자식 의존성을 모델링할 수 없으므로, 종종 끊어진 의존성 체인을 생성한다. 토폴로지를 콘텐츠와 분리하여 예측하거나 표면 문법만을 강제하는 방식은, 종속항의 어구가 부모 항의 범위를 반영하도록 보장하는 데 실패한다.
2. 범위 정규화의 부재: 기존의 어떤 방법도 종속될수록 범위가 좁아져야 한다는 법적 요구사항에 대한 귀납적 편향(inductive bias)을 제공하지 못하며, 이로 인해 모델이 의도치 않게 부모 항보다 넓은 범위를 갖는 종속항을 생성하게 만든다.
3. 부정적 신호의 부재: 이러한 제약 조건에 모델을 정렬하려면 결함이 있는 출력에 대한 대조 사례가 필요하다. 그러나 공개된 특허 코퍼스는 거의 전적으로 등록된 출원서로 구성되어 있어, 모델이 학습할 수 있는 "부정적 신호(결함이 있는 포레스트)"가 존재하지 않는다.

방법론: SPG (Structure-aware Patent Generation)
저자들은 토폴로지를 자기회귀 패스 내부에서 예측하여, 특정 클레임의 토큰을 방출하는 표현이 해당 클레임이 어디에 부착될지를 결정하는 표현과 동일하도록 보장하는 프레임워크인 SPG를 제안한다. 이 프레임워크는 두 단계로 작동한다:

• 단계 I: 구조 인식 학습 (Structure-Aware Training)

  • 포인터 증강 디코딩 (Pointer-Augmented Decoding): 자기회귀 디코더는 포인터 헤드로 증강된다. 각 종속항의 시작 구분자에서, 이 헤드는 이전 청구항들의 집합으로부터 부모를 선택한다. 결정적으로, 이 포인터는 토큰 예측에 사용되는 것과 동일한 은닉 상태(hidden states)를 읽는다. 이를 통해 부모 선택 작업으로부터 발생하는 그래디언트가 디코더의 표현을 재형성할 수 있게 하며, 디코더가 본질적으로 토폴로지를 인식하도록 만든다.
  • 보조 목적 함수 (Auxiliary Objectives):
    • 구조 일관성 손실 (Structure Consistency Loss): 크로스 엔트로피 손실을 통해 포인터의 부모 선택을 실제 정답 링크와 감독한다.
    • 계층적 범위 정규화 (Hierarchical Scope Regularization): 깊이에 따라 적응하는 마진 제약(depth-adaptive margin constraint)을 통해 종속항의 표현이 부모의 표현과 가깝게 유지되도록 유도한다. 허용되는 거리 반경은 깊이에 따라 기하급수적으로 줄어들며, 이는 깊이가 깊어질수록 범위가 좁아져야 한다는 법적 요구사항을 강제한다.

• 단계 II: 법적 선호 최적화 (Legal Preference Optimization, LPO)

  • 등록된 특허 코퍼스에 부정적 신호가 부족하다는 점을 해결하기 위해, 저자들은 서로 다른 온도로 단계 I의 정책(policy)에서 샘플링하여 결함이 있는 후보군을 합성한다.
  • 결정론적 점수 함수(PatentScorerule)가 청구항 개수, 구조적 패턴, 선행사 일관성, 길이, 콘텐츠 중첩을 기준으로 이 후보들을 평가한다.
  • 위반 가중치 적용 목적 함수 (Violation-Weighted Objective): 모든 선호 쌍을 동일하게 취급하는 표준 직접 선호 최적화(DPO)와 달리, SPG는 거부된 샘플의 결함 심각도에 따라 대조 손실(contrastive loss)의 규모를 조절한다. 이는 모델이 세미콜론 하나가 누락된 것을 전체 서브트리가 통째로 누락된 것과 동일한 페널티로 처리하여 발생하는 "모드 붕괴(mode collapse)"를 방지한다.

주요 기여

1. 결합 디코딩 (Joint Decoding): 포인터 헤드가 자기회귀 패스 내에서 부모 의존성을 예측함으로써, 별도의 파싱 단계 없이 토폴로지와 콘텐츠를 단일 순전파(forward pass) 내에서 학습할 수 있도록 한다.
2. 범위 정규화 (Scope Regularization): 기하급수적으로 감소하는 반경을 가진 깊이 적응형 마진을 사용하여, 깊이가 증가함에 따라 부모-자식 간의 결합을 강화한다. 이는 포인터 목적 함수에 의해 식별된 특정 쌍들에 대해 작용한다.
3. 심각도 기반 정렬 (Severity-Weighted Alignment): 거부된 샘플의 결함 정도에 따라 선호 쌍의 가중치를 조절함으로써, 구조적 생성 작업에서 발생하는 모드 붕괴 현상을 방지한다.
4. 경험적 분리 (Empirical Dissociation): 본 연구는 구조적 준수 능력이 파라미터 크기나 도메인 사전 학습에 따라 확장되지 않음을 입증한다. 즉, 6B에서 141B 파라미터에 이르는 모델들은 명시적인 귀납적 편향 없이는 계층적 역량을 학습하는 데 실패하는 반면, 유창성(fluency)은 자연스럽게 확장된다.

결과
Llama-3-8B-Instruct 백본을 사용하여 HUPD-DCG 데이터셋에서 평가한 결과:

• 구조적 정확도: SPG는 골드 부모 링크의 79.0%를 복구하였다(의존성 엣지 정확도). 이 지표는 훈련 시 직접적으로 감독되지 않은 지표이다.
• 참조 일관성: 모델은 선행사 일관성(AC)을 0.292(감독 베이스라인)에서 0.478로 개선하였으며, 이는 깊은 트리 구조 전반에 걸친 참조 해결 능력이 향상되었음을 나타낸다.
• 유창성: 모델은 감독 베이스라인의 유창성과 대등한 수준의 SOTA BLEU(37.66) 및 ROUGE-1(64.18) 점수를 달성하면서도, 구조적 지표에서는 이를 크게 상회하였다.
• 전문가 평가: 두 명의 특허 실무자가 전체 모델을 감독 베이스라인(3.52) 및 제로샷 베이스라인보다 유의미하게 높은 점수(전체 4.05)로 평가하여 자동화된 지표를 뒷받침하였다.
• 스케일링 법칙 (Scaling Laws): 모델 크기를 6B에서 141B로 늘리면 유창성은 향상되었으나 구조적 패턴 점수는 향상되지 않았다. 이는 계층적 역량에 있어 용량(capacity)보다 명시적인 구조적 편향이 필요함을 확인시켜 준다.

의의 및 주장
본 논문은 출력물이 집행 가능한 구조(법률 또는 프로그래밍)를 갖는 생성 작업의 경우, 구조적 결정이 사후 처리되거나 표면적 제약으로 다뤄지는 것이 아니라 생성 과정 자체에 통합되어야 한다고 주장한다. 저자들은 세 가지 핵심 발견을 제시한다:

1. 규모는 구조적 감독의 대체재가 될 수 없다: 인접하지 않은 세그먼트 간의 관계를 다루는 작업에서는 모델 크기를 키우기 전에 명시적인 구조적 메커니즘이 필요하다.
2. 선호 최적화에는 심각도 기반 가중치가 필요하다: 구조적 생성에서 결함은 서로 교환 가능하지 않으며, 위반의 심각도에 따라 그래디언트 가중치를 조절하는 것이 모드 붕괴를 방지하는 데 필수적이다.
3. 구조와 콘텐츠는 시간적으로 분리되는 것이 좋다: 구조적 스캐폴드(scaffold)를 먼저 엄격히 제약(단계 I)한 후, 그 스캐폴드 내에서 콘텐츠를 최적화(단계 II)하는 것이 두 목적 함수를 동시에 균형 잡는 것보다 더 나은 결과를 낳는다.

저자들은 본 시스템이 특허 전문가를 돕기 위한 용도이며 전문가의 검토가 필요하다는 점을 명시하며 주장에 대해 겸손한 태도를 유지한다. 또한 관할권별 의존성 규칙(예: EPO의 다중 의존성 vs USPTO의 단일 부모)과 평가가 유의성 검정 없이 단일 실행에 의존했다는 점 등 한계점을 인정한다. 본 연구는 특허 작성의 광범위한 전략(예: 신규성 논증)을 제외하고, 오직 청구항 텍스트와 의존성 구조에 집중한다.