기술 요약: LegalCiteBench

문제 제기

대규모 언어 모델 (LLM) 이 법적 워크플로우에 점점 더 통합되고 있지만, 외부 검색 없이 특정 판례 근거를 생성하는 능력 (폐쇄형 책 설정) 에 대한 신뢰성은 여전히 정량화되지 않았습니다. 영미법 체계에서 법적 논증은 사법 선례에 대한 정확한 인용에 의존하며, 부정확하거나 조작된 근거는 전문적 제재를 초래하고 AI 도구에 대한 신뢰를 훼손할 수 있습니다. 기존 법적 벤치마크는 법령 추론, 계약 이해, 또는 일반 법적 질문 응답에 중점을 두지만, 외부 근거 없이 판례 근거를 제공하라고 요청받을 때 모델이 그럴듯하지만 잘못된 인용을 생성하는 중요한 실패 모드를 체계적으로 평가하지는 않습니다. 핵심 문제는 현재 LLM 이 정확한 사법 인용을 복원하거나 불확실할 때 거절할 수 있는지, 아니면 설득력 있지만 오류가 있는 근거를 조작하는지에 있습니다.

방법론

데이터셋 구축: LegalCiteBench

저자들은 하버드 로스쿨의 Case Law Access Project 에서 제공된 1,000 개의 실제 미국 사법 의견서에서 파생된 약 24,000 개의 평가 인스턴스로 구성된 LegalCiteBench를 소개합니다. 구축 파이프라인은 다음과 같습니다:

1. 소스 자료: 미국 관할 구역 전반에 걸쳐 최근 1,000 개의 루트 판례를 샘플링합니다.
2. 중간 요약: 세 개의 상용 LLM(GPT-4o-mini, Gemini-2.5-Flash, Claude-3.5-Haiku) 을 사용하여 사건 배경, 절차적 이력, 그리고 법적 쟁점을 요약하는 구조화된 구축 노트를 생성합니다. 이러한 노트는 프롬프트 구성에만 사용되며, 기준 진실 (ground truth) 로는 사용되지 않습니다.
3. 기준 진실 고정: 기준 진실 레이블은 생성된 소스가 아닌 소스 의견서에서 추출된 인용 목록과 루트 판례 메타데이터에서 엄격하게 파생됩니다.
4. 인간 검증: 세 명의 검토자가 100 개의 샘플링된 루트 판례를 대상으로 구축 충실도, 익명화 품질, 그리고 기준 진실의 정확성을 검증하기 위한 타겟 감사를 수행합니다.

작업 분류

이 벤치마크는 두 가지 수준으로 나뉜 다섯 가지 인용 중심 작업을 평가합니다:

• 인용 수준 작업:
  • Cat1(인용 검색): 실제 사건에서 파생된 변호사 스타일의 연구 질문이 주어지면, 모델은 소스 의견서에 인용된 특정 근거를 복원해야 합니다.
  • Cat2(인용 완성): 부분적인 인용 세트가 주어지면, 모델은 소스 의견서에서 나머지 근거를 식별해야 합니다.
  • Cat3(인용 오류 감지): 법적 분석 단락이 주어지면, 모델은 인용 오류 (예: 잘못된 권호, 페이지, 또는 판례집) 를 감지하고 수정해야 합니다.
• 사건 수준 작업:
  • Cat4-1(사건 매칭): 익명화된 법적 시나리오가 주어지면, 모델은 해당 소스 사건을 식별해야 합니다.
  • Cat4-2(사건 검증 및 수정): 명시적인 인용이 포함된 시나리오가 주어지면, 모델은 그 정확성을 검증하고 인용이 잘못된 경우 올바른 사건을 제공해야 합니다.

평가 프로토콜

• 평가된 모델: 21 개의 LLM 으로, 상용 모델 (예: GPT-4o-mini, Claude-3.5-Haiku, Gemini-2.5-Flash) 과 오픈소스 모델 (예: Llama 3, Qwen, DeepSeek, SaulLM) 이 포함됩니다.
• 심사 메커니즘: GPT-4o-mini(특정 평가 기준 포함) 를 사용하여 출력을 평가하는 "LLM-as-a-judge" 프로토콜을 사용합니다. 점수는 0~100 척도로 정규화됩니다.
• 지표:
  • 인용 F1: 검색 작업의 경우, 예측된 인용과 기준 진실을 비교하기 위해 대소문자 구분 없는 부분 문자열 매칭을 사용합니다.
  • 오해의 소지가 있는 답변 비율 (Misleading Answer Rate, MAR): 검색 중심 작업 (Cat1, Cat2, Cat4-1) 을 위한 안전 지표입니다. 모델이 거절하는 대신 구체적인 인용이나 사건 답변을 제공하는 저점수 응답의 비율을 측정합니다. 높은 MAR 은 불확실성을 표현하는 대신 특정 근거를 조작하는 경향을 나타냅니다.
  • 거절률: 모델이 명시적으로 요청된 근거를 검증하거나 식별할 수 없다고 밝히는 빈도입니다.

주요 결과

1. 정확한 인용 복원은 보편적으로 어렵습니다

폐쇄형 책 설정에서 의견서에 기반한 근거를 정확하게 복원하는 것은 평가된 모든 모델에게 극도로 어렵습니다.

• 낮은 점수: 가장 강력한 모델인 claude-sonnet-4.5조차 Cat1 에서 6.80, Cat2 에서 6.35에 불과했습니다. 어떤 모델도 인용 검색이나 완성에서 7/100을 초과하지 못했습니다.
• 비대칭성: 생성과 검증 사이에 뚜렷한 성능 격차가 존재합니다. 모델은 생성 작업에 비해 검증 작업 (Cat3: 최대 75.59; Cat4-2: 최대 96.07) 에서 훨씬 높은 점수를 받습니다. 이는 모델이 제공된 인용의 타당성을 판단할 수는 있지만, 기억에서 올바른 근거를 신뢰성 있게 검색할 수는 없음을 시사합니다.

2. 높은 오해의 소지가 있는 답변 비율 (MAR)

모델은 거절하는 대신 구체적이지만 신뢰할 수 없는 답변을 자주 제공합니다.

• MAR 우세: 21 개 모델 중 20 개 모델의 검색 중심 작업에 대한 MAR 이 **94%**를 초과했습니다. 가장 성능이 좋은 모델 (gpt-5-mini) 도 MAR 이 **89.24%**였습니다.
• 시사점: 모델이 실패할 때, 불확실성을 인정하는 대신 특정 근거를 조작하는 경향이 있어 법적 워크플로우에서 심각한 안전 위험을 초래합니다.

3. 규모 및 도메인 사전 학습의 제한된 영향

• 확장: 모델 크기를 늘리는 것은 미미한 성과만 가져옵니다. 예를 들어, Llama-3.1-70B(Cat1 에서 3.82) 는 거의 9 배 더 큰 Llama-3.1-8B(Cat1 에서 1.47) 보다 약간 더 잘 수행했을 뿐입니다.
• 도메인 전문화: 법적 도메인 모델인 SaulLM-54B는 인용 오류 감지 (Cat3: 75.59) 에서 가장 높은 점수를 기록했지만, 검색 (Cat1: 3.77; Cat2: 4.06) 에서는 여전히 약했으며 높은 MAR(97.69%) 을 보였습니다. 이는 법적 도메인 사전 학습이 검증 기술을 향상시키지만, 폐쇄형 책 인용 검색을 위한 근거 격차를 해결하지는 못함을 나타냅니다.

4. 프롬프트 기반 완화

명시적인 거절 지시가 MAR 을 감소시킬 수 있는지 테스트하는 진단 실험이 수행되었습니다.

• 결과: 명시적인 지시는 일부 모델의 MAR 을 감소시켰습니다 (예: Llama-3.1-8B-Instruct는 MAR 을 100% 에서 62.7% 로 감소). 이는 주로 거절률을 증가시킴으로써 이루어졌습니다.
• 한계: MAR 감소는 인용 정확도 향상 (F1 점수는 여전히 0 에 근접) 과 상관관계가 없었습니다. 프롬프팅은 모델이 조작할 가능성을 낮추지만, 올바른 근거를 생성할 수 있는 지식을 제공하지는 않습니다.

중요성과 주장

이 논문은 LegalCiteBench 를 법적 능력의 인증이 아닌 진단 프레임워크로 위치시킵니다. 주요 기여점은 다음과 같습니다:

1. 권한 생성 벤치마킹: 기존 벤치마크가 간과한 법적 AI 의 중요한 실패 모드인 폐쇄형 책 인용 복원을 평가하기 위한 표준화되고 감사 가능한 방법을 확립합니다.
2. 보정 격차 드러내기: 결과는 모델 보정에서 상당한 격차를 보여줍니다. 현재 LLM 은 외부 근거가 없을 때 법적 근거를 자신 있게 조작하는 경향이 있습니다.
3. 안전 지향적 평가: Misleading Answer Rate(MAR) 를 도입함으로써, 검증 작업에서의 높은 정확도가 검색 작업에서의 안전성을 보장하지 않음을 강조합니다.
4. 현재 접근법의 한계: 이 연구는 폐쇄형 책 설정에서 정확한 인용 복원 문제를 해결하기 위해 규모 확장이나 도메인 특화 사전 학습이 현재로서는 효과적이지 않다고 결론 내립니다. 신뢰할 수 있는 법적 AI 는 매개변수 메모리에만 의존하기보다는 검색 증강 시스템, 검증 모듈, 또는 보정된 거절을 목표로 하는 사후 학습 전략이 필요하다고 주장합니다.

저자들은 이러한 발견이 검색 증강 법적 시스템의 실패로 해석되어서는 안 되며, 오히려 근거 없는 생성의 위험을 드러내는 스트레스 테스트로 해석되어야 한다고 강조합니다. 그들은 외부 근거 없이 생성된 모든 인용을 전문적 법적 분석에 사용하기 전에 독립적인 검증을 요구합니다.