← 최신 논문
🤖 AI

Beyond Probabilistic Similarity: Structural, Temporal, and Causal Limitations of Retrieval-Augmented Generation in the Legal Domain

이 논문은 법률 영역에서 발생하는 검색 증강 생성(RAG)의 반복적인 실패가 확률적 검색과 법률 지식의 계층적, 시간적, 인과적 본질 사이의 근본적인 구조적 불일치에서 기인한다고 주장하며, 이러한 구조적 한계를 해결하기 위해 온톨로지 우선성, 사건의 구체화, 이중 시간적 정확성, 그리고 결정론적 상호작용 프로토콜을 중심으로 하는 새로운 결정론적 프레임워크를 제안한다.

원저자: Hudson de Martim

게시일 2026-06-09
📖 4 분 읽기☕ 가벼운 읽기

원저자: Hudson de Martim

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 문제: "유창한 거짓말쟁이"

완벽한 에세이를 쓰고 아주 자신감 있게 말하는 한 명석한 법대생을 상상해 보세요. 하지만 이 학생에게는 위험한 습관이 하나 있습니다. 답을 모를 때면, 마치 사실인 것처럼 들리는 가짜 사실들을 지어내는 것입니다. 일어나지도 않은 판례를 인용하거나, 10년 전에 폐지된 법률을 인용할 수도 있습니다.

법의 세계에서 현재의 AI 시스템들이 바로 이와 같은 행동을 하고 있습니다. 이들은 "환각(confabulating)"을 일으키고 있습니다. 논문은 단순히 AI를 더 "똑똑하게" 만들거나 더 많은 데이터를 주는 것만으로는 이 문제를 해결할 수 없다고 주장합니다. 문제는 AI의 지능이 아니라, AI가 가져다 쓰는 **도서관(데이터의 근거)**에 있습니다.

핵심 논거: 맞지 않는 도서관

논문은 법적 지식이 일반적인 도서관(위키피키디어나 뉴스 사이트 같은)과는 다르다고 말합니다. 법은 엄격한 규칙을 가진 살아 움직이는 기계에 더 가깝습니다.

현재의 AI가 왜 실패하는지를 설명하기 위해, 저자들은 법적 지식을 다음 세 가지 구체적인 사물에 비유합니다.

  1. 러시아 인형 (구조):

    • 현실: 법은 러시아 인형(마트료시카)처럼 구축되어 있습니다. 특정 규칙(작은 인형)은 그것이 속해 있는 문단(중간 인형)을 알아야만 의미가 생기며, 그 문단은 다시 그것이 속한 조항(큰 인형)을 알아야만 의미가 생깁니다. 작은 인형을 꺼내서 단독으로 보여준다면, 그것은 오해를 불러일으킬 수 있습니다.
    • AI의 실패: 현재의 AI는 법을 흩어진 종이 뭉치처럼 취급합니다. 관련 있어 보이는 문장 하나를 덜컥 집어 들지만, 그 문장에 의미를 부여하는 "부모" 규칙들을 잊어버립니다. 논문은 이를 **"부분-전체 관계에 대한 맹목성(Mereological Blindness)"**이라고 부릅니다.
  2. 타임머신 (시간):

    • 현실: 법은 끊임없이 변합니다. 어떤 법은 2020년에 작성되었지만, 실제로 효력을 발생하는 것은 2022년일 수 있습니다. 또는 판사가 2024년에 기존의 법을 새로운 방식으로 해석하여, 법의 문구는 바꾸지 않은 채 의미만 바꿀 수도 있습니다.
    • AI의 실패: 현재의 AI는 보통 사용자가 2021년의 법에 대해 물었더라도, "현재" 버전의 법을 보여줍니다. 즉, 당시에는 법이 달랐다는 사실을 이해하지 못합니다. 또한 판사의 결정이 법의 문구를 바꾸지 않고도 법의 의미를 어떻게 변화시켰는지도 놓칩니다. 논문은 이를 **"통시적 맹목성(Diachronic Blindness)"**이라고 부릅니다.
  3. 종이 기록 (인과관계):

    • 현실: 법에서는 단순히 "이것이 규칙이다"라고 말해서는 안 됩니다. 누가, 언제, 어떤 공식적인 행위를 통해 그 규칙을 만들었는지 증명해야 합니다. 모든 법에는 "출생 증명서"와 "수술 이력"이 있습니다.
    • AI의 실패: 현재의 AI는 답은 알려주지만 그 역사는 숨깁니다. "여기에 규칙이 있습니다"라고 말하면서도, 그 규칙이 유효함을 증명하는 공식 문서들의 연결 고리는 보여주지 않습니다. 논문은 이를 **"인과적 불투명성(Causal Opacity)"**이라고 부릅니다.

해결책: "결정론적" 엔진 구축

저자들은 AI가 더 잘 추측하도록 만드는 데 집중하는 대신, 시스템이 작동하는 방식의 **아키텍처(설계도)**를 바꿔야 한다고 주장합니다.

그들은 **"설계에 의한 결정론적 방식(Deterministic-by-Design)"**이라는 새로운 접근법을 제안합니다.

이것은 점술가GPS의 차이와 같습니다.

  • 점술가 (현재의 AI): 구름(텍text의 패턴)을 보고 당신이 어디에 있는지 추측합니다. 대개는 맞지만, 가끔 존재하지 않는 산을 있다고 환각을 일으키기도 합니다.
  • GPS (새로운 접근법): 정확한 좌표가 있는 엄격한 지도를 사용합니다. 추측하지 않습니다. 도로가 폐쇄되었다면 "도로 폐쇄"라고 말합니다. 도로 공사 중이라면 우회로를 보여줍니다. 지도의 내용을 결코 속이지 않기 위해 엄격한 규칙을 따릅니다.

이 "법률용 GPS"를 만들기 위해, 논문은 네 가지 엄격한 규칙을 제안합니다.

  1. 존재론적 우선순위 (지도가 먼저): 텍스트로 시작하지 말고, 구조부터 시작하십시오. 시스템은 단어를 읽기 전에 "제5조"가 "제2항"의 부모라는 것을 반드시 알아야 합니다.
  2. 사건의 실체화 (이력 로그): 법이 바뀔 때마다, 시스템은 그 변화를 일으킨 구체적인 "사건"(예: 문서에 서명함)을 기록해야 합니다. 변화를 단순한 날짜 표시가 아닌, 하나의 실제 객체로 취급합니다.
  3. 이중 시간적 정확성 (두 개의 시계): 시스템은 두 가지 시간을 추적해야 합니다.
    • 법이 기록된 시간 (Transaction Time)
    • 법이 실제로 효력을 발휘하기 시작한 시간 (Valid Time)
    • 예시: 1월에 서명된 법이 3월부터 효력이 발생할 수 있습니다. 시스템은 이 둘의 차이를 알아야 합니다.
  4. 결정론적 프로토콜 (도로 위의 규칙): AI는 자유롭게 검색(freestyle)하는 것이 허용되지 않습니다. 반드시 승인된 특정 도구만을 사용하여 법을 찾아야 합니다. 만약 엄격한 규칙을 사용하여 답을 찾을 수 없다면, 무언가를 지어내는 대신 "모릅니다"라고 말해야 합니다.

이것이 당신에게 의미하는 것

논문은 법정에서 다투는 것과 같은 고위험 법률 업무를 수행할 때, 우리는 "유사성"에 기반해 "추측"하는 AI에 의존할 수 없다고 결론짓습니다. 우리는 엄격하고 감사 가능한 데이터베이스처럼 구축된 시스템이 필요합니다.

  • 좋은 소식: 우리는 이를 구현할 기술(스마트한 추측과 엄격한 규칙을 결합한 "뉴로-심볼릭(Neuro-Symbolic)" AI)을 가지고 있습니다.
  • 어려운 점: 이는 비용이 많이 들고 만들기 어렵습니다. AI가 손을 대기 전에 인간 변호사가 규칙을 설계하고 데이터를 완벽하게 구조화하는 과정이 필요합니다.
  • 목표: "유창하지만 위험한" 시스템에서 "지루하지만 안전한" 시스템으로 나아가는 것입니다. 시스템이 엄격한 규칙 내에서 답을 찾을 수 없다면, 판사에게 거짓말을 하는 대신 솔직하게 인정하게 만드는 것입니다.

요약하자면: 이 논문은 법을 대화처럼 다루는 것을 멈추고, 정밀한 엔지니어링 프로젝트처럼 다루어야 한다고 말합니다. AI가 차를 운전하게 하기 전에, 먼저 "지도"를 만들어야 합니다.

연구 분야의 논문에 파묻히고 계신가요?

연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.

Digest 사용해 보기 →