A Short Survey of Viewing Large Language Models in Legal Aspect
이 설문 조사는 판결 예측 및 문서 분석과 같은 작업에서의 활용 사례를 검토하는 동시에 개인정보 보호, 편향성, 설명 가능성과 같은 관련 과제를 다루고 전문적인 법률 AI를 위한 향후 방향을 제시함으로써 법률 분야에 거대 언어 모델을 통합하는 방안을 탐구한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
법이 단순히 돌에 새겨진 규칙의 집합이 아니라, 매일 변화하는 살아 숨 쉬는 도서관인 세상을 상상해 보십시오. 이 도서관에는 수백만 개의 문서를 읽고, 복잡한 논거를 이해하며, 몇 초 만에 법적 질문에 대한 답을 작성할 수 있는 기계라는 새로운 종류의 사서가 도착했습니다. 이 기계는 방대한 양의 텍тения 학습된 인공지능의 한 형태인 거대 언어 모델입니다. 수년간 연구자들은 이 기계들이 판결 결과를 예측하거나 관련 판례를 찾는 것과 같은 특정한 법적 퍼즐을 풀 수 있는지 물어왔습니다. 하지만 진짜 질문은 더 이상 퍼즐을 푸는 능력이 아니라, 한 사람의 자유, 재산, 혹은 권리가 달려 있을 때 우리가 그 기계의 답변을 신뢰할 수 있느냐는 것입니다. 법은 권위에 의존한다는 점에서 독특합니다. 법적 답변은 적절한 출처를, 적절한 곳으로부터, 적절한 시점에 가리키고 있으며, 그 출처가 실제로 결론을 뒷받침할 때에만 유효합니다. 만약 기계가 오래된 규칙이나 다른 국가의 법률에 근거하여 자신 있게 답을 내놓는다면, 그것은 단순히 틀린 것이 아니라 위험한 일입니다.
중국의 한 연구자가 이러한 기계들이 법률 분야에서 어떻게 사용되고 있는지에 대해 새로운 시각을 제시했습니다. 그는 이 시스템들이 실제로 무엇을 할 수 있는지, 그리고 더 중요하게는 어디에서 실패할 수 있는지를 이해하기 위해 2022년에서 2025년 사이에 발표된 수백 편의 연구를 검토했습니다. 그는 모델이 단일 질문에 얼마나 잘 답하는지를 보는 대신, 전체 시스템에 대한 새로운 사고방식을 제안했습니다. 그는 이를 "권위 기반(authority-grounded)" 시스템이라고 부릅니다. 간단히 말해, 이는 기계가 텍스트를 생성할 뿐만 아니라 자신의 작업 과정을 증명해야 함을 의미합니다. 기계는 자신이 어떤 문서를 사용했는지 정확히 보여주어야 하고, 그 문서들이 여전히 유효한지 확인해야 하며, 그 문서들이 어떻게 자신의 답변을 뒷받침하는지 설명해야 합니다. 연구자는 현재의 연구들이 정보가 법적으로 타당한지 확인하지 않은 채, 정보를 검색하는 속도나 인간의 글쓰기를 얼마나 잘 모방하는지와 같은 과정의 한 부분만을 측정하는 경우가 많다는 것을 발견했습니다.
연구자는 분야의 지도를 명확히 그리기 위해 327개의 기술 연구를 분석했습니다. 그는 이러한 기계들을 더 똑똑하게 만드는 도구들만으로는 충분하지 않다는 것을 발견했습니다. 예를 들어, 어떤 시스템은 관련 문서를 찾는 데는 탁월할 수 있지만, 만약 그 시스템이 구속력 있는 법률과 단순한 권고 사항을 구분하지 못하거나, 법률의 날짜를 확인하여 변경 여부를 파악하지 못한다면, 그 시스템은 실무에 투입될 준비가 되지 않은 것입니다. 이 연구는 테스트에서의 정확도가 실제 현장에서의 신뢰성을 의미하는 것은 아니라는 점을 강조합니다. 기계는 퀴즈에서는 정답을 맞힐 수 있지만 왜 그런지에 대해 설명하지 못할 수 있으며, 혹은 겉보기에는 올바른 것처럼 보이는 출처를 인용하지만 실제로는 시대에 뒤떨어졌거나 다른 관할권의 것일 수도 있습니다. 연구자는 이러한 기계들을 단순한 답변 생성기로 취급하는 것을 멈추고, 더 크고 세심한 워크플로우의 구성 요소로 취급하기 시작해야 한다고 주장합니다.
이러한 격차를 해결하기 위해, 저자는 기계가 무엇을 요청받았는지, 그것을 수행하기 위해 어떻게 구축되었는지, 그리고 그것을 사용하는 것이 안전하다는 증거가 무엇인지라는 세 가지 주요 개념을 연결하는 새로운 프레임워크를 제안합니다. 그는 기존의 많은 시스템이 법률에서 매우 중요한 기술인 '기권(abstain)', 즉 답을 모를 때 모른다고 인정하는 능력이 부족하다는 것을 발견했습니다. 또한 일부 시스템은 자신의 작업을 검증하기 위한 특수한 도구들을 사용하지만, 이러한 도구들이 새로운 법원 판결에 의해 폐기된 법률과 같은 미묘한 오류를 잡아내는 데 실패하는 경우가 많다는 점에도 주목했습니다. 연구자는 향후 시스템이 모든 정보의 출처, 그것이 유효했던 시기, 그리고 특정 법률 영역에 대한 엄격한 검증을 포함해야 한다고 제고합니다. 또한 그는 인간이 루프 안에 머물며 기계의 작업을 검토하고 최종 결정에 대한 책임을 질 준비가 되어 있어야 함을 강조합니다.
이 논문은 이러한 기계들이 변호사나 판사를 대체할 준비가 되었다고 주장하는 것이 아닙니다. 대신, 우리는 법률적인 환경에서 인공지능이 신뢰할 수 있다는 것이 정확히 무엇을 의미하는지 정의해야 하는 전환점에 서 있다고 제안합니다. 연구자는 시스템이 안전하다는 것을 증명하기 위해 단순히 높은 테스트 점수에 의존할 수는 없다고 지적합니다. 우리는 단순히 정답뿐만 아니라, 기계가 그곳에 도달하기 위해 거친 전체 경로, 즉 검토한 출처와 따른 규칙을 포함하는 새로운 종류의 성적표가 필요합니다. 이러한 접근 방식은 법원, 변호사, 그리고 대중이 시스템의 어느 부분이 취약하고 어디에 인간의 감독이 필요한지를 정확히 볼 수 있게 해줄 것입니다. 연구는 기술이 빠르게 발전하고 있지만, 이를 안전하게 사용하기 위한 규칙은 아직 따라잡지 못했다고 결론짓습니다. 앞으로의 길은 투명하고 책임감이 있으며, 법의 복잡하고 변화하는 성격을 다룰 수 있도록 설계된 시스템을 구축하는 것을 요구하며, 이를 통해 기계가 말할 때 그 뒤에 검증된 진실의 무게를 담아 말할 수 있도록 보장하는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.