How Can AI Augment Access to Justice? Public Defenders' Perspectives on AI Adoption
이 논문은 미국 공익변호사 14 명을 인터뷰하여 AI 가 증거 조사와 같은 업무에는 큰 잠재력이 있지만 비용, 기밀성, 도구 품질 등의 제약으로 인해 법정 변론이나 전략 수립에는 제한적으로 적용될 수 있음을 밝히고, 책임 있는 AI 도입을 위한 인간 검증 강화와 오픈 사이언스 기반의 연구 과제를 제시합니다.
원저자:Inyoung Cheong, Patty Liu, Dominik Stammbach, Peter Henderson
실제 공익 변호사들이 마주하는 사실 관계 (Fact patterns) 를 기반으로 한 사례 기반 추론 연습 (Case-based reasoning exercises).
인터뷰는 Zoom 을 통해 진행되었으며, 자동 전사 후 수동 수정을 거쳐 분석되었습니다.
분석 방법: 귀납적 코딩 (Abductive coding) 과 귀납적 이론 (Grounded theory) 을 활용하여 인터뷰 데이터를 분석했습니다. 초기 인터뷰에서 법적 연구만 집중되던 초점을 업무 파이프라인 전체로 확장하여 5 가지 핵심 영역을 도출했습니다.
3. 주요 기여 (Key Contributions)
공익 변호사 업무의 세분화된 매핑 (Task-level Map): 공익 변호사의 업무를 5 가지 핵심 영역 (Evidence Investigation, Legal Research & Writing, Client Communication, Courtroom Representation, Defense Strategy) 으로 분류하고, 각 영역별 AI 의 잠재적 기여도와 한계를 명확히 제시했습니다.
현장 중심의 AI 수용 장벽 규명: 비용, 사무소 정책, 기밀 유출 우려, 도구 품질 등 4 가지 주요 장벽을 식별했습니다.
책임 있는 AI 사용 원칙 제안: 인간 검증의 필수성, 과도한 의존 방지, 변호사 - 피고인 관계의 인간적 요소 보존 등을 포함한 윤리적 가이드라인을 제시했습니다.
미래 연구 방향 제시: 오픈 소스 모델의 활용, 도메인 특화 데이터셋 구축, 현장 전문가 참여형 설계 (Participatory Design) 의 중요성을 강조했습니다.
4. 주요 결과 (Results)
가. AI 도입을 저해하는 4 가지 장벽 (Barriers to Adoption)
비용 (Costs): 공익 변호사 사무소나 개인 변호사들은 상용 AI 도구 구독 비용을 감당하기 어렵습니다.
사무소 정책 및 규범 (Office Norms): 많은 기관이 AI 사용을 금지하거나, 특정 상용 도구 (Lexis, Westlaw 등) 외에는 사용을 제한합니다.
기밀성 우려 (Confidentiality): 고객 정보 (신원, 의료 기록, 감시 영상 등) 가 외부 서버로 전송되는 것에 대한 심각한 우려가 존재합니다. "닫힌 우주 (Closed Universe)" 형태의 로컬 실행을 선호합니다.
출력 품질의 불만족 (Unsatisfactory Output Quality): 현재 AI 도구의 환각 (Hallucination), 사실 관계의 미묘한 차이 포착 실패, 편향된 요약 등으로 인해 신뢰도가 낮다고 평가받습니다.
나. AI 가 기여할 수 있는 영역 vs. 기여하기 어려운 영역 (Five Pillars)
업무 영역
AI 의 잠재적 역할 (Opportunities)
AI 의 한계 및 위험 (Limitations)
1. 증거 조사 (Evidence Investigation) (가장 높은 기대)
- 대량의 디지털 기록 (영상, 녹음) 전사 및 요약 - 키워드 기반 검색 및 스팬 추출 (Span extraction) - 불필요한 데이터 제거 (De-duplication) 및 핵심 구간 식별
- AI 가 식별한 결과에 대한 인간 검증 (Human Verification) 필수 - 맥락적 판단은 여전히 인간이 수행
2. 법적 연구 및 작성 (Legal Research & Writing)
- 방대한 법률 정보 요약 및 초안 작성 - 새로운 주제에 대한 빠른 진입점 제공 - 법률 용어의 일반인용 번역
- 환각 (허위 인용) 위험이 매우 높음 - 모든 출력물은 인간이 100% 검증해야 함 - 창의적 변론 작성에는 한계
3. 법정 대리 (Courtroom Representation)
- 증인 심문 준비, 개회/폐회 진술 초안 작성 - 실시간 참고 자료 제공 (준비 단계)
- 법정 내 즉흥적 대응 및 감정적 설득은 인간 영역 - 기술적 신뢰성 부족 (중단 없이 검증 불가) - 일부 법원은 AI 사용 자체를 금지
4. 고객 소통 (Client Communication)
- 복잡한 법률 용어를 쉽게 설명 (Rewording) - 시각적 자료 (플로우차트) 생성 - 문서 요약
- 신뢰 관계 (Rapport) 형성은 AI 로 대체 불가 - 비언어적 신호 (톤, 표정) 해석 불가 - 학생 변호사의 관계 형성 능력 저하 우려
5. 방어 전략 (Defense Strategy)
- 다양한 시나리오 브레인스토밍 - 검찰의 약점 식별 지원
- 전략 수립은 변호사의 경험과 고객의 선호도에 기반 - 기밀 정보 유출 위험 - AI 가 인간 변호사의 통찰력을 대체 불가
다. 책임 있는 AI 사용을 위한 조건
강제적 인간 검증 (Mandatory Human Verification): AI 가 생성한 모든 내용 (인용, 요약, 증거 식별) 은 인간이 반드시 검증해야 함.
과도한 의존 방지 (Avoiding Over-reliance): 초기 변호사들이 비판적 사고와 즉흥 대응 능력을 기르는 데 AI 의존이 방해가 되지 않도록 해야 함.
인간적 관계와 판단의 가치: 변호사 - 피고인 간의 신뢰와 공감, 그리고 상황 판단 (Contextual Judgment) 은 AI 가 대체할 수 없는 핵심 가치임.
5. 의의 및 시사점 (Significance)
연구의 전환: 기존 법률 AI 연구가 '법적 연구 및 문서 작성'에 집중했던 것과 달리, **증거 조사 (Evidence Investigation)**가 공익 변호사에게 가장 시급하고 AI 가 효과적으로 기여할 수 있는 영역임을 실증적으로 증명했습니다.
기술적 방향성 제시:
오픈 소스 및 로컬 배포: 기밀성 유지와 비용 절감을 위해 오픈 소스 모델을 로컬 기기 (On-device) 에서 실행하는 방안을 강력히 권고합니다.
도메인 특화 데이터셋: 공익 변호사 업무에 특화된 데이터셋 (법률 문서, 고객 소통 기록, 바디캠 영상 등) 과 평가 기준 (Benchmark) 개발이 시급함을 강조합니다.
인간 - AI 협업 설계: "인간 vs 기계"의 이분법적 오류 관점을 넘어, 인간의 피로도를 줄이고 전략적 사고에 집중할 수 있도록 상호 보완적인 시스템 설계를 요구합니다.
정책적 함의: 상용 벤더에 대한 의존이 사법 격차를 심화시킬 수 있음을 경고하며, 공공 부문의 기술 자립과 오픈 과학 (Open Science) 의 필요성을 역설합니다.
이 논문은 AI 기술이 단순히 법률 업무를 자동화하는 도구를 넘어, 공익 변호사들이 헌법적 의무를 수행하는 데 필요한 '접근성'과 '형평성'을 회복하는 핵심 수단이 될 수 있음을 보여주며, 이를 위한 구체적인 기술적·윤리적 로드맵을 제시합니다.