Responsible Judicial AI Governance for Artificial Intelligence Assisted Legal Research and Judicial Discretion in Uganda

법률 시스템을 거대한 고대 도서관이라고 상상해 보세요. 그곳에서 사서(판사)들은 마을에서 가장 중요한 직업을 맡고 있습니다. 바로 사람들의 문제를 공정하게 해결하는 방법을 결정하는 일입니다. 수 세기 동안 이 사서들은 산더미 같은 책들을 읽고, 이전에 일어났던 적절한 이야기들(선례라고 불리는 것들)을 찾아내며, 최선의 답을 찾아내기 위해 자신의 두뇌를 사용해야 했습니다. 하지만 이제, 새로운 종류의 조수가 도착했습니다. 바로 인공지능(AI)입니다. AI를 초고속으로 수백만 권의 책을 눈 깜짝할 사이에 읽어내는 매우 빠르고 똑똑한 로봇 사서라고 생각해보세요. AI는 인간 사서보다 훨씬 더 빠르게, 인간에게 도움이 될 완벽한 이야기를 찾아낼 수 있습니다.

하지만 이 새로운 로봇 조수에게는 큰 의문이 하나 남아 있습니다. 만약 로봇 사서가 책을 찾고 정리하는 데 너무 뛰어나다면, 로봇이 인간 사서에게 무엇을 결정할지 말하기 시작할까요? 혹은, 더 교묘하게, 로봇이 인간이 보는 책의 순서를 바꾸어, 인간이 인지하지도 못한 채 특정 결론을 내리도록 은밀하게 유도하게 될까요? 이것이 이 이야기의 핵심입니다. 우리가 살펴볼 논문은 다음과 같이 묻습니다. 만약 우리가 우간다의 판사들을 돕기 위해 이 로봇을 허용한다면, 로봇이 그들의 권력을 훔치게 될까요, 아니면 그저 정말 유용한 도구가 될까요? 대답은 단순한 "예" 또는 "아니오"가 아니지만, 이는 우리의 뇌가 큰 결정을 내릴 때 어떻게 작동하는지에 대한 매혹적인 사실을 드러냅니다.

---

로봇 사서와 인간 판사

자바손 카무기샤(Javason Kamugisha)가 작성한 이 논문은 법의 매우 구체적인 영역, 즉 우간다의 판사들이 연구를 위해 기술을 어떻게 사용하는지를 깊이 파고듭니다. 저자는 로봇이 판사의 의자에 앉아 누가 승리할지 결정하기 위해 의사봉을 두드릴 것이라고 걱정하는 것이 아닙니다. 대신, 이 논문은 더 미묘하고 흥미로운 일이 일어나고 있다고 제안합니다.

이 논문이 소개하는 주요 개념은 **"알고리즘에 의해 영향을 받는 사법적 재량(Algorithmically Influenced Judicial Discretion)"**입니다. 말이 좀 어렵죠, 비유를 들어 설명해 보겠습니다. 당신이 저녁 메뉴를 결정하려고 한다고 상상해 보세요. 당신에게는 '음식 추천 봇'이라는 친구가 있습니다. 이 봇은 당신을 위해 요리를 해주지도 않고, 당신에게 햄버거를 먹으라고 강요하지도 않습니다. 하지만, 이 봇은 메뉴를 관리합니다. 어떤 식당을 목록 맨 위에 보여줄지, 어떤 식당을 아래로 숨길지, 그리고 어떤 식당에 반짝이는 "추천" 스티커를 붙여 강조할지를 결정합니다.

비록 음식을 고르는 것은 여전히 당신이지만, 당신의 선택은 봇이 보여준 것에 의해 크게 영향을 받습니다. 만약 봇이 피자 가게만 보여준다면, 당신은 원해서가 아니라 단지 그것들밖에 보이지 않았기 때문에 결국 피자를 먹게 될 수도 있습니다. 논문은 AI 법률 연구 도구들이 판사들에게 정확히 이와 같은 역할을 하고 있다고 주장합니다. AI는 최종 결정을 내리는 것이 아니라, 판사가 보게 될 법률 사례와 법률의 "메뉴"를 큐레이팅(선별)하고 있는 것입니다. 어떤 과거 사례를 찾기 쉽게 만들고 어떤 사례를 찾기 어렵게 만들지를 결정함으로써, AI는 판사의 사고방식을 조용히 형성하고 있습니다.

논문이 말하는 것 (그리고 말하지 않는 것)

저자는 이 기술가 무엇이 아닌지에 대해 매우 명확히 밝히고 있습니다. 이 논문은 AI가 인간 판사를 대체할 것이라거나, 컴퓨터가 정의의 깊고 복잡하며 인간적인 측면을 이해할 수 있다는 무서운 생각은 명시적으로 배제합니다. 저자는 AI가 법의 "정신"이나 특정 상황의 독특한 감정을 이해할 수 없다고 주장합니다. AI는 단지 매우 빠른 검색 엔진일 뿐, 생각하는 마음이 아닙니다.

대신, 논문은 진짜 위험이 간접적인 영향에 있다고 제안합니다. AI는 편향될 수 있으며, 혹은 특정 유형의 법적 논거가 더 중요해 보이도록 조직될 수 있습니다. 만약 판사가 로봇의 목록에 너무 의존한다면, 로봇이 강조하지 않은 결정적인 퍼즐 조각을 실수로 놓칠 수도 있습니다.

논문은 이것이 "해결된" 문제라거나 우리가 아직 모든 답을 알고 있다고 말하는 것이 아님을 주의 깊게 명시합니다. 이 논문은 이것이 문제를 바라보는 새로운 관점을 제시하는 것입니다. 저자는 현재 판사들이 정확히 얼마나 많은 영향을 받고 있는지 측정했다고 주장하지 않습니다(그것은 수백 명의 판사를 인터뷰해야 하는 일인데, 이 논문은 그렇게 하지 않았습니다). 대신, 논문은 논리와 법 이론을 사용하여 이렇게 말합니다. "이것은 우리가 주의 깊게 지켜봐야 할 매우 실질적인 가능성입니다."

우간다의 맥락: 헌법이라는 방패

이 논문은 특히 판사가 외부의 통제로부터 독립적이고 자유로워야 한다고 규정하는 강력한 헌법을 가진 국가인 우간다에 초점을 맞춥니다. 저자는 우간다 헌법을 도서관을 위한 규칙 세트처럼 바라봅니다. 이 규칙들은 결정할 권한이 기계가 아닌 인간 판사에게 있음을 말해줍니다.

논문은 우간다의 기술 활용 능력(전자 접수 및 디지털 법정 등)이 매우 높아지고 있음에도 불구하고, 주의가 필요하다고 주장합니다. 저자는 **"책임 있는 사법 AI 거버넌스 프레임워크(Responsible Judicial AI Governance Framework)"**라는 새로운 규칙 세트를 제안합니다. 이것을 로봇 사서를 위한 안전 매뉴얼이라고 생각해보세요.

이 안전 매뉴얼에는 로봇의 위치를 지키기 위한 여섯 가지 주요 기둥, 즉 규칙이 있습니다:

1. 인간이 주인: 인간 판사가 항상 최종 결정을 내려야 합니다. 로봇은 단지 조력자일 뿐입니다.
2. 선택지를 열어둘 것: 로봇은 판사에게 단 하나의 길만 보여주어서는 안 됩니다. 판사가 자유롭게 선택할 수 있도록 다양한 가능성을 보여주어야 합니다.
3. 이유를 설명할 것: 만약 로봇이 특정 사례를 추천한다면, 왜 그런지에 대해 설명할 수 있어야 합니다. 단순히 "나를 믿으라"고 말해서는 안 됩니다. 판사는 로봇이 어떻게 그 답을 찾아냈는지 알아야 합니다.
4. 규칙을 확인할 것: 법원이 새로운 AI 도구를 구매하기 전에, 그것이 국가의 헌법을 따르는지 확인해야 합니다.
5. 독립적인 감사: 로봇의 제작자가 아닌 사람이 정기적으로 로봇을 점검하여 편향성이나 오류가 없는지 확인해야 합니다.
6. 기술을 배울 것: 판사와 법원 직원들은 이 로봇들이 어떻게 작동하는지 배워서, 로봇에 의해 혼란을 겪거나 속지 않도록 해야 합니다.

이것이 당신에게 왜 중요한가

당신은 "나는 판사가 아닌데, 왜 이 일에 관심을 가져야 하지?"라고 생각할 수도 있습니다. 자, 만약 로봇 사서가 공정함에 관한 책은 모두 숨기고 엄격한 처벌에 관한 책만 보여주기 시작한다고 상상해 보세요. 설령 인간 판사가 선한 사람이라 할지라도, 친절함에 관한 책을 전혀 보지 못했다면 결국 가혹한 결정을 내리게 될 수도 있습니다.

이 논문은 만약 우리가 이러한 AI 도구들에 대한 좋은 규칙을 갖추지 않는다면, 아무도 모르는 사이에 정의가 작동하는 방식이 의도치 않게 변할 수 있다고 시사합니다. 저자는 이 "안전 매뉴얼"을 따름으로써, 우간다가 이 놀라운 로봇들을 활용해 판사들이 더 빠르고 똑똑하게 일하도록 도우면서도, 로봇이 운전대를 잡지 못하게 할 수 있다고 믿습니다.

논문은 결론적으로, 미래의 정의는 인간 대 기계의 싸움이 아니라고 말합니다. 그것은 인간과 기계가 함께 협력하되, 인간이 확고하게 운전석을 지키는 것에 관한 것입니다. 로봇은 지도를 탐색할 수 있지만, 어디로 갈지는 인간이 결정해야 합니다. 우리가 이 균형을 제대로 잡는다면, 정의의 도서관은 모두를 위해 더 나은, 더 공정한 곳이 될 수 있습니다. 만약 균형을 놓친다면, 우리는 효율적으로 보이지만 영혼을 잃어버린 시스템을 마주하게 될 것입니다.