Generative AI, Professional Liability, and Actor Responsibility: Reconfiguring the Law School Syllabus

우리가 사용하는 도구가 단순히 망치나 계산기처럼 수동적인 도구가 아니라, 스스로 새로운 아이디어를 생성하고 이야기를 쓰고 문제를 해결할 수 있는 능동적인 참여자가 되는 세상을 상상해 보십시오. 이것은 생성형 인공지능의 현실이며, 이 기술은 공상 과학에서 학생과 전문가들의 일상 속으로 빠르게 이동했습니다. 엄격한 규칙, 절대적인 비밀 유지, 그리고 건전한 판단을 내릴 수 있는 능력에 의존하는 변호사들에게 이러한 변화는 단순히 새로운 소프트웨어 프로그램을 배우는 문제가 아닙니다. 이는 책임 있는 전문가가 된다는 것의 본질을 건드리는 문제입니다. 변호사가 실수를 저질렀을 때 그 결과는 가혹할 수 있습니다. 의뢰인이 자유, 집, 또는 명성을 잃을 수도 있기 때문입니다. 만약 컴퓨터 프로그램이 법률 문서를 작성하는 데 도움을 주었으나 논거를 뒷받을 가짜 판례를 지어냈다면, 그 오류에 대해 책임을 져야 하는 사람은 여전히 인간 변호사입니다. 오늘날 법학 교육이 직면한 질문은 이러한 도구를 허용할 것인가의 여부가 아니라, 어떻게 하면 미래의 변호사들이 비판적이고 윤리적으로 사고하는 능력을 잃지 않으면서 이 도구들을 사용하도록 가르칠 것인가 하는 것입니다.

메히코 자율 대학교(Universidad Autónoma Metropolitana)의 연구원 호르헤 루이스 모르톤(Jorge Luis Fernández Morton)과 마리아나 모란첼 포카테라(Mariana Moranchel Pocaterra)의 새로운 연구는 전문적 책임에 관한 법학 교육 방식을 전면적으로 개편하는 제안을 통해 이 과제를 다룹니다. 저자들은 인공지능을 단순히 금지하거나 자유롭게 사용하도록 두는 단순한 도구로 취급하는 것은 위험한 실수라고 주장합니다. 대신, 이 시스템의 통합은 전문적 책임(professional liability)의 근본적인 문제로 다루어져야 한다고 제안합니다. 연구진은 학생들이 스스로 생각하는 것을 위해 이러한 시스템에 지나치게 의존할 때 발생하는 '인지적 외주화(cognitive offloading)' 현상으로 인해, 법을 실천하는 데 필요한 깊은 분석 기술을 잃을 위험이 있다고 지적합니다. 이는 이론적인 우려가 아닙니다. 논문은 인공지능의 무비판적인 사용이 이미 심각한 법적 실패를 초래한 실제 사례들을 인용합니다. 한 사례에서는 법원이 변호사와 인공지능 시스템 사이의 대화가 통상적인 프라이버시 규칙에 의해 보호되지 않는다고 판결하여, 정부가 이를 읽을 수 있게 되었습니다. 또 다른 사례에서는 인공지능을 사용하여 증언을 준비했던 증인이 자신의 이야기를 회상하는 능력을 상실하여 증거로서의 가치를 잃게 된 경우가 있었습니다. 이러한 사건들은 기술이 사실이 아닌 것을 자신 있게 말하는 '환각(hallucinations)' 현상을 일으킬 수 있으며, 민감한 의뢰인 정보를 대중에게 노출할 수 있음을 보여줍니다.

이러한 위험에 대응하기 위해 저자들은 대학이 인공지능 사용을 안내하기 위해 채택해야 할 4단계 프레임워크를 제안합니다. 첫 번째 단계는 대학 차원에서 명확한 규칙을 설정하여 기술이 할 수 있는 것과 할 수 없는 것에 대한 공통된 이해를 확립하는 것입니다. 두 번째 단계는 사람의 가짜 이미지를 만들거나, 기밀 데이터를 유출하거나, 타인을 괴롭히는 데 기술을 사용하는 것과 같은 해로운 행위를 처벌하는 엄격한 정책을 도입하는 것입니다. 결정적으로, 저자들은 이러한 정책에 젠더 관점이 포함되어야 한다고 강조하는데, 이는 여성이 비동의 성적 이미지 생성과 같은 인공지능의 해로운 사용에 의해 불균형적으로 표적이 되는 경우가 많다는 점을 인식하는 것입니다. 세 번째 단계는 법학 교육 과정의 변화를 요구하며, 단순히 경고를 하는 수준을 넘어 학생들이 기술 자체를 이해하도록 가르치는 것을 포함합니다. 여기에는 이러한 시스템이 어떻게 구축되는지, 왜 편향될 수 있는지, 그리고 어떻게 오류를 찾아내는지에 대한 학습이 포함됩니다. 네 번째 단계는 개별 교수들에게 자신의 수업에서 인공지능을 어떻게 사용할지 결정할 수 있는 자유를 부여하여, 학생들이 기계가 만들어낸 결과물을 검증하는 연습을 지속적으로 할 수 있도록 보장합니다.

논문은 학생들이 법학 교육 과정 동안 따라야 할 구체적인 경로를 제시합니다. 초기 단계에서는 이러한 시스템이 어떻게 작동하는지와 그들이 처한 윤리적 위험에 대한 지식의 토대를 쌓는 데 집중합니다. 중급 단계로 넘어가면서 학생들은 기술과 더 직접적으로 상호작용하며, 정밀한 질문을 던지는 방법과 받은 답변을 확인하는 방법을 연습합니다. 마지막 학년이 되면 학생들은 숙련된 교수의 밀착 지도하에 시뮬레이션된 법률 클리닉에서 이러한 도구들을 사용해야 합니다. 이러한 환경에서 학생들은 기술을 어떻게 사용했는지 정확히 기록하고 최종 결과물에 대해 전적인 책임을 지는 법을 배웁니다. 연구진은 목표가 인간의 판단을 기계로 대체하는 것이 아니라, 비판적인 시각으로 이러한 도구들을 감독할 수 있는 변호사를 양성하는 것이라고 강조합니다. 그들은 미래의 변호사들이 설령 모든 단어를 직접 쓰지 않았더라도, 인공지능의 도움을 받아 생산된 모든 작업에 대해 여전히 전적인 책임을 진다는 점을 이해해야 한다고 주장합니다.

연구는 법조계가 이러한 변화를 무시하거나 단순히 기술을 금지하려고 해서는 안 된다고 결론짓습니다. 발전 속도가 매우 빠르기 때문에 오늘 필요한 규칙과 기술은 내일 달라질 가능성이 높으며, 이는 학교가 유연성을 유지하고 교수법을 끊임없이 업데이트할 것을 요구합니다. 저자들은 그들의 프레임워크가 인공지능 사용이 공공 안전과 개인의 권리에 상당한 위험을 초래할 수 있는 의학이나 심리학과 같은 다른 고위험 전문직의 모델이 될 수 있다고 제안합니다. 단순한 허용 대 금지의 논쟁에서 벗어나 감독과 교육의 구조적 접근 방식으로 전환함으로써, 법학 교육은 기술적으로 숙련되었을 뿐만 아니라 윤리적으로도 기반이 탄탄한 새로운 세대의 변호사를 준비할 수 있습니다. 궁극적인 목표는 법적 지형이 기술에 의해 더 많이 매개되더라도, 전문적 책임, 정직성, 그리고 독립적 판단이라는 핵심 원칙이 온전히 유지되도록 하는 것입니다.