Barriers to Evidence in AI-Related Cases and the Privatization of Proof
본 논문은 AI 시스템에 대한 독점적 통제가 접근의 일곱 가지 주요 비대칭성을 생성하여 소송을 방해하는 '증명의 사유화'를 초래한다고 주장하며, 이러한 증거 분쟁을 해결하기 위해 비례성과 대체 가능한 접근 대안에 기반한 3 단계 테스트를 제안한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신이 법정에서 거대하고 보이지 않는 로봇이 당신을 다치게 한 실수를 저질렀음을 증명하려 한다고 상상해 보십시오. 무언가 잘못되었음을 알고 있지만, 로봇의 두뇌, 기억, 그리고 따르는 규칙들은 강력한 기술 기업이 소유한 블랙박스 안에 잠겨 있습니다.
Sarah Cen, Hannah Ismael, Lucia Zheng 연구진이 작성한 이 논문은 인공지능 (AI) 관련 사건에서 증거 규칙이 붕괴되었다고 주장합니다. 단순히 증거를 찾기 어렵다는 문제가 아니라, 증거를 통제하는 사람들이 당신을 넘을 수 없을 만큼 높은 벽을 쌓았으며, 판사는 종종 당신이 시도조차 못 하게 막는다는 것입니다.
다음은 그들의 발견을 단순한 비유로 설명한 것입니다.
1. 증명의 '캐치 -22'
저자들은 이를 **"증명의 사유화 (Privatization of Proof)"**라고 부르는 좌절스러운 순환 고리를 설명합니다.
- 상황: 소송을 제기한 당신 (피고인) 은 AI 가 편향되었거나 고장 났음을 증명하기 위해 AI 의 내부 작동 방식을 확인해야 합니다.
- 회사의 방어: 회사는 "코드가 고장 났다는 증거가 이미 있는 것이 아니라면, 코드를 볼 필요가 있음을 증명할 수 없다"고 말합니다.
- 결과: 코드를 얻으려면 증거가 필요하지만, 증거를 얻으려면 코드가 필요합니다. 게임이 시작되기 전에 끝납니다.
비유: 제과점 주인이 소유한 금고에 잠긴 병에 쿠키를 훔쳤다는 혐의로 고발당했다고 상상해 보십시오. 제과점 주인은 "쿠키 부스러기가 있는지 확인하기 위해 금고를 열 수 있으려면 먼저 쿠키를 훔쳤음을 증명해야 한다"고 말합니다. 하지만 금고 안의 부스러기를 보지 않고는 쿠키를 훔쳤음을 증명할 수 없습니다. 제과점 주인이 열쇠를 가지고 있으며, 판사는 종종 당신이 아직 "증명"하지 않았으므로 금고를 열 수 없다고 동의합니다.
2. 블랙박스를 여는 일곱 개의 '열쇠'
이 논문은 회사와 소송을 제기한 사람 사이에 거대한 간극을 만드는 보통 잠겨 있는 일곱 가지 특정 요소를 식별합니다. 이를 블랙박스를 여는 데 필요한 일곱 가지 다른 열쇠로 생각하십시오.
- 모델: AI 의 실제 "두뇌"(코드와 가중치).
- 데이터: AI 가 훈련된 "교과서".
- 문서: 제작자들이 작성한 "사용 설명서".
- 로그: AI 가 사용자에게 실제로 무엇을 하고 말했는지에 대한 "일기".
- 전문성: 기계를 이해하는 데 필요한 전문 지식.
- 컴퓨팅 파워: 테스트를 실행하는 데 필요한 거대한 슈퍼컴퓨터.
- 인프라: 회사가 사용하는 물리적 도구와 서버.
비유: 자동차에 결함이 있음을 증명하려면 엔진 (모델), 설계도 (문서), 사용된 연료 (데이터), 그리고 정비사의 메모 (로그) 를 확인해야 합니다. 하지만 자동차 제조사는 "상업적 비밀이므로 엔진을 보여줄 수 없으며, 당신을 신뢰하지 않으므로 정비사를 고용하는 것도 허용하지 않겠다"고 말합니다. 한편 제조사는 모든 도구와 전문가를 보유하고 있는 반면, 당신은 자동차의 외관만 가지고 있습니다.
3. '대체 가능'한 속임수 (열쇠 교환)
이 논문의 가장 흥미로운 점 중 하나는 이러한 "열쇠"들이 **대체 가능 (fungible)**하다는 것입니다. 이는 서로 교환될 수 있다는 뜻인 어려운 단어입니다.
비유: 특정 문서를 찾기 위해 방에 들어갈 필요가 있다고 상상해 보십시오.
- 옵션 A: 방의 마스터 키 (전체 소스 코드) 를 요청합니다. 소유자는 "아니요, 그건 너무 위험합니다"라고 말합니다.
- 옵션 B: 소유자는 창문을 통해 들여다보거나, 방의 영상 피드를 제공하거나, 들어간 후 무엇을 보았는지 알려줄 신뢰할 수 있는 제삼자를 제안합니다.
저자들은 법원이 이러한 교환을 받아들여야 한다고 주장합니다. 회사가 "상업적 비밀"을 이유로 마스터 키 (코드) 를 주기를 거부한다면, 당신의 주장을 증명하기 위해 영상 피드나 통제된 테스트처럼 똑같이 작동하는 다른 무언가를 제공하도록 강제해야 합니다. 당신은 정확히 같은 열쇠가 필요한 것이 아니라, 동일한 정보를 얻을 수 있는 방법만 필요합니다.
4. 판사를 위한 3 단계 테스트
이를 해결하기 위해 저자들은 회사가 증거를 보여주기를 거부할 때 판사가 사용할 간단한 3 단계 테스트를 제안합니다.
1 단계: 간극이 실제적인가?
소송을 제기한 사람이 자신의 사건을 증명하기 위해 더 많은 정보가 실제로 필요한지, 아니면 이미 충분한 정보를 가지고 있는지 확인합니다. 이미 충분한 정보가 있다면 중단합니다. 회사가 정보를 숨기고 있어 막혀 있다면 2 단계로 이동합니다.2 단계: 요청이 공정한가?
이는 균형 잡기 작업입니다. 판사는 다음을 저울질합니다.- 이익: 소송을 제기한 사람이 이 증거를 통해 얻는 이득은 얼마나 큰가?
- 위험: 이를 공개하는 것이 회사에 얼마나 큰 해를 끼치는가?
- 기준선: 판사는 "법적 주장을 이해하는 데 필요한 최소한의 정보는 무엇인가?"라고 묻습니다. 회사가 그 최소한조차 숨기고 있다면 패배합니다. 불필요한 추가 정보를 숨기고 있다면, 이를 공개해야 할 수도 있습니다.
3 단계: 안전한 교환이 있는가?
회사가 "개인정보 보호를 이유로 원시 데이터를 보여줄 수 없다"고 말하면, 판사는 "동일한 것을 증명할 수 있는 다른 무언가를 보여줄 수 있는가?"라고 묻습니다. 아마도 정제된 데이터 버전이나 회사가 지켜볼 수 있지만 원고도 여전히 배울 수 있는 안전한 "샌드박스"에서의 테스트 실행일 수 있습니다. 공정한 교환이 존재한다면 회사는 이를 제공해야 합니다.
왜 이것이 중요한가
이 논문은 이를 수정하지 않으면 AI 소송이 AI 가 잘못한 일이 없었기 때문이 아니라, 진실을 찾으려 하는 사람을 상대로 법정 규칙이 조작되어 실패할 것이라고 결론 내립니다. "증명의 사유화"는 민간 기업이 증거를 숨김으로써 사실상 법적 결과를 결정한다는 것을 의미하며, 법정을 실제로 옳은 사람이 누구인지와 상관없이 가장 많은 비밀을 가진 사람이 승리하는 곳으로 만듭니다.
간단히 말해: 저자들은 회사가 증거를 보여주거나 진실을 증명할 공정한 대안적 방법을 제공하도록 강제함으로써 "캐치 -22"를 멈추고자 합니다. 이는 정의가 상업적 비밀이라는 유료 장벽 뒤에 잠기지 않도록 보장하기 위한 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.