AI assistance and error communication in deepfake evidence evaluation: A systematic review of human authenticity judgments

현대 사회에서 비디오 녹화물은 종종 변하지 않는 진실의 기록으로 취급됩니다. 카메라가 어떤 사람이 말하는 모습을 포착했다면, 그 사람이 그 순간 그곳에 존재하며 그 말을 했다는 것이 전제됩니다. 이러한 믿음은 형사 수사와 법적 판단의 근간을 이룹니다. 그러나 딥페이크 생성이라는 새로운 기술은 이러한 확실성을 뒤흔들어 놓았습니다. 이 시스템들은 사람의 얼굴과 목소리를 매우 설득력 있게 교체하거나 변경하여, 실제로는 일어나지 않은 사건을 만들어낼 수 있습니다. 조사관들에게 문제는 단순히 가짜를 찾아내는 것만이 아닙니다. 그것은 가짜를 탐지한다고 주장하는 컴퓨터 도구를 어떻게 활용할 것인가를 파악하는 것입니다. 인간 판사나 경찰관이 비디오와 함께 "이것은 가짜이다"라고 말하는 컴퓨터의 의견을 보게 되었을 때, 그 조언은 어떻게 그들의 마음을 바꾸어 놓을까요? 컴퓨터는 그들이 진실을 볼 수 있도록 돕는 것일까요, 아니면 혼자였다면 저지르지 않았을 실수를 하도록 그들을 속이는 것일까요?

이 질문은 연구자 하르디안토 장기(Hardianto Djanggih)의 최근 체계적 문헌 고찰의 핵심 주제입니다. 이 연구는 새로운 컴퓨터 프로그램을 테스트하거나 단일 실험을 수행한 것이 아닙니다. 대신, 비디오나 이미지가 진짜인지 여부를 판단할 때 인간이 인공지능의 도움을 받을 때 어떻게 반응하는지를 구체적으로 살펴본 기존의 일곱 가지 연구를 수집하고 분석했습니다. 연구자는 이러한 지원이 인간의 판단력을 향상시키는지, 조언이 제시되는 방식이 얼마나 중요한지, 그리고 이러한 결과들을 법정에서 신뢰할 수 있는지 알고 싶었습니다. 문헌 고찰 결과, 답은 단순한 "예" 또는 "아니오"가 아니었습니다. AI의 가치는 조언이 정확한지, 그리고 그 조언이 인간에게 어떻게 보여지는지에 전적으로 달려 있었습니다.

이 검토는 사람들이 비디오를 시청하거나 얼굴을 보고 그것이 실제인지 조작된 것인지 결정하는 실험들을 조사했습니다. 어떤 경우에 참가자들은 최종 결정을 내리기 전에 컴퓨터 모델로부터 예측값을 받았습니다. 또 다른 경우에는 컴퓨터가 가짜가 숨어 있다고 생각하는 영역을 강조하여 보여주는 시각적 단서를 받거나, 컴퓨터가 보통 얼마나 신뢰할 만한지에 대한 설명을 들었습니다. 결과에 따르면, 컴퓨터가 올바른 조언을 했을 때 사람들은 종종 더 정확한 답을 얻는 데 도움을 받았습니다. 예를 들어, 비디오 클립을 대상으로 한 한 연구에서는 컴퓨터의 예측을 보여주었을 때 정확한 식별률이 66퍼센트에서 73퍼센트로 높아졌습니다. 그러나 이 연구는 위험한 부작용도 드러냈습니다. 컴퓨터가 잘못된 조언을 했을 때, 사람들은 잘못된 결론에 이르더라도 그 조언을 따르는 경향이 있었습니다. 이러한 지원은 사람들을 더 똑똑하게 만들기도 했지만, 도구 자체에 결함이 있을 경우 특정한 오류를 범할 가능성도 높였습니다.

정보가 어떻게 제시되는가는 정보 그 자체만큼이나 중요했습니다. 한 연구는 단순한 텍스트 라벨과 딥페이크 생성 과정에서 남겨진 미세하고 부자연스러운 흔적들을 증폭시켜 보여주는 시각적 디스플레이를 비교했습니다. 시각적 디스플레이는 사람들이 자신의 판단에 더 확신을 갖게 하고 컴퓨터의 평가를 더 잘 수용하게 만들었습니다. 하지만 이러한 확신이 항상 옳음을 의미하지는 않았습니다. 또 다른 실험에서 연구자들은 참가자들에게 컴퓨터가 매우 정확하다고 말했지만, 컴퓨터의 실제 성능은 그 주장과 일치하지 않았습니다. 참가자들은 컴퓨터가 더 뛰어나다고 들었을 때, 실제 기술적 성능이 동일함에도 불구하고 컴퓨터를 더 신뢰했습니다. 이는 오류율이 어떻게 전달되느냐에 따라 도구가 실제로 약속한 대로 작동하는지와 관계없이 사람이 도구에 의존하는 정도가 달라질 수 있음을 시사합니다.

조언의 출처가 무엇인지도 중요했습니다. 한 실험에서 참가자들은 정확히 동일한 지침을 받았으나, 그것이 인공지능으로부터 온 것이라고 표시될 때도 있었고 인간으로부터 온 것이라고 표시될 때도 있었습니다. 참가자들이 조언을 주는 주체가 누구라고 생각하느냐에 따라 최종 결정의 정확도는 변하지 않았습니다. 이 결과는 사람들이 기계보다 인간을 자동으로 더 신뢰하거나, 혹은 컴퓨터에 대해 본능적으로 의심을 품는다는 생각에 도전합니다. 대신, 조언의 질과 기초 데이터의 정확성이 성공과 실패의 진정한 동력이었습니다. 연구자들은 이러한 연구들 중 다수가 완벽하거나 시뮬레이션된 조언을 제공했기 때문에, 실제 세계의 탐지기가 실수를 저지르는 상황을 충분히 테스트하지 못했다고 언급했습니다.

이 연구의 결정적인 한계는 포함된 연구 중 어느 것도 실제 형사 재판에서 이 도구들이 어떻게 작동하는지를 테스트하지 않았다는 점입니다. 실험들은 일반인들이 실험실이나 온라인에서 빠르게 판단을 내리는 것을 다루었을 뿐, 피고인의 운명을 결정하는 판사나 변호사를 대상으로 하지 않았습니다. 문헌 고찰 결과, 이러한 도구들을 사용하는 것이 실제 법률 사건에서 더 정확한 판결로 이어진다는 증거는 발견되지 않았습니다. 또한 연구들은 사람들이 가짜 영상을 누가 만들었는지 정확히 식별할 수 있는지, 혹은 영상 속 인물이 실제로 범죄를 저질렀는지 여부를 측정하지 않았습니다. 연구는 영상이 진짜인지 가짜인지를 식별하는 더 좁은 범위의 질문만을 다루었습니다. 이 간극은 매우 중요한데, 왜냐하면 비디오는 기술적으로는 진짜일 수 있지만 오해를 불러일으키는 이야기를 전달하는 데 사용될 수 있고, 반대로 가짜 비디오가 무해한 목적으로 사용될 수도 있기 때문입니다.

저자는 인간과 AI의 관계가 복잡하다고 결론짓습니다. 지원, 신뢰, 그리고 정확한 판단은 서로 다른 것입니다. 사람은 도구를 신뢰하고 그에 동의할 수는 있지만, 여전히 틀릴 수 있습니다. 이 문헌 고찰은 이러한 도구들이 형사 증거로서 유용하기 위해서는 그에 대한 소통이 매우 정밀해야 한다고 제안합니다. 전문가들은 도구가 어떤 조건 하에서 테스트되었는지, 그리고 도구가 할 수 없는 것이 무엇인지를 정확하게 설명해야 합니다. 그들은 "이 녹화물은 가짜이다"와 같은 광범위한 주장 대신, "이 파일은 특정 유형의 조작과 관련된 특징을 포함하고 있다"와 같이 구체적이고 테스트 가능한 진술을 고수해야 합니다. 연구는 또한 투명성의 필요성을 강조합니다. 만약 도구가 비디오에서 의심스러운 영역을 강조한다면, 다른 사람들이 해당 강조 도구가 제대로 작동하고 있는지 확인할 수 있도록 원본 비디오가 반드시 남아 있어야 합니다.

궁극적으로, 이 문헌 고찰은 기술에 대한 찬사라기보다는 주의를 당부하는 가이드 역할을 합니다. 이는 AI의 지원이 딥페이크 탐지 능력을 향상시킬 수 있지만, 조언이 틀리거나 인간이 기계에 너무 의존하게 될 경우 새로운 위험을 초래한다는 것을 보여줍니다. 연구 결과는 법적 환경에서 초점을 맞춰야 할 곳이 도구가 얼마나 확신을 높여주는가가 아니라, 도움이 되는 조언과 오해를 불러일으키는 오류를 어떻게 구분해내느냐에 있음을 시사합니다. 이러한 도구들이 실제적인 결과가 따르는 실제 법적 시나리오에서 테스트되기 전까지, 정의를 보장할 수 있는 그들의 능력은 여전히 미지수로 남아 있습니다. 앞으로 나아가는 길은 신중한 테스트, 한계에 대한 명확한 소통, 그리고 단순히 컴퓨터의 말을 받아들이는 것이 아니라 컴퓨터의 작업을 검증할 수 있는 능력을 갖춘 인간을 필요로 합니다.