Verifying Provenance of Digital Media: Why the C2PA Specifications Fall Short
본 논문은 C2PA 규격에 대한 최초의 포괄적인 독립 보안 분석을 제시하여 형식적 방법을 통해 해당 시스템이 주장하는 보안 목표와 신뢰할 수 있는 배포를 위한 추가 요구사항을 충족하지 못함을 밝히고, 따라서 저널리즘과 법적 증거와 같은 고위험 애플리케이션에 대한 조기 의존을 경고한다.
원본 논문은 CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/)에 따라 공공 도메인에 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
가상의 상황을 상상해 보세요. 귀하고 비싼 그림 한 점을 새로 구매했다고 가정해 봅시다. 진품임을 증명하기 위해 화가가 홀로그램 스티커가 부착된 특수하고 깨지지 않는 플라스틱 슬리브를 당신에게 건네줍니다. 그 스티커에는 "나는 화요일에 이 작품을 만들었으며, 이것이 원본임을 약속한다"고 적혀 있습니다. 당신은 안심하죠, 그렇죠?
이제 보안 전문가들 (이 논문의 저자들) 이 그 플라스틱 슬리브와 그 제작 규칙을 조사했다고 상상해 보세요. 그들은 아이디어는 훌륭하지만, 실제 슬리브에는 치명적인 구멍들이 몇 가지 있다는 사실을 발견했습니다. 사실, 위조자는 스티커를 쉽게 교체하거나 날짜를 변경하거나 심지어 도난당한 화가의 서명을 사용할 수도 있으며, 슬리브는 이를 감지하지 못합니다.
다음은 디지털 사진과 영화의 출처를 증명하도록 설계된 시스템인 C2PA에 대해 이 논문이 말하는 내용을 간략히 정리한 것입니다.
큰 그림: "디지털 여권"
C2PA는 사진과 영화를 위한 디지털 여권과 같습니다. 카메라나 AI 프로그램이 이미지를 생성할 때, C2PA 는 해당 이미지에 "콘텐츠 인증 정보" (디지털 태그) 를 첨부하려고 시도합니다. 이 태그는 다음을 알려주도록 설계되었습니다:
- 누가 만들었는지 (카메라 또는 컴퓨터).
- 언제 그리고 어디서 만들어졌는지.
- 편집되었는지 여부.
목표는 가짜 AI 이미지로 사람들이 속는 것을 막는 것입니다. 주요 기술 기업들 (어도비, 구글, 마이크로소프트 등) 이 이 시스템을 구축하고 있습니다.
문제점: 여권에 결함이 있습니다
연구자들은 C2PA 시스템을 테스트하여 기업들이 주장하는 만큼 잘 작동하지 않는다는 사실을 발견했습니다. 그들은 나쁜 행위자가 시스템을 속일 수 있는 여섯 가지 주요 방법을 발견했습니다.
1. "날짜 스티커"는 교체될 수 있습니다
유사성: 여권에 "2024 년 발급"이라는 도장이 찍혀 있다고 상상해 보세요. 하지만 그 도장이 찍힌 종이는 제대로 붙어 있지 않습니다. 위조자는 2024 년 도장을 떼어내고 2020 년 도장을 붙여도 여권은 여전히 "유효"해 보입니다.
논문의 주장: C2PA 는 보안 인장을 깨뜨리지 않고 사진이 찍힌 날짜를 변경할 수 있게 합니다. 정치인이 "지난주"에 찍은 가짜 동영상을 게시하면, 시스템이 날짜가 조작되었음을 감지하지 못할 수 있습니다.
2. "만료된" 또는 "도난당한" 키 사용
유사성: 클럽의 보안 요원이 VIP 패스를 가진 사람이라면 누구나 들어오게 허용한다고 상상해 보세요. 하지만 그 보안 요원은 그 패스가 도난 신고가 되었는지, 아니면 VIP 회원권이 지난달에 만료되었는지 확인하지 않습니다.
논문의 주장: 카메라의 비밀 키가 도난당하거나 회사가 사진 서명에 대한 카메라의 권한을 취소하더라도, C2PA 검증기 ("보안 요원") 는 종종 이를 확인하지 않습니다. 그들은 여전히 가짜 사진을 진짜라고 생각하고 통과시킵니다.
3. "심판들"이 합의하지 못합니다
유사성: 사진이 진짜인지 확인하기 위해 두 명의 심판에게 사진을 보여준다고 상상해 보세요. 심판 A 는 "이건 100% 진짜야!"라고 말하고, 심판 B 는 "이건 가짜야!"라고 말합니다. 당신은 누구를 믿어야 할지 모릅니다.
논문의 주장: C2PA 사진을 확인하는 서로 다른 도구들이 동일한 이미지에 대해 종종 다른 답변을 내놓습니다. 한 도구는 사진이 안전하다고 말할 수 있는 반면, 다른 도구는 위험하다고 말할 수 있습니다. 이는 모두를 혼란스럽게 만듭니다.
4. "배제 구역" 허점
유사성: 여권의 "개인 정보" 섹션이 테이프로 덮여 있다고 상상해 보세요. 규칙은 "테이프 아래의 내용은 확인하지 않는다"고 명시합니다. 위조자는 그 테이프 아래에 가짜 주소를 밀어 넣을 수 있으며, 여권은 여전히 유효한 것으로 간주됩니다.
논문의 주장: C2PA 는 파일의 특정 부분 (예: GPS 위치 정보) 을 보호 대상에서 "배제"할 수 있게 합니다. 공격자는 인장을 깨뜨리지 않고 위치 데이터를 변경할 수 있어, 사진이 실제로는 스튜디오에서 찍혔음에도 불구하고 파리에서 찍힌 것처럼 보이게 만들 수 있습니다.
5. 여권이 너무 빨리 만료됩니다
유사성: 6 개월만 유효한 여권을 발급받았다고 상상해 보세요. 그 이후에는 사진이 진짜라 하더라도 시스템은 "더 이상 이를 검증할 수 없다"고 말합니다.
논문의 주장: 디지털 인증서가 빠르게 만료되기 때문에, 오늘 유효했던 사진도 몇 달 후에는 "검증 불가"가 될 수 있습니다. 이는 나중에 확인이 필요한 법적 증거나 선거 기록과 같은 것들에게 재앙이 될 수 있습니다.
6. "승인 인장"은 가짜입니다
유사성: 은행 금고에 "인증된 안전" 라벨이 붙어 있다고 상상해 보세요. 하지만 그 라벨을 발급하는 회사는 실제로 금고를 검사하지 않습니다. 대신 은행 주인에게 "당신의 금고는 안전한가요?"라고 묻고 그들의 말을 믿을 뿐입니다.
논문의 주장: C2PA "준수 프로그램" (제품을 인증하는 그룹) 은 실제로 소프트웨어를 테스트하거나 코드를 검토하지 않습니다. 그들은 기업들이 "우리는 올바르게 수행했습니다"라고 말하는 것에 의존합니다. 따라서 제품이 "인증"되었더라도 위에서 언급한 보안 구멍들이 여전히 존재할 수 있습니다.
결론
연구자들은 말합니다: 아직 C2PA 를 신뢰하지 마십시오.
그들은 아이디어가 나쁘다고 말하는 것이 아닙니다. 그것은 집의 좋은 설계도와 같은 유망한 개념입니다. 하지만 현재의 건설은 균열로 가득 차 있습니다. 우리가 이 시스템을 현재 법정 증거, 뉴스 보도, 금융 기록과 같은 중요한 일에 사용한다면, 완벽하게 진짜처럼 보이는 가짜에 속을 수 있습니다.
해결책: 이 시스템에 의존하기 전에 규칙을 강화해야 합니다. 우리는 다음을 보장해야 합니다:
- 만료된 키는 실제로 차단되어야 합니다.
- 날짜는 교체될 수 없어야 합니다.
- 모든 확인 도구가 서로 일치해야 합니다.
- "승인 인장"은 단순한 약속이 아닌 실제 보안 테스트를 포함해야 합니다.
그런 수정 사항이 이루어지기 전까지, 이 논문은 C2PA 에 의존하는 것이 오히려 가짜 뉴스 문제를 악화시킬 수 있다고 경고합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.