Beyond AI-Generated Labels: Watermarking, Co-Creation, and Conflation of AI-Generation with Disinformation
이 논문은 AI 생성 워터마크와 라벨에 의존하는 것이 진실성이나 의도를 전달하지 못하기 때문에 허위 정보에 대응하기 위한 잘못된 접근 방식이라고 주장하며, 대신 합성 콘텐츠의 윤리적 및 인식론적 과제를 더 잘 헤쳐 나가기 위해 프로세스 투명성과 정보 리터러시를 우선시할 것을 제안한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
거대한 디지털 탐정 게임
당신이 책, 그림, 노래가 매초 생성되고 있는 거대하고 시끌벅적한 도서관을 걷고 있다고 상상해 보세요. 어떤 것들은 인간이 만들고, 어떤 것들은 로봇이 만들며, 많은 것들은 인간과 로봇의 기묘한 혼합물입니다. 최근 몇 년 사이, 사람만큼이나 이야기를 쓰고 그림을 그리며 음악을 작곡할 수 있는 새로운 종류의 로봇이 등장했습니다. 이로 인해 모두가 조금 불안해하고 있습니다. 무엇이 진짜이고 무엇이 가짜인지 어떻게 알 수 있을까요? 거짓말을 어떻게 찾아낼 수 있을까요?
이를 해결하기 위해 과학자들과 기술 기업들은 "워터마크(watermark)"에 대해 이야기해 왔습니다. 워터마크를 로봇이 예술 작품을 만드는 순간 새기는 작고 보이지 않는 문신이라고 생각해 보세요. 그것은 특수한 컴퓨터만이 볼 수 있는 비밀 신호이며, "이것은 로봇이 만들었습니다!"라고 말하기 위한 것입니다. 핵심 아이디어는 우리가 이 문신을 찾아낼 수 있다면, 나쁜 것들을 걸러내고 도서관을 안전하게 지킬 수 있다는 것입니다. 하지만 여기 큰 질문이 있습니다. 이 보이지 않는 문신이 가짜 뉴스나 AI의 거짓말이라는 미스터리를 풀 수 있는 마법의 열쇠일까요, 아니면 퍼즐에 맞지 않는 반짝이는 장난감에 불과할까요? 이제 당신이 읽게 될 논문이 들려주려는 이야기가 바로 이것입니다.
논문의 핵심 아이디어: 왜 "AI 문신"이 나쁜 라벨이 될 수 있는가
이 논문의 저자인 페데리코 제르마니(Federico Germani)와 지오바니 스피탈레(Giovanni Spitale)는 이러한 보이지 않는 워터마크를 사용해 이를 크고 눈에 띄는 "AI 생성" 라벨로 바꾸는 아이디어를 살펴보고 있습니다. 그들은 워터마크가 인터넷에 수천 개의 가짜 메시지를 뿌리는 스팸 로봇을 잡는 데는 괜찮을지 모르지만, 인간과 AI가 함께 만드는 복잡하고 창의적인 작업에는 형편없는 아이디어라고 주장합니다.
"전부 아니면 전무(All-or-Nothing)"의 문제
당신과 로봇이 함께 나무집을 짓고 있다고 상상해 보세요. 당신은 모양을 설계하고, 로봇은 나무를 자르며, 당신은 벽을 칠하고, 로봇은 미끄럼틀을 추가합니다. 이 나무집은 "인간이 만든 것"인가요, 아니면 "로봇이 만든 것"인가요? 둘 다입니다! 하지만 논문은 현재의 워터마킹 기술이 로봇의 첫 번째 절단만을 보는 서투른 도장과 같다고 주장합니다. 만약 로봇이 첫 스케치를 했다면, 당신이 몇 주 동안 색을 칠하고 수정했더라도 나무집 전체에 "로봇 제작"이라는 도장이 찍히게 됩니다.
저자들은 이러한 워터마크가 취약하다고 지적합니다. 만약 당신이 그림을 약간 수정하거나(크기를 조절하거나 필터를 추가하는 등) 문장을 다시 쓴다면, 보이지 않는 신호는 종종 깨지거나 사라집니다. 이는 기묘한 상황을 만듭니다:
- 만약 당신이 아주 조금만 편집한다면, 라벨은 그대로 남아 있어서 당신이 대부분의 작업을 했음에도 불구하고 사람들은 그것이 가짜라고 생각하게 됩니다.
- 만약 당신이 많이 편집한다면, 라벨은 사라져서 로봇이 시작했음에도 불구하고 사람들은 그것이 진짜라고 생각하게 됩니다.
논문은 복잡한 프로젝트에 단순히 "AI 생성" 스티커를 붙이려고 노력하는 것이, 맛있는 다층 케이크를 단지 "밀가루가 들어 있다"라고 말함으로써 설명하려는 것과 같다고 제안합니다. 그것은 누가 실제로 굽고, 장식하고, 맛을 보았는지에 대한 핵심을 놓치는 것입니다.
"가짜 = 나쁜 것"이라는 함정
여기서 논문이 강조하는 두 번째 큰 문제가 있습니다. 우리가 무언가에 커다란 "AI 생성" 라벨을 붙일 때, 사람들은 흔-히 그것이 "이것은 거짓이다" 또는 "이것은 위험하다"라는 의미로 받아들입니다. 저자들은 이것이 큰 실수라고 말합니다.
주방을 생각해 보세요. 로봇 셰프는 건강한 샐러드를 위해 채소를 완벽하게 다질 수 있고(좋고 진실한 것), 인간 셰프는 독이 든 스튜를 만들기 위해 채소를 다질 수도 있습니다(나쁘고 거짓된 것). 도구가 음식의 안전을 결정하는 것이 아니라, 사용하는 사람이 결정합니다.
논문은 무언가에 "AI"라는 라벨을 붙이는 것이 그것이 참인지 거짓인지를 알려주지 않는다고 주장합니다. 로봇은 완벽하게 정확한 역사 수업을 쓸 수 있고, 인간은 설득력 있는 거짓말을 쓸 수 있습니다. 모든 것에 무서운 "AI" 라벨을 붙임으로써, 우리는 의료 지침이나 재미있는 교육 영상처럼 로봇을 유용한 것을 만드는 데 사용하는 것을 의도치 않게 막을 수도 있습니다. 동시에, 우리는 라벨이 없는 콘텐츠를 보고 "오, 로봇 라벨이 없으니 100% 인간이 만든 것이고 100% 진실이겠지!"라며 너무 많이 신뢰하게 될 수도 있습니다. 하지만 인간 거짓말쟁이는 여전히 거짓말쟁이입니다.
진정한 해결책: 문신이 아닌 투명성
그렇다면 보이지 않는 문신과 큰 라벨이 답이 아니라면, 무엇이 답일까요? 저자들은 우리가 결과물(그림이나 텍젝트)을 보는 대신 과정(그것이 어떻게 만들어졌는지)을 보기 시작해야 한다고 제안합니다.
"로봇이 여기에 손을 댔는가?"라고 묻는 대신, "누가 사실을 확인했는가?" 그리고 "목표가 무엇이었는가?"라고 물어야 합니다.
- 과정의 투명성: "나는 로봇을 사용하여 양파를 썰었지만, 레시피를 확인하고, 국물 맛을 본 뒤, 소금을 더 넣기로 결정했다"라고 적힌 레시피 카드를 상상해 보세요. 이것은 정확히 무슨 일이 일어났는지 알려줍니다.
- 정보 리터러시(Information Literacy): 논문은 거짓말에 대한 최선의 방어책이 로봇 탐지기가 아니라, 사람들이 똑똑한 탐정이 되도록 가르치는 것이라고 제안합니다. 우리는 로봇이 도움을 주었는지 여부와 상관없이, 어떻게 나쁜 논증을 식별하고, 출처를 확인하며, "누가 왜 이것을 썼는가?"를 질문하는 법을 배워야 합니다.
결론
논문은 워터마크가 인터넷에 대량으로 스팸을 뿌리는 로봇을 잡는 데는 도움이 될 수 있지만, 인간과 AI의 창의성을 이해하는 데는 잘못된 도구라고 결론짓습니다. 단순한 "AI" 또는 "인간" 라벨을 복잡한 협업에 강제로 적용하려는 것은 무지개 색깔을 단 두 개의 양동이로 분류하려는 것과 같습니다. 그것은 작동하지 않으며, 심지어 우리가 믿는 것에 대해 덜 주의 깊게 만들 수도 있습니다. 진정한 해결책은 우리가 도구를 어떻게 사용하는지에 대해 정직해지는 것이며, 사람들이 읽고 보는 이야기에 대해 비판적으로 사고할 수 있도록 가르치는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.