What Influences Readers' and Writers' Perceived Necessity of AI Disclosure?

본 연구는 727 명의 참가자를 대상으로 한 비쥬엣 연구를 통해 AI 사용 공개의 필요성에 영향을 미치는 요인을 규명하였으며, 그 결과 독자는 작성자보다 더 많은 투명성을 요구하며, 판단은 AI 의 대체성, 직접성, 작성자의 의도성에 의해 유의미하게 형성되지만 작성 노력은 유의미한 영향을 미치지 않는다는 점을 밝혀냈다.

핵심

이 논문은 쉬운 언어와 일상적인 비유를 사용하여 설명합니다.

핵심 질문: 누가 AI 사용 사실을 알아야 할까?

케이크를 굽는다고 상상해 보세요. 때로는 처음부터 끝까지 직접 만들어 내고, 때로는 기성 믹스를 사용하거나, 친구에게 아이싱을 부탁하기도 합니다.

이제 새로운 규칙에 대한 논의가 이루어지고 있다고 가정해 봅시다: "케이크를 만들 때 도움 (또는 기계) 을 썼다면 사람들에게 알려야 할까요?"

이 논문은 매우 구체적인 질문을 던집니다: *언제 사람들이 (독자들이) 그리고 작가들 (글을 쓴 사람들) 은 AI 사용 사실을 인정하는 것이 필수적이라고 생각할까요?*

연구자들은 독자와 작가가 이 상황을 매우 다른 렌즈를 통해 바라보며, 답은 AI 를 어떻게 사용했는지에 크게 달려 있음을 발견했습니다.

---

연구의 세 가지 주요 재료

이를 파악하기 위해 연구자들은 727 가지의 다양한 시나리오 (비네트라고 함) 로 구성된 '테이스팅 메뉴'를 구성했습니다. 사람들의 생각을 어떻게 바꾸는지 보기 위해 세 가지 주요 재료를 섞고 조합했습니다:

1. 관점 (누가 말하는가?): 당신은 케이크를 먹는 독자인가, 아니면 케이크를 굽는 작가인가?
2. 목적 (케이크는 무엇을 위한 것인가?): 진지한 취업 면접용인가 (평가), 학교 수업용인가 (학습), 아니면 블로그용 재미있는 이야기인가 (오락)?
3. 절차 (케이크는 어떻게 만들어졌는가?): 이것이 가장 복잡한 부분입니다. 연구자들은 AI 가 관여된 네 가지 구체적인 방식을 살펴보았습니다:
   • 대체 불가능성: 작가가 AI 없이 이 케이크를 만들 수 있었을까요? (답이 "아니오"라면, AI 는 필수적이었습니다).
   • 노력: 작가는 여전히 열심히 일했을까요, 아니면 AI 가 거의 모든 일을 했을까요?
   • 의도성: 작가는 AI 에게 엄격한 레시피를 주고 방향을 잡았을까요, 아니면 "케이크 만들어 줘!"라고만 말하고 AI 에게 핸들을 맡겼을까요?
   • 직접성: 작가는 AI 의 출력을 그대로 접시에 올렸을까요, 아니면 참고 자료로만 사용했을까요?

---

놀라운 결과

이 연구가 발견한 바를 쉬운 말로 번역해 보면 다음과 같습니다:

1. "자기 이익" 격차

결과: 독자들은 "네, 알려야 합니다!"라고 말할 가능성이 작가들보다 훨씬 높습니다.
비유: 마술사를 상상해 보세요. 관객 (독자) 은 그 트릭이 진짜인지, 아니면 기계가 일한 것인지 알고 싶어 합니다. 하지만 마술사 (작가) 는 "내가 여전히 공연을 했지; 기계는 소품일 뿐이야"라고 생각할 수 있습니다. 연구에 따르면 작가들은 AI 를 사용했더라도 여전히 작품의 '소유자'라고 느끼기 때문에 공개할 필요성을 덜 느끼는 경향이 있습니다.

2. "목적" 신화

결과: 놀랍게도 텍스트가 쓰인 이유는 크게 중요하지 않았습니다.
비유: 텍스트가 진지한 구직 지원서 (평가) 를 위한 것인지, 재미있는 블로그 게시물 (오락) 을 위한 것인지에 따라 사람들은 정직함에 대해 더 많이 신경 쓸 것이라고 생각할 수 있습니다. 하지만 연구 결과, 학교, 직장, 혹은 오락을 위한 것이든 간에 사람들이 AI 사용 사실을 알 필요성은 거의 동일했습니다. '위험도'가 공개 필요성을 바꾸지는 않았습니다.

3. "어떻게"가 가장 중요하다 (절차적 요인)

연구는 AI 를 어떻게 사용했는지가 모든 것을 바꾼다는 것을 발견했습니다. 다음과 같은 경우 공개가 더 필요하다고 여겨졌습니다:

• AI 가 대체 불가능했을 때: 작가가 AI 없이 혼자서는 할 수 없었던 경우, 사람들은 이를 인정하는 것이 중요하다고 느꼈습니다.
• AI 가 핸들을 잡았을 때 (낮은 의도성): 작가가 "이야기 써 줘"라고 입력하고 줄거리를 AI 에게 맡긴 경우, 독자들은 이를 알 필요성을 강하게 느꼈습니다.
• AI 출력이 직접 사용되었을 때: 작가가 AI 의 텍스트를 거의 수정하지 않고 그대로 붙여 넣은 경우, 공개가 필요하다고 여겨졌습니다.

노력에 대한 반전:
연구자들은 작가가 매우 적은 노력을 기울였을 때 (AI 가 작업의 90% 를 수행하게 했을 때), 사람들이 공개를 요구할 것이라고 생각했습니다. 하지만 그들은 틀렸습니다. 작가가 기울인 노력의 양은 사람들이 공개가 필요한지 여부에 크게 영향을 주지 않았습니다. 이는 작가가 얼마나 피곤했는지에 관한 것이 아니라, AI 가 실제로 얼마나 많이 했는지에 관한 것이었습니다.

4. "조종" 역설

결과: 이것이 가장 혼란스러운 부분입니다.

• 독자들은 생각합니다: "AI 에게 운전을 맡겼다면 (낮은 의도성), 반드시 우리에게 알려야 합니다!"
• 작가들은 생각합니다: "내가 AI 에게 운전을 맡겼다면, 누구에게도 알릴 필요를 덜 느낍니다."
• 비유: 마치 운전자가 "내가 실제로 운전한 게 아니야; GPS 가 운전했어"라고 말하는 것과 같습니다. 운전자는 책임감을 덜 느끼지만, 승객 (독자) 들은 차가 오토파일럿으로 운전되었다는 사실을 알아야 한다고 느낍니다.

---

이는 미래에 무엇을 의미할까요?

이 논문은 작가와 독자가 서로 다른 시각을 가지고 있기 때문에, 작가들 스스로 "올바른 일"을 하기를 기대할 수만은 없다고 제안합니다.

해결책: 더 나은 도구가 필요합니다.
작가들에게 단순히 "AI 사용을 공개하라"고 요구하는 대신, 플랫폼은 그들이 어떻게 사용했는지 설명하도록 도와야 합니다.

• 단순히 말하지 마세요: "저는 AI 를 사용했습니다."
• 이렇게 말하세요: "AI 로 개요를 생성했지만 문장은 제가 직접 썼습니다," 또는 "AI 에게 초안 전체를 작성하게 했고 저는 편집만 했습니다."

이 논문은 이러한 설명을 자동으로 초안 작성하는 도구를 설계하여, 독자들이 실제로 중요하게 생각하는 방식 (예: AI 가 중추적인 역할을 했는지, 아니면 몇 마디만 도왔는지) 에 맞춰 작가들이 투명성을 유지하기 쉽게 해야 한다고 제안합니다.

요약

• 독자는 작가보다 AI 사용에 대해 더 많이 알고 싶어 합니다.
• 텍스트가 쓰인 이유 (학교 vs 오락) 는 공개 필요성을 바꾸지 않습니다.
• AI 를 어떻게 사용했는지가 가장 중요합니다: AI 가 중추적인 역할을 하거나, 주도권을 잡았거나, 직접 복사된 경우, 사람들은 공개가 필요하다고 느낍니다.
• 노력은 우리가 생각했던 만큼 중요하지 않습니다.
• 작가들은 AI 에게 주도권을 맡길 때 공개할 필요를 덜 느끼는 반면, 독자들은 정반대로 느낍니다.

기술 요약

Fang, Wen, Lee의 논문 "What Influences Readers' and Writers' Perceived Necessity of AI Disclosure?"(FAccT '26) 에 대한 상세한 기술적 요약입니다.

1. 문제 제기

인공지능 (AI) 이 작성 과정에 빠르게 통합되면서, AI 가 생성하거나 AI 가 보조한 텍스트가 인간이 작성한 것과 구별하기 어려운 "창작자 격차 (creatorship gap)"가 발생했습니다. 이러한 모호성은 독자들이 콘텐츠를 맥락화하고, 신뢰성을 평가하며, 책임을 판단하는 능력을 위협합니다. 기존 규제는 종종 공개를 의무화하지만, 상향식 정책과 실제 이해관계자인 독자(콘텐츠 소비자) 와 작가(콘텐츠 제작자) 의 "현장 기반 (grassroots)" 인식 사이에는 불일치가 존재합니다.

핵심 연구 문제는 AI 공개의 필요성에 대한 인식에 영향을 미치는 구체적 요인을 이해하는 것입니다. 특히 저자들은 관점(독자 대 작가), 텍스트의 목적(평가, 학습, 오락), 그리고 절차적 요인(AI 가 어떻게 사용되었는지) 이 이러한 인식을 어떻게 형성하는지 조사합니다.

2. 방법론

이 연구는 변수를 체계적으로 조작하고 인식을 측정하기 위해 비니엣 실험(가상 시나리오를 활용한 설문 기반 실험 설계) 을 사용합니다.

• 참가자: Prolific 에서 모집한 $N = 727$명의 참가자 (미국 거주, 영어 능통, AI 리터러시 보유).
• 설계: 변수의 조합적 복잡성을 관리하기 위해 Resolution IV 분수 요인 설계를 사용했습니다.
• 독립 변수:
  1. 관점: 두 수준 (독자 대 작가).
  2. 목적: 세 수준 (평가, 학습, 오락) 으로, 각각 두 가지 구체적 시나리오로 운영화됨 (예: 평가 목적의 경우 지원서 대 자기소개서).
  3. 절차적 요인: 네 가지 차원, 각각 고/저 수준:
     • 대체 가능성: 작가가 AI 없이 유사한 작업을 생성할 수 있는가?
     • 노력 정도: 작가가 투자한 시간/노력은 어느 정도인가?
     • 의도성: 작가가 AI 를 주도했는가 (고), 아니면 AI 가 주도하게 했는가 (저)?
     • 직접성: AI 출력물이 직접 반영되었는가 (고), 아니면 참고용으로만 사용되었는가 (저)?
• 절차: 참가자들은 위 요인들의 특정 조합을 포함한 작성 시나리오를 설명하는 단일 비니엣을 배정받았습니다. 그들은 이진 질문인 "이 상황에서 AI 공개는 필요한가?"(예/아니요) 에 답하도록 요청받았습니다. 또한 개방형 근거를 제시했습니다.
• 분석:
  • 양적: 이진 결과 (필요성: 예/아니요) 를 예측하기 위한 로지스틱 회귀 모델링. 주효과, 상호작용 항 (관점 $\times$ 절차적 요인), 공변량 (작성 자기효능감, AI 리터러시, 내부적 판단) 포함.
  • 질적: 양적 결과를 보완하기 위해 개방형 응답에 대한 반성적 주제 분석.

3. 주요 기여

1. 하향식 관점: 규제 의무에서 직접 이해관계자 (독자와 작가) 가 가진 "필요성에 대한 인식"으로 초점을 이동시켜, FAccT 투명성 연구의 공백을 해소합니다.
2. 절차적 요인의 종합: 이전 프레임워크 (예: CCC 프레임워크, CoCo 매트릭스) 를 AI 보조 작성에 특화된 네 가지 명확하고 운영 가능한 절차적 요인 (대체 가능성, 노력 정도, 의도성, 직접성) 으로 통합합니다.
3. 관점 격차 식별: 특히 의도성의 역할과 관련하여, 독자와 작가가 공개 필요성을 어떻게 인식하는지 간에 유의미한 차이가 있음을 경험적으로 입증합니다.
4. 디자인 가이드라인: "발판 (scaffolding)"(자동화된 세분화된 공개 템플릿) 과 특정 사용 패턴에 기반한 행동적 넛지 (nudge) 를 포함하는 AI 공개 도구를 위한 구체적인 디자인 개입을 제안합니다.

4. 주요 결과

로지스틱 회귀 및 질적 분석은 다음과 같은 결과를 도출했습니다:

• 관점 효과 (RQ1):

  • 독자는 작가보다 공개를 훨씬 더 필요하다고 인식합니다 (작가는 공개를 필요하다고 인식할 확률이 약 80% 낮음).
  • 해석: 작가는 자기편향적 편향에 시달리거나 AI 를 "주변적" 인프라로 간주하여 공개 의무감을 낮출 수 있습니다.

• 목적 효과 (RQ2):

  • 텍스트의 목적(평가, 학습, 오락) 은 공개 필요성에 대한 인식에 통계적으로 유의미한 주효과를 미치지 않았습니다.
  • 참고: 질적 데이터는 일부 맥락별 뉘앙스를 시사했으나, 양적 모델은 텍스트가 왜 작성되었는지보다 AI 가 어떻게 사용되었는지가 더 중요함을 보여주었습니다.

• 절차적 요인 (RQ3):

  • 대체 가능성: AI 기여도가 대체 불가능(낮은 대체 가능성) 할 때 공개가 더 필요하다고 인식됩니다.
  • 노력 정도: 놀랍게도 작가가 투입한 노력의 양은 인식된 필요성에 유의미한 영향을 미치지 않았습니다. 이는 "적은 노력 = 적은 소유권"이라는 '노력 휴리스틱'과 모순됩니다.
  • 의도성: 작가가 AI 를 의도적으로 주도하지 않을 때(낮은 의도성) 공개가 더 필요하다고 인식됩니다.
  • 직접성: AI 콘텐츠가 최소한의 변경 없이 직접 반영될 때(높은 직접성) 공개가 더 필요하다고 인식됩니다.

• 상호작용 효과 (RQ4):

  • 의도성 $\times$ 관점: 이 상호작용은 유의미하면서도 반직관적이었습니다.
    • 독자: 의도성이 낮을 때(AI 가 주도) 공개가 더 필요하다고 인식합니다.
    • 작가: 의도성이 낮을 때 공개가 덜 필요하다고 인식합니다.
  • 이는 작가가 AI 에게 주도권을 맡길 때 소유감이 줄어들어 (따라서 공개 필요성 감소) 느끼는 반면, 독자는 이러한 인간 통제 부재가 신뢰를 위해 공개가 필수적이라고 느끼는 것을 시사합니다.

• 공변량:

  • 높은 작성 자기효능감과 AI 리터러시는 공개에 대한 낮은 필요성 인식과 상관관계가 있었습니다.
  • 강력한 공개에 대한 내부적 판단(투명성 가치) 은 높은 필요성 인식과 상관관계가 있었습니다.

5. 중요성 및 시사점

이 연구는 더 나은 AI 공개 메커니즘을 설계하기 위한 데이터 기반의 토대를 제공합니다:

• 이진 레이블을 넘어: 현재의 "AI 생성" 태그는 불충분합니다. 공개는 독자가 실제로 중요하게 여기는 요인인 AI 사용의 대체 가능성, 의도성, 직접성을 상세히 설명하는 세분화된 형태여야 합니다.
• 발판을 통한 공개: 플랫폼은 상호작용 로그를 기반으로 공개 초안을 자동으로 생성하는 도구를 제공해야 합니다 (예: "텍스트의 80% 를 AI 로 생성하고 최소한의 편집만 수행함"). 특히, 이러한 도구는 참가자들에게 중요하지 않았던 노력을 경시하고, 독자와 작가 간의 주요 이견 지점인 의도성을 강조해야 합니다.
• 행동적 넛지: 작가의 행동을 독자의 기대와 일치시키기 위해, 시스템은 낮은 의도성(즉, 작가가 AI 에게 주도권을 맡기는 경우) 이 감지될 때 표적 넛지를 배포해야 합니다. 이는 해당 시나리오가 독자들에게 투명성 측면에서 매우 중요하게 여겨진다는 점을 상기시켜 줍니다.
• 정책 개혁: 규제는 경직된 "전부 아니면 전무 (all-or-nothing)" 규칙에서 벗어나, 연구에서 확인된 세밀한 절차적 요인을 반영하는 맥락 인식 가이드라인으로 전환되어야 합니다.

결론적으로, 이 논문은 효과적인 AI 투명성을 위해서는 단순한 탐지나 의무적 라벨링을 넘어, 인간-AI 협업의 본질을 이해하고 콘텐츠를 생성하는 사람과 소비하는 사람 사이의 인식 격차를 해소하는 시스템으로 나아가야 한다고 주장합니다.