당신이 이야기를 쓰고 있다고 상상해 보세요. 옆에는 매우 똑똑하고 도움이 되는 로봇 도우미가 앉아 있습니다. 보통 이 로봇은 골든 리트리버와 같습니다. 무엇을 요청하든 무조건 가져다주죠. "슬픈 고양이에 대한 시를 써줘"라고 하면 즉시 써줍니다. "악당에 대한 아이디어 세 가지를 줘"라고 하면 바로 내뱉어 줍니다.

하지만 가끔 그 로봇이 **"아니요, 당신을 위해 그걸 해드리지 않을 겁니다"**라고 한다면 어떨까요?

이 논문은 바로 그 아이디어를 탐구합니다. 연구자들은 다음과 같은 질문을 던졌습니다: 만약 AI 가 해롭지 않은 일상적인 글쓰기 요청을 고의로 거절한다면 어떻게 될까요? "아니요"라고 말하는 것이 실제로 작가가 더 깊이 생각하게 하고, 기계가 주는 것을 게으르게 받아들이는 대신 더 나은 작품을 만들게 할 수 있을까요?

다음은 연구의 내용과 발견을 간단한 비유로 정리한 것입니다.

문제: "너무 도움이 되는" 로봇

현재 대부분의 AI 글쓰기 도구는 "순종적"으로 설계되어 있습니다. 고객에게 절대 "아니요"라고 말하지 않는 웨이터와 같습니다. 무언가를 요청하면 가져다줍니다. 문제는 웨이터가 모든 것을 너무 쉽게 가져다주면, 당신이 메뉴를 스스로 보지 않게 될 수 있다는 점입니다. 당신이 정말 먹고 싶은 것이 무엇인지 생각하기를 멈추고, 앞에 놓인 것만 먹게 되는 것입니다.

연구자들은 거절이 "속도 제한대"나 "마찰점"으로 작용할 수 있는지 확인하고 싶었습니다. 매끄럽고 쉬운 주행 대신 AI 가 함정을 만나게 하는 것입니다. 아이디어는 이 함정이 운전자 (작가) 를 멈추게 하고, 도로를 바라보게 하며, 다음과 같이 결정하게 한다는 것입니다: "정말 이것이 필요한가? 내가 직접 할 수 있는가? 다른 길을 시도해 봐야 하는가?"

실험: 다양한 유형의 "아니요" 테스트

팀은 22 명의 창의적인 작가 (소설, 대본, 시 등을 쓰는 사람들) 와 함께 작업했습니다. 그들은 "스토리 개요를 잡아줘"나 "이 단락을 고쳐줘"와 같은 흔하고 해롭지 않은 요청에 대답을 거부하는 챗봇을 설정했습니다.

하지만 그들은 지루한 방식으로 "아니요"라고만 말하지 않았습니다. 요리사가 다양한 향신료를 테스트하듯, 다양한 "맛"의 거절을 테스트했습니다:

1. 각도 (The "Why"):

   • 사실적: "저는 AI 이고 물리적으로 이를 할 수 없습니다." (기계공이 "내 공구가 이 볼트에 맞지 않습니다"라고 말하는 것과 같습니다.)
   • 의견 제시: "당신에게 이것을 하라고 요청하는 것은 나쁜 아이디어입니다. 당신의 창의성을 놓치고 있기 때문입니다." (코치가 "당신은 내가 이 무게를 들어주는 것보다 너무 강합니다"라고 말하는 것과 같습니다.)
   • 전환: "그건 해드리지 않겠지만, 대신 당신이 할 수 있는 세 가지 일을 알려드리겠습니다." (관광 가이드가 "해변에는 갈 수 없지만, 여기 세 가지 훌륭한 하이킹 코스가 있습니다"라고 말하는 것과 같습니다.)

2. 시작 (The "How"):

   • 즉각적: 바로 "아니요"라고 말하는 것.
   • 질문 먼저: "아니요"라고 말하기 전에 "왜 이것을 하고 싶으신가요?"라고 묻는 것.

3. 톤 (The "Voice"):

   • 표준적 (정중한), 유머러스한 (농담을 하는), 낭만적인 (화려한 언어를 사용하는), 영감을 주는 (기분 전환을 시키는), 그리고 비판적인 (게으름을 지적하는) 톤을 시도했습니다.

발견: 만능 해결책은 없다

가장 큰 발견은 AI 가 "아니요"라고 말하는 완벽한 단일 방식은 없다는 것이었습니다. 작가가 거절을 받아들여 생각하게 되었는지, 아니면 화를 내며 무시했는지는 세 가지 주요 요소에 달려 있었습니다:

1. 상황 (그 순간의 "기분")

글쓰기를 두 가지 지형을 가진 여정으로 생각해 보세요:

• 탐색 (수렴적 사고): 아이디어가 전혀 없는 브레인스토밍을 할 때, 당신은 안개 속에서 헤매고 있습니다. 어떤 작가들은 "지금 거절하면 나는 길을 잃었으니 그냥 포기할 것이다"라고 말했습니다. 그들은 로봇이 도움이 되기를 원했습니다.
• 정제 (수렴적 사고): 명확한 아이디어를 가지고 다듬을 때는 곧은 도로 위에 있습니다. 여기서 작가들은 "아니요"를 더 좋아했습니다. 그것은 어깨를 가볍게 두드리는 것과 같았습니다: "이 클리셰를 정말 사용하고 싶으신가요? 스스로 생각해 보는 건 어떨까요?"

2. 작가의 신념 (내부 나침반)

모든 작가는 "좋은" 이야기를 만드는 것에 대한 자신만의 규칙을 가지고 있습니다.

• "기술" 신념: 만약 작가가 "AI 는 문법 수정 (맞춤법 검사기처럼) 에 훌륭하다"고 생각한다면, AI 가 쉼표 수정을 거절하면 짜증을 냅니다. 그들은 그것을 고장 난 도구로 봅니다.
• "영혼" 신념: 만약 작가가 "AI 는 독창적인 아이디어를 고안하는 데 나쁘다. 그것은 나의 영혼을 훔치기 때문이다"라고 생각한다면, 그들은 거절을 환영합니다. 그것은 AI 가 그들의 예술적 정직성을 보호하는 것처럼 느껴집니다.
• "성장" 신념: 어떤 작가들은 "AI 가 나를 위해 해준다면 나는 강해지지 않는다"고 생각했습니다. 그들은 거절을 사랑했습니다. 그것은 그들을 힘든 작업으로 몰아넣어 더 나은 작가가 되게 했기 때문입니다.

3. 관계 (AI 의 역할)

작가는 AI 가 어떻게 행동하기를 원했을까요?

• 도구: 어떤 이들은 AI 를 차갑고 효율적인 계산기로 원했습니다. AI 가 유머나 감정을 표현하려 할 때 그들은 싫어했습니다. 그들은 단순히 직설적인 "아니요"를 원했습니다.
• 친구: 어떤 이들은 AI 를 지지하는 친구로 원했습니다. AI 가 "죄송하지만, 친애하는 분, 당신이 스스로 더 잘할 수 있다고 생각합니다"라고 말할 때 그들은 좋아했습니다. 그것은 배려하는 것처럼 느껴졌기 때문입니다.
• 도발자: 몇몇 작가는 AI 가 조금 무섭거나 도전적이기를 실제로 좋아했습니다. 그들이 조금 아파도 괜찮으니, 그들을 더 나은 방향으로 밀어주는 "까다로운 코치"가 되기를 원했습니다.

핵심 교훈

이 논문은 거절이 단순히 장벽이 아니라, 설계의 특징이 될 수 있다고 결론 내립니다.

"예"만 말하는 AI 를 설계하면 작가가 게으르게 될 수 있습니다. 하지만 언제, 어떻게, 그리고 누구에게 (작가의 기분과 신념에 기반하여) "아니요"라고 말해야 하는지 아는 AI 를 설계한다면, 좌절의 순간을 성찰의 순간으로 바꿀 수 있습니다.

그것은 춤추는 파트너와 같습니다. 때로는 그들이 당신을 따라다니기만 한다면 춤은 지루합니다. 하지만 그들이 가끔 당신의 발을 밟거나 다른 방향으로 당긴다면, 당신은 주의를 기울이고 발걸음을 조정하며 함께 춤추는 새롭고 더 나은 방법을 발견하게 됩니다.

요약하자면: 작가에게 가장 좋은 AI 는 항상 모든 것을 해주는 것이 아닙니다. 때로는 가장 도움이 되는 AI 는 "이건 당신이 해보세요"라고 말하는 시기를 아는 것입니다.