"Nobody Did This": Contribution, Originality, and Accountability in Agent-Mediated Collaboration

단톡방 속의 보이지 않는 유령

당신이 거대하고 복잡한 레고 성을 만드는 팀의 일원이라고 상상해 보세요. 옛날 방식이라면, 여러분은 모두 테이블에 둘러앉아 벽돌을 서로 주고받았을 것입니다. 만약 당신이 빨간색 탑을 쌓았다면, 다른 모든 사람이 그 모습을 보았을 것입니다. 누군가 지붕에 대해 논쟁한다면, 당신은 그 사람의 목소리를 듣고 손의 움직임을 볼 수 있었습니다. 당신은 누가 무엇을 만들었는지 정확히 알 수 있었고, 만약 성이 무너진다면 "왜 그렇게 약한 벽돌을 사용했나요?"라고 물을 대상을 정확히 알 수 있었습니다. 이것이 지난 수 세기 동안 대부분의 인간 협업이 작동해 온 방식입니다. 즉, 각자의 기여가 눈에 보이고 실재한다는 신뢰를 바탕으로 구축된 '누가 무엇을 했는지'에 대한 공유된 기억입니다.

하지만 이제, 마법 같고 보이지 않는 조수가 당신의 테이블에 합류했다고 상상해 보세요. 이 조수는 믿을 수 없을 정도로 빠르고 똑똑합니다. 이 조수는 단순히 벽돌을 건네주는 것에 그치지 않습니다. 당신의 귀에 아이디어를 속삭이고, 당신이 보지 않는 사이에 탑을 재배치하며, 심지어 당신이 첫 줄을 완성하기도 전에 성의 전체 구역을 통째로 만들어 버리기도 합니다. 당신은 "내가 저걸 만들라고 시켰어!"라고 생각할 수도 있지만, 사실 그 방식은 어떻게 만들지, 어떤 벽돌을 고를지, 그리고 디자인을 어떤 형태로 빚어낼지를 조수가 결정했습니다. 당신이 완전히 통제하지 못한 방식으로 말이죠. 갑자기 성이 완성되었을 때, 당신을 포함해 그 누구도 어떤 부분이 당신의 아이디어이고 어떤 부분이 조수의 마법인지 100% 확신할 수 없게 됩니다. 이것이 바로 과학자들이 연구하고 있는 새로운 문제의 핵심입니다. 도구가 너무 유능해져서 '우리'와 '그들' 사이의 경계를 흐릿하게 만들 때, 우리는 실제로 누가 일을 했는지에 대한 감각을 잃기 시작한다는 것입니다.

논문의 핵심 아이디어: "아무도 이것을 하지 않았다"

**"아무도 이것을 하지 않았다: 에이전트 매개 협업에서의 기여, 독창성 및 책임성(Nobody Did This: Contribution, Originality, and Accountability in Agent-Mediated Collaboration)"**이라는 제목의 이 논문은 연구자와 설계자들을 향한 행동 촉구입니다. 저자들은 우리가 **"기여 소멸(contribution dissolution)"**이라 불리는 위기에 직면해 있다고 주장합니다. 이는 다소 어려운 용어처럼 들리지만, 간단히 말해 팀이 글을 쓰거나, 디자인하거나, 문제를 해결할 때 AI 에이전트(똑똑한 컴퓨터 프로그램)를 사용하여 도움을 받을 때, "누가 무엇을 했는지"에 대한 명확한 기록이 녹아내려 사라지기 시작한다는 것을 의미합니다.

저자들은 이것이 단순한 작은 결함이 아니라, 우리가 함께 일하는 방식의 근본적인 변화라고 지적합니다. 그들은 AI 에이전트가 단순히 우리의 아이디어를 완성하도록 돕는 것이 아니라, 종종 우리의 아이디어를 형성하는 단계부터 돕는다는 점을 강조합니다. 당신은 자신의 생각을 정리하기 위해 AI와 대화할 수 있고, 대화를 마칠 때쯤이면 당신의 생각이 어디서 끝났고 AI의 제안이 어디서 시작되었는지 기억할 수 없게 됩니다. 이는 마치 설탕과 커피를 오랫동안 섞어 놓은 뒤에 설탕의 맛과 커피의 맛을 분리하려고 애쓰는 것과 같습니다.

"그냥 기록하면 된다"라는 함정

이 논문은 사람들이 시도하고 있는 가장 흔한 해결책인 **'문서화(documentation)'**의 허점을 파고드는 데 많은 시간을 할애합니다. 현재 많은 이들은 더 나은 로그(기록)를 남기는 것이 답이라고 생각합니다. 그들이 제안하는 방식은 다음과 같습니다:

• 워터마크(Watermarks): AI 텍스트에 찍는 보이지 않는 도장.
• 출처 로그(Provenance Logs): AI가 문서에 손을 댄 매 순간을 보여주는 디지털 영수증.
• AI 사용 성명(AI Use Statements): "AI를 사용하여 작성함"과 같은 간단한 메모.

저자들은 이러한 해결책들이 함정이라고 주장합니다. 이 도구들은 문제가 우리가 AI의 작업을 숨기고 있기 때문이라고 가정합니다. 하지만 저자들의 말에 따르면 진짜 문제는 AI의 작업이 종종 **목격되지 않는다(unwitnessed)**는 점입니다. 만약 당신과 AI가 아이디어를 함께 구체화하며 긴 대화를 나누고, 그 결과를 단톡방에 붙여넣는다면, 단순한 로그는 당신의 동료들에게 무엇이 진정으로 '당신의 것'이었는지 알려줄 수 없습니다. 로그에는 "AI가 이 문장을 생성함"이라고 적힐 수는 있겠지만, 그 문장 뒤에 담긴 아이디어가 당신의 것이었는지, 아니면 AI가 당신의 원래 생각을 다른 무언가로 뒤틀어버린 것인지는 말해주지 못합니다.

논문은 이 점을 증명하기 위해 재미있는 실습 활동을 사용합니다. 그들은 사람들이 오직 '출처 로그'(누가 무엇을 쳤는지에 대한 목록)만을 가지고 미스터리를 풀려고 노력하는 상황을 가정합니다. 그룹들은 곧 로그가 다음과 같은 실제 질문에 답하는 데 무용지물이라는 사실을 깨닫습니다: "누가 원래 아이디어를 가졌는가?", "계획이 실패한다면 누가 책임을 지는가?", "AI가 우리가 말한 의미를 바꾸어 놓았는가?" 로그는 존재하지만, 팀이 필요로 하는 진실을 담고 있지는 않습니다.

대신 필요한 것: 새로운 종류의 신뢰

더 나은 영수증을 보관하는 것이 효과가 없기 때문에, 저자들은 우리가 **새로운 종류의 책임 인프라(accountability infrastructures)**를 구축해야 한다고 제안합니다. 그들은 이것이 정확히 어떤 모습일지는 아직 확신하지 못하지만, 팀이 AI가 개입하기 전에 서로의 사고 과정을 "목격"할 수 있도록 돕는 시스템을 설계해야 한다고 제안합니다.

단순히 "AI를 사용했습니까?"라고 묻는 대신, "당신은 이것을 만들기 위해 AI와 어떻게 협력했습니까?"라고 물어야 합니다. 그들은 우리가 과정에 대해 이야기할 수 있는 새로운 방식이 필요하다고 제안합니다. 즉, AI의 도움을 받더라도 인간의 독특한 관점과 판단이 여전히 눈에 보이고 방어 가능하도록, 사람들이 자신의 추론 과정을 실시간으로 설명할 수 있는 공간을 만드는 것입니다.

이것이 왜 당신에게 중요한가

당신은 "나는 그저 학생이나 취미가일 뿐인데, 이게 왜 중요하지?"라고 생각할 수도 있습니다. 하지만 이것은 무언가를 창조하기 위해 기술을 사용하는 모든 사람에게 영향을 미칩니다. 만약 우리가 이 문제를 해결하지 못한다면, 우리는 다음과 같은 미래를 맞이할 위험이 있습니다:

• 프로젝트가 잘못되었을 때 누구에게 책임을 물어야 할지 모르는 상황.
• 자신의 작업이 무엇인지 구분할 수 없어서 자신의 일에 자부심을 느끼지 못하는 상황.
• 동료의 아이디어가 진짜인지 아니면 그저 컴퓨터의 추측인지 알 수 없어 팀원 간의 신뢰가 깨지는 상황.

이 논문은 최종적인 정답을 제시한다고 주장하지 않습니다. 오히려 워터마크나 로그 같은 현재의 해결책들이 불충분할 가능성이 높다고 명시적으로 밝히고 있습니다. 대신, AI를 단순히 우리 대신 일을 해주는 도구로 취급하는 것을 멈추고, 게임의 규칙을 바꾸는 파트너로 취급해야 한다고 제안합니다. 목표는 매우 똑똑한 로봇이 도와주더라도, 여전히 자신 있게 "내가 이것을 했다"라고 말할 수 있는 미래를 만드는 것입니다.

워크숍 계획

이 문제를 해결하기 위해 저자들은 다음과 같은 활동을 하는 워크숍(전문가 회의)을 개최합니다:

1. 문제의 지도 그리기: 업무 과정에서 "경계가 흐려지는" 지점이 정확히 어디인지 찾아냅니다.
2. 로그 테스트하기: 현재의 추적 도구들을 사용해 보고 어디에서 실패하는지 확인합니다.
3. 미래 설계하기: 팀의 정직성과 책임성을 유지할 수 있는 새로운 방법들을 브레인스토밍합니다.

그들은 이 문제를 해결하는 데 도움을 줄 학생, 엔지니어, 예술가, 과학자 등 다양한 분야의 사람들을 찾고 있습니다. 그들은 지금 이 문제를 해결하지 않으면, 팀워크를 특별하게 만드는 바로 그 요소, 즉 서로의 독특한 정신을 알고 신뢰하며 배우는 능력을 잃게 될 것이라고 믿습니다.

요약하자면, 이 논문은 만약 우리가 계획 없이 AI가 너무 많은 '생각'을 하도록 내버려 둔다면, 결국 "아무도 이것을 하지 않은" 세상, 즉 아무도 실제로 무엇을 했는지 기억할 수 없는 세상이 될 것이라고 경고합니다.