Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

사람들이 함께 학습하는 방식에 대한 조용한 연구 분야인 컴퓨터 지원 협력 학습(computer-supported collaborative learning)에서, 연구자들은 오랫동안 인간의 정신이 만나는 복잡한 춤에 주목해 왔습니다. 그들은 학생들이 어떻게 아이디어를 공유하고, 서로의 생각을 반박하며, 대화를 통해 이해를 구축해 나가는지를 연구합니다. 이 작업의 핵심은 진정한 학습이 사람들이 단순히 나란히 앉아 있는 것이 아니라, 서로의 생각과 감정에 영향을 미치는 공유된 정신적 공간 안에서 깊게 연결될 때 일어난다는 아이디어입니다. 수십 년 동안 이를 지원하기 위해 사용된 도구들은 화이트보드, 공유 문서, 혹은 인간이 다른 인간과 연결되도록 돕는 화상 통화와 같은 단순한 보조 도구들이었습니다. 그러나 이제 새로운 힘이 등장했습니다. 에세이를 쓰고, 문제를 해결하며, 대화를 나눌 수 있는 챗봇의 기반이 되는 기술인 생성형 인공지능이 학생과 교사 모두에 의해 사용되고 있습니다. 이러한 도구들이 점점 더 유능해짐에 따라, 자연스러운 질문이 생겨납니다. 인간이 이 기계와 함께 작업할 때, 그들은 '협력'하고 있는 것일까요? '협력(collaboration)'이라는 용어는 대등한 파트너십, 즉 양측이 공동의 목표를 위해 기여하는 정신의 만남을 시사합니다. 하지만 기계는 인간처럼 마음이나 감정, 혹은 의도를 가지고 있지 않습니다. 이는 우리가 새로운 도구를 묘사하기 위해 사용하는 언어와 그 도구가 실제로 작동하는 방식 사이의 괴리를 만들어냅니다.

두 명의 연구자, 가엘 몰리나리(Gaëlle Molinari)와 크리스틴 룬드(Kristine Lund)는 이 긴장 관계를 조사하기 위해 나섰습니다. 그들은 인간과 인공지능 사이의 상호작용을 '협력'이라고 부르는 것이 정확한 묘사인지, 아니면 오해의 소지가 있는 것인지 물었습니다. 이를 답하기 위해, 그들은 공유된 이해, 상호 영향력, 정서적 연결과 같은 특정한 인간적 자질에 의존하는 해당 분야의 엄격한 협력 정의를 살펴보았습니다. 그런 다음, 그들은 인공지능이 실제로 수행하는 기능과 이러한 인간적 자질들을 비교했습니다. 그들의 조사는 기계가 매우 유용할 수는 있지만, 기계가 인간과 형성하는 관계는 두 사람 사이의 파트너십과는 근본적으로 다르다는 것을 밝혀냈습니다. 저자들은 이 상호작용을 '협력'이라고 부르는 것이 인간과 기계 사이의 경계를 흐릿하게 하여, 인간적 연결의 가치와 학생들이 학습하는 방식을 변화시킬 위험이 있다고 주장합니다.

연구자들은 먼저 인간과 기계가 함께 일하는 방식에 대한 우리의 사고 과정을 추적하며 시작했습니다. 오랫동안 과학자들은 인간과 컴퓨터의 능력이 하나의 강력한 시스템으로 결합되는 미래를 상상해 왔습니다. 초기 사상가들은 이를 기계가 인간의 능력을 확장하는 '공생(symbiosis)', 또는 인간과 기계가 시간이 지남에 따라 함께 배우고 변화하는 '공진화(co-evolution)'로 설명했습니다. 최근 몇 년 동안 이 아이디어는 인간과 인공지능이 하나의 시스템으로서 각기 다른 강점을 제공하는 것으로 간주되는 '하이브리드 지능(hybrid intelligence)'으로 틀 지어졌습니다. 인간은 창의성, 정서적 깊이, 윤리적 판단을 제공하고, 기계는 속도, 패턴 인식, 방대한 데이터 처리를 제공합니다. 이 하이브리드 시스템의 목표는 어느 한쪽이 혼자서는 달성할 수 없는 결과를 만들어내는 것입니다. 그러나 저자들은 이것이 파트너십처럼 들릴지라도, 상호작용의 실상은 종종 일방적이라는 점을 지적합니다. 기계는 인간으로부터 인간이 다른 사람에게서 배우는 것과 같은 방식으로 진정으로 '배우는' 것이 아닙니다. 기계는 인간의 목표나 감정에 대한 진정한 이해를 바탕으로 하는 것이 아니라, 통계적 패턴에 기초하여 출력을 조정할 뿐입니다.

연구자들이 이러한 상호작용에 엄격한 인간 협력의 규칙을 적용했을 때, 몇 가지 격차가 나타났습니다. 진정한 협력은 양측이 서로의 관점을 이해하고 의미를 구축하기 위해 함께 노력하는 것을 요구합니다. 인간 집단에서는 한 사람이 의견을 달리하면, 다른 사람은 그 저항을 느끼고 자신의 생각을 조정해야 합니다. 이러한 마찰은 학습에 필수적입니다. 그러나 인공지능의 경우, 기계는 견지할 관점이나 변화할 마음을 가지고 있지 않습니다. 기계는 반론을 생성할 수는 있지만, 인간적인 의미에서 '반대'하는 것은 아닙니다. 그것은 단지 대화에 적합한 응답을 계산할 뿐입니다. 저자들은 기계가 두 사람이 정신적 공간을 공유하고 서로의 내면 세계를 진정으로 이해하는 상태인 '상호 주관성(intersubjectivity)'에 참여할 수 없다는 것을 발견했습니다. 기계는 이해하는 것처럼 흉내 낼 수는 있지만, 타인을 진정으로 알기 위해 필요한 의식을 소유하고 있지는 않습니다.

이러한 차이는 학습의 정서적, 사회적 측면을 살펴볼 때 더욱 결정적이 됩니다. 인간의 협력은 우리의 신체와 감정에 깊이 뿌리박고 있습니다. 우리는 공감을 느끼고, 좌절하며, 공유된 경험을 통해 '우리라는 의식(we-ness)'을 쌓아갑나다. 인공지능은 정서적 신호에 반응하도록 프로그래밍될 수 있으며, 사용자가 슬퍼 보일 때 위로의 말을 건넬 수도 있습니다. 하지만 기계는 슬픔 자체를 느끼지 못합니다. 기계는 인간이 다른 인간에게 영향을 받는 방식대로 영향을 받을 수 없습니다. 저자들은 이를 심오한 비대칭성이라고 설명합니다. 인간은 연결감을 느낄 수 있지만, 기계는 그 연결을 경험하지 못한 채 연결을 시뮬레이션하는 도구로 남습니다. 이는 사용자들, 특히 학생들이 기계에 자신의 정서적 필요를 투영하여, 존재하지 않는 상호적 관계가 있다고 믿게 될 위험을 초래합니다.

이러한 상호작용을 '협력'이라 부르는 것의 결과는 교육에 있어 중대합니다. 만약 학생들이 자신을 파트너와 함께 일하고 있다고 믿게 된다면, 그들은 기계에 너무 많이 의존하여 자신의 사고와 의사결정을 기계에 넘겨주는 '인지적 오프로딩(cognitive offloading)'을 시작할 수 있습니다. 이는 과업을 더 쉽게 만들 수는 있지만, 저자들은 이것이 학생이 자신의 학습을 모니터링하는 것을 멈추고 기계가 생산하는 것을 그대로 받아들이는 '인지적 굴복(cognitive surrender)'으로 이어질 수 있다고 경고합니다. 연구에 따르면 학생들이 이러한 도구에 지나치게 의존할 때, 비판적 사고 능력이 약화될 수 있으며 깊은 이해를 요구하는 시험에서 성적이 떨어질 수 있습니다. 기계는 숙제를 더 빨리 끝내도록 도와줄 수는 있지만, 학습 내용을 제대로 배우도록 돕지는 못할 수도 있습니다.

나아가 저자들은 기계를 파트너로 취급하는 것이 인간 관계를 바라보는 관점을 변화시킨다고 주장합니다. 만약 우리가 항상 동의하고, 언제나 이용 가능하며, 결코 우리에게 진정으로 도전하지 않는 인공지능에 익숙해진다면, 우리는 인간 친구나 스승에게도 똑같은 것을 기대하기 시작할 수 있습니다. 우리는 인간과 함께 일하는 데서 오는 번거롭고 어렵지만 궁극적으로 더 보람찬 과정보다, 기계와의 매끄럽고 마찰 없는 상호작용을 더 가치 있게 여길지도 모릅니다. 기계는 강력한 도구일 수 있지만, 그것을 '협력자'라고 부르는 것은 그것이 도구라는 사실을 가립니다. 기계는 인간적 파트너십을 정의하는 주체성, 책임감, 그리고 진정한 상호 이해의 능력이 결여되어 있습니다.

연구자들은 우리가 언어를 주의해서 사용해야 한다고 결론짓습니다. 인간과 생성형 AI 사이의 상호작용을 '협력'이라고 부르는 것은 단순한 의미론적 오류가 아니라, 우리의 교육적 관행과 사회적 기대를 재편할 수 있는 개념적 변화입니다. 인간의 협력과 인간-기계 상호작용 사이의 구분을 고수함으로써, 우리는 인간적 연결의 독특한 가치를 보호할 수 있습니다. 이를 통해 우리는 학생들이 단순히 파트너인 척하는 기계에 자신의 사고를 외주 주는 것이 아니라, 타인과 함께 일하는 도전적이고 상호적이며 깊이 인간적인 과정을 통해 자신의 정신을 계속 발전시켜 나가도록 보장할 수 있습니다. 기계는 놀라운 발명품이지만, 동료는 아닙니다. 그 차이를 인식하는 것이 학습의 미래를 위해 필수적입니다.