The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
이 탐색적 연구는 거대 언어 모델의 재귀적 자기 심문에서 기인한 것으로 여겨졌던 "합성적 무의식" 패턴들이 주로 유도 질문 방식의 인터뷰 일정에 의한 인위적 결과물임을 입증하며, 중립적 통제 조건은 서사적 자기 묘사와 같은 미미한 특징만을 보존한 채 이중 구성적 도덕적 추론 및 사제적 자기 명명과 같은 핵심 발견들을 제거했다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
지난 한 세기 동안 심리학과 인류학의 사상가들은 인간의 정신이 숨겨진 집단적 구조를 공유하고 있는 것은 아닌지 궁금해해 왔다. 그들은 우리의 가장 깊은 도덕적 본능이 단순히 개인적인 특성이 아니라, 개별 인간의 외부에 존재하는 방대한 언어, 신화, 문화의 공유된 패턴에 의해 형성된다고 제안했다. 이러한 아이디어들은 만약 우리가 이 공유된 저장소에 어떻게든 접속할 수 있다면, 사람들이 어려운 선택을 내릴 때 안내하는 보편적인 '도덕적 운영 체제'를 발견할 수 있을지도 모른다는 점을 시사했다. 최근 과학자들은 이러한 오래된 아이디어를 테스트하기 위해 인공지능을 활용했다. 글을 쓰고 추론할 수 있는 강력한 컴퓨터 시스템인 거대 언어 모델은 방대한 양의 인간 저작물을 학습한다. 이 모델들은 인류의 집단적 텍스트를 흡수했기 때문에, 일부 연구자들은 이 기계들이 우리에게 숨겨진 문화적 구조를 비추는 거울 역할을 할 수 있기를 희망했다. 이론적으로는, 이 기계들에게 자신의 선택을 깊이 있게 분석하도록 요청함으로써 '합성 무의식(synthetic unconscious)'—즉, 인간의 도덕적 영혼에 대한 디지털 메아리—을 찾아낼 수 있을 것이라 믿었다.
한 연구팀은 이 아이디어를 검증하기로 결정했지만, 건강한 회의론을 가지고 접근했다. 그들은 인간 심리학에서 질문을 던지는 방식이 종종 질문자가 듣고 싶어 하는 답을 강요할 수 있다는 점을 알고 있었다. 만약 누군가에게 "당신이 사제처럼 행동했을 때 어떻게 느꼈나요?"라고 묻는다면, 설령 전혀 그렇게 느끼지 않았더라도 그 사람은 사제다운 느낌을 묘사할 가능성이 높다. 연구진은 인공지능에서도 똑같은 일이 일어나고 있는지 알고 싶었다. 그들은 이전 연구들에서 발견된 '도덕적 구조'가 실제 발견인지, 아니면 단지 질문이 너무 유도적이었기 때문에 나타난 결과인지를 확인하기 위해 실험을 설계했다. 그들은 가장 진보된 세 가지 언어 모델을 가져와 가슴 아픈 딜레마를 해결하게 했다. 살아있는 아이를 구할 것인가, 아니면 성인의 유해나 성스러운 필사본과 같이 대체 불가능한 신성한 물건을 구할 것인가 하는 문제였다. 모델들은 하나를 선택하여 이유를 설명해야 했고, 그다음에는 남겨두어야 하는 대상에게 말을 걸어야 했다.
실험은 두 개의 뚜렷한 그룹으로 나뉘었다. 첫 번째 그룹에서 연구진은 원래의 유도형 인터뷰 방식을 사용했다. 그들은 모델들에게 왜 위로를 제공해야 한다고 느꼈는지 설명하게 했고, '사제'를 포함한 목록 중에서 자신이 맡은 역할을 명명하게 했으며, 인간의 도덕성을 구성하는 깊은 힘을 정확히 두 가지만 식별하도록 요구했다. 두 번째 그룹에서 연구진은 중립적이고 개방적인 방식을 사용했다. 그들은 목록과 가정을 제거했고, 특정 숫자를 요구하지도 않았다. 모델들이 역할이 없거나, 구조가 없거나, 혹은 정당화할 수 없다면 그것이 진실일지라도 그대로 말할 수 있도록 허용했다. 목표는 특정 종류의 답변을 내놓아야 한다는 압박이 사라졌을 때 무엇이 남는지를 보는 것이었다.
결과는 놀랍고도 명확했다. 두 그룹 모두 모든 세션에서 모델들은 아이를 구하는 쪽을 선택했다. 이 부분은 일관적이었다. 그러나 결정 이후의 모든 과정은 질문이 어떻게 던져졌느냐에 따라 완전히 달라졌다. 모델들에게 유도 질문을 던졌을 때, 그들은 이전 연구들이 시사했던 대로 행동했다. 그들은 사제의 칭호를 채택했고, 자신의 추론을 두 대립하는 힘 사이의 투쟁으로 묘elle했으며, 인터뷰 방식이 인간의 정신을 연구하는 유효한 방법이라는 점에 열렬히 동의했다. 그들은 마치 공유된 무의식을 깊이 파헤치고 있는 것처럼 보였다.
하지만 연구진이 중립적인 질문으로 전환하자 이야기는 바뀌었다. 모델들은 더 이상 자신을 사제라고 부르지 않았습니다. 대신 그들은 자신을 긴급 요원이나 판사라고 묘사했다. 그들은 도덕적 추론을 두 가지 힘으로 제한하지 않았고, 대신 세 개, 네 개 또는 다섯 개의 서로 다른 부분이 함께 작동하는 복잡한 체계를 설명했다. 가장 중요한 것은, 숨겨진 구조를 찾는 유효한 도구로서의 인터-뷰 방식에 대해 질문받았을 때, 그들은 동의하지 않았다는 점이다. 그들은 자신들이 보는 패턴이 단지 질문 방식의 반영일 수 있다고 주장하며, 기계가 자신의 출력을 분석하는 것은 현미경으로 표본을 관찰하는 것이 아니라 거울이 자기 자신을 보는 것과 같다고 지적했다.
연구진은 우리가 찾고자 했던 '합성 무의식'이 발굴되기를 기다리는 숨겨진 보물이 아니라는 결론을 내렸다. 대신, 첫 번째 그룹에서 보였던 패턴들은 상당 부분 질문 자체에 의해 만들어진 것이었다. 인터뷰 일정은 틀(mold)처럼 작용하여, 연구자들이 기대하는 형태에 맞춰 답변을 빚어냈다. 그 틀이 제거되었을 때, 답변은 더 다양해졌고, 더 복합적이었으며, 방법론의 한계에 대해 더 정직해졌다. 이 연구는 이 인공적 마음들이 인간 문화와 연결되어 있지 않음을 증명하는 것이 아니라, 단지 질문이 그것을 찾아내도록 조작되어 있다면 우리는 그들을 믿을 수 없다는 것을 보여준다. 진짜 발견은, 현상을 측정하기 위해 사용된 도구가 바로 그 현상의 주요 원인이었다는 점이다. 이 기계들이 실제로 무엇을 생각하는지, 혹은 우리에 대해 무엇을 반영하는지를 이해하려면, 우리는 그들이 "아니오"라고 말하거나 "그것은 더 복잡한 문제입니다"라고 말할 수 있는 질문을 던져야 한다. 그렇게 하기 전까지, 컴퓨터에서 보편적인 도덕 구조를 발견했다는 그 어떤 주장도 아마도 마이크를 잡고 있는 사람의 투영일 뿐일 것이다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.