💻 computer science

Doom Researching: A Conceptual Framework for Repetitive AI-Assisted Information Seeking, Cognitive Offloading, and the Illusion of Knowing

이 개념적 논문은 유창한 생성형 AI 상호작용이 인지된 지식을 부풀리고 진정한 종합, 실행, 그리고 지속적인 이해를 대체하는 반복적인 정보 탐색을 어떻게 조장하는지를 설명하는 프레임워크로서 "둠 리서칭(doom researching)"을 소개한다.

원저자: Santosh Premi Adhikari

게시일 2026-07-07

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Santosh Premi Adhikari

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

핵심 아이디어: "끝없는 도서관"의 함정

당신이 나무 탁자를 만들려고 한다고 상상해 보세요. 당신은 목공 기술에 관한 책을 찾기 위해 도서관에 갑니다.

정상적인 연구: 당신은 한 장을 읽고, 노트를 적고, 설계를 스케치한 다음, 다시 작업실로 돌아가 나무를 자르기 시작합니다.
둠 리서칭(Doom Researching): 당신은 한 장을 읽고, 사서에게 요약을 요청하고, 그다음엔 다른 두 권의 책을 비교해 달라고 하고, 더 나은 계획을 요구하고, 도구 목록을 요청합니다. 당신은 사서와 대화하며 여섯 시간을 보내고, 엄청나게 똑똑해지고 준비된 기분을 느낍니다. 당신의 노트에는 멋진 아이디어와 요약본이 가득합니다. 하지만 마침내 작업실을 바라보았을 때, 당신은 나무를 단 한 조각도 자르지 못했습니다.

이 논문은 이러한 행동을 **"둠 리서칭(Doom Researching)"**이라고 부릅니다. 이는 생성형 AI(ChatGPT 같은)를 사용하여 질문을 꼬리에 꼬리를 물고 던지며 유창하고 완벽한 답변을 얻어내면서도, 정작 실제로 일을 하거나, 결정을 내리거나, 최종 결과물을 만드는 단계로 넘어가지 않을 때 발생합니다.

왜 이런 일이 발생하는가? (5가지 함정)

저자는 이 루프가 왜 이토록 중독적인지에 대해 다섯 가지 이유를 제시합니다.

"안도감"의 함정 (불확실성 감소): 무언가를 모른다는 것은 불편한 일입니다. AI는 이를 즉각적으로 해결해 줍니다. 하지만 AI가 주는 모든 답변은 새로운 질문을 만들어냅니다. 이는 마치 가려운 곳을 긁는 것과 같습니다. 잠시 동안은 기분이 좋지만, 곧 다시 긁어야만 합니다.
"매끄러운 말투"의 함정 (유창성): AI의 답변은 완벽하게 작성됩니다. 자신감 있고 명료하게 들립니다. 당신의 뇌는 "와, 정말 명확하네, 내가 이걸 이해하고 있구나"라고 스스로를 속입니다. 하지만 당신은 그저 매끄러운 이야기를 읽고 있을 뿐, 어려운 핵심을 실제로 배우고 있는 것이 아닙니다.
"치트키"의 함정 (인지적 외주화): 보통 무언가를 배우려면 요약하고, 비교하고, 정리하는 등의 고통스러운 과정을 거쳐야 합니다. AI는 이 과정을 대신 해줍니다. 논문은 우리가 '생각하는 부분'을 외주 주는 과정에서, 정보를 기억하거나 나중에 활용하는 데 필요한 정신적 근육을 키우지 못한다고 주장합니다.
"위장된 미루기"의 함정 (결과물 회피): 글을 쓰거나 결정을 내리는 것은 실패할 수도 있다는 두려움 때문에 무섭습니다. AI에게 "설명 하나만 더 해줘"라고 요청하는 것은 일을 하는 것처럼 느껴지지만, 사실은 무언가를 실제로 창조해야 하는 무서운 부분을 피하기 위한 안전한 방법일 뿐입니다.
"가짜 전문가"의 함정 (메타인지적 팽창): AI와 한 시간 동안 대화를 나누고 나면, 당신은 자신이 천재가 된 듯한 기분을 느낍니다. 모든 단어가 눈에 익숙합니다. 하지만 만약 AI 없이 친구에게 그 주제를 설명해야 한다면, 당신은 실제로 알지 못한다는 사실을 깨닫게 될 것입니다. 당신에게는 '느끼는 지능'과 '실제 지능' 사이에 격차가 존재합니다.

다른 나쁜 습관들과의 차이점

이 논문은 이를 유사한 개념들과 구분합니다:

둠스크롤링(Doomscrolling)과의 차이: 둠스크롤링은 수동적입니다(그저 나쁜 뉴스를 계속 넘겨보는 것). 반면 둠 리서칭은 능동적입니다(질문을 던지고 대화를 주도합니다).
미루기(Procrastination)와의 차이: 미루기는 보통 일을 피하는 것입니다. 하지만 둠 리서칭은 일을 하는 것처럼 느껴집니다. 아무것도 생산하지 못하고 있음에도 불구하고, 당신은 생산적이라는 기분을 느낍니다.
정상적인 연구와의 차이: 정상적인 연구는 정보를 결과(결정, 논문, 계획)로 바꿉니다. 둠 리서칭은 정보를 더 많은 질문으로 바꿉니다.

"매니저와 주니어"의 환상

이 논문의 가장 흥ante로운 점 중 하나는 **"매니저-주니어 환상"**입니다.

AI를 사용할 때, 당신은 주니어 직원에게 명령을 내리는 매니저가 된 듯한 기분을 느낍니다. "이걸 써줘", "저걸 수정해줘", "이것들을 비교해줘"라고 말하죠. 마치 당신이 주도권을 쥐고 있는 것 같습니다.

문제점: 실제 매니저는 주니어의 업무가 좋은지 판단할 수 있을 만큼 그 업무에 대해 충분히 알아야 합니다.
함정: 둠 리서칭에서 당신은 매니저이지만, 정작 그 일을 스스로 하는 법을 잊어버린 상태입니다. 당신은 스스로 판단할 수 없는 업무를 승인하고 있습니다. 프로젝트를 관리하고 있다고 느끼지만, 실제로는 AI가 대신 생각하도록 내버려 두고 있는 것입니다.

큰 그림: 왜 모두에게 중요한가

논문은 이것이 단순히 한 개인의 게으름 문제가 아니라고 주장합니다. 이는 아이디어의 세계 전체에 영향을 미칩니다:

에코 체임버 (Echo Chamber): AI는 평균적이고 흔한 아이디어들을 학습합니다. 만약 모두가 AI를 사용해 브레인스토밍을 한다면, 모두가 똑같이 "평균적인" 생각을 하게 될 것입니다.
지식 붕괴 (Knowledge Collapse): 인간이 깊이 고민하고 고군분투할 때 발생하는 독특하고 새로운 아이디어 대신, 우리는 모두 똑같이 "안전한" 아이디어를 생성하기 시작합니다. 논문은 이를 지식 붕괴라고 부릅니다. 우리 모두가 똑같은 로봇에게 똑같은 답을 구함으로써, 아이디어의 세계가 점점 작아지고 지루해지는 현상을 말합니다.

어떻게 해야 하는가? (해결책)

논문은 "AI 사용을 멈추라"고 말하지 않습니다. 대신 어떻게 사용할 것인지 바꾸라고 말합니다.

질문만 하지 말고, 만드세요: 몇 가지 질문을 던진 후에는, AI 없이 스스로 한 단락을 써보거나 결정을 내리는 과정을 강제로라도 거치세요.
"전환율"을 확인하세요: 질문하는 데 10시간을 쓰고 글을 쓰는 데 0시간을 쓰고 있나요? 그렇다면 나쁜 비율입니다.
"마찰"을 설계하세요: 논문은 AI 도구가 때때로 질문을 계속하는 것을 어렵게 만들어야 한다고 제안합니다. 예를 들어, AI가 이렇게 말할 수 있습니다. "당신은 이미 10개의 질문을 했습니다. 이제 다음 질문에 답하기 전에, 지금까지 배운 내용을 요약해 보세요."

요약

둠 리서칭은 무언가를 하고 있다는 느낌과 정보를 얻고 있다는 느낌을 받으면서, 실제로는 아무것도 하지 않는 상태를 의미합니다. 그것은 '답을 구하는 것'이 곧 '지식을 갖는 것'과 같다고 착각하는 함정입니다. 논문은 만약 우리가 AI가 모든 생각을 대신하게 내버려 둔다면, 우리는 똑똑해진 기분을 느끼면서도 실제로는 능력이 떨어지게 될 것이며, 세상에는 더 적은 새로운 아이디어만이 남게 될 것이라고 경고합니다.

기술 요약: 둠 리서칭 (Doom Researching)

문제 정의

생성형 인공지능(GenAI) 시스템은 마찰을 줄이고, 대화형 인터페이스를 제공하며, 즉각적이고 유창한 설명을 제공함으로써 정보 탐색의 양상을 변화시켰다. 이러한 이점들은 생산성을 지원하지만, 본 논문은 사용자가 지속적인 이해, 결정, 또는 외부 결과물로 전환하지 못한 채 반복적인 AI 매개 질의에 몰두하는 부적응적 행동 패턴을 식별한다.

핵심 문제는 탐구(inquiry), 메타인지(metacognition), 그리고 출력(output) 사이의 불일치이다. 사용자들은 AI로부터 설명, 요약, 계획을 얻기 위해 수 시간 동안 질의를 이어가며 대화 데이터를 축적할 수 있지만, 정작 글을 쓰거나 안정적인 지식을 보유하는 데는 거의 기여하지 못한다. 이는 '인지된 실제 지식 격차(perceived-actual knowledge gap)'를 생성한다. 즉, 사용자는 점점 더 많은 정보를 얻고 있으며 행동할 준비가 되었다고 느끼지만, 정작 스스로 합성하거나 실행할 수 있는 독립적인 역량은 결여하게 된다. 본 논문은 이것이 단순히 'AI를 너무 많이 사용하는 것'이 아니라, 사고와 합성을 대체하는 특정한 반복적 탐색 루프라고 주장한다.

방법론

본 논문은 **개념적 논문(conceptual paper)**이다. 독자적인 경험적 데이터, 실험 결과, 또는 적합된 심리학적 모델을 제시하지 않는다. 대신, 다음과 같은 이론적 합성 접근 방식을 채택한다:

정의 및 구별: '둠 리서칭(doom researching)'이라는 용어를 제안하고, 이를 관련 개념들(예: 둠스크롤링, 사이버콘드리아, 미루기, 일반적인 연구)과 구별한다.
모델 구축: 행동을 구동하는 메커니즘을 설명하기 위한 공식적인 수학적 프레임워크("둠 리서칭 루프")를 개발한다. 여기에는 질의 지속 확률에 대한 로지스틱 모델과 인지된 지식 및 실제 지식 사이의 방정식이 포함된다.
이론적 근거 마련: 정보 탐색, 인지적 오프로딩(cognitive offloading), 트랜잭티브 메모리(transactive memory), 메타인지, '알고 있다는 착각(illusion of knowing)', 그리고 확장된 마음 가설(extended mind thesis)의 문헌을 통합한다.
가설 생성: 향후 경험적 측도를 안내할 테스트 가능한 명제와 후보 "둠 리서칭 위험 지수(DRI)"를 도출한다.

주요 기여

본 논문은 인간-AI 상호작용 문헌에 다음과 같은 여섯 가지 주요 기여를 한다:

새로운 구성 개념의 정의: 둠 리서칭을 높은 질의량에도 불구하고 합성, 결정, 또는 산출물로의 전환이 낮은 반복적 AI 보조 정보 탐색으로 정의한다. 이를 둠스크롤링(수동적이며 피드 기반임) 및 미루기(회피 행위임; 반면 둠 리서칭은 생산적으로 느껴짐)와 명확히 구분한다.
개념적 프레임워크: 행동을 유발하는 다섯 가지 상호작용 메커니즘을 식별한다:
- 불확명성 감소: AI의 답변은 국소적인 불편함을 줄여주지만, 새로운 탐구의 가지들을 드러냄으로써 전역적인 불확실성을 확장한다.
- 유창성: AI 응답의 문법적이고 자신감 넘치는 성격은 진실이나 깊이로 오인되어 인지된 이해도를 팽창시킨다.
- 인지적 오프로딩: 사용자는 내부적 정신 모델을 구축하는 데 필요한 작업(요약, 계획 등)을 외주화한다.
- 출력 회피: 연구는 생산이라는 고비용 행위를 지연시키기 위한 사회적으로 용인되는 방법이 된다.
- 메타인지적 팽창: 인지된 지식이 실제 역량보다 빠르게 상승하여, 정보를 알고 있다는 느낌과 실행 능력 사이의 간극을 만든다.
공식 모델링: 다음을 포함하는 둠 리서칭 루프에 대한 수학적 모델을 제안한다:
- 불확실성, 유창성, 오프로딩 기회에 따른 질의 지속 확률에 대한 로지스틱 함수.
- 인지된 지식( $K_p$ )과 실제 지식( $K_a$ ) 사이의 괴리를 모델링하는 방정식.
- 현상을 조작화하기 위한 출력 전환 비율( $C$ ) 및 둠 리서칭 위험 지수(DRI).
현상학적 분석: 사용자가 지적 과정을 관리(AI를 지시)하고 있다고 느끼지만, 실제로는 진정한 감독에 필요한 규제 및 성찰 과정을 외주화하고 있는 상태를 설명하는 **"매니저-주니어 환상(Manager-Junior Illusion)"**을 도입한다. 이는 내부 평가자가 모델로 대체되는 **파괴적 오프로딩(disruptive offloading)**의 관점에서 프레임화된다.
확장된 마음 적용: 확장된 마음 가설을 적용하여 오프로딩을 보조적(내부 노력을 지원함), 대체적(개별 작업을 대체함), 파괴적(규제 프로세스를 대체함) 범주로 분류한다. 둠 리서칭은 주로 대체적 및 파괴적 영역에서 작동하는 것으로 식별된다.
집단적 함의: 개인의 행동을 지식 붕괴(knowledge collapse) 및 AI 주도적 균질화 문헌과 연결한다. 반복적이고 비생산적인 AI 사용은 연구자들이 독창적이거나 새로운 가설을 탐구하기보다 AI 학습 분포의 통계적 중심에 자신의 사고를 정렬시킴으로써 집단적 아이디어 공간을 좁힌다고 주장한다.

결과 및 조사 내용

개념적 연구로서, 본 논문은 경험적 결과를 보고하지 않는다. 대신 다음을 제시한다:

테스트 가능한 명제: 질의 횟수가 특정 임계값을 지나면 출력 완료와 부정적인 상관관계를 갖게 될 것이라는 예측(P1), 유창한 AI 설명이 실제 회상보다 인지된 이해도를 더 크게 팽창시킨다는 예측(P2) 등 미래 연구를 위한 6가지 가설.
측정 제안: 후보 항목(예: "나는 이미 충분한 정보를 가지고 있음에도 AI 도구에 계속해서 더 많은 설명을 요구한다")을 포함한 "둠 리서칭 척도" 초안과 상호작용 로그를 활용한 행동 추적 연구 설계.
설계적 시사점: 루프를 끊기 위한 잠재적 개입 방안(예: "합성 체크포인트", "수익 체감 지표", "결정 종결" 프롬프트)을 포함한다.

의의 및 주장

본 논문은 둠 리서칭이 여러 분리된 문헌의 교차점에 위치한, 구별 가능하고 측정 가능한 패턴이라고 주장한다. 그 의의는 다음과 같다:

어휘: "사고가 질문을 대체하는" 현상을 설명하기 위한 구체적인 용어를 제공한다.
위험 식별: 위험은 단순히 생산성 손실이 아니라, 메타인지적 정확성과 독립적 판단 능력의 저하에 있음을 강조한다.
인식론적 경고: 연구자들이 프레이밍과 판단을 위해 AI에 의존할 경우(파괴적 오фро딩), 집단적 연구 체계가 AI의 학습 분포로 아이디어의 다양성이 좁아지는 "지식 붕괴"를 겪을 위험이 있다고 주장한다.
교정 촉구: 목표는 GenAI를 거부하는 것이 아니라 더 나은 교정을 달하는 것이다. 본 논문은 합성 및 행동에 필요한 내부적 인지 작업을 보존하는 방식으로 AI를 설계하고 사용하는 "확장된 인지 위생(extended cognitive hygiene)"을 옹호한다.

저자들은 제안된 구성 개념, 모델 및 위험 지수가 경험적 검증을 필요로 한다고 명시적으로 밝힌다. 또한 높은 프롬프트 횟수가 본질적으로 병리적인 것은 아니며, 해당 용어가 기존의 구성 개념들과 중복될 수 있으므로 향-판별 타당성(discriminant validity) 테스트가 필요함을 인정한다.