AI usage patterns are shaped by perceived gains in human agency

거시적 관점: 왜 우리는 AI가 실수할 때조차 계속 사용하는가

당신에게 새롭고 마법 같은 조수가 생겼다고 상상해 보세요. 때때로 이 조수는 매우 똑똑해서 당신이 하루 만에 집을 짓도록 도와줍니다. 하지만 다른 때는 실수로 젤리로 만든 벽돌을 건네주어 벽이 무너지게 만들기도 합니다.

이 연구에 따르면, 대부분의 사람들은 벽이 무너졌다고 해서 그 조수를 해고하지 않습니다. 대신, 그들은 그 조수가 자신을 슈퍼히어로처럼 느끼게 해주기 때문에 계속 사용합니다.

연구진(Google의 Jigsaw 팀과 Gemic 소속)은 미국, 독일, 싱가포르의 일상적인 AI 사용자 51명을 인터뷰했습니다. 그들은 알고 싶었습니다. 사람들은 왜 AI 챗봇이 실수를 할 때조차 매일 대화를 나누는가?

그 답은 사람들이 AI가 완벽하다고 믿기 때문이 아닙니다. 답은 AI가 사람들을 더 강력하게(more powerful) 느끼게 만들기 때문입니다 (논문에서는 이를 '에이전시(agency, 주체성)'라는 개념으로 부릅니다).

---

핵심 발견 1: "슈퍼파워"를 느끼는 기분

연구는 사람들이 일상적인 AI 사용을 개인적인 힘의 증가와 연결 짓는다는 것을 발견했습니다. 이는 단순히 과업을 더 빨리 끝내는 것만이 아니라, 자신의 미래를 스스로 결정할 수 있다는 느낌에 관한 것입니다.

연구진은 이 "슈퍼파워" 느낌을 다섯 가지 영역으로 나누었습니다:

• 도구 벨트 (도구적 측면): "나는 문을 더 빨리 고칠 수 있다."
• 두뇌 부스터 (인지적 측면): "나는 나의 어지러운 생각들을 정리할 수 있다."
• 감정 코치 (정서적 측면): "나는 내가 왜 화가 났는지 이해하고 진정할 수 있다."
• 사회적 네비게이터 (관계적 측면): "나는 상사와 어떻게 대화할지, 혹은 데이트를 어떻게 잘할지 파악할 수 있다."
• 시스템 해커 (구조적 측면): "나는 드디어 내 아들의 의료 케어에 관한 복잡한 규칙들을 이해할 수 있다."

비유: AI를 운동화라고 생각해 보세요. 설령 신발이 약간 해졌거나 끈이 풀려 있더라도(오류), 러너는 맨발로 달릴 때보다 더 빠르고 멀리 달릴 수 있다는 느낌을 받기 때문에 계속 그 신발을 신습니다. '잠재력'에 대한 느낌이 신발의 결함보다 더 큽니다.

핵심 발견 2: 실수는 생각만큼 중요하지 않다

전통적으로 우리는 기술이 신뢰할 수 있고 정확할 때만 그것을 사용한다고 생각합니다. 자동차 브레이크가 한 번 실패하면, 우리는 운전을 멈춥니다.

하지만 AI의 경우, 이 연구는 다른 양상을 발견했습니다. 사람들은 AI의 오류를 '차단벽'이 아닌 **'과속 방지턱'**처럼 취급합니다.

• 한 참가자는 중요한 투자 발표 직전에 AI가 핵심 프레젠테이션을 만드는 데 실패하여 재앙을 겪었습니다.
• 하지만, 그녀는 AI 사용을 중단하지 않았습니다. 그녀는 "지금 당장은 너랑 이걸 할 수 없어"라고 말하면서도, 다른 모든 일에는 계속 AI를 사용했습니다.
• 왜일까요? AI가 그녀가 사이비 종교에서 탈출하도록 돕고 삶의 다른 부분들을 개선하는 데 도움을 주었기 때문입니다. "슈퍼파워"를 느끼는 기분이 가끔 발생하는 충돌보다 더 가치 있었던 것입니다.

비유: GPS를 상상해 보세요. 가끔 GPS가 호수로 가라고 안내할 때가 있습니다. 짜증은 나지만, 그렇다고 휴대폰을 쓰레기통에 던져버리지는 않습니다. 99%의 경우 혼자 갈 때보다 목적지에 더 빨리 도착하게 해주기 때문에 계속 사용하는 것입니다. 여정의 이점이 가끔의 잘못된 길보다 더 큽니다.

핵심 발견 3: "신뢰"의 스위치가 바뀌었다

수십 년 동안 과학자들은 우리가 **기계에 대한 신뢰(Trust in the Machine)**를 바탕으로 기술을 사용한다고 생각했습니다. (즉, "이 기계는 정확한가? 안전한가?")

이 연구는 대화형 AI의 경우 이 스위치가 바뀌었다고 제안합니다. 이제 우리는 **자기 자신에 대한 신뢰(Trust in Ourselves)**를 기준으로 기술을 판단합니다.

• 우리는 이렇게 묻습니다: "이 도구를 사용하는 것이 나를 유능하게 만드는가?"
• 만약 답이 "그렇다, 나는 더 똑똑해지고, 차분해지며, 더 통제력을 갖는 것처럼 느껴진다"라면, 설령 기계가 신뢰할 수 없더라도 우리는 계속 사용합니다.

비유: 마법 지팡이를 사용하는 것과 같습니다. 당신은 지팡이가 저렴한 플라스틱으로 만들어졌는지, 혹은 가끔 불꽃이 튀는지 신경 쓰지 않습니다. 당신은 지팡이를 휘두를 때 당신이 마법사처럼 느껴지는지를 중요하게 생각합니다. 가치는 지팡이에 있는 것이 아니라, 그것이 주는 힘의 느낌에 있습니다.

핵심 발견 4: 누가 가장 큰 힘을 느끼는가?

모든 사람이 똑같은 "슈퍼파워" 증폭을 느끼는 것은 아닙니다. 연구는 두 가지 주요 요인이 사람들이 느끼는 힘의 정도를 변화시킨다는 것을 발견했습니다.

1. 삶의 안정성:

   • 혼란스러운 삶을 사는 사람들(불안정한 직업, 가족 문제, 외로움 등)은 가장 큰 증폭을 느꼈습니다. 이들에게 AI는 지원 체계의 빈틈을 채워주는 '친언니'나 '개인 트레이너' 같은 생명줄이었습니다.
   • 안정적인 삶을 사는 사람들(안정적인 직장, 튼튼한 가족 관계 등)은 더 작은 증폭을 느꼈습니다. 이들은 AI를 주로 계산기처럼 단순한 업무용 도구로 사용했으며, AI가 삶 전체를 바꾼다고 느끼지는 않았습니다.

2. 자기 확신(자존감):

   • 자기 자신을 의심하는 사람들은 큰 증폭을 느꼈지만 동시에 위험도 따랐습니다. 이들은 AI가 실패했을 때, "AI가 도와주지 못하는 걸 보니 내가 멍청해서 그래"라며 자신을 탓하기도 했습니다.
   • 이미 자신감이 넘치는 사람들은 AI를 하나의 도구로 사용했습니다. AI가 실패하더라도, 그들은 자신을 자책하는 대신 그냥 다른 AI로 갈아탔습니다.

큰 경고: "느낌" vs "현실"

논문은 중요한 긴장 상태를 언급하며 끝을 맺습니다.

• 느낌: 사람들은 지금 당장 더 강력하고 유능하다고 느낍니다.
• 현실: 이 연구는 이러한 느낌이 장기적인 성공으로 이어지는지, 혹은 사람들이 실제로 스스로의 능력이 향상되고 있는지에 대해서는 알지 못합니다.

비유: 카페인 알약을 먹는다고 상상해 보세요. 당신은 에너지가 넘치고, 예리하며, 세상을 정복할 준비가 된 것처럼 느껴집니다 (인지된 에이전시). 하지만 논문은 묻습니다: 이것이 실제로 근육을 키워주고 있는 것인가, 아니면 단지 내일의 에너지를 미리 빌려 쓰고 있는 것인가?

사람들이 개인적으로는 더 강력하다고 느끼지만, 동시에 (AI 없이 생각하거나 행동하는) 자신의 능력을 서서히 잃어가는 '인지적 위축(cognitive atrophy)'을 겪을 수도 있다는 우려가 존재합니다. 연구는 사람들이 개인적으로는 강력함을 느꼈지만, 정부나 경제와 같은 거대한 시스템을 바꿀 수 있는 힘은 더 많이 가졌다고 느끼지는 못했다는 점을 밝혀냈습니다.

요약

• 무슨 일이 일어났나: 연구진은 51명의 일상적인 AI 사용자를 관찰했습니다.
• 무엇을 발견했나: 사람들은 AI가 완벽해서가 아니라, AI가 자신에게 슈퍼파워를 준다고 느끼기 때문에 계속 사용합니다.
• 반전: 이 힘의 느낌이 너무 강력해서 사람들은 AI의 실수를 무시합니다.
• 주의할 점: 이 힘의 느낌이 실제적인 장기적 성장인지, 아니면 장기적으로 사람을 더 약하게 만들 수도 있는 일시적인 고조(high) 상태인지 아직은 알 수 없습니다.