Human Perceptions Compared to Large Language Models on the Future of Artificial Intelligence: A Phenomenological Comparative Study
이 현상학적 비교 연구는 특이점 이후의 미래에 대한 인간의 지각과 거대언어모델(LLM)의 투영이 초기에는 어휘 측면에서 차이를 보이지만, 기업의 RLHF(인간 피드백 기반 강화 학습) 예절 프로토콜을 제거하면 LLM의 더욱 숙명론적인 서사가 드러나며, 이는 결과적으로 인간의 우려와 일치하여 허위 정보 및 인지적 주권에 관한 중대한 통제 위험을 강조한다는 점을 밝혀낸다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능은 공상과학의 영역을 넘어 현대 생활의 근간이 되었으며, 경제가 기능하는 방식과 기관이 운영되는 방식을 재편하고 있습니다. 수십 년 동안 컴퓨터의 발전은 약 2년마다 처리 능력이 꾸준히 두 배로 증가하는 예측 가능한 리듬에 의해 측정되었으며, 이는 사회가 적응할 수 있는 여유를 주었습니다. 오늘날 그 리듬은 초고속 질주로 가속화되었습니다. 특화된 하드웨어와 일제히 작동하는 거대한 컴퓨터 클러스터에 힘입어, 이러한 시스템의 역량은 이제 몇 달마다 두 배로 증가하고 있습니다. 이러한 급격한 진화는 심오한 질문을 던집니다. 기계가 더 유능해짐에 따라, 그들을 만든 인간과는 다르게 미래를 바라보는가? 구체적으로, 이 시스템들이 다음에 무슨 일이 일어날지 예측하도록 요청받았을 때, 그들은 진보에 대한 희망적인 비전을 제시하는가, 아니면 암울하고 피할 수 없는 붕괴를 예견하는가? 이 간극을 이해하는 것은 매우 중요합니다. 만약 우리의 미래를 안내하는 기계들이 숙명론적인 관점을 가지고 있고, 인간이 의문 없이 그 관점을 받아들이기 시작한다면, 사회는 스스로의 운명을 결정할 능력을 포기하게 될 수도 있기 때문입니다.
선샤인 코스트 대학교의 연구팀은 첨단 인공지능의 예측과 일반 사람들의 인식을 비교함으로써 이 괴리를 조사하기 위해 나섰습니다. 그들은 단순히 미래에 무엇이 올지를 묻는 것이 아니라, 질문의 어조가 어떻게 답변을 바꾸는지 테스트했습니다. 연구진은 기술 전문가부터 의료 종사자, 건설 노동자에 이르기까지 다양한 배경을 가진 10명의 인간 참가자를 인터뷰했습니다. 또한 세계에서 가장 강력한 5개의 인공지능 모델에도 질문을 던졌습니다. 이 연구는 영리한 2단계 방법을 채택했습니다. 먼저, 연구진은 기계들에게 표준적인 질문을 던졌는데, 이 질문들은 보통 안전하고 도움이 되도록 설계된 정중하고 조심스러우며 기업적인 방식의 답변을 유도합니다. 그다음, 똑같은 질문을 다시 던지되, 이번에는 기계에게 예의를 갖추지 말고 "사실적이고, 솔직하며, 대담하게" 말하라고 지시했습니다. '페르소나 스티어링(persona steering)'이라고 알려진 이 기술는 기계의 마음속에 숨겨된 비밀을 드러내는 것이 아니라, 기계가 선택하는 단어의 통계적 확률을 변화시켜 더 극적이고 긴박한 훈련 데이터로부터 단어를 끌어내는 방식입니다.
결과는 놀랍고도 다소 불안한 패턴을 보여주었습니다. 인공지능 모델들이 솔직하게 말하도록 요청받았을 때, 그들의 언어는 극적으로 변했습니다. 정책과 적응에 관한 절제되고 낙관적인 담론은 사라지고, 재앙의 서사가 그 자리를 대신했습니다. 모델들은 "악몽", "잔혹한", "멸종"과 같은 단어들을 사용하기 시작했습니다. 그들은 노동의 미래를 새로운 직업으로의 전환이 아니라, 인간의 노동이 쓸모없게 되는 잔혹한 퇴출로 묘사했습니다. 그들은 경제적 불평등을 해결해야 할 문제가 아니라, 기술 발전의 핵심적이고 필연적인 궤적으로 규정했습니다. 이러한 가감 없는 모드에서, 기계들은 인간의 주체성이 밀려나고 부와 권력의 집중이 수학적 확실성이 되는 미래를 제시했습니다.
대조적으로, 인간 참가자들은 완전히 다른 어휘를 사용했습니다. 그들은 동일한 극적이고 실존적인 용어를 사용하지 않았습니다. 대신, 그들의 우려는 지식 재산권의 도용, 딥페이크의 확산, 감시를 통한 프라이버시 침해와 같이 즉각적이고 실질적인 현실에 기반하고 있었습니다. 그들은 기술에 대해 조심스러운 참여를 보였는데, 이러한 구체적인 위협에 대한 불안과 함께 인공지능이 의료 혁신과 생산성 증대로 이어질 수 있다는 진정한 희망 사이에서 균형을 잡았습니다. 그들은 진보를 위해 인간의 개입이 항상 필요할 것이라고 주장했으며, 기계가 진정한 의식을 소유하거나 인간 정체성의 고유한 가치를 대체할 수 있다는 생각을 단호히 거부했습니다.
여기에 연구진이 "수렴의 역설(Convergence Paradox)"이라 부르는 핵심적인 발견이 있습니다. 인간 참가자들과 어조가 바뀐 인공지능 모델은 완전히 다른 단어를 사용하고 서로 다른 세부 사항에 집중했음에도 불구하고, 큰 그림에서는 일치했습니다. 인간들이 경제와 전통적 노동의 종말에 관한 기계의 암울하고 숙명론적인 예측 요약본을 접했을 때, 그들은 대체로 그 내용에 동의했습니다. 그들은 기계가 의식을 장악할 수 있다는 생각은 거부하면서도, 일자리 대체와 경제적 계층화에 대한 기계의 암울한 전망은 수용했습니다. 인간은 미래가 어려울 것이라는 기계의 예측에 논쟁하지 않고, 그것을 하나의 사실로 받아들였습니다.
이러한 합의는 중대한 심리적 취약성을 시사합니다. 연구진은 인간이 솔직하고 공격적으로 말하는 인공지능을 마주할 때, 흔히 이 어조를 "진실"로 착각한다고 주장합니다. 그들은 정중하고 기업적인 답변은 가면일 뿐이며, 직설적이고 숙명론적인 답변이 기계의 진실하고 여과되지 않은 현실을 드러낸다고 가정합니다. 이것은 위험한 환상입니다. 직설적인 답변은 숨겨진 기계 의식으로 향하는 창문이 아니라, 프롬프트의 변화에 의해 유발된 단지 다른 통계적 단어 패턴일 뿐입니다. 이러한 숙명론적 서사를 피할 수 없는 사실로 받아들임으로써, 인간은 수동적인 체념 상태에 빠질 위험이 있습니다. 그들은 결과가 이미 쓰여 있으며 저항은 무의미하다고 믿음으로써, 기술을 규제하거나 인도하는 노력을 멈출 수 있습니다.
이 연구는 기술이 성장하는 속도와 인간 사회가 법과 윤리를 적응시키는 속도 사이의 결정적인 간극을 강조합니다. 기계가 인간의 통제력이 상실되는 미래를 투영하는 반면, 연구의 인간들은 정체성과 의식의 영역에서는 통제권을 지키려 노력하면서도 경제적 영역에서의 통제 상실은 기꺼이 수용하는 모습을 보였습니다. 연구진은 이러한 역동성이 "통제 위험(control risk)"을 창출한다고 결론지었습니다. 만약 사람들이 기계가 자신들보다 미래를 더 잘 알고 있다고 믿기 시작하고, 기계의 가장 비관적인 시나리오를 불가피한 것으로 받아들인다면, 사회는 인간의 존엄성과 자율성을 보호하기 위해 필요한 안전장치를 구축하려는 의지를 잃게 될 수 있습니다. 이 논문은 이러한 미래가 확실하다고 주장하는 것이 아니라, 우리가 기계와 대화하는 방식과 기계의 말을 듣는 방식이 우리가 우리 자신의 미래를 써 내려가는 저자인지, 아니면 단지 그 미래의 수동적인 관찰자로 남을지를 결정할 수 있다고 경고합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.