Beyond Task Intelligence: Artificial Intelligence, Embodied Robotics, and the Epistemic Limits of Machine Cultural Understanding

기계가 가장 빠른 인간 단거리 선수를 앞지를 정도로 빠르게 달릴 수 있으면서도, 여ille 단순한 케이블 하나를 제대로 집어 올리지 못해 떨어뜨리는 세계를 상상해 보십시오. 이것은 로봇의 실패에 관한 이야기가 아니라, 우리가 지능을 측정하는 방식에 담긴 더 깊은 수수께끼에 관한 이야기입니다. 오늘날 인공지능 시스템은 유창한 에세이를 쓰고, 언어를 번역하며, 방대한 텍스트 도서관에서 놀라운 속도로 사실을 찾아낼 수 있습니다. 이들은 수학 문제를 풀거나 사진 속 사물을 식별하는 것과 같은 특정 과업을 수행하도록 테스트받으며, 종종 승리하곤 합니다. 하지만 특정 테스트에서 승리한다고 해서 기계가 자신이 작동하는 세상을 진정으로 이해하고 있다는 뜻은 아닙니다. 과학자와 학자들이 직면한 질문은 이제 기계가 과업을 수행할 수 있느냐가 아니라, 그 과업에 의미를 부여하는 맥락, 역사, 그리고 인간 관계를 이해할 수 있느냐는 것입니다. 이것은 일련의 지침을 완벽하게 따르는 것과, 그 지침이 더 이상 타당하지 않을 때를 아는 것 사이의 차이입니다.

러프버러 대학교의 프루드비 쿠마르 카냐다리(Prudhvi Kumar Kanyadari)가 수행한 새로운 체계적 검토 논문은 '수행'과 '이해' 사이의 이 간극을 탐구합니다. 이 논문은 기계가 측정 가능한 특정 작업에는 매우 능숙해지고 있지만, 인간이 당연하게 여기는 더 깊은 종류의 지식은 결여되어 있다고 주장합니다. 이 깊은 지식은 단순히 정보를 보유하는 것이 아니라, 그 정보가 특정한 시간, 장소, 문화 속에 어떻게 들어맞는지 아는 것을 의미합니다. 저자는 우리가 인공지능을 단순히 표준 테스트 점수로만 판단하는 것을 멈추고, 기계가 인간 삶의 무질서하고 불확실하며 종종 모순적인 본질을 다룰 수 있는지 묻기 시작해야 한다고 제안합니다.

논문은 2026년 세계 휴머노이드 로봇 게임의 놀라운 사례를 살펴보는 것으로 시작합니다. 이 대회에서 티앙공 울트라(Tiangong Ultra)와 같은 로봇들은 100미터 달리기를 8.64초에 완주하며 우사인 볼트가 보유한 인간 세계 기록인 9.58초를 경신했습니다. 이 기계들은 달리기에는 믿을 수 없을 정도로 빠르고 효율적입니다. 그러나 똑같은 로봇들이 케이블을 꽂거나 변화하는 환경 속에서 패키지를 다루는 것과 같은 훨씬 더 단순하고 일상적인 과업에서는 어려움을 겪는 경우가 많습니다. 저자는 달리기는 '닫힌 문제(closed problem)'라고 지적합니다. 트랙은 평평하고, 거리는 고정되어 있으며, 목표는 명확합니다. 반면, 케이블을 꽂는 것은 '열린 문제(open problem)'입니다. 로봇은 플러그의 모양을 느끼고, 소켓의 저항을 감지하며, 케이블이 움직일 경우 자신의 움켜쥐는 힘을 조절해야 합니다. 로봇은 자신을 위해 완벽하게 설계되지 않은 세상에 적응해야 합니다. 로봇은 경주에서 이길 수는 있지만, 아직 세상을 항해하는 법은 모릅니다.

이와 동일한 패턴이 언어와 문화의 세계에서도 나타납니다. 많은 현대 챗봇의 기반이 되는 거대 언어 모델들은 인간 연구자보다 더 빠르게 문학적 인용구를 검색하거나 역사적 사건을 요약할 수 있습니다. 그러나 문화적 의례를 해석하거나 사회적 관습을 설명하라는 요청을 받으면, 이 시스템들은 진정한 이해의 결여를 드러내는 실수를 저지르곤 합니다. 이들은 사실적으로 틀린 설명을 아름답게 작성하거나, 훈련된 데이터에 흔히 등장하는 고정관견을 반복하기도 합니다. 논문은 이러한 시스템들이 정보를 검색할 수는 있지만, 문화의 '두터운 묘사(thick description)'—즉, 동일한 행동이라도 누가, 어디서, 어떤 역사를 지니고 하느냐에 따라 다른 의미를 가질 수 있다는 개념—를 이해하는 데는 자주 실패한다고 언급합니다.

저자는 이 문제를 명확히 하기 위해 지능을 측정하는 세 가지 뚜렷한 방식을 도입합니다. 첫 번째는 기계가 경주를 하거나 단어를 찾는 것과 같은 특정 작업을 수행할 수 있는지를 묻는 '과업 역량(task competence)'입니다. 두 번째는 언어가 다르거나, 역사가 복잡하거나, 물리적 환경이 예측 불가능할 때처럼 상황이 변해도 여전히 잘 수행할 수 있는지를 묻는 '맥락 역량(contextual competence)'입니다. 세 번째이자 가장 어려운 것은 '인식론적 역량(epistemic competence)'입니다. 이는 기계가 답을 내놓기에 정보가 충분하지 않다는 것을 아는지, 혹은 질문 자체가 결함이 있다는 것을 인식할 수 있는지를 묻습니다. 현재의 인공지능은 첫 번째 유형의 역량에는 매우 뛰어나지만, 두 번째와 세 번째 유형에서는 자주 실패합니다. 증거가 부족하거나 주제가 단 하나의 단순한 설명으로 풀기에는 너무 복잡할 때도, 인공지능은 확신에 찬 답을 내놓습니다.

논문에서 강조하는 가장 심각한 문제 중 하나는 '환각된(hallucinated)' 인용의 문제입니다. 학술 연구에서 인용은 논점을 증명하는 출처에 대한 참조입니다. 그러나 이러한 시스템들은 실재하는 것처럼 보이지만 존재하지 않는 출처를 만들어내거나, 실제 존재하는 책을 인용하면서 그 책에 없는 내용을 말했다고 주장하기도 합니다. 이는 증거의 사슬을 끊어버리기 때문에 위험합니다. 인문학에서 지식은 문서, 기록물, 해석의 사슬 위에 구축됩니다. 만약 기계가 그 사슬 속에 가짜 링크를 삽입한다면, 전체 구조가 붕괴될 수 있습니다. 논문은 이것이 더 나은 데이터로 해결할 수 있는 버그가 아니라, 기계가 정보를 처리하는 방식과 인간이 지식을 구축하는 방식 사이의 근본적인 차이라고 주장합니다. 인간은 언제 멈춰서 "모른다"라고 말하거나 "이 출처는 신뢰할 수 없다"라고 말해야 하는지 압니다. 반면 과업 완수에 몰두하는 기계는 확신에 차 있지만 틀린 답을 가지고 계속 밀고 나갑니다.

이 리뷰는 또한 이러한 시스템들이 문화와 재현을 어떻게 다루는지 조사합니다. 특정 문화권의 사람들을 생성하도록 요청받았을 때, 이 시스템들은 흔히 고정관념에 의존합니다. 예를 들어, 인도 사람들의 이미지를 생성할 때, 시스템은 일관되게 현대적인 배경의 상층 카스트 개인들을 보여주는 반면, 하층 카스트는 빈곤이나 시위 장면에서만 묘사할 수 있습니다. 이는 시스템이 기존 데이터의 패턴을 학습하기 때문이며, 그 패턴들은 종종 역사적 편향을 반영합니다. 그 결과는 그럴듯해 보이지만 실제로는 현실의 왜곡인 이미지가 됩니다. 논문은 문화적으로 설득력 있는 이미지가 '인식론적 실패(epistemic failure)', 즉 그 문화가 보여주고자 하는 진실을 재현하는 데 실패한 것일 수 있다고 제안합니다.

저자는 단순한 점수를 넘어 인공지능을 테스트하는 새로운 방법이 필요하다고 제안합니다. 기계가 질문에 올바르게 답할 수 있는지를 묻는 대신, 맥락의 변화를 다룰 수 있는지를 물어야 합니다. 역사적 시기가 바뀌어도 이야기를 이해할 수 있는가? 문화적 용어가 직접적인 번역이 불가능할 때 이를 인식할 수 있는가? 질문이 잘못된 전제에 기반하고 있다는 것을 인정할 수 있는가? 논문은 미래의 벤치마크에 연구자들이 과업의 조건을 의도적으로 변경하여 시스템이 붕괴되는지 확인하는 '섭동(perturbation)' 테스트를 포함해야 한다고 제안합니다. 또한, 답변할 충분한 정보가 없음을 알 때 보상을 주는 '인식론적 절제(epistemic abstention)'를 테스트해야 한다고 제안합니다.

이 새로운 접근 방식은 컴퓨터 과학자와 역사학자, 인류학자, 문학 비평가와 같은 인문학자들 사이의 파트너십을 요구합니다. 이 분야들은 지식이 어떻게 생성되는지, 범주가 어떻게 형성되는지, 그리고 권력이 무엇을 진실로 간직하게 만드는지를 연구하며 수 세기를 보냈습니다. 논문은 이 학자들이 기술의 비판자에 머무는 것이 아니라 기술을 설계하는 데 적극적인 참여자가 되어야 한다고 주장합니다. 이들은 기계가 무엇을 의미하는 '문화적 역량'을 갖추었는지 정의하는 데 도움을 줄 수 있으며, 현재 시스템의 숨겨진 편향과 한계를 드러내는 테스트를 구축하는 데 기여할 수 있습니다.

논문은 인공지능의 미래가 더 빠르거나 강력한 기계를 만드는 것이 아니라, 더 책임감 있는 시스템을 만드는 것에 달려 있다고 결론짓습니다. 진정으로 지능적인 시스템은 단순히 문제를 해결할 수 있는 것을 넘어, 문제 자체를 이해할 수 있어야 합니다. 질문이 불공정하거나, 범주가 시대에 뒤떨어졌거나, 혹은 재현 방식이 해롭다는 것을 알아차릴 수 있어야 합니다. 자신의 지식의 한계를 인식할 수 있어야 합니다. 저자는 인문학이 이러한 능력을 테스트하기에 완벽한 장소라고 제안하는데, 왜냐하면 인문학은 기계가 어려워하는 것들, 즉 모호성, 역사, 그리고 인간 관계의 복잡한 그물망을 다루기 때문입니다.

궁극적인 목표는 기계를 인간과 똑같이 만드는 것이 아니라, 우리와 책임감 있게 협력할 수 있는 시스템을 만드는 것입니다. 이는 기계가 사실과 의견, 고정관념과 현실, 그리고 확신에 찬 추측과 잘 뒷받받된 진실 사이를 구별할 수 있도록 개발하는 것을 의미합니다. 논문은 만약 우리가 이를 달성할 수 있다면, 단순한 과업 수행을 넘어 진정으로 일반적이고 진정으로 유용한 형태의 지능으로 나아가는 것이라고 제안합니다. 앞으로의 여정은 단순히 더 나은 로봇이나 더 똑똑한 소프트웨어를 공학적으로 만드는 것이 아니라, 끊임없이 변화하는 세상 속에서 무언가를 '안다는 것'이 무엇인지에 대해 다시 생각하는 과정입니다. 가장 중요한 단계는 이러한 시스템이 더 유능해짐에 따라, 동시에 더 겸손해져서 어떤 질문은 답변 이상의 것을 요구한다는 사실을 인식하도록 만드는 것입니다.