Where Cognition Lives: Dissecting Emergent from Computed Function in a Minimal Complete Cognitive Architecture
이 논문은 최소한의 아키텍처 내 경사 하강법으로부터 핵심적인 인지 역량은 발현될 수 있는 반면, 적응형 중단 및 가치 기반 자원 할당과 같은 결정적인 메타 인지 기능은 자발적으로 발현되지 않으며 상당한 성능 향상을 달족하기 위해서는 명시적으로 계산되어야 한다는 점을 입증하며, 실험 결과는 고위험 시나리오에서 명시적 가치 할당이 매끄러운 추정치보다 최대 7배의 이득을 제공한다는 것을 보여준다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
생각하는 기계를 만들기 위한 여정에서, 과학자들은 지능의 불꽃이 실제로 어디에서 오는지를 두고 오랫동안 논쟁해 왔습니다. 한 학파는 충분히 큰 시스템을 구축하고 방대한 양의 데이터로부터 학습하게 하면, 추론이나 의사결정과 같은 복잡한 능력들이 마치 아이가 균형 잡는 법을 배우지 않고도 스스로 걷는 법을 배우는 것처럼 자연스럽게 나타날 것이라고 믿습니다. 반대되는 견해는 사고란 지각, 기억, 판단을 위한 별도의 전용 부품이 필요한 정교하게 설계된 과정이라고 주장하며, 이는 마치 전문화된 조립 라인을 갖춘 공장과 같습니다. 수년 동안 이것은 철학적인 줄다리기였으나, 한 새로운 연구가 이 대화를 이론에서 실험실 현장으로 옮겨 놓았습니다. 연구진은 작지만 완전한 사고 기계를 구축한 다음, 모든 개별 부품을 엄격하게 테스트하여 각 부품이 경험을 통해 자신의 직무를 배웠는지, 아니면 명시적으로 프로그래밍되어야 했는지를 확인하고자 했습니다. 그들의 목표는 단순히 기계가 문제를 해결할 수 있는지 보는 것뿐만 아니라, 기계가 언제 생각을 멈출지 어떻게 결정했는지, 작업의 중요성을 어떻게 판단했는지, 그리고 스스로의 정신적 에너지를 관리하는 법을 배울 수 있는지에 대한 정확한 이해를 얻는 것이었습니다.
연구팀은 몇 개의 핵심 구성 요소가 함께 작동하는 디지털 뇌인, 최소한의 형태를 갖춘 완전한 인지 시스템을 구축했습니다. 그 중심에는 단계별로 문제를 풀 수 있는 추론 모듈이 있었습니다. 그 주변에는 생각하는 시간을 결정하기 위한 도구, 에너지를 관리하기 위한 제어 시스템, 그리고 작업의 중요도를 판단하기 위한 가치 모듈이 배치되었습니다. 연구진은 이 시스템을 일련의 논리 퍼즐, 특히 표준적인 컴퓨터 모델이 막히지 않고 해결하기 어려운 기호 재배열 과제를 통해 훈련시켰습니다. 그런 다음 연구진은 이 기계의 모든 부분을 일련의 테스트에 노출시켜 각 부분에 대해 다음과 같은 단순한 질문을 던졌습니다: 이 능력은 훈련 과정을 통해 자연스럽게 나타난 것인가, 아니면 특정하게 미리 설계된 메커니즘에 의해 계산되어야 했던 것인가? 그들이 발견한 답변은 날카롭고 종종 놀라웠는데, 문제 해결 능력은 발현될 수 있지만, 언제 멈출지 결정하고 노력을 어떻게 할당할지에 대한 능력은 발현될 수 없음을 드러냈습니다.
가장 중요한 발견은 기계가 언제 생각을 멈출지 결정하는 방식에 관한 것이었습니다. 많은 현대 인공지능 시스템에서는 모델이 자신이 확신을 느낄 때까지 원하는 만큼 실행되도록 허용됩니다. 연구진은 시스템이 멈추는 법을 배웠지만, 이 능력이 진정한 기술이라기보다는 측정의 착시라는 것을 발견했습니다. 연구진이 '똑똑한' 버전이 선택한 것과 정확히 동일한 시점에 기계가 멈추도록 강제했을 때, 성능은 동일했습니다. 스스로 생각하는 것을 관찰하는 기계의 외견상 이점은 전적으로 최종 답안을 읽어내는 방식의 특이함에서 비롯되었습니다. 연구진이 읽기 방식을 교정하자, 스스로 생각하는 과정을 지켜보는 기계의 가치는 거의 사라졌습니다. 어떤 특정 퍼즐이 다른 퍼즐보다 더 많은 시간이 필요한지를 정확히 아는 것은 성능 향상에 단 0.몇 퍼센트의 가치도 더하지 못했습니다. 기계의 내부 모니터는 실제로 더 나은 결정을 내리고 있었던 것이 아니라, 단지 시스템이 구축된 방식의 부산물일 뿐이었습니다.
이는 진정한 의사결정이 어디에 거주하는지에 대한 더 명확한 그림을 제시했습니다. 연구진은 기계가 단순히 결과에 신경 쓰도록 훈련함으로써 덜 중요한 작업보다 중요한 작업을 우선시하는 법을 배울 수 있는지 테스트했습니다. 그들은 훈련 과정이 오히려 기계를 이 데에 서투르게 만든다는 것을 발견했습니다. 시스템이 답변의 결과에 무게를 두도록 가르쳤을 때, 기계는 혼란에 빠졌고 정확도가 떨어졌습니다. 작업에 얼마나 많은 노력을 쏟을지 결정하는 능력은 학습 과정에서 전혀 나타나지 않았습니다. 대신, 그것은 문제를 보고 노력 수준을 결정하는 명시적이고 별도의 계산기에 의해 계산되어야 했습니다. 이 '계산된 결정'은 기계가 스스로 작업의 가치를 배우도록 시도하는 것보다 훨씬 더 효과적이었습니다. 훈련에 의해 형성된 기계의 내부 상태는 이러한 가치 기반 결정을 내리는 데 필요한 정보를 자연스럽로 탈락시켰으며, 이로 인해 명시적인 계산기만이 과업을 완수할 수 있는 유일한 방법으로 남게 되었습니다.
이 연구는 이러한 발견이 오늘날 인기 있는 거대 언언 모델들에 어떻게 적용되는지도 조사했습니다. 연구진은 재학습이 불가능한 고정된 대규모 언어 모델을 사용하여, 모델이 스스로의 사고 시간을 제어할 수 있는지 유사한 방법으로 테스트했습니다. 그들은 여러 가지 서로 다른 답변을 생성하고 가장 좋은 것에 투표하는 일반적인 전략이 개선의 여지가 거의 없다는 것을 발견했습니다. 모델은 자신이 틀렸을 때조차 스스로와 동의하는 경 Tendency(경향)를 보였으며, 이는 더 오래 생각하거나 더 자주 투표하도록 요청하는 것이 거의 도움이 되지 않음을 의미했습니다. 작은 규모의 기계와 마찬가지로, 스스로 생각하는 것을 관찰하고 멈출 때를 결정하는 능력은 거의 무가치했습니다. 연구진은 이 거대 모델들이 생각하는 방식을 통제하려 하기 전에, 우리가 가진 도구들이 실제로 작동하는지를 먼저 측정해야 한다고 결론지었습니다. 많은 경우, 우리가 당기려는 레버는 기계를 의미 있게 움직이지 못합니다.
연구의 마지막 장은 생각의 비용이 도착할 때까지 숨겨져 있는, 마치 목적지에 도착해야만 거리를 알 수 있는 길을 걷는 것과 같은 특수한 유형의 어려운 문제를 탐구했습니다. 이러한 '절벽' 시나리오에서 연구진은 미리 결정하는 것의 가치가 급증할 것이라고 예측했습니다. 그들의 예측은 적중했습니다. 시작하기 전에 작업의 가치를 아는 것은 매우 중요해졌으며, 이는 단순히 난이도를 아는 것보다 엄청난 성능 향상을 제공했습니다. 그러나 이 상승은 기계가 갑자기 문제를 더 잘 이해하게 되었기 때문이 아니라, 정답을 맞혔을 때의 잠재적 보상이 훨씬 더 커졌기 때문에 발생했습니다. 연구는 문제의 크기와 정보의 구조는 별개의 것이라는 점을 보여주었습니다. 기계는 새로운 사고 방식을 배울 필요가 없었습니다. 단지 높은 이해관계가 걸린 상황을 다루기 위한 명확하고 사전 계산된 계획이 필요했을 뿐입니다.
궁극적으로, 이 연구의 지도는 인지(cognition)가 어디에 살지 않는지를 보여줍니다. 그것은 기계가 스스로 생각하는 것을 관측하는 능력에 있지 않으며, 작업의 가치를 배우도록 하는 훈련 과정에도 있지 않습니다. 대신, 노력의 정도를 관리하고 무엇이 중요한지에 대한 2차적 결정을 내리는 능력은 별도의 명시적 계산으로서 구축되어야 합니다. 기계는 퍼즐을 푸는 법을 배우지만, 얼마나 열심히 노력할지는 별도의 메커니즘에 의해 전달받아야 합니다. 연구진은 자신들의 작업에서 가장 재사용 가능한 부분이 새로운 종류의 지능이 아니라, 무엇이 실제이고 무엇이 환상인지를 측정하는 엄격한 방법이라는 것을 발견했습니다. 많은 가정된 능력들이 사실은 측정 방식의 인위적인 산물임을 증명함으로써, 그들은 진정으로 생각하는 기계를 만들기 위한 더 명확하고 정직한 토대를 제공했습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.