Process-Constituted Intelligence: A Shared Criterion for Humans and Machines
이 논문은 진정한 지능이 결과물이 아닌 반복적인 인지 과정에 의해 정의된다고 주장하며, 현재의 생성형 AI가 단지 출력의 흔적을 재현할 뿐이라는 점을 바탕으로 인간의 인지와 구별하기 위해 일곱 가지 프로세스 특징에 기반한 '강한 등가성' 프레임워크를 제안하는 동시에, AI 도구가 인간의 생성적 능력을 침식하기보다 증강하도록 보장하기 위한 설계 원칙과 감사 방안을 제시한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
지능은 흔히 최종 결과물, 즉 풀린 방정식, 완성된 그림, 대화에서 제시된 정답으로 오해받곤 한다. 수십 년 동안 과학자들은 인간과 동일한 결과를 만들어내는 기계가 진정으로 사고하는 것인지에 대해 논쟁해 왔다. 이 질문은 철학의 영역에서 벗어나, 에세이를 쓰고, 코드를 생성하며, 인간의 작업과 구별할 수 없을 정도로 보이는 이미지를 만들어내는 생성형 인공지능이라는 일상의 현실로 옮겨왔다. 핵심적인 쟁점은 단순히 출력이 훌륭한가 하는 점이 아니라, 그 결과에 어떻게 도달했는가 하는 것이다. 정신 연구에서, 인간의 행동을 단순히 모방하는 시스템과 그 행동을 만들어내는 데 필요한 내부 활동을 실제로 재현하는 시스템 사이에는 오랫동안 구분이 존재해 왔다. 하나는 목적지를 보여주는 지도와 같고, 다른 하나는 모든 잘못된 길, 멈춤, 그리고 의구심의 순간들을 포함하는 여정 그 자체와 같다. 이러한 차이를 이해하는 것은 더 이상 학술적인 연습이 아니다. 왜냐하면 인간이 스스로 생각하는 것을 위해 기계에 의존할 때, 인간은 자신의 사고 능력을 구축하는 바로 그 단계들을 건너뛰게 될 수 있기 때문이다.
맥쿼리 대학교와 여러 기관의 연구진은 전적으로 이 '여정'에 초점을 맞춘 새로운 지능 측정 방식을 제 제안했다. 그들은 진정한 지능란 결과물 자체가 아니라, 과정—시도하고, 실패하고, 수정하고, 배우는 반복적인 활동—에 의해 구성된다고 주장한다. 이를 테스트하기 위해, 그들은 문제가 해결되는 방식의 일곱 가지 구체적인 특징을 살펴보는 프레임워크를 개발했다. 이 특징들에는 많은 시도를 생성하고 실패한 것을 버리려는 의지, 확신에 찬 답을 서둘러 내기보다 불확실함 속에 머무는 능력, 그리고 재료나 환경이 제공하는 저항으로부터 배우는 능력이 포함된다. 또한 그들은 해결사가 어떻게 대화에 참여하는지, 자신을 타인에게 어떻게 책임 있게 제시하는지, 그리고 그 고투(struggle) 자체가 작업하는 사람을 어떻게 형성하는지를 살펴본다. 연구진은 기계가 진정으로 인간의 정신과 동등해지려면, 단지 정답을 만들어내는 것이 아니라, 자신의 방식으로 이 일곱 가지 특징을 모두 보여주어야 한다고 제안한다.
연구진이 이 프레 framework를 현재의 생성형 AI에 적용했을 때, 상당한 격차를 발견했다. 이 시스템들은 인간 사고의 '흔적', 즉 완성된 논문, 발표된 코드, 편집된 이미지 등을 학습한다. 이들은 완성된 작업물들의 방대한 컬렉션을 샘플링함으로써 최종 제품을 재현하는 법을 배운다. 그 출력물은 종종 추론이나 창의성처럼 보이지만, 인간에게서 나타나는 내부 활동은 거의 부재한다. 기계는 문제와 씨름하지 않으며, 수년간의 연습을 통해 쌓이는 점진적인 판단력의 축적을 경험하지도 않는다. 기계는 그저 이전에 본 패턴을 바탕으로 다음에 올 가능성이 높은 단어나 픽셀을 예측할 뿐이다. 연구진은 이를 '약한 등가성(weak equivalence)'이라고 설명한다. 즉, 기계는 입력과 출력을 일치시키지만, 그 둘을 연결하는 과정은 결여되어 있거나 불투명하다는 것이다. 설령 이 시스템들이 답을 내놓기 전에 단계를 나열하는 등 자신의 작업 과정을 보여줌으로써 마치 '생각'하는 것처럼 보일 때조차, 이는 종종 미적인 전시(cosmetic display)에 불과하다. 그 단계들은 반드시 계산을 주도하는 것이 아니라, 추론처럼 보이도록 설계된 또 다른 층위의 출력물일 뿐이다.
이 연구는 단순히 모델을 더 크게 만들거나 더 많은 데이터를 주는 것이 이 문제를 해결할 것이라는 생각에 명시적으로 반대한다. 훈련 세트에 더 많은 텍스트를 추가하는 것은 지능을 구축하는 무질서하고 반복적인 과정을 제공하는 것이 아니라, 더 많은 완성된 흔적을 제공할 뿐이다. 연구진은 또한 기계가 지능을 갖기 위해 인간 뇌의 정확한 생물학적 구조를 복제해야 한다는 관념도 거부한다. 그들은 '강한 등가성(strong own equivalence)'이라 불리는 절충안을 제 제안한다. 이는 기계가 인간의 뇌와 동일한 알고리즘을 사용할 필요는 없다는 것을 의미하며, 이는 불가능할 뿐만 아니라 바람직하지도 않다. 대신, 기계의 행동이 물리적 장치가 다르더라도 동일한 일곱 가지 과정 특징에 의해 조직되어야 함을 요구한다. 예를 들어, 기계가 '불확실성에 대한 참여'를 보여준다는 것은 의구심을 느끼는 것이 아니라, 모호한 문제를 식별하고 더 많은 정보가 수집될 때까지 확신 있는 답을 내놓기를 거부하는 메커니즘을 갖는 것을 의미할 수 있다.
그 함의는 기술적 진단만큼이나 인간 사용자에게도 중요하다. 연구진은 사람이 생성적 작업을 대신 수행해 주는 도구를 사용할 때, 그 작업이 구축했을 능력이 형성되지 않는다는 점을 지적한다. AI를 사용하는 학생들에 대한 연구 결과에 따르면, 도구가 있을 때는 성적이 향상되는 것처럼 보일 수 있으나, 도구를 제거했을 때는 학습에 필요한 인지적 노력을 건너뛰었기 때문에 오히려 성적이 떨어지는 경우가 많다. 위험은 단순한 기술의 상실이 아니라, 형성의 실패다. 어렵고, 불확실하며, 대화적인 활동들은 한 사람의 판단력과 지혜를 형성하는 바로 그 요소들인데, AI 도구들은 바로 이 부분들을 우회하려는 유혹을 가장 많이 받는다. 만약 도구가 사용자의 모호함을 해결해 준다면, 사용자는 그 불확실함 속에 머무는 법을 배우지 못한다. 만약 도구가 답을 제공한다면, 사용자는 취향과 판단력을 발달시키는 데 필요한 시행착오를 연습하지 못하게 된다.
이를 해결하기 위해 저자들은 AI 설계와 사용 모두에 대한 새로운 접근법을 제안한다. 기계 측면에서는, 단순히 답에 투표하는 것이 아니라 다른 에이전트의 도전에 따라 자신의 접근 방식을 수정해야 하는 에이전트와 같이, 시스템이 과정에 참여하도록 강제하는 아키텍처를 구축할 것을 제안한다. 인간 측면에서는 '과정 보존적(process-preserving)' 지원을 옹호한다. 이는 답을 제공하는 대신, 사용자의 사고를 확장하기 위해 다음 질문이나 반례를 제공하는 도구를 의미한다. 목표는 생성적 단계를 인간의 곁에 남겨두어, 도구가 사고하는 활동을 대체하는 것이 아니라 사고를 지원하도록 만드는 것이다. 연구진은 또한 인간과 기계가 동일한 과업에 대해 이 일곱 가지 특징을 채점 기준으로 사용하여 테스트하는 '과정 감사(process audit)' 방법론을 개설한다. 이를 통해 과학자들은 기계가 단순히 그 형태를 흉내 내는 것인지 아니면 진정으로 과정에 참여하고 있는지, 그리고 인간 사용자가 이러한 도구의 도움을 받을 때 자신의 인지 능력을 유지하고 있는지를 측정할 수 있을 것이다.
궁극적으로, 이 논문은 지능을 생성하는 시스템과 지능을 구성하는 시스템의 차이가 사건의 기록과 사건 그 자체의 차이라고 제안한다. 이러한 도구들이 점점 더 강력해짐에 따라, 초점은 출력을 최적화하는 것에서 과정을 설계하는 것으로 옮겨가야 한다. 연구진은 지능의 미스터리를 해결했다고 주장하거나 현재의 AI가 쓸모없다고 말하는 것이 아니다. 대신, 그들은 무엇이 결여되어 있는지에 대한 명확한 기준과, 실리콘과 인간의 정신 모두에서 사고의 과정을 존중하는 시스템을 구축하기 위한 길을 제시한다. 결과가 아닌 활동에 집중함으로써, 우리는 기계가 더 유능해짐에 따라 기계가 지원하고자 하는 바로 그 인간의 역량을 의도치 않게 침식하지 않도록 보장할 수 있다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.