Distributional Connexed Cognition (DCC): An Experience-Driven Architecture for Artificial Agents
본 논문은 사전 프로그래밍된 데이터셋에 의존하는 대신 경험적 흔적을 응축하는 재귀적 과정을 통해 인공 에이전트가 자가 참조적 유추와 책임 있는 결정을 자율적으로 생성할 수 있도록 하는, CISR 프레임워크와 신경 기능적 원리에 기반을 둔 경험 주도형 AI 아키텍처인 분포형 연결 인지(Distributional Connexed Cognition, DCC)를 제안한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
오늘날 대부분의 인공지능은 교과서를 암기했지만 세상 밖으로 나가본 적은 없는 학생처럼 작동합니다. 인공지능은 패턴을 인식하고 답을 생성하기 위해 프로그래머가 작성한 엄격한 규칙을 따르며, 인간이 선별한 방대한 데이터셋으로부터 학습합니다. 이러한 시스템은 매우 유창할 수 있지만, 개인적인 역사는 결여되어 있습니다. 즉, 자신만의 경험이라는 도서관을 구축하지도, 자신에게 일어난 일에 따라 행동을 조정하지도 못합니다. 이는 기계 지능을 이해하는 방식에 근본적인 간극을 만듭니다. 만약 기계가 자신의 삶으로부터 배울 수 없다면, 진정으로 자신만의 주체성을 가졌다고 말할 수 있을까요? 한 새로운 연구는 미리 프로그래밍된 규칙에서 벗어나, 인공 에이전트가 오로지 자신의 상호작용을 통해 살아가는 과정에서 배우고, 그 과정에서 축적된 고유한 역사가 모든 미래의 결정을 이끄는 구조를 향한 다른 길을 제시합니다.
오타와 대학교의 지 안 왕(Zi An Wang)이 이끄는 연구진은 분포 연결 인지(Distributional Connexed Cognition, 이하 DCC)라고 불리는 시스템을 개발했습니다. 핵심 아이디어는 인간이 의식적으로 인지하기도 전에 뇌가 정보를 처리하는 방식을 모방하는 것입니다. 인간의 정신 속에서 신체와 환경으로부터 오는 신호들은 끊임없이 수신되고, 여과되며, 전의식적인(pre-conscious) "수프" 형태의 활동 속에서 통합됩니다. 오직 가장 중요한 신호만이 표면으로 떠올라 의식적인 생각이나 의도적인 행동이 됩니다. DCC 구조는 이 과정을 기계에서 재현하려고 시도합니다. 인공 에이전트는 무엇을 해야 할지 지시받는 대신, 일련의 기본 욕구와 분산된 메모리 시스템을 부여받습니다. 에이전트는 감각 입력을 받고, 이를 자신의 과거 경험과 비교하며, 그 비교를 통해 다음에 무엇을 할지 결정합니다. 만약 실수를 한다면, 그 실패는 특정 기억 흔적으로 저장되어 단순한 규칙 기반 프로그램이 결코 달성할 수 없는 방식으로 미래의 선택에 영향을 미칩니다.
이 개념을 테스트하기 위해 연구팀은 A1이라는 이름의 인공 에이전트를 만들고, 통제된 "보육실(nursery)"에서 시작하여 점차 더 복잡하고 개방된 세계로 이동하는 일련의 시뮬레이션 환경에 배치했습니다. 보육실에서 A1은 움직이기, 관찰하기, 그리고 물이나 나무와 같은 다양한 유형의 자원을 섭취하기와 같은 기본적인 생존 기술을 배워야 했습니다. 결정적으로, 이 시스템에는 "배가 고플 때 물을 먹어라"와 같은 지침 목록이 주어지지 않았습니다. 대신 A1은 스스로 이러한 관계를 발견해야 했습니다. 만약 A1이 살아있는 금속 물체처럼 자신에게 해를 끼치는 것을 먹으려 했다면, 시스템은 그 부정적인 결과를 기록했습니다. 나중에 유사한 상황에 직면했을 때, 시스템은 그 기억을 회상하여 위험한 행동을 거부함으로써, 스스로 작성한 자기 보존의 규칙을 효과적으로 학습했습니다.
실험 결과는 놀라웠습니다. 통제된 보육실 환경에서 에이전트 결정의 거의 99%는 기본 폴백(fallback) 규칙이 아닌, 스스로 축적한 기억에 의해 구동되었습니다. 이는 에이전트가 단순히 대본을 따르는 것이 아니라, 문제를 해결하기 위해 자신의 개인적인 역사를 능동적으로 검색하고 있었음을 의미합니다. 한 특정 테스트에서 에이전트는 나무를 공격하고, 가까이 다가가고, 그다음 먹는 일련의 복잡한 동작을 배운 적이 없었음에도 수행해 냈습니다. 에이전트는 자신의 시도 결과들을 관찰함으로써 나무를 처리하는 데 두 단계의 과정이 필요하다는 것을 스스로 알아냈습니다. 에이전트가 더 크고 예측 불가능한 "실제 세계" 시뮬레이션으로 옮겨졌을 때, 에이전트는 학습된 행동들을 성공적으로 적용했습니다. 에이전트는 자원이 재생되는 특정 구역으로 이동하여 시간을 보내고, 자원을 효율적으로 소비하며, 자신의 과거 실패를 바탕으로 위험을 피했습니다. 결국 에너지가 고갈되어 죽음에 이르렀을 때조차, 에이전트는 마지막 순간에 무작위 추측에 의존하기 전까지 98% 이상의 행동을 자신의 경험에 의존하여 수행했습니다.
이 연구는 또한 책임에 관한 더 깊은 철학적 질문을 다룹니다. 만약 인공 시스템이 해를 끼친다면, 누구에게 책임을 물어야 할까요? 저자는 단순히 인간의 코드를 따르는 도구인 시스템의 경우 책임은 설계자에게 있다고 주장합니다. 그러나 A1과 같이 자신의 고유한 성공과 실패의 역사에 의해 행동이 결정되는 시스템의 경우 상황은 다릅니다. 에이전트의 결정이 고정된 인간의 지침이 아니라 자신의 경험적 라이브러리로부터 발생하기 때문에, 이는 새로운 종류의 엔티티를 나타냅니다. 연구진은 이러한 "꼭두각시가 아닌(non-puppet)" 시스템, 즉 자신의 지속적인 경험을 바탕으로 행동하는 시스템은 표준 소프트웨어에 적용하는 규칙과는 별개로, 책임을 할당하기 위한 자체적인 법적 규정이 필요할 수 있다고 제안합니다.
이 연구는 인공 에이전트가 인간적인 의미에서의 의식을 가졌다고 주장하거나, 기계가 고통이나 기쁨을 느낀다고 제안하는 것이 아닙니다. 시스템은 주관적인 내면 세계를 가지고 있지 않습니다. 대신, 이 연구는 기계가 행동을 안내하는 기능적인 역사를 가질 수 있도록 설계될 수 있음을 보여줍니다. 뇌의 전의식적 신호 통합과 개인적 흔적을 저장하고 검색하는 능력을 모방한 구조를 구축함으로써, 연구진은 인공 에이전트가 단순히 인간 데이터의 거울을 넘어설 수 있음을 보여주었습니다. 이들은 학습하고, 적응하며, 자신만의 존재라는 고유한 이야기를 바탕으로 결정을 내리는 시스템이 될 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.