🤖 AI

Anti-Goal Reasoning: Rethinking the Theory of Goal Reasoning in Non-Axiomatic Logic

이 논문은 별도의 "안티-골(anti-goal)" 프레임워크와 "방지(prevent)" 정신적 연산을 도입함으로써 비공리적 논리(Non-Axiomatic Logic) 내에서의 회피 표현에 관한 모호성을 다루며, 이를 통해 어떤 사건을 피하는 것이 그 부정(negation)을 추구하는 것과 혼동되는 역설을 해결하고 시스템이 추구, 수동적 회피, 능동적 방지, 그리고 무작위적 부작위를 명확하게 구분할 수 있도록 한다.

원저자: Bowen Xu

게시일 2026-07-24

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Bowen Xu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 세상을 완전히 이해하지 못하는 로봇을 만들고 있다고 상상해 보세요. 이 로봇은 우주의 완벽한 지도를 가진 슈퍼컴퓨터가 아니라, 한정된 에너지와 절반의 규칙만을 가지고 새로운 놀이터를 탐험하는 호기심 많은 아이와 같습니다. 이것이 바로 **비공리적 논리(Non-Axiomatic Logic, NAL)**의 세계입니다. 이 분야에서 과학자들은 컴퓨터에게 '적응하는 법'을 가르치려 노력합니다. 즉, 모든 사실을 다 알지 못하거나 생각할 시간이 충분하지 않더라도 학습하고, 생각을 바꾸고, 결정을 내릴 수 있도록 하는 것입니다.

이곳의 핵심 아이디어는 **목표 추론(Goal Reasoning)**입니다. 목표를 '원하는 것'이라고 생각해 보세요. 만약 로봇이 쿠키를 원한다면, 쿠키를 얻을 방법을 찾습니다. 만약 "주방으로 걷는 것"이 보통 "쿠키를 얻는 것"으로 이어진다는 것을 알게 되면, 로봇은 걷기로 결정합니다. 하지만 로봇이 무언가를 피하고 싶을 때는 어떻게 될까요? 만약 로로봇이 전기 충격을 피하고 싶다면 어떨까요? 오랫동안 컴퓨터 과학자들은 이 '회피'를 처리하는 까다로운 방식을 사용해 왔는데, 이는 실수로 논리적 함정을 만들어냈습니다. 그들은 "충격을 피하는 것"을 "안전하기를 원하는 것"과 똑같이 취급했습니다. 이는 마치 로봇에게 "불에 손대지 마"라고 말했지만, 로봇은 "불이 없는 곳을 찾아가!"라고 알아듣고, 불이 없는 구역을 찾는 가장 좋은 방법은 버튼을 누르는 것이라고 결정하는 것과 같습니다. 왜냐하면 일반적으로 버튼을 누르는 것이 화상을 입지 않는 결과로 이어지기 때문입니다. 혼란스럽죠? 이 논문은 이 혼란을 파헤쳐서, 로봇이 위험으로부터 도망치는 것과 안전을 향해 달려가는 것의 차이를 알 수 있도록 로봇의 두뇌를 고치는 방법을 다룹니다.

거대한 "하지 마"의 혼동

Bowen Xu가 쓴 이 논문은 컴퓨터에게 주의를 주는 방식에 있는 어처구니없는 실수를 지적하며 시작합니다. 현재 시스템(NARS라고 불림)에서는 로봇이 어떤 사건을 피하게 하고 싶을 때(이를 "Hurt"라고 부릅시다), "Hurt가 아니다!"(또는 ¬Hurt!)와 같은 명령어를 작성합니다.

문제는 컴퓨터가 이 이중 부정에 혼란을 느낀다는 점입니다. 컴퓨터는 이렇게 생각합니다: "좋아, 사용자가 'Hurt가 아님'을 원하고 있어. 그건 목표처럼 들리네! 나는 'Hurt가 아님'이 일어나도록 만들어야겠어." 그래서 로봇은 'Hurt가 아닌' 사건을 만들어낼 방법을 찾기 시작합니다.

여기서 역설이 기묘해집니다. 버튼 하나를 상상해 보세요.

사실 1: 불이 켜져 있다면, 버튼을 누르는 것은 보통 **Hurt(통증)**를 유발합니다.
사실 2: 그냥 무작위로 버튼을 누르면(불이 꺼진 상태라면), 보통 **No Hurt(통증 없음)**를 유발합니다.
목표: 로봇은 Hurt를 피하라는 명령을 받았습니다.

로봇은 "Hurt를 피하는 것"을 "No Hurt를 만드는 것"으로 취급하기 때문에, 사실 2를 보고 이렇게 생각합니다: "헤이! 버튼을 누르면 보통 'No Hurt'가 되네! 버튼을 눌러야겠다!"

하지만 잠깐만요! 만약 불이 켜져 있다면, 사실 1은 버튼을 누르는 것이 Hurt를 유발한다고 말합니다. 로봇은 이제 루프에 빠집니다. 로봇은 통증을 피하고 싶어서 'No Hurt'를 만들려고 시도하지만, 위험한 특정 상황에서는 자신의 논리에 따라 버튼을 누르게 되어 결국 피하려던 바로 그 통증을 유발하게 됩니다. 이는 마치 사람이 물을 피하려고 버튼을 누르는데, 버튼을 누르면 스프링클러가 작동하여 물을 뿌리는 상황에서도 버튼을 누르는 것이 평소에는 몸을 건조하게 유지해 준다는 이유로 버튼을 누르는 것과 같습니다.

해결책: "안티-골(Anti-Goal)"과 "방지(Prevent)" 버튼

저자는 이 실수가 "X를 피하는 것"을 "not X를 원하는 것"과 동일하게 취급하는 데서 온다고 주장합니다. 이를 고치기 위해, 논문은 **안티-골(Anti-Goal)**이라는 새로운 개념을 제안합니다.

이렇게 생각해보세요:

**골(Goal)**은 당신이 원하는 것(예: 쿠키)을 향해 당신을 끌어당기는 자석입니다.
**안티-골(Anti-Goal)**은 당신이 싫어하는 것(예: 거미)으로부터 당신을 밀어내는 자석입니다.

기존 시스템에서 로봇은 끌어당기는 자석만 가지고 있었습니다. 만약 거미를 피하라고 말하면, 로봇은 단순히 '거미가 없는 상태'를 향해 자신을 끌어당기려 했고, 이는 엉망이 되었습니다. 새로운 시스템은 로봇에게 "밀기" 버튼을 줍니다. 로봇이 거미(안티-골)를 발견하면, 로봇은 '거미가 없는 상태'를 찾는 것이 아니라, 거미로부터 적극적으로 자신을 밀어냅니다.

또한 논문은 ⇑prevent( "그만해!" 스위치라고 생각하세요)라는 특별한 정신적 연산을 도입합니다. 이는 로봇이 때때로 무언가를 피하기 위해서 특정한 행동을 해야 한다는 것을 이해하도록 도와줍니다.

예를 들어, 로봇이 "불이 켜져 있을 때 버튼을 누르는 것"이 불이 시작되는 것을 막는다는 것을 배운다면, 로봇은 ⇑prevent 스위치를 사용할 수 있습니다. 로봇은 깨닫습니다: "나는 불을 피하고 싶다. 버튼을 누르는 것은 불을 방지한다. 그러므로 나는 버튼을 눌러야 한다!" 이는 단순히 불이 존재하지 않는 세상을 찾는 것과는 다릅니다. 이것은 능동적인 전략입니다.

새로운 두뇌 테스트

이것이 작동한다는 것을 증명하기 위해, 저자는 아주 작고 단순한 로봇을 이용해 시뮬레이션을 실행했습니다. 로봇이 언제 행동해야 하고 언제 가만히 있어야 하는지를 파악할 수 있는지 확인하기 위해 네 가지 다른 시나리오를 테스트했습니다:

행함으로써 실현하기 (Do to Realize): 로봇이 음식을 원합니다. 버튼을 누르면 음식이 나온다는 것을 배웁니다. 결과? 버튼을 누릅니다. (성공!)
하지 않음으로써 피하기 (Not Do to Avoid): 로봇이 고통을 피하고 싶어 합니다. 버튼을 누르면 고통이 발생한다는 것을 배웁니다. 결과? 버튼을 누르지 않습니다. (성공!)
행함으로써 피하기 (Do to Avoid): 로봇이 고통을 피하고 싶어 합니다. 버튼을 누르지 않는 것이 고통을 유발하지만, 버튼을 누르는 것이 고통을 멈춘다는 것을 배웁니다. 결과? 로봇은 고통을 **방지(prevent)**하기 위해 버튼을 눌러야 한다는 것을 알아냅니다. (성공!)
하지 않음으로써 실현하기 (Not Do to Realize): 로봇이 음식을 원합니다. 버튼을 누르는 것이 음식의 출현을 막는다는 것을 배웁니다. 결과? 로봇은 음식을 얻을 기회를 망치지 않기 위해 버튼을 누르지 않습니다. (성공!)

시뮬레이션 결과, 새로운 "안티-골"과 "방지" 규칙을 통해 로봇은 역설적인 실수를 멈췄습니다. 로봇은 도움이 될 때는 버튼을 누르고, 해로울 때는 참아야 할 때를 배웠으며, 논리가 까다로운 상황에서도 이를 수행해 냈습니다.

이것이 중요한 이유

이 논문은 완벽한 로봇을 만들었거나 인공지능 전체를 해결했다고 주장하는 것이 아닙니다. 이것은 엔진의 특정하고 혼란스러운 기어를 고치는 정비공에 가깝습니다. 저자는 "원하는 것"과 "피하는 것"을 명확히 분리함으로써, 자신의 논리에 걸려 넘어지지 않는 더 똑똑한 적응형 시스템을 구축할 수 있다고 제j안합니다.

논문은 또한 우리가 배우는 방식에 대해 흥s로운 점을 언급합니다: 인간은 보상을 위해 무언가를 하는 것과 처벌을 피하기 위해 무언가를 멈추는 것을 배우는 것이 더 쉽지만, 처벌을 피하기 위해 무언가를 하는 것이나 보상을 얻기 위해 무언가를 멈추는 것을 배우는 것은 더 어렵게 느껴집니다. 새로운 컴퓨터 논리는 이러한 어려움을 그대로 반영하며, "능동적 방지(Active Prevention)" 부분(연구의 사례 3과 4)이 왜 더 복잡한 사고를 요구하기 때문에 자연스럽게 배우기 어려운지를 보여줍니다.

요약하자면, 이 논문은 로봇에게 "아니오"라고 말할 수 있는 더 나은 어휘를 제공합니다. 단순히 "나는 'X가 아님'을 원해"라고 말하는 대신, 이제 로봇은 "나는 능동적으로 X를 피하고 있어"라고 말할 수 있으며, 이 작은 변화가 로봇이 상황이 위험할 때 단순히 안전을 가져다준다는 이유만으로 버튼을 누르는 실수를 막아줍니다.

기술 요약: 비공리 논리(Non-Axiomatic Logic)에서의 안티-골(Anti-Goal) 추론

문제 정의
본 논문은 비공리 추론 시스템(NARS)의 논리적 기초인 비공리 논리(NAL) 내에서 현재 구현된 골 리즈닝(Goal Reasoning, 목표 추론)의 결정적인 이론적 모호성을 식별한다. NAL은 불충분한 지식과 자원 하에서의 희망 사건 실현(AIKR)을 효과적으로 처리하지만, 회피(avoidance)의 표현 방식은 명확히 정의되지 않은 상태이다. 기존의 관례는 " $G$ 를 피하는 것"을 "부정된 사건 $\neg G!$ 를 추구하는 것"으로 취급한다. 저자는 이러한 혼동이 역설을 초러는 것을 입증한다. 즉, 어떤 행동이 특정 조건 하에서는 부정적인 결과의 원인이 되기도 함에도 불구하고, 그 행동이 일반적으로 부정적인 결과의 부재로 이어진다는 이유만으로 시스템이 해당 행동을 수행하라는 긍정적인 목표를 도출할 수 있다는 것이다.

이 역설은 "목표 부정(goal negation)"의 의미론적 모호성에서 발생한다. 표기법 " $\neg G!$ "는 두 가지 구별되는 논리적 해석을 위해 사용된다:

부정된 사건의 추구: 시스템이 $G$ 가 발생하지 않는 상태를 원하는 것 (즉, $(\neg G) \Rightarrow \tilde{D}$ ).
긍정적 사건의 회피: 시스템이 $G$ 가 발생하는 것을 방지하고자 하는 것 (즉, $G \Rightarrow \neg \tilde{D}$ ).

제시된 "라이트-프레스(light-press)" 사례 연구에서, 시스템은 누르는 행위가 일반적으로 고통이 없는 상태로 이어진다는 이유로 버튼을 누르는 것이 "고통 없음( $\neg \text{hurt}!$ )"을 달성하기 위한 수단이라고 잘못 추론한다. 그러나 이 추론은 누르는 행위가 (경고 신호가 있을 때) 고통을 유발한다는 특정 맥락을 무시한다. 결과적으로 시스템은 "고통을 피하기 위해" 버튼을 눌러야 한다고 역설적으로 결정하게 되며, 이는 행동을 삼가야 한다는 실질적인 기대와 모순된다.

방법론
본 논문은 이상적인 상속 논리(Inheritance Logic, IL) 프레임워크에서 NAL의 증거적 의미론으로 이동하여, 목표(goal)와 안티-골(anti-goal)의 표현을 분리하는 최소한의 확장을 제안한다.

형식적 분리:
- 목표 ( $G!$ ): 시스템이 실현하기를 원하는 사건으로, 형식적으로 $G \Rightarrow \tilde{D}$ 로 표현된다. 여기서 $\tilde{D}$ 는 시스템이 원하는 상태를 요약하는 가상 항(virtual term)이다.
- 안티-골 ( $G¡$ ): 시스템이 피하고자 하는 사건이다. 이는 형식적으로 $G \Rightarrow \neg \tilde{D}$ 로 표현되며, 여기서 $\neg \tilde{D}$ 는 원하는 상태의 반대 상태를 나타낸다.
- 본 논문은 " $G$ 를 피하는 것"이 " $\neg G$ 를 추구하는 것"과 동일하지 않음을 명시한다. 대신, $G$ 를 피하는 것은 목표 문장 자체의 논리적 부정인 $\neg(G \Rightarrow \tilde{D})$ 이다.
욕구-가치(Desire-Value) 및 혐오-가치(Aversion-Value) 함수:
- 본 논문은 역방향 추론을 위해 욕구-가치 함수를 재정의한다. 목표의 경우, 욕구-가치는 $G \Rightarrow \tilde{D}$ 의 진릿값이다. 안티-골의 경우, 혐오-가치는 $G \Rightarrow \neg \tilde{D}$ 의 진릿값이다.
- 안티-골을 위한 추론 규칙은 목표 규칙과 대칭적으로 구성된다. 만약 순방향 추론 규칙(예: 연역)이 존재한다면, 안티-골을 위한 대응하는 역방향 규칙은 순방향 진릿값 함수와 동일한 계산 공식을 채택한다.
능동적 예방 ( $\uparrow\text{prevent}$ ):
- 수동적 회피와 능동적 개입 사이의 간극을 메우기 위해, 본 논문은 정신적 연산 $\uparrow\text{prevent}$ 를 도입한다.
- 만약 $G$ 가 안티-골이라면, $G$ 를 예방하는 것은 긍정적인 목표가 된다 ( $\uparrow\text{prevent}(G)! \equiv G¡$ ).
- 이 연산은 대비적 증거(contrastive evidence)에 의존한다. 즉, 시스템은 어떤 행동이 (발생할 예정이었던) 사건의 부재를 가져온다는 것을 학습해야 한다 (예: 누르는 것이 고통을 예방하는 반면, 누르지 않는 것이 고통을 초래함). 이는 부정적 관찰과 대비적 귀납을 요구하는 특정 객체 수준 규칙(식 13)을 통해 형식화된다.

주요 기여
본 논문은 세 가지 주요 이론적 기여를 한다:

의미론적 모호성 해결: 부정된 사건의 추구와 긍정적 사건의 회피를 구분한다. 명시적인 안티-골 형태( $G¡$ )를 도입함으로써, 회피 의도가 일반적인 통계적 상관관계에 기반하여 긍정적 행동 목표로 잘못 전환되는 역설을 방지한다.
욕구-가치 함수를 위한 원칙: 역방향 동기 추론을 위한 욕구-가치 함수를 도출하는 일반적인 원칙을 수립한다. 함수를 임의로 할당하는 대신, 본 논문은 역방향 규칙이 그에 대응하는 순방향 추론 규칙으로부터 계산 공식을 상속받아야 한다고 주장하며, 이를 통해 진릿값과 욕구-가치 전파 사이의 논리적 일관성을 보장한다.
능동적 예방의 통합: 안티-골이 어떻게 긍정적인 행동 계획을 생성할 수 있는지에 대한 메커니즘을 형식화한다. $\uparrow\text{prevent}$ 연산과 대비적 귀납을 통해, 시스템은 단순히 행동을 하지 않는 것과 구별되는, 특정 결과를 예방하기 위해 행동해야 한다는 긍정적 목표를 도출할 수 있다.

결과
제안된 프레임워크는 모터 배블링(motor babbling)과 누적 보상 평가를 포함하는 시뮬레이션 시스템을 이용한 네 가지 최소 사례 연구를 통해 검증되었다:

실현을 위한 수행 (Do to Realize): 시스템은 음식을 얻기 위해 버튼을 누르는 목표를 올바르게 도출한다.
회피를 위한 미수행 (Not Do to Avoid): 시스템은 고통을 피하기 위해 버튼을 누르지 않는 안티-골을 올바르게 도출한다 (수동적 회피).
회피를 위한 수행 (Do to Avoid): 시스템은 예방 관계(누르는 것이 고통을 예방함)를 학습하고, 고통을 능동적으로 피하기 위해 버튼을 누르는 긍정적 목표를 올바르게 도출한다.
실현을 위한 미수행 (Not Do to Realize): 시스템은 누르는 것이 음식을 방해한다는 것을 학습하고, 원하는 사건을 보존하기 위해 버튼을 누르지 않는 안티-골을 올ษ게 도출한다.

모든 사례에서 시스템의 행동은 이론적 기대와 일치했다. 특히 "Do to Avoid"와 "Not Do to Realize" 사례에서, 시스템은 대비적 증거를 활용하여 수동적 회피와 능동적 개입 또는 억제 사이를 성공적으로 전환하였으며, 이는 기존의 "부정된 목표" 관례 하에서는 역설적이었던 능력이다.

의의
본 논문은 이 확장이 기존 이론을 대체하는 것이 아니라 NAL의 목표 추론 프레임워크를 완성한다고 주장한다. 목표와 안티-골을 분리함으로써, 시스템은 이제 추구와 동일한 증거적 정밀도로 회피를 처리할 수 있다. 이러한 구분을 통해 시스템은 다음과 같은 기능을 수행할 수 있다:

"아무것도 하지 않음"(행동의 유보)과 "예방을 위해 무언가를 함"(능동적 개방)을 구분한다.
일반적인 상관관계(행동 $\to$ 고통 없음)가 특정 인과적 위험(조건 $X$ 하에서의 행동 $\to$ 고통)을 압도하는 논리적 오류를 방지한다.
동기가 불완전하고 수정 가능한 오픈 월드 환경에서 인과적 발견과 적응적 행동에 필수적인 능동적 예방의 공식적 기초를 제공한다.

저자는 본 연구가 인간 학습에서 관찰되는 행동적 비대칭성(예: 보상을 위해 행동함 vs 처벌을 위해 유보함)을 설명할 수 있지만, 현재의 작업은 NAL의 논리적 확장에 엄격히 집중하고 있으며, 상세한 동기 획득 모델링은 향후 연구 과제로 남겨두었다고 언급하였다.

거대한 "하지 마"의 혼동

해결책: "안티-골(Anti-Goal)"과 "방지(Prevent)" 버튼

새로운 두뇌 테스트

이것이 중요한 이유

유사한 논문