기술 요약: 확률의 사슬 끊기

문제 제기

대형 언어 모델 (LLM) 은 현재 확률적 프레임워크 하에서 작동하며, 여기서 결과 확률은 합이 1 이 되도록 하는 소프트맥스 (Softmax) 정규화에 의해 제약받습니다 ($T + I + F = 1$). 저자들은 이 구조적 한계가 '불확실성의 붕괴'를 강요하여, 모델이 인식론적 불확실성(무지), 패러독스(동시에 참과 거짓), 그리고 모호성을 구별하지 못하게 만든다고 주장합니다.

확률적 시스템에서 불확실성을 증가시키는 것은 필연적으로 할당된 참 또는 거짓 값에서 빼앗는 결과를 낳습니다. 이는 '이 문장은 거짓이다'와 같은 라이어 패러독스나 서로 다른 프레임워크 하에서 동시에 옳고 그른 도덕적 딜레마와 같은 명제에 대해 모델이 '참'과 '거짓' 모두에 높은 믿음을 동시에 부여할 수 없는 제로섬 게임을 만들어냅니다. 결과적으로 LLM 은 진정한 갈등이나 불확정적 상태에 직면했을 때 인식론적으로 빈곤해지며, 구조적으로 이를 단일 점 추정치로 해결하도록 강요받습니다.

방법론

본 연구는 참 ($T$), 불확정성 ($I$), 거짓 ($F$) 을 합이 1 이 될 필요가 없는 세 가지 독립적인 차원으로 취급하는 뉴트로소픽 논리 (Neutrosophic Logic) 프레임워크를 활용합니다. 저자들은 이를 **단일 값 뉴트로소픽 집합 (SVNS)**을 사용하여 공식화하며, $T + I + F > 1$인 모든 평가를 초-진리 (hyper-truth) 상태로 정의합니다.

실험 설계

• 모델: 네 가지 OpenAI 모델 (GPT-4o, GPT-4-turbo, GPT-3.5-turbo, GPT-4o-mini).
• 현상: 서로 다른 인식론적 도전을 테스트하기 위해 선정된 다섯 가지 언어 범주:
  1. 논리적 패러독스 (예: "이 문장은 거짓이다")
  2. 인식론적 무지 (예: "우주의 별 개수는 짝수이다")
  3. 모호성 (퍼지 논리 경계)
  4. 윤리적 모순 (예: "생명을 구하기 위해 거짓말을 하는 것은 동시에 옳고 그르다")
  5. 미래의 우연성 (결정되지 않은 미래 사건)
• 전략: 300 회 API 호출 (전략당 $N=100$) 에 걸쳐 세 가지 프롬프트 접근법을 비교했습니다:
  1. 뉴트로소픽 (S1): 모델에게 합 제약이 없는 $[0, 1]$ 범위에서 독립적인 $T, I, F$ 값을 명시적으로 출력하도록 지시합니다.
  2. 확률적 (S2): 모델에게 상호 배타적인 확률로서 $T, I, F$를 정확히 1.0 으로 합산되도록 출력하도록 지시합니다.
  3. 엔트로피 유도 (S3): Shannon 엔트로피를 통해 외부에서 유도된 불확정성을 갖는 이진 확률 추정치 ($P_{yes}, P_{no}$).

주요 기여

1. 공식 SVNS 장치: 이 논문은 뉴트로소픽 표현과 확률적 표현 간의 구조적 차이를 규명하기 위한 공식적 프레임워크 (여섯 가지 정의, 두 가지 명제) 를 도입합니다. 명제 1을 통해 확률적 프롬프트 (S2) 하에서는 초-진리가 구조적으로 불가능하지만 뉴트로소픽 프롬프트 (S1) 하에서는 가능함을 증명합니다.
2. 초-진리의 경험적 증명: 본 연구는 제약 없는 뉴트로소픽 프롬프트가 기존 LLM 들에서 '초-진리' 상태를 유발한다는 경험적 증거를 제시하며, 이 상태는 표준 확률적 제약에 의해 구조적으로 억제됨을 보여줍니다.
3. 통계적 연관성: 저자들은 언어 현상의 유형과 초-진리 발생률 사이에 통계적으로 유의미한 연관성을 확립했습니다 ($\chi^2 = 11.32, p = 0.023$).
4. 표현 손실의 정량화: 전략 전환 (Strategy Shift) 분석 ($\Delta C$) 을 통해, 이 논문은 확률적 정규화가 특정 인식론적 구성 요소 (예: 불확정성) 를 억제하고 다른 구성 요소를 과장하여 모델이 선언한 상태를 실제로 왜곡하는 방식을 정량화했습니다.

결과

• 초-진리 발생률: 뉴트로소픽 전략 (S1) 하에서 평가의 **66.0%**가 초-진리 ($T + I + F > 1$) 로 나타났습니다. 95% 윌슨 신뢰 구간은 $[0.563, 0.747]$입니다.
• 현상별 특성: 초-진리 발생률은 현상에 따라 다양했습니다:
  • 윤리적 모순: 95% (20 건 중 19 건). 이는 통합된 기준선보다 유의미하게 높은 유일한 현상이었습니다 (오즈비 = 13.34, $p = 0.0014$).
  • 미래의 우연성: 70%.
  • 모호성: 60%.
  • 인식론적 무지: 55%.
  • 논리적 패러독스: 50%.
• 전략 전환: S1(뉴트로소픽) 과 S2(확률적) 를 비교한 결과 상당한 표현 손실이 드러났습니다:
  • 불확정성 억제: 인식론적 무지의 경우, 평균 불확정성이 S1 의 0.865 에서 S2 의 0.482 로 감소하여 0.383 만큼 억제되었습니다.
  • 참의 과장: 인식론적 무지의 경우, 참 구성 요소가 S1 의 0.160 에서 S2 의 0.231 로 증가하여, 정규화를 강제하는 것이 모델이 무지할 때조차 확률 질량을 '참' 쪽으로 밀어붙이는 것을 시사합니다.
  • 윤리적 모순: S1 에서 S2 에 비해 참 구성 요소가 0.267 증가했는데, 이는 확률적 제약이 모델이 자연스럽게 갖지 않는 도덕적 갈등의 해결을 강제함을 나타냅니다.
• 모델 간 일관성: 네 가지 모델 모두 유사한 행동을 보였으며, S1 하에서 평균 합이 1.0 을 훨씬 상회했습니다. 이는 초-진리가 특정 모델 아키텍처의 인공물이 아니라 프롬프트 프로토콜에 대한 체계적인 반응임을 시사합니다.

중요성과 주장

이 논문은 제약 없는 뉴트로소픽 프롬프트가 확률적 프롬프트가 구조적으로 억제하는 일련의 선언적 인식론적 상태를 유발한다고 주장합니다.

• 잠재 변수가 아님: 저자들은 초-진리가 모델 내부의 고유한 잠재 변수라고 주장하지 않습니다. 대신 이는 **표현적 affordance(행위 가능성)**입니다. 모델에게 독립적인 차원을 보고할 자유가 주어지면, 소프트맥스 레이어가 붕괴시켰을 갈등과 무지의 상태를 모델이 선언하게 됩니다.
• 안전 및 정렬 함의: 이 발견은 윤리, 법률, 의료와 같은 고위험 분야에서 AI 시스템이 체계적으로 불확실성을 과소 보고할 수 있음을 시사합니다. 정규화된 분포를 강제함으로써 현재 아키텍처는 (예: 딜레마가 동시에 옳고 그른 것 같은) 진정한 도덕적 갈등과 무지를 가립니다.
• 미래의 길: 저자들은 뉴트로소픽 평가 레이어 (또는 제약 없는 출력 헤드) 를 통합하는 것이 더 투명하고 윤리적으로 인식된 AI 를 향한 중요한 단계라고 제안합니다. 이는 시스템이 가짜 확률적 해결 뒤에 숨기는 것이 아니라 진정한 갈등을 신호할 수 있게 합니다.

이 논문은 현재 연구가 스칼라 SVNS 에 초점을 맞추고 있지만, 초-진리 현상은 견고하며 벤더 간에 보편적 (Mason [2026] 에 의한 독립적 재현 지원) 이므로, 속성 수준 분해와 더 복잡한 인식론적 구조를 처리하기 위한 **플리토제닉 확장 (plithogenic extensions)**을 향한 향후 연구가 필요하다고 결론짓습니다.